Ряд ведущих университетов США сотрудничали с местными фабриками по производству пластин для успешной разработки нового монолитного трехмерного (3D) чипа. Блоки хранения и вычислительные устройства расположены близко друг к другу в вертикальном направлении. Ожидается, что это значительно улучшит внутреннюю скорость передачи данных чипа. Это считается важной вехой в преодолении «стены памяти» аппаратного обеспечения искусственного интеллекта.

Это достижение было достигнуто Стэнфордским университетом, Университетом Карнеги-Меллон, Пенсильванским университетом, Массачусетским технологическим институтом и SkyWater Technology, местным литейным заводом в США. Это первый монолитный 3D-чип, изготовленный на коммерческом заводе по производству пластин в США. Плотность вертикальных межсоединений достигла нового максимума среди современных 3D-чипов. Измеренные и смоделированные характеристики дисплея могут быть улучшены примерно на порядок по сравнению с традиционными двумерными чипами. Исследовательская группа подчеркнула, что это не только прорыв в производительности, но и предоставляет Соединенным Штатам новую парадигму для продвижения передового производства микросхем на местном уровне.

В отличие от традиционных двумерных микросхем, в которых все схемы располагаются в одной плоскости, в этом прототипе микросхемы используются несколько слоев ультратонких слоев схемы, которые укладываются вертикально. Каждый уровень тесно связан посредством вертикальных соединений высокой плотности, так что данные могут «перемещаться вверх и вниз» между блоком хранения и вычислительным блоком внутри чипа, что значительно сокращает путь передачи. При такой архитектуре значительно увеличивается объем локальной доступной памяти, и данным не нужно часто перемещаться между удаленным хранилищем и вычислительными ядрами, что принципиально устраняет узкое место в «стене памяти», которое долгое время преследовало высокопроизводительные чипы и чипы искусственного интеллекта.

«Стена памяти» означает постоянное улучшение вычислительной мощности вычислительных блоков, но скорость передачи данных между внутренним чипом и внешним хранилищем трудно поддерживать, что приводит к тому, что процессор часто «ждет данных», и вычислительная мощность сильно тратится впустую. На протяжении десятилетий полупроводниковая промышленность в основном полагалась на постоянное уменьшение размеров транзисторов и размещение большего количества устройств на одной плоскости, чтобы облегчить эту проблему. Однако этот маршрут приближается к физическим пределам и известен как «стена сжатия». Этот новый монолитный 3D-чип объединяет схемы хранения и логические схемы в вертикальном направлении, что эквивалентно построению рядов «шахт лифта» внутри чипа, что позволяет большому объему данных перемещаться между разными «этажами» на высокой скорости одновременно, тем самым находя новый выход в условиях двойных ограничений «стены памяти» и «миниатюрной стены».

Ранее в отрасли пытались создать 3D-систему, складывая вверх и вниз несколько изготовленных чипов. Однако этот метод «сложенной микросхемы» часто является грубым и редким в межслоевых соединениях, и все еще существуют очевидные узкие места. В этом исследовании используется «монолитный» 3D-процесс: каждый функциональный слой последовательно выращивается и обрабатывается непосредственно на одной и той же пластине. Низкотемпературный процесс позволяет избежать повреждения основных цепей, поэтому соединение высокой плотности может быть выполнено в меньших масштабах. Этот процесс, полностью завершенный на коммерческом заводе SkyWater в Блумингтоне, штат Миннесота, рассматривается как важный шаг от лабораторной концепции к масштабируемой производственной архитектуре.

Что касается производительности, ранние аппаратные испытания показывают, что текущий прототип чипа достиг примерно четырехкратного повышения производительности по сравнению с сопоставимым двумерным дизайном. Дальнейшие результаты моделирования показывают, что, когда количество вертикальных слоев стекирования продолжает увеличиваться и на этой основе строится более высокая «этажная» архитектура, общая производительность может быть улучшена примерно в двенадцать раз при реальных нагрузках ИИ, включая большую модель LLaMA с открытым исходным кодом Meta. Исследовательская группа особо подчеркнула, что теоретически ожидается, что новая архитектура обеспечит улучшение продукта задержки энергии (EDP) в 100–1000 раз, ключевого показателя, который измеряет общие характеристики скорости и энергоэффективности.

Ожидается, что за счет значительного сокращения расстояния передачи данных и увеличения количества вертикальных каналов чип достигнет как более высокой пропускной способности, так и более низкого энергопотребления на операцию, устраняя необходимость традиционного «выбора одного» между производительностью и энергопотреблением. Исследователи рассматривают это как один из ключевых путей поддержки следующего поколения крупномасштабных систем искусственного интеллекта и продвижения к цели «тысячекратного повышения производительности оборудования». Они считают, что этот прорыв открывает новое техническое измерение для будущей эволюции аппаратного обеспечения искусственного интеллекта с возможностью поддержки обучения и запуска более крупных и сложных моделей в реальном времени.

Важность этой работы также отражается на уровне промышленности и подготовки специалистов: успешно запечатав одиночный 3D-чип на местном коммерческом заводе по производству пластин в Соединенных Штатах, команда считает, что предоставила реалистичную модель для создания передовой системы микросхем, которая «разработана в Соединенных Штатах и ​​произведена в Соединенных Штатах». Исследователи сравнивают это с революцией интегральных схем 1980-х годов: группа студентов, изучающих проектирование и производство микросхем в американских университетах, способствовала взлету кремниевой промышленности. Сегодняшний переход к монолитной 3D-интеграции также требует нового поколения инженеров для освоения новых знаний о процессах и архитектуре.

Благодаря финансированию и сотрудничеству со стороны таких проектов, как программа U.S. Microelectronics Commons и Калифорнийско-Тихоокеанский северо-западный центр искусственного интеллекта (Northwest-AI-Hub), соответствующие университеты начали проводить систематическое обучение в области 3D-интеграции и аппаратного обеспечения, предназначенного для искусственного интеллекта. Участники отметили, что возможность производить передовые 3D-чипы на местном уровне не только означает лидерство по показателям производительности, но также означает проявление большей инициативы в темпах инноваций, безопасности цепочки поставок и направлении развития технологий искусственного интеллекта.

Согласно сообщениям, исследование проводилось совместно Инженерной школой Стэнфордского университета, Инженерной школой Университета Карнеги-Меллон, Школой инженерных и прикладных наук Пенсильванского университета и Массачусетским технологическим институтом, при этом производством всех чипов занималась компания SkyWater Technology. Проект получил финансирование от Агентства перспективных исследовательских проектов Министерства обороны США (DARPA), Программы стипендий для выпускников Национального научного фонда США, Samsung, Стэнфордского прекортского института энергетических исследований, Стэнфордского альянса SystemX, Центра аппаратного обеспечения искусственного интеллекта «Microelectronics Commons» Министерства обороны США, Министерства энергетики США и «Инициативы будущего полупроводников» Национального научного фонда.

Составлено из /ScitechDaily