Инженеры представили инновационный метод компоновки памяти для ИИ-ускорителей

Исследователи нашли способ значительно повысить производительность и энергоэффективность памяти HBM, предложив изменить ориентацию кристаллов DRAM в стеке.

Инженеры представили инновационный метод компоновки памяти для ИИ-ускорителей

Революция в архитектуре памяти для высокопроизводительных вычислений

Развитие технологий искусственного интеллекта и машинного обучения требует от аппаратного обеспечения всё более высоких скоростей передачи данных и объемов оперативной памяти. Традиционная память с высокой пропускной способностью (HBM), использующая вертикальную укладку кристаллов DRAM друг на друга, стала стандартом для графических процессоров и ИИ-ускорителей. Однако такая архитектура постепенно достигает своих физических пределов, сталкиваясь с проблемами отвода тепла и ограничениями по плотности размещения.

Переход к вертикальной ориентации кристаллов

Группа инженеров представила принципиально новый подход к компоновке модулей памяти. Вместо классического метода стекирования, при котором кристаллы укладываются горизонтальными слоями один над другим, предлагается размещать их на ребро. Подобное «вертикальное» расположение превращает массив памяти в компактный блок, напоминающий по структуре книжную полку или стопку пластин, установленных вертикально.

Преимущества новой архитектуры

Данная концепция решает ряд ключевых проблем, с которыми сталкиваются современные разработчики вычислительных систем:

  • Улучшение теплоотвода: При горизонтальной укладке внутренние слои памяти оказываются зажаты между другими кристаллами, что существенно затрудняет охлаждение. Вертикальное размещение на ребро позволяет каждому кристаллу иметь прямой доступ к элементам системы охлаждения, что значительно снижает риск перегрева.
  • Рост пропускной способности: Изменение физического расположения позволяет оптимизировать пути прохождения сигналов между процессором и памятью, сокращая задержки и увеличивая общую эффективность обмена данными.
  • Масштабируемость: Подобная компоновка дает возможность более плотно упаковывать вычислительные модули, что критически важно для создания серверов следующего поколения с терабайтами оперативной памяти на борту.

Перспективы внедрения в производство

Несмотря на то, что предложенная технология требует адаптации существующих производственных линий, эксперты оценивают её потенциал крайне высоко. Переход к вертикальной установке кристаллов может стать ключом к созданию новых поколений ускорителей, способных обрабатывать огромные массивы данных с минимальными энергетическими затратами. Исследователи отмечают, что текущие результаты испытаний подтверждают жизнеспособность данной архитектуры, и в ближайшие годы мы можем увидеть первые прототипы оборудования, использующие этот инновационный метод компоновки.

В условиях, когда требования к вычислительным мощностям растут экспоненциально, подобные инженерные решения становятся необходимым условием дальнейшего прогресса в области полупроводниковой индустрии.

Новый метод компоновки HBM памяти для ИИ-ускорителей — Суть да Дело