Samsung разрабатывает память с высокой пропускной способностью (HBM) специально для смартфонов и планшетов и планирует использовать сложную технологию упаковки, чтобы превратить эти мобильные терминалы в мощные локальные вычислительные платформы искусственного интеллекта. В настоящее время HBM в основном используется на серверах и центрах обработки данных, и Samsung надеется использовать эту высокопроизводительную форму DRAM для дальнейшего увеличения своей прибыли в условиях волны искусственного интеллекта, не упуская при этом ни одного потенциального рынка.

В отчете отмечается, что на этот раз целью Samsung является разработка технологии HBM, адаптированной к мобильным устройствам, которая может значительно увеличить вычислительную мощность и пропускную способность без значительного увеличения занимаемого пространства и нагрузки на энергопотребление, тем самым поддерживая более сложные задачи вывода ИИ на конечной стороне. Для сравнения, в существующей мобильной DRAM по-прежнему преобладает соединение медными проводами, а количество клемм ввода-вывода обычно находится в диапазоне от 128 до 256. Ограниченный размер контактов имеет очевидные узкие места в улучшении полосы пропускания, уменьшении потерь сигнала и нагрева.
Чтобы решить эту проблему, Samsung планирует внедрить в смартфонах и планшетах «медные стойки со сверхвысоким соотношением сторон» в сочетании с корпусом уровня пластины Fan-Out (FOWLP). Это упаковочное решение ранее применялось к чипам системного уровня, таким как Exynos 2600, для улучшения рассеивания тепла и повышения производительности при постоянной нагрузке. Исходя из этого, Samsung надеется перенести HBM серверного уровня на мобильный терминал в более компактной форме, чтобы обеспечить более высокую пропускную способность памяти и пропускную способность данных для локальных моделей искусственного интеллекта.
В отчете цитируются источники, сообщающие, что благодаря прогрессу в области вертикального стека медных штифтов (VCS) Samsung может укладывать многослойные кристаллы DRAM в «лестничную» структуру в ограниченном пространстве, а затем использовать медные штыри для заполнения пробелов, тем самым достигая многослойной упаковки HBM в мобильных устройствах с ограниченным объемом. По сравнению с традиционными решениями компания Samsung увеличила соотношение сторон медных опор в корпусе VCS с исходного 3–5:1 до 15–20:1, что значительно улучшает общую производительность полосы пропускания.
Однако такая конструкция с высоким соотношением сторон также создает новые проблемы: по мере увеличения соотношения сторон диаметр медных опор должен быть уменьшен. Если диаметр станет меньше 10 микрон, медные столбы могут погнуться или даже сломаться, что повлияет на надежность конструкции. С этой целью FOWLP конструктивно обеспечивает дополнительную механическую поддержку за счет удлинения медной проводки наружу для повышения устойчивости всего пакета. Это также увеличивает количество доступных терминалов ввода-вывода, тем самым еще больше увеличивая пропускную способность. По оценкам отчетов, увеличение пропускной способности может достигать примерно 30%.

Неясно, когда HBM, разработанная Samsung для мобильных устройств, будет официально коммерциализирована, но, судя по графику, ожидается, что эта технология будет первой, которая будет установлена на будущей платформе Exynos 2800 или Exynos 2900. Ранее ходили слухи, что Exynos 2800 будет использовать графический процессор собственной разработки Samsung и не ограничивается линейкой продуктов для смартфонов, что еще больше увеличивает важность подсистем хранения данных с высокой пропускной способностью и высокой пропускной способностью.
Помимо Samsung, Apple также планирует использовать HBM в будущих iPhone для улучшения работы искусственного интеллекта на стороне устройства, но в настоящее время неясно, будет ли она приобретать соответствующие технологии или компоненты у Samsung. Huawei также изучает возможность внедрения HBM в смартфоны. Однако, учитывая такие факторы, как цепочка поставок и геополитика, в отрасли считают, что вероятность входа Samsung в систему поставок китайских производителей невелика.
Однако, помимо технических решений, вопрос стоимости по-прежнему является ключевым порогом, определяющим, сможет ли HBM внедрить мобильные терминалы в больших масштабах. В отчете отмечается, что в нынешних условиях высоких цен на память производители смартфонов могут более тщательно оценить экономическую целесообразность добавления HBM в свои устройства и предпочесть подождать и посмотреть, ожидая падения цен, прежде чем строить планы.
В этих обстоятельствах в ближайшие несколько лет основные средства улучшения локальных возможностей искусственного интеллекта смартфонов и планшетов могут по-прежнему быть сосредоточены на вычислительной мощности чипов и оптимизации системы хранения данных (например, более высокопроизводительный LPDDR или более быстрые интерфейсы хранения данных), а не на широкомасштабном внедрении более дорогостоящих HBM. Однако, как только спрос и предложение на рынке памяти стабилизируются, а цены стабилизируются, ожидается, что производители, представленные Samsung, будут использовать мобильный HBM для распространения высокоскоростных хранилищ от центров обработки данных до персональных терминалов, переопределяя верхний предел местного опыта искусственного интеллекта.