Аннотация:
Недавно компания Google объявила о расширении линейки продуктов для искусственного интеллекта и выпуске двух новых тензорных процессоров (TPU), специально разработанных для различных сценариев применения, — TPU 8tx и TPU 8i Max. Эти два продукта разработаны на основе существующей архитектуры TPU Google восьмого поколения и предназначены для удовлетворения растущих потребностей корпоративных клиентов в безопасности данных и крупномасштабных задачах вывода искусственного интеллекта.
Среди них TPU 8tx ориентирован на отрасли с чрезвычайно высокими требованиями к защите конфиденциальности и безопасности данных, включая государственные учреждения, финансовые услуги, здравоохранение и другие строго регулируемые области. В Google заявили, что продукт предоставляет конфиденциальные вычислительные возможности для защиты веса модели и конфиденциальной информации во время обработки данных, чтобы избежать несанкционированного доступа.
Для достижения этой цели TPU 8tx работает совместно с процессорами AMD и глубоко интегрирует функции шифрования на аппаратном уровне. В отличие от традиционных решений, которые требуют расшифровки данных в памяти перед выполнением вычислений, новое решение позволяет значительно повысить безопасность при обработке конфиденциальных данных и удовлетворить потребности предприятий в развертывании систем искусственного интеллекта с высоким уровнем безопасности.
Еще один новый продукт, TPU 8i Max, специально разработан для приложений с большими моделями, требующих очень длинных контекстных окон. В последние годы, в связи с быстрым развитием генеративного искусственного интеллекта и технологий агентов ИИ, все больше и больше моделей должны обрабатывать огромные объемы текста, кода или данных одновременно, что предъявляет более высокие требования к емкости памяти и производительности вывода.
Согласно отчетам, TPU 8i Max может поддерживать более длинные контекстные окна за счет увеличения вычислительной мощности и ресурсов памяти, что позволяет моделям искусственного интеллекта анализировать больше контента за один запрос. Эта возможность особенно важна для таких сценариев, как генерация сложного кода, математические рассуждения, научные исследования и разработка лекарств. Это может помочь модели сохранить больше исходной информации и улучшить качество выполнения задач.
Амин Вахдат, руководитель отдела искусственного интеллекта Google, заявил, что эти два чипа представляют собой не продукты новой архитектуры, а производные модели на основе существующего TPU восьмого поколения, которые специально оптимизированы для удовлетворения потребностей клиентов. Компания считает, что вместо разработки чипа общего назначения, который пытается удовлетворить все потребности рынка, лучше создать несколько профессиональных версий для конкретных сценариев, чтобы предоставить пользователям более высокую ценность.
Ранее в этом году Google выпустила TPU 8t и TPU 8i из серии TPU восьмого поколения. Первый ориентирован на крупномасштабные задачи обучения моделей, а второй оптимизирован для вывода с малой задержкой. С добавлением в линейку TPU 8tx и TPU 8i Max семейство TPU восьмого поколения Google расширилось до четырех продуктов, охватывающих несколько сегментов, таких как обучение моделей, безопасный вывод, вывод с малой задержкой и сверхдлинный вывод контекста.
Аналитики отмечают, что выпуск нового продукта отражает переход инфраструктуры искусственного интеллекта от простого стремления к увеличению вычислительной мощности к удовлетворению более актуальных потребностей бизнеса. Поскольку агенты ИИ, генеративный ИИ корпоративного уровня и модели с длинным контекстом становятся все более популярными, безопасность, объем памяти и эффективность рассуждений становятся новыми конкурентными приоритетами после вычислительной мощности.
Изначально компания Google разработала TPU в основном для поддержки собственных служб искусственного интеллекта, а теперь она доступна внешним клиентам в качестве важной части бизнеса облачных вычислений. В настоящее время TPU стала одной из наиболее важных вычислительных платформ искусственного интеллекта, помимо графических процессоров NVIDIA, и используется многими крупными компаниями, занимающимися искусственным интеллектом, и клиентами облачных вычислений для обучения и развертывания передовых моделей.
С запуском новой модели Google надеется еще больше повысить свою конкурентоспособность на рынке инфраструктуры искусственного интеллекта и обеспечить более целенаправленную базовую аппаратную поддержку для агентов искусственного интеллекта следующего поколения и сложных систем мышления.
Комментарии