NVIDIA объявила, что платформа ускорения вывода искусственного интеллекта TensorRT теперь доступна на видеокартах GeForce RTX, производительность которой вдвое превышает производительность DirectML.TensorRT — это оптимизатор вывода, выпущенный NVIDIA, который может значительно повысить эффективность работы моделей искусственного интеллекта. На этот раз NVIDIA представляет TensorRT на платформе RTX, чтобы все пользователи видеокарт RTX могли наслаждаться более высокой производительностью искусственного интеллекта.
По словам NVIDIA, TensorRT не только поддерживает встроенное машинное обучение Windows, но также может автоматически выбирать подходящее оборудование для запуска каждой функции искусственного интеллекта и загружать соответствующего поставщика выполнения, что значительно упрощает процесс разработки.
С точки зрения производительности,NVIDIA показала данные сравнения TensorRT и DirectML: в ComfyUI пользователи, использующие TensorRT, могут получить повышение производительности до 2 раз; в DaVinci Resolve и Vegas Pro прирост производительности достигает 60%.
Кроме того, TensorRT для RTX дает и другие преимущества, такие как уменьшение размера файлов библиотеки в 8 раз и оптимизация на лету для каждого графического процессора. Эти улучшения не только повышают производительность, но и оптимизируют хранение программного обеспечения и управление им.
TensorRT для RTX будет официально запущен в июне. NVIDIA также продолжает расширять свои AI SDK и в настоящее время обеспечивает поддержку более чем 150 AI SDK. В этом месяце будут запущены пять новых интеграций независимых поставщиков программного обеспечения, включая LM Studio, Topaz Video AI, Bilibili, AutoDesk VRED и Chaos Enscape.
