После того, как Red Hat приобрела Neural Magic в прошлом году, чтобы усилить свои возможности искусственного интеллекта с открытым исходным кодом, сегодня она объявила, что приобрела еще одну компанию, занимающуюся искусственным интеллектом, и продолжает расширять свой бизнес в области искусственного интеллекта на уровне предприятия. Целью этого приобретения является Chatterbox Labs, частная компания, основанная в 2011 году и специализирующаяся на тестировании моделей ИИ и возможностях защиты («ограждения») для генеративного ИИ.
Chatterbox Labs предоставляет платформу под названием AIMI, которая может предоставлять количественные индикаторы рисков ИИ и предоставлять ряд функций, касающихся поведения моделей и управления рисками, чтобы помочь предприятиям оценивать и контролировать неправильный вывод и потенциальные риски моделей в практических приложениях.
В Red Hat заявили, что по мере того, как компании продвигают проекты искусственного интеллекта от экспериментальной стадии к производственной среде, непрерывный мониторинг предвзятости моделей, токсичности и различных уязвимостей стал обязательным. Тестирование безопасности ИИ и возможности «ограждения» становятся «базовым порогом» современных платформ MLOps и LLMOps.
В своем заявлении Red Hat заявила, что приобретение призвано напрямую отреагировать на быстрый рост спроса на «безопасность искусственного интеллекта» и надеется, что за счет интеграции технологии Chatterbox Labs оно предоставит клиентам более полную платформу искусственного интеллекта корпоративного уровня с открытым исходным кодом, чтобы они могли «с уверенностью запускать рабочие нагрузки искусственного интеллекта в производственных средах». Включив технологию Chatterbox Labs в существующую матрицу продуктов, Red Hat надеется помочь предприятиям более плавно продвигать внедрение больших моделей и генеративного искусственного интеллекта, обеспечивая при этом безопасность и соответствие требованиям.
Что касается дорожной карты продукта, Red Hat заявила, что технология Chatterbox Labs дополнит недавно выпущенный Red Hat AI 3, добавив в платформу более полное тестирование безопасности и возможности управления рисками.
Компания также подтвердила свою последовательную линию открытого исходного кода: в будущем она планирует постепенно открывать исходный код соответствующей технологии искусственного интеллекта, полученной в результате этого приобретения, чтобы расширить принятие сообществом и продвигать инновации.
Red Hat заявила в своем заявлении, что ее давняя модель заключается в том, чтобы сначала приобрести запатентованную технологию, а затем способствовать развитию технологий и экологическому процветанию через открытый исходный код. Эта сделка также продолжит эту «стандартную модель разработки с открытым исходным кодом». Поскольку технология Chatterbox Labs поэтапно открывается с открытым исходным кодом, эти важнейшие инструменты безопасности искусственного интеллекта будут постепенно доступны более широкому сообществу, что позволит большему количеству организаций извлечь выгоду из возможностей контроля предвзятости, проверки безопасности и количественной оценки рисков.