Anthropic заявляет, что ее биологическая лаборатория искусственного интеллекта добилась первоначальных прорывов, но еще не предоставила полные полномочия автономной работы.

Аннотация:

Стартап Anthropic, занимающийся искусственным интеллектом, объявил, что его недавно построенная Лаборатория физики и биологии искусственного интеллекта (Wet Lab) в районе залива Сан-Франциско добилась «значительного прогресса». Однако на уровне экспериментальной эксплуатации люди-исследователи по-прежнему имеют абсолютный контроль и не позволяют своей модели искусственного интеллекта Клода напрямую работать автономно без присмотра.

Сообщается, что лаборатория в основном занимается фундаментальными биологическими исследованиями и физическими проверками с целью устранить разрыв между чистым компьютерным моделированием и реальными биологическими экспериментами. Хотя руководители Anthropic уже неоднократно выступали с предупреждениями, подчеркивая, что мощные модели искусственного интеллекта могут нести чрезвычайно серьезные риски для биобезопасности и даже человеческие разрушения, компания также ускоряет применение искусственного интеллекта в области наук о жизни. Эрик Каудерер-Абрамс, глава направления биологических наук, отметил, что «физическая проверка в реальных лабораториях останется незаменимой еще долгое время», что также является ключевым первоначальным намерением компании при создании лаборатории.

В отчете подчеркивается, что, хотя Anthropic утверждает, что лаборатория добилась впечатляющих предварительных результатов, наиболее поразительной деталью является то, что компания не решила напрямую позволить ИИ «отпустить себя». Все процедуры физических экспериментов, операции с реагентами и анализ данных по-прежнему находятся под строгим «замкнутым контролем» (люди в цикле) со стороны исследователей-людей.

Аналитики отмечают, что Anthropic сохраняет высокую степень осторожности при продвижении биологических инноваций, что отражает двойную дилемму, с которой сталкиваются сегодняшние технологические гиганты при реализации прорывных коммерческих и научных исследований: с одной стороны, им необходимо использовать физические лаборатории, чтобы предоставить фармацевтическим партнерам возможности проверки и ускорить борьбу с редкими заболеваниями; с другой стороны, им приходится иметь дело с огромными опасениями во всех сферах жизни, связанными с тем, что ИИ может быть использован для создания новых биологических угроз. Настаивая на сохранении доминирующего положения человека в экспериментальном цикле, Anthropic пытается установить красную линию соответствия, которая учитывает как инновации, так и безопасность биологических исследований ИИ.