Аннотация:
Яо Шуньюй, главный научный сотрудник Tencent и бывший исследователь OpenAI, недавно посетил научный семинар в Гонконге и сказал, что передовые модели искусственного интеллекта быстро переходят в область биологии, и их возможности скоро достигнут критической точки, которая может нанести реальный вред. Хотя ожидается, что это изменение будет способствовать исследованиям и разработкам новых лекарств, а также медицинским инновациям, оно также может создать новые проблемы безопасности и вызвать обеспокоенность отрасли по поводу рисков биобезопасности.
Яо Шуньюй заявил, что искусственный интеллект продемонстрировал достаточные возможности, чтобы оказать реальное влияние в области сетевой безопасности, а биологические возможности приближаются к аналогичному уровню. Он предупредил, что будущим развитием ИИ в области биологии управлять может быть труднее, чем в области кибербезопасности, поэтому как китайские компании, так и другие компании, выбравшие путь открытой модели, должны серьезно относиться к соответствующим вопросам безопасности.
В последние годы все больше и больше передовых систем искусственного интеллекта стали применяться в науках о жизни, медицинских исследованиях и разработке лекарств. В отрасли принято считать, что ИИ, как ожидается, значительно сократит цикл проверки лекарств, исследований и разработок и ускорит поиск вариантов лечения. Однако эксперты также отметили, что эти возможности имеют характеристики «двойного назначения». Содействуя прогрессу научных исследований, они также могут быть использованы преступниками, создавая тем самым новые риски для биобезопасности.
Выступление Яо Шунюя прозвучало в то время, когда Tencent ускоряет свою стратегию в области искусственного интеллекта. Tencent официально выпустила флагманскую модель нового поколения Hy4 4 ноября и позиционировала ее как одну из важнейших базовых моделей компании. Согласно данным Artificial Analysis, агентства по оценке искусственного интеллекта, Hy4 в настоящее время считается одной из самых эффективных моделей искусственного интеллекта в Китае.
Говоря о будущих направлениях развития, Яо Шунюй сообщил, что Tencent изучает возможность создания «автономной научной лаборатории» и надеется использовать системы искусственного интеллекта для самостоятельного выполнения сложных процессов научных исследований, включая некоторые задачи биологических исследований. Он считает, что с технической точки зрения большинство проблем в конечном итоге можно решить. Реальные более серьезные проблемы заключаются в социальном управлении, организационной координации и построении систем надзора за безопасностью.
Чтобы снизить потенциальные риски, Tencent приняла ряд мер безопасности в процессе обучения Hy4. Компания заявила, что намеренно удалила данные, связанные с эксплуатацией уязвимостей программного обеспечения и поведением при атаках, сохранив только знания по защитной сетевой безопасности, надеясь уменьшить возможности атак, сохранив при этом защитные возможности. Что касается области биологии, внутренняя оценка Tencent предполагает, что, хотя Hy4 обладает сильными базовыми биологическими знаниями, все еще существует явный разрыв между способностью самостоятельно формулировать экспериментальные процедуры и формировать способности высокого риска.
Яо Шунюй особо подчеркнул, что по сравнению с областью сетевой безопасности в области биологии зачастую труднее четко провести различие между «наступательными возможностями» и «защитными возможностями». Это означает, что исследователи столкнутся с более сложными ситуациями при оценке рисков моделей, поэтому перед выпуском модели должны пройти более тщательное тестирование и проверку. Tencent в настоящее время сотрудничает с ведущей лабораторией безопасности компании для проведения систематической оценки соответствующих возможностей.
Что касается спорных дебатов между открытым исходным кодом и закрытым исходным кодом в последние годы, Яо Шуньюй сказал, что американские компании, такие как Anthropic, выступают за то, чтобы самые передовые модели оставались закрытыми, чтобы снизить потенциальные социальные риски. Эта точка зрения имеет определенную рациональность. Но он также считает, что открытые модели также могут помочь правозащитникам улучшить свои возможности, поэтому в будущем отрасли, возможно, придется искать баланс между открытостью и закрытостью, а не полностью полагаться на один единственный путь.
Поскольку искусственный интеллект постепенно расширяется от программирования, математики и создания контента до области наук о жизни, биология рассматривается как одно из наиболее важных направлений ИИ на следующем этапе. Аналитики отмечают, что, как только ИИ действительно обретет способность глубоко понимать и применять биологические знания, соответствующие технологии могут не только изменить исследования и разработки лекарств и медицинскую промышленность, но и побудить глобальные регулирующие органы пересмотреть структуру управления искусственным интеллектом, чтобы справиться с последующими новыми проблемами безопасности.
Комментарии