Аннотация:
Билл Гейтс обвинил администрацию Трампа в препятствовании усилиям по предотвращению рисков ИИ, предупредив, что эта технология может быть использована с целью вызвать пандемию. Выступая в среду на саммите «Будущее искусственного интеллекта», соучредитель Microsoft заявил, что модель искусственного интеллекта продемонстрировала «удивительные» возможности, а это означает, что ее потенциал принести пользу человечеству, а также ее потенциал причинения вреда невозможно переоценить.
Он сказал, что злоумышленники, использующие инструменты искусственного интеллекта для создания биологического оружия или атаки на уязвимости сетей во всем обществе, представляют собой наиболее серьезную угрозу на данный момент. Особенно примечательно то, что некоторые так называемые «открытые» модели доступны разработчикам бесплатно, а механизмы защиты и мониторинга таких моделей могут быть удалены.
Технологический магнат предупредил, что инциденты, связанные с биобезопасностью, вызванные ИИ, могут нанести «масштаб ущерба, гораздо больший, чем эпидемия».
Гейтс заявил, что, несмотря на вышеупомянутые риски, глобальные усилия по регулированию и мониторингу ИИ и его воздействия зашли в тупик из-за бездействия Белого дома.
"Если Соединенные Штаты не будут вовлечены, ценность соответствующих действий очень ограничена. Таким образом, мы сейчас находимся в тупике... Единственный вопрос заключается в том, сколько злостных инцидентов произойдет, прежде чем они изменят свою позицию".
Гейтс — один из технологических лидеров, который продолжает делать резкие предупреждения. Он предупредил, что нынешний путь развития ИИ может привести к тому, что технология будет использоваться не по назначению или выйдет из-под контроля человека, что приведет к катастрофическим последствиям. Ранее филантроп предупреждал, что ИИ может убить миллиард человек и оказать огромное влияние на рынок труда.
В последние месяцы обеспокоенность по поводу рисков безопасности, связанных с этой новой технологией, продолжает расти. В проспекте IPO Anthropic на прошлой неделе предупреждалось, что ИИ может принести человечеству «катастрофические или даже экзистенциальные риски». Гейтс похвалил эту передовую лабораторию ИИ за смелость откровенно говорить о рисках ИИ: «Они всегда были очень откровенны, и это еще один пример».
Несмотря на поразительную скорость внедрения технологий искусственного интеллекта, президент Трамп отверг призывы усилить государственное регулирование искусственного интеллекта. Он отверг попытки продвигать руководящие принципы G20 в области искусственного интеллекта как «глобалистское решение» и предпочитает саморегулирование со стороны технологической отрасли.
Гейтс считает, что саморегулирование отрасли не сработает: «Если в нем примут участие несколько компаний, ответственность за решение этой проблемы может подняться только до уровня правительства».
Он призвал правительство установить стандарты для механизмов защиты и мониторинга безопасности, встроенных в модели ИИ, возглавить глобальные действия по расследованию уязвимостей сетей и создать крупномасштабную систему мониторинга, охватывающую воздух, сточные воды и кровь, чтобы как можно раньше обнаруживать потенциальные инфекции, вызванные ИИ.
Гейтс заранее получил предварительную версию ChatGPT OpenAI в 2022 году. Он сообщил, что OpenAI и Anthropic, скорее всего, выпустят новые модели в этом году, а в 2027 году будет «два основных релиза».
Он добавил, что по мере того, как эти новые модели появятся в сети, «сама потеря контроля над моделью» станет серьезной проблемой в ближайшем будущем. Гейтс высказался за то, чтобы правительству необходимо и дальше совершенствовать механизм безопасности и проводить сторонние проверки новых моделей.
Он также призвал ускорить изучение положительных преимуществ ИИ, таких как исследования и разработки лекарств, а также сократить время ожидания в больницах: «Эти преимущества не возникнут естественным путем».
Гейтс также выразил поддержку налогообложению миллиардеров и групп со сверхвысокими доходами. В контексте того, что ИИ глубоко меняет общество, это заявление эквивалентно выражению поддержки предложения Калифорнийского референдума о «налоге на богатых». Согласно предварительным результатам подсчета голосов во вторник на промежуточных выборах в США, это предложение, скорее всего, будет отклонено.
Он подтвердил благотворительные обязательства соучредителей OpenAI и Anthropic и заявил, что общается и сотрудничает с ними, чтобы «гарантировать, что эти фонды будут играть огромную роль во многих областях, таких как глобальное здравоохранение».
Комментарии