Аннотация:
"Настоящий вопрос таков: если вы думаете, что вам следует замедлиться, не бегите на высокой скорости и не ждите, пока внешние силы заставят вас остановиться". Это то, что вице-председатель Microsoft и президент Брэд Смит сказал Алану Мюррею во время Генеральной Ассамблеи Организации Объединенных Наций. Тема, которую он обсуждал, заключалась в следующем: следует ли производителям передовых крупных моделей нажимать на педаль замедления, чтобы гарантировать, что разрабатываемая ими технология не принесет катастрофы человечеству.
В тот же день, когда он сделал это заявление, генеральный директор Anthropic Дарио Амодей и генеральный директор OpenAI Сэм Альтман выступили в Организации Объединенных Наций, призвав страны создать механизмы защиты безопасности ИИ, чтобы предотвратить развитие ИИ, выходящее за рамки возможностей человеческого контроля.
Смит, имеющий многолетний опыт работы в отрасли, сказал: "Если вы, как генеральный директор компании, считаете, что ваш продукт представляет угрозу безопасности, стоит ли вам продолжать продавать его? Думаю, ответ очевиден — нет. Компании несут ответственность за общественную безопасность".
Несмотря на это, он добавил: «Введение определенных мер регулирования в конечном итоге будет неизбежным». Исторически сложилось так, что многие продукты полагались на регулирование для обеспечения безопасного внедрения. Например, раньше были проблемы с загрязнением молока, «поэтому мы создали отдел сельскохозяйственной инспекции и приняли соответствующие законы. Теперь, когда вы идете в супермаркет, все виды молока безопасны и пригодны для питья».
Когда Смит предположил, что должна быть возможность «замедлять или выключать систему ИИ напрямую», ведущий Аллен подтвердил, что речь идет об аварийном выключателе ИИ (выключателе), а затем спросил: «Как вы думаете, это хорошая идея?»
Смит ответил: «Конечно… … Разработчик модели должен иметь право отключить его; поставщики облачной инфраструктуры, такие как Microsoft, должны иметь такие полномочия; и агентство, ответственное за контроль над агентом ИИ, также должно иметь возможность отключить его. Даже если этот механизм предусмотрен законодательством, это было бы неплохо».
Алан спросил его, как бизнес-менеджерам следует решать вопросы безопасности ИИ в своих компаниях. «Я хочу сказать, что не прекращайте использовать ИИ. ИИ — это фундаментальная инновация и важный инструмент повышения производительности. Но важно помнить, что технология требует управления. ... Управление этой технологией так же важно, как и сама технология».
Он также напомнил: "Я не просыпаюсь каждый день и чувствую, что существует 10%-ная вероятность вымирания человечества. Но я бы предпочел, чтобы мы слишком много беспокоились, чем слишком мало делали. В конце концов, то, что мы обсуждаем, - это выживание человечества. Ради бога, этот вопрос важнее, чем новейшие технологии, и мы должны отнестись к нему серьезно".
Комментарии