Генеральный директор Microsoft Сатья Наделла отреагировал на споры по поводу искусственно созданных фейковых порнографических изображений Тейлор Свифт. В интервью NBC Nightly News, которое выйдет в эфир в следующий вторник, Наделла назвал распространение обнаженных изображений, созданных без согласия ИИ, «шокирующим и очень пугающим» и сказал интервьюеру Лестеру Холту: «Я думаю, нам следует действовать быстро».
В стенограмме, опубликованной NBC перед шоу 30 января, Холт попросил Наделлу отреагировать на «фейковые порнографические изображения Тейлор Свифт, которые наводнили Интернет». Ответам Наделлы удалось развеять некоторые загадки технологической политики, но о них мало что известно, что неудивительно, поскольку не существует надежного решения.
Я хочу отметить два момента: во-первых, я снова возвращаюсь к тому, что, по моему мнению, является нашей ответственностью, а именно: нам необходимо установить все ограничения вокруг технологий, чтобы производить более безопасный контент. Предстоит многое сделать и многое делается. Но речь идет о глобальном, социальном... ну, я бы сказал, о сближении с определенными нормами. Что мы можем сделать — особенно когда правоохранительные органы и технологические платформы могут объединиться — я думаю, что мы можем управлять гораздо большим, чем мы думаем, и мы отдаем себе гораздо больше внимания, чем мы думаем.
И сама Microsoft может иметь какое-то отношение к поддельным изображениям Swift. В отчете 404Media говорится, что изображения были получены из сообщества по производству порнографического контента на базе Telegram, которое рекомендовало использовать генератор изображений Microsoft Designer. Теоретически Designer отказывается генерировать изображения знаменитостей, но генераторы искусственного интеллекта можно легко обмануть, и 404 обнаружил, что он может обойти свои ограничения, всего лишь несколькими изменениями в подсказках. Хотя это и не доказывает, что изображения Тейлор Свифт были созданы с помощью Designer, это техническая ошибка, которую Microsoft может исправить.
Однако инструменты искусственного интеллекта значительно упростили процесс создания фейковых фотографий обнаженных реальных людей, что доставило большие неприятности женщинам, гораздо менее влиятельным и известным, чем Тейлор Свифт. И контролировать его производство не так просто, как просить крупные компании усилить оборону. Даже если «большие технологические» платформы, такие как Microsoft, будут заблокированы, люди смогут переобучить открытые инструменты, такие как StableDiffusion, для создания изображений NSFW, хотя есть попытки усложнить эту задачу. Возможно, к этим генераторам обращается гораздо меньше пользователей, но инцидент со Swift показывает, насколько широко может распространиться работа небольшого сообщества.
Наделла туманно намекнул на более масштабные социальные и политические изменения, но, несмотря на некоторые ранние шаги по регулированию искусственного интеллекта, у Microsoft нет четких решений. Законодатели и правоохранительные органы в целом испытывают трудности с тем, как поступить с изображениями сексуального характера, полученными без согласия, а подделка с помощью искусственного интеллекта добавляет дополнительный уровень сложности. Некоторые законодатели пытаются пересмотреть законы о публичности для решения этой проблемы, но предлагаемые решения часто создают серьезные риски для слова. Белый дом призвал к «законодательным действиям» по этому вопросу, но даже не предоставил подробностей о том, что это будет означать.
Существуют и другие временные меры, такие как социальные сети, ограничивающие распространение изображений без согласия, но на данный момент единственный четкий план Наделлы — привести в лучшую форму собственное подразделение Microsoft по искусственному интеллекту.
Похожие статьи: