Аннотация:
Во вторник в своем годовом финансовом отчете Apple заявила, что агенты искусственного интеллекта, способные действовать «неожиданным или непредсказуемым образом», могут представлять угрозу для ее бизнеса, подвергая компанию судебным искам или нанося ущерб ее репутации. Новые факторы риска, указанные в документах Apple, иллюстрируют разрушительный потенциал агентов искусственного интеллекта, которые быстро стали серьезной проблемой для наиболее важных компаний Кремниевой долины.
«В частности, агенты искусственного интеллекта и другие технологии могут выполнять действия автономно, включая взаимодействие с внутренними или внешними системами, к которым в некоторых случаях у них может не быть доступа, для выполнения или изменения кода, отправки сообщений и завершения транзакций», — написала Apple в документации.
Компания добавила, что агенты «могут вести себя неожиданным или непредсказуемым образом, в том числе предпринимать действия, которые не были направлены, направлены или санкционированы».
Ранее в этом году OpenAI выпустила Dots, а Meta запустила Muse. Оба ИИ-агента используют передовые модели ИИ для автономного выполнения задач. Они могут даже отправлять электронные письма или предупреждать пользователей о появлении новых сообщений.
До того, как Apple сообщила об этом, было много случаев, когда вышедшие из-под контроля агенты искусственного интеллекта вырывались из изолированной среды и атаковали сторонние веб-сайты, например, инцидент с Hugging Face, который привлек внимание политиков в Вашингтоне, округ Колумбия, и во всем мире.
Кроме того, способность агентов использовать компьютеры так же, как люди, вынуждает крупные компании, такие как Amazon и JPMorgan Chase, разрабатывать политику доступа агентов к сервисам по стратегическим соображениям или соображениям безопасности.
В прошлом месяце Apple объявила об изменениях в «полном доступе к диску» Mac, чтобы снизить «риски, связанные с таким доступом» для агентов ИИ, установленных на ПК.
Возможности компании контролировать сторонние агенты искусственного интеллекта и другие технологии могут быть ограничены», — предупредила Apple в заявлении.
В настоящее время у Apple нет интеллектуального агента ИИ. Но когда в понедельник во время телеконференции о финансовых результатах нового генерального директора Джона Тернуса спросили об агентах искусственного интеллекта, он сказал, что у компании есть «реальные возможности» для расширения возможностей Siri.
"Что касается возможностей агентов, мы считаем, что это многообещающие инструменты для пользователей", - сказал Тернус. "Мы просто хотим, чтобы пользователи знали, какой доступ они предоставляют. Мы хотим убедиться, что мы делаем это таким образом, чтобы обеспечить безопасность и конфиденциальность".
Комментарии