Аннотация:
30-летняя женщина в округе Ли, штат Флорида, США, была арестована по подозрению в угрозах расправой посредством текстовых сообщений. Жительница Бонита-Спрингс Карли Мишель Хеллер написала об угрозе стрельбы в адрес офиса шерифа округа Ли в разговоре с Клодом, чат-ботом, принадлежащим Anthropic, сообщила полиция. Система безопасности Anthropic помечает соответствующий контент, который проверяется вручную и уведомляется правоохранительные органы. Хеллер рассказала следователям, что использовала Клода как «дневник».
Согласно сообщению о задержании, на которое ссылаются местные СМИ, Хеллер в разговоре ранним утром 26 сентября написала, что "прямо сейчас собиралась в офис шерифа, чтобы кого-то застрелить". Рано утром следующего дня она также сказала, что в тот день получила новый пистолет, и написала: «Это последний шанс, с меня достаточно». После получения отчета полиция направила полицейских к ее дому на Дин-стрит в Бонита-Спрингс, где она была задержана без происшествий и впоследствии расследована отделом разведки управления шерифа округа Ли. В настоящее время ей предъявлено одно обвинение в письменных угрозах насилием, и ее еще не признали виновной.
Закон Флориды предусматривает, что угроза убить, причинить телесные повреждения, совершить массовый расстрел или террористический акт в письменной или электронной записи, которую могут просмотреть другие лица, может представлять собой тяжкое преступление второй степени. Однако то, соответствует ли диалог в данном случае применимым условиям закона и может ли прокурор доказать состав преступления, все равно должно определяться в судебном порядке. Местные юристы-аналитики отметили, что прокуратура может интерпретировать соответствующий текст как прямую угрозу, но дело не лишено противоречий и также затрагивает границы свободы слова.
Официальная политика Anthropic гласит, что если компания считает, что существует чрезвычайная ситуация, которая может привести к неизбежным телесным повреждениям или смерти, и что своевременное предоставление информации может предотвратить опасность, она может раскрыть информацию о пользователе правительству без обычного юридического процесса. Компания также ранее публично заявляла, что после того, как Клод выйдет в Интернет, она будет использовать систему автоматического обнаружения и ручную проверку для обнаружения вредоносного контента и обеспечения соблюдения политик использования. В этом инциденте процесс сообщения в полицию заключался в том, что система сначала отмечала инцидент, затем вручную проверяла его, а затем связывалась с правоохранительными органами.
Этот случай еще раз вызвал обеспокоенность по поводу границ конфиденциальности в чат-ботах. То, что пользователи рассматривают окно чата как личный дневник, не означает, что контент будет виден только пользователю; платформа может просматривать разговор в соответствии с политикой безопасности, а также предоставлять информацию правоохранительным органам в чрезвычайных ситуациях. В недавних отчетах о редакторе изображений Microsoft Copilot также отмечается, что рецензенты-люди могут видеть слова-подсказки пользователя, загруженные фотографии и сгенерированные результаты, но соответствующий обзор в основном используется для оценки качества вывода.
TechSpot также упомянул, что OpenAI и ее генеральному директору Сэму Альтману предъявлен иск из-за массовой стрельбы в Британской Колумбии, Канада. В иске утверждалось, что компания могла принять меры для предотвращения инцидента; Штат Флорида также ранее подал в суд на OpenAI и Альтмана за травмы, связанные со стрельбой в Университете штата Флорида в 2025 году. Ни одно из этих обвинений в судебном процессе не эквивалентно судебному решению об ответственности, что подчеркивает юридические противоречия, с которыми сталкиваются компании, занимающиеся искусственным интеллектом, с точки зрения безопасности пользователей, конфиденциальности и предотвращения вреда в реальной жизни.
Комментарии