Аннотация:
Старший детектив британской полиции находится под независимым расследованием по обвинению в неправомерном использовании помощника искусственного интеллекта Microsoft Copilot во время уголовного расследования. Инцидент еще раз вызвал обеспокоенность по поводу границ применения искусственного интеллекта в правоохранительных органах и безопасности конфиденциальных данных.
По данным Независимого управления по вопросам поведения полиции (IOPC), старший офицер полиции Дербишира находится под следствием по обвинению в серьезном проступке. Расследование было начато в августе этого года после того, как 23 июня полиция Дербишира добровольно представила регулятору отчет о ситуации после завершения внутренней проверки.
Расследование выходит за рамки простых офисных задач, таких как использование искусственного интеллекта для проверки орфографии и грамматики. В сопутствующих обвинениях говорилось, что полицейского подозревали в использовании Microsoft Copilot для участия в принятии политических решений, оценке и управлении рисками, а также в использовании искусственного интеллекта для обоснования и обоснования принятия решений в ходе расследования уголовных дел. Кроме того, его обвиняют во внесении в систему конфиденциальной оперативной информации и личных данных, участвующих в деле.
Управление полиции Дербишира уже в мае 2025 года разрешило полицейским использовать Microsoft Copilot для повышения эффективности работы. В сферу полномочий в основном входят административные вопросы, такие как написание отчетов, систематизация документов и обобщение информации. Однако полиция также четко оговаривает, что никакие мобильные данные, конфиденциальная информация и личные данные не могут быть введены в инструменты искусственного интеллекта.
Эмили Барри, директор по связям с общественностью Независимого управления по вопросам поведения полиции, заявила: "Эти обвинения носят серьезный характер и должны стать предметом полного и независимого расследования. Следователи сосредоточатся на изучении использования полицейским Copilot в период с мая 2025 года по июнь 2026 года и установят, нарушило ли его поведение профессиональные стандарты полиции".
В настоящее время сотрудник полиции получил уведомление о начале расследования по подозрению в серьезной халатности, но дело еще не завершено, и расследование все еще продолжается.
Инцидент также свидетельствует о том, что искусственный интеллект постепенно входит в повседневные рабочие процессы правоохранительных органов. Ранее некоторые полицейские управления в США начали внедрять систему Draft One, запущенную компанией Axon, которая может автоматически генерировать проекты полицейских отчетов на основе записей нательных камер. Хотя окончательный контент все еще должен быть проверен и одобрен сотрудниками полиции, сохраняются опасения по поводу дезинформации, которую может принести ИИ, и чрезмерной зависимости от автоматизированных инструментов.
Подобные проблемы также привлекли внимание в этом году. Отчет полиции, созданный искусственным интеллектом в штате Юта, США, оказался ошибочным. Система ошибочно определила фоновый аудиоконтент и фактически заявила в отчете, что полицейский «превратился в лягушку». К счастью, ошибка была обнаружена и исправлена вручную до того, как отчет был официально представлен.
В то же время дело связано с вводом конфиденциальных данных в систему искусственного интеллекта, что также напоминает инцидент, произошедший в Samsung в 2023 году. Тогда некоторые сотрудники передали конфиденциальный программный код и контент встречи в ChatGPT на обработку, что вызвало широкую обеспокоенность среди предприятий по поводу рисков безопасности данных, связанных с генеративным искусственным интеллектом.
Поскольку все больше и больше государственных учреждений начинают использовать помощников с искусственным интеллектом, это расследование может стать важным делом для британской правоохранительной системы для оценки норм использования ИИ. Это также может повлиять на будущую политику регулирования и границы применения искусственного интеллекта в работе полиции.
Комментарии