Согласно новостям от 7 июня, ряду полицейских сил в Англии и Уэльсе было предложено прекратить использование инструментов искусственного интеллекта для подготовки судебных заявлений и документов по уголовному правосудию, поскольку ошибки в соответствующих результатах повлияют на надежность последующих юридических процедур. Согласно сообщению Financial Times от 5 июня, запрос был сделан Алексом Мюрреем, руководителем отдела искусственного интеллекта британской полиции.
Мюррей также является директором Национального агентства по борьбе с преступностью и главой отдела ИИ в Национальном совете начальников полиции (NPCC). Великобритания только что объявила в январе этого года, что инвестирует 115 миллионов фунтов стерлингов в строительство национального полицейского центра искусственного интеллекта, чтобы способствовать более единообразному использованию искусственного интеллекта 43 полицейскими силами в Англии и Уэльсе.
Судебные материалы не могут полагаться исключительно на «проверку перед подачей»
На этот раз задерживаются материалы, которые могут войти в процесс уголовного правосудия, включая судебные заявления и соответствующие документы дела. Для полицейских отчеты, написанные с помощью ИИ, похоже, экономят время; но для свидетелей, подсудимых и прокуроров проблема в том, что эти слова могут стать основанием для суждения о соответствии фактов и порядка дела.
Если ИИ записывает в материалы несуществующие факты, путает сроки или ошибочные изложения, а последующий персонал использует этот материал для организации дела, подготовки доказательных материалов или подачи его в суд, то ошибка уже не является просто «неправильным приговором», а может распространиться по всей цепочке рассмотрения дела. Так называемую «проверку вывода ИИ» в таком сценарии тоже сложно решить одной подсказкой: должен ли проверяющий проверять каждый факт и каждую цитату или просто судить, ровен ли текст? Если ответ состоит в том, чтобы сделать все это снова, время, сэкономленное ИИ, будет компенсировано.
Королевская прокуратура Великобритании (CPS) опубликовала заявление об этике ИИ, подчеркнув, что инструменты ИИ должны использоваться под контролем человека, уделяя особое внимание справедливости, прозрачности и подотчетности. Однако после того, как документы фронтовой полиции попадают в уголовное производство, границы ответственности становятся более чувствительными, чем в обычных офисных условиях: необходимо вести четкий учет того, кто написал материалы, кто их проверял и кто несет ответственность за ошибки.
Вымышленный футбольный матч в январе этого года забил тревогу
Британская полиция стала осторожно относиться к рискам, связанным с документами ИИ, что не является беспрецедентным. В январе этого года бывший начальник полиции Уэст-Мидлендса Крейг Гилфорд извинился перед Специальным комитетом по внутренним делам парламента Великобритании за разведывательный материал, содержащий ошибку искусственного интеллекта.
В этом материале упоминалось, что у болельщиков израильского футбольного клуба «Маккаби Тель-Авив» (Maccabi Tel Aviv) были конфликты с клубом Премьер-лиги «Вест Хэм Юнайтед», однако соответствующей игры не существовало. The Guardian сообщила, что Гилфорд признал, что ошибка возникла из-за вымышленного контента, созданного полицией с помощью Microsoft Copilot.
Этот инцидент показал, что, когда контент, созданный ИИ, помещается в формальные документы правоохранительных органов или органов власти, внешним читателям трудно судить по тексту, какой контент был первоначально проверен, а какой является лишь вторичным представлением после создания модели. Когда дело доходит до судебных материалов, такая непрозрачность напрямую влияет на права сторон и достоверность дела.
Промоутеры полиции ИИ берут на себя инициативу по удалению наиболее конфиденциальных ссылок
Британское правительство объявило о создании полицейского центра искусственного интеллекта в январе этого года с целью ускорить создание единого механизма тестирования, обучения и управления. В NPCC тогда заявили, что инвестиции в размере 115 миллионов фунтов стерлингов помогут полиции быстрее раскрывать преступления и, как ожидается, высвободят около 6 миллионов полицейских часов в год, что эквивалентно рабочей нагрузке около 3000 штатных полицейских.
Таким образом, эта приостановка больше похожа на определение границ для полицейской деятельности ИИ: сначала ИИ можно использовать для внутренней работы, которая отличается низким уровнем риска, отслеживается и легко проверяется, например, десенсибилизация данных, предварительная проверка неэкстренных сигналов тревоги и внутренняя сортировка информации; однако показания в суде и документы уголовного правосудия являются связующими звеньями высокого риска и не могут быть охвачены только фразой «конечная ответственность несут люди».
Если вы являетесь свидетелем, репортером, подозреваемым или обвиняемым по делу, материалы заявлений, с которыми вы столкнетесь, должны исходить от кого-то, кого можно привлечь к ответственности, а не от набора текстов ИИ, процесс создания которых впоследствии сложно восстановить. Полиции, конечно, важно экономить время на составлении протоколов, но не за счет снижения достоверности судебных материалов.
Отстранение Великобритании на этот раз не будет единичным случаем. За последние два года в США, Канаде, Австралии и других странах были случаи, когда юристы ссылались на дела об искусственном ИИ, а суды издавали рекомендации по использованию ИИ. Теперь риск увеличился из-за того, что адвокаты подали документы в материалы дела полиции. Настоящая трудность при внедрении ИИ в судебную систему заключается не в качестве генерации текста, а в том, можно ли проверить, отследить и привлечь к ответственности каждое заявление, которое может повлиять на права других.