Опасения по поводу искусственного интеллекта часто связаны с такими проблемами, как дезинформация или возможность того, что технология выйдет из-под контроля человека. Однако, возможно, более реальную озабоченность сегодня вызывает то, как правительства используют ИИ и институциональное понимание (или отсутствие такового) его недостатков. Правительство Великобритании, например, похоже, внедрило эту технологию темпами, которые можно было бы считать поспешными и потенциально небезопасными.
По данным Guardian, многие британские правительственные учреждения начали использовать искусственный интеллект, чтобы существенно повлиять на повседневную жизнь простых людей. Эта технология теперь играет роль в самых разных процедурах: от арестов и выдачи разрешений на брак до выплат по социальному обеспечению.
Еще до того, как искусственный интеллект стал широко обсуждаемой тенденцией, использование полицией систем распознавания лиц вызывало споры. Критики уже давно предупреждают о возможных неточностях, особенно при анализе темнокожих людей. Эта неточность в прошлом даже приводила к неправомерным задержаниям. Несмотря на то, что столичная полиция Лондона знает об этих недостатках, она продолжает использовать систему распознавания лиц и вносить изменения, которые могут нанести вред этой технологии.
Национальная физическая лаборатория Великобритании заявила, что система обычно поддерживает низкий уровень ошибок при настройках по умолчанию. Однако если бы столичная полиция снизила свою чувствительность, чтобы быстрее выявлять подозреваемых, это привело бы к большему количеству ложных тревог. В результате система становится менее точной для чернокожих, в пять раз менее точной, чем для белых.
Кроме того, инструменты на основе искусственного интеллекта, используемые правительствами для утверждения пособий и лицензий на брак, продемонстрировали тенденцию к дискриминации в отношении заявителей из некоторых стран. Один депутат обратил внимание на многочисленные случаи за последние годы, когда выплаты по необъяснимым причинам приостанавливались, в результате чего люди оказывались на грани выселения и крайней нищеты. Подозреваемой основной проблемой является система Министерства труда и пенсий (DWP) для обнаружения мошенничества с пособиями, которая частично опирается на искусственный интеллект.
Даже без существенных доказательств мошенничества инструмент непропорционально помечал граждан Болгарии. DWP настаивает, что система не принимает во внимание национальность. Однако они признают, что не до конца понимают внутреннюю работу ИИ, понимая, что системы имеют ограниченную способность контролировать предвзятость, и опасаются, что злоумышленники могут манипулировать системой.
Аналогичным образом, Министерство внутренних дел сталкивается с проблемой создания инструмента на основе искусственного интеллекта, предназначенного для выявления фиктивных браков. Хотя система упростила процесс утверждения лицензии на брак, внутренняя проверка выявила большое количество ложных срабатываний, особенно для заявителей из Греции, Албании, Болгарии и Румынии.
Могут быть и другие упущения в использовании правительством ИИ, но их сложно выявить без прозрачных данных от соответствующих ведомств.
Недопонимание ограничений искусственного интеллекта привело к серьезным инцидентам в других правительственных и юридических органах. Ранее в этом году американский юрист попытался использовать ChatGPT для цитирования дел, поданных в федеральный суд, но обнаружил, что все они были сфабрикованы чат-ботом. Эти случаи все больше демонстрируют, что реальные риски ИИ могут быть связаны больше с неправомерным использованием человеком, чем с самой технологией.