Аннотация:
Средняя школа в Пенсильвании, США, недавно решила отключить систему обнаружения оружия, использующую технологию искусственного интеллекта. Несмотря на то, что система собирала данные и обучала школы в течение нескольких месяцев, она не смогла надежно отличить огнестрельное оружие от обычных предметов, которые учащиеся носят с собой каждый день, часто вызывая ложные срабатывания. В конечном итоге школа пришла к выводу, что оборудование еще не достигло стандартов для фактического использования.

Участвующей школой является средняя школа района Хэмпфилд в Пенсильвании. Школа участвовала в пилотном проекте CurvePoint по тестированию системы обнаружения оружия с искусственным интеллектом под названием Wi-AI. CurvePoint — это начинающая компания, основанная в Университете Карнеги-Меллона и специализирующаяся на разработке технологий, использующих беспроводные сигналы для обнаружения безопасности.
Wi-AI отличается от традиционных металлодетекторов тем, что он не требует от учащихся складывать свои вещи в лоток и не использует камеры для определения целей. Вместо этого он использует радиосигналы Wi-Fi для определения формы и характеристик людей и их вещей.
Система устанавливает небольшие датчики под названием SensePods возле входа в школу. Когда человек проходит рядом с датчиком, устройство измеряет изменения радиоволн, отраженных от поверхности человеческого тела и вещей, а затем программное обеспечение анализирует эти сигналы для поиска характеристик, аналогичных скрытому оружию. Как только подозрительная цель обнаружена, система может предупредить персонал школы с помощью текстового сообщения, электронной почты или через административную панель управления.
В CurvePoint заявили, что система не требует камер и может анализировать потоки людей и заполняемость зданий без хранения личной информации.
Школы Хэмпфилда начали участвовать в тестировании в прошлом учебном году. Датчики, установленные возле входа, непрерывно собирают данные, когда студенты проходят мимо, и даже после того, как студенты входят в здание, система продолжает собирать данные, чтобы улучшить модель распознавания.
Однако фактические результаты испытаний не были идеальными. Система часто идентифицирует обычные предметы, которые носят студенты, как потенциальное оружие, включая папки, металлические бутылки с водой и аккумуляторы. Из-за большого разнообразия электронных устройств и других предметов, которые учащиеся носят с собой ежедневно, системам сложно точно отличить действительно опасные предметы от обычных принадлежностей.
Изначально школа надеялась, что точность распознавания модели в конечном итоге достигнет 95 %. Только после достижения этого стандарта его можно будет использовать в качестве основной системы обнаружения безопасности школы. Но суперинтендант школьного округа Хэмпфилда доктор Марк Хольцман признал, что система все еще далека от цели в 95%.
Проблема, по словам Хольцмана, не в том, что система вообще ничего не может обнаружить, а в том, что существует слишком много ложных срабатываний, чтобы удовлетворить реальные требования к развертыванию. Он отметил, что факторы окружающей среды и проблемы при передаче данных повлияли на стабильность и согласованность системы.
Скип Смит, соучредитель и генеральный директор CurvePoint, сказал, что Хемпфилд был площадкой для тестирования и оценки технологий школьной безопасности компании, а не местом формального внедрения.
Смит признал, что тестирование помогло компании понять производительность системы, а также выявило экологические проблемы, влияющие на надежность и согласованность. Он сказал, что компания продолжит разработку и оценку этой технологии, но в настоящее время не поддерживает официальное эксплуатационное развертывание и не имеет четких сроков ее возвращения в эксплуатацию.
Поскольку пилотный проект в конечном итоге не перешел на полную стадию эксплуатации, предыдущая оплата школы за оборудование для обнаружения будет возвращена. Хольцман сказал, что школа по-прежнему готова продолжать предоставлять среду тестирования для CurvePoint в будущем. Если компании потребуется использовать возможности кампуса для дальнейшего обучения, обе стороны могут продолжить сотрудничество.
После прекращения поддержки Wi-AI средняя школа Хэмпфилда продолжит использовать систему обнаружения оружия OpenGate, которая работает уже много лет. В школе заявили, что на данный момент вполне удовлетворены работой этого комплекта традиционного оборудования.
Это не первый случай, когда система безопасности кампуса с искусственным интеллектом серьезно ошиблась. В 2025 году аналогичный инцидент произошел в средней школе Кенвуд в округе Балтимор, штат Мэриленд, США. 16-летний школьник был окружен полицией и надет наручники после того, как система искусственного интеллекта, управляющая школьной камерой наблюдения, приняла сумку Doritos в его руке за пистолет.
В последние годы технология обнаружения оружия с использованием искусственного интеллекта привлекла внимание американских школ и местных органов власти. Некоторые системы пытаются использовать искусственный интеллект, беспроводные датчики и технологию электромагнитного обнаружения для выявления потенциальных опасностей, не требуя от учащихся выносить свои вещи. Однако в реальном развертывании баланс между частотой ложных тревог, чувствительностью обнаружения и сложной средой кампуса по-прежнему остается сложной проблемой.
Результаты испытаний Хэмпфилда также показывают, что хорошая работа системы искусственного интеллекта в лаборатории или ограниченной среде не означает, что она может напрямую адаптироваться к сложным сценариям, когда сотни или даже тысячи студентов каждый день переносят различные предметы в кампус и за его пределы. Для устройств, участвующих в обеспечении безопасности кампуса, слишком большое количество ложных тревог не только увеличивает нагрузку на персонал, но также может привести к тому, что реальные тревоги будут заглушены большим количеством недействительных запросов.
Комментарии