Аннотация:
Майкрософт объявила о новых стандартах безопасности и конфиденциальности школьного искусственного интеллекта совместно с Американской федерацией учителей (AFT) и ее филиалом в Нью-Йорке, Союзом учителей Нью-Йорка (UFT). В соответствии с соглашением школьные округа, которые примут стандарты, могут включить в свои контракты положения, которые сделают их юридически обязательными, в том числе не использовать данные учащихся или преподавателей для обучения моделей ИИ, свести к минимуму сбор данных, предоставить семьям простой язык о том, как работают инструменты, запретить развертывание сопутствующих продуктов ИИ и осуществлять человеческую проверку решений «высокого риска».
Незадолго до вступления в силу этого соглашения два крупных государственных школьных округа в Нью-Йорке и Лос-Анджелесе объявили, что временно запретят использование инструментов искусственного интеллекта для многих учащихся сроком на один год, чтобы оценить разумность использования таких инструментов в кампусе и необходимые меры защиты. Поскольку среди родителей и некоторых преподавателей растет обеспокоенность по поводу внедрения искусственного интеллекта в школах и увеличения времени, проводимого учащимися перед экранами, Microsoft, очевидно, надеется уменьшить возможность дальнейшего ужесточения политики школьными округами с помощью новых обязательных правил.
Начиная с ноября этого года школьные округа смогут добавлять эти условия к новым или существующим соглашениям о партнерстве с Microsoft без необходимости пересмотра всего контракта. One of the core requirements of the agreement is that Microsoft must not use student and teacher data for model training; в то же время компания должна ограничить объем собираемых необработанных данных и четко объяснить студенческим семьям, как ее продукты искусственного интеллекта обрабатывают и используют соответствующую информацию.
Американская федерация учителей уже давно с осторожностью относится к внедрению образовательных технологий в школы, но она не отказалась полностью от сотрудничества с технологическими компаниями, чтобы помочь педагогам справиться с быстрым развитием ИИ. Рэнди Вайнгартен, президент организации, заявил в мае, что экранные устройства следует запретить учащимся младше третьего класса и что инструменты искусственного интеллекта для учащихся не следует использовать до средней школы. Однако ранее AFT также объявила о создании учебного центра по искусственному интеллекту для преподавателей, получив в общей сложности 23 миллиона долларов финансирования от Anthropic, Microsoft и OpenAI.
Говоря о соглашении с Microsoft, Вайнгартен сказал, что его условия «очень тверды» и необходимы, поскольку «ни одно другое агентство, включая федеральное правительство, не взялось за работу, которую действительно необходимо было сделать». Она считает, что перед лицом рисков, вызванных кампусным ИИ, сектор образования не может просто выражать недовольство, а должен принять решительные меры; любое обязательство, не имеющее юридической силы, является всего лишь «списком пожеланий».
Комментарии