Аннотация:
Губернатор Калифорнии Гэвин Ньюсом подписал Закон о запрете на начальников-роботов (SB 947), запрещающий работодателям использовать искусственный интеллект при увольнении или наказании сотрудников. Новый закон запрещает компаниям принимать такие решения исключительно на основе автоматизированных систем принятия решений, а также ограничивает использование ИИ в качестве основного инструмента принятия решений. Если работодатель полагается в первую очередь на результаты искусственного интеллекта при принятии решений об увольнении или дисциплинарных мерах, они должны быть проверены проверяющим человеком в сочетании с другой информацией, такой как оценки руководства, оценки коллег и личные дела. Затронутые сотрудники также должны получить письменное уведомление о том, что ИИ сыграл важную роль в принятии решения, какие данные о сотрудниках использовались системой, а также человека, который сможет дополнительно объяснить решение.
Автор законопроекта, сенатор от штата Калифорния от Демократической партии Джерри МакНерни, заявил, что рабочих нельзя увольнять или наказывать с помощью машин или искусственного интеллекта; Ожидается, что искусственный интеллект повысит производительность, но он также может совершать ошибки, неверные суждения и проявлять предвзятость, поэтому люди должны контролировать инструменты ИИ, а не наоборот. Лорена Гонсалес, президент Калифорнийской федерации труда и главный сторонник законопроекта, заявила, что профсоюзы и работники Калифорнии подтолкнули штат взять на себя инициативу в регулировании ИИ на рабочих местах и изменили дискуссию о том, как американское общество должно реагировать на проникновение ИИ на рабочие места.
Макнерни впервые представил законопроект в 2025 году. Хотя в том же году законопроект был принят обеими палатами Калифорнии подавляющим большинством голосов, Ньюсом все же наложил на него вето. Ньюсом признал тогда, что нерегулируемое автоматизированное принятие решений может нанести вред сотрудникам, но выступил против требования от компаний заранее уведомлять сотрудников о любых системах искусственного интеллекта, которые могут повлиять на условия труда, утверждая, что первоначальный законопроект установил слишком широкие обязательства по уведомлению для всех компаний и безвредных инструментов. Когда Макинани повторно представил законопроект в феврале этого года, он удалил требование о предварительном уведомлении, а также удалил положение, расширяющее защиту работников концертных залов; против последнего категорически выступали такие компании, занимающиеся услугами такси, как Uber и Lyft. Изменения ослабили лоббистское давление со стороны технологических и бизнес-групп, но калифорнийский бизнес продолжал выступать против законопроекта до его подписания.
Роберт Синглтон, старший директор по политике и связям с общественностью в Калифорнии и западной части США в Прогрессивной торговой палате, заявил в письме Ньюсому, что законопроект требует от работодателей выполнять обязательства, когда они «в первую очередь полагаются» на автоматизированные системы принятия решений, но не дает определения этой ключевой концепции, из-за чего компаниям трудно судить, когда технологии переходят от помощи в принятии решений к тому, чтобы стать основной основой. Он предупредил, что без ясности относительно того, регулируются ли общие инструменты, работодатели могут не захотеть использовать технологии, которые могут помочь улучшить последовательность в принятии решений, выявить риски для безопасности или помочь менеджерам принимать более правильные решения.
Недавно Ньюсом предпринял ряд действий, связанных с искусственным интеллектом. Ранее в этом месяце он подписал указ, направленный на устранение экзистенциальных рисков, которые могут представлять модели ИИ, «пока не стало слишком поздно», и призвал к созданию на государственном уровне структуры для независимой оценки и аудита моделей ИИ. Он также раскритиковал федеральное правительство за отказ от ответственности по защите американцев. Исследование, опубликованное ОЭСР в прошлом году, показало, что Соединенные Штаты лидируют в мире по применению программного обеспечения для автоматизированного управления. 90% американских менеджеров заявили, что в их компаниях используется хотя бы один инструмент для управления, контроля или оценки сотрудников. Бывшие сотрудники Meta подали иск в июле этого года, утверждая, что компания использовала системы с искусственным интеллектом для сортировки и проверки сотрудников на предмет увольнений, и непропорционально сильно пострадали сотрудники, которые взяли отпуск по болезни или отпуск по семейным обстоятельствам; Мета отверг соответствующие обвинения. Опрос, опубликованный в мае некоммерческой организацией United for Respect, связанной с розничной торговлей США, показал, что сотрудники Amazon и Walmart также все больше обеспокоены автоматизацией кадровых решений. Прошлым летом группа безуспешно пыталась убедить акционеров Walmart потребовать от руководства раскрытия информации об использовании искусственного интеллекта в управлении сотрудниками.
Новый закон появился на фоне растущей обеспокоенности общественности по поводу искусственного интеллекта в США. Июльский опрос Gallup показал, что 39% американцев считают, что ИИ принесет больше вреда, чем пользы, по сравнению с 31% в 2025 году. Опрос Pew Research Center, проведенный в августе этого года, показал, что 71% американцев считают, что ИИ «отнимет у людей рабочие места», что примерно на 7 процентных пунктов больше, чем примерно два года назад. Ньюсом рассматривает возможность баллотироваться на пост президента в 2028 году, и ожидается, что политика искусственного интеллекта станет важным вопросом для кандидатов от Демократической партии. Кандидат в губернаторы Калифорнии от Республиканской партии Стив Хилтон также публично поддерживает SB 947 и считает, что законопроект недостаточно строгий. Он сказал, что работодатели не должны позволять ИИ определять, будут ли сотрудники уволены, понижены в должности, потеряют обычные часы или исключены из проектов, от которых они зависят для получения дохода.
Калифорния станет первым штатом, который установит такую строгую нормативную базу для ИИ на рабочих местах. За последние пять лет Иллинойс и другие места ввели ограничения на участие ИИ в принятии решений о приеме на работу; Государственный закон штата Иллинойс 103-0804, вступивший в силу в январе этого года, требует от работодателей уведомлять сотрудников, когда ИИ используется в конкретных сценариях трудоустройства, но не запрещает развертывание агентоподобных цифровых систем для принятия решений о приеме на работу. Подобные законопроекты до сих пор не принимаются во многих штатах по всей стране. В июне этого года сенаторы-демократы США Эд Марки и Брайан Шац предложили одноименный федеральный законопроект, который запретит работодателям полагаться на автоматизированные системы принятия решений при принятии решений, связанных с работой. Однако, поскольку Конгресс не активно продвигает нормативное законодательство в области ИИ, перспективы этого законопроекта ограничены. Подобные законопроекты были предложены в Нью-Йорке, Луизиане и Нью-Джерси, но пока еще не приняты в действие. Нью-Йорк стал первым штатом в стране, который запретил новые центры обработки данных искусственного интеллекта в начале этого года. Новый закон Калифорнии может подтолкнуть другие штаты к ускорению принятия закона об искусственном интеллекте на рабочих местах.
The Electronic Frontier Foundation, либеральная организация по защите гражданских свобод, заявила, что подписание законопроекта является важным шагом в обеспечении защиты сотрудников на рабочих местах, которые используют автоматизированные системы принятия решений, и она продолжит работать с трудовыми группами, чтобы продвигать политику, поддерживающую достоинство на рабочем месте.
Комментарии