Аннотация:
После месяца интенсивных дебатов о рисках передовых моделей искусственного интеллекта руководители четырех компаний дадут под присягой показания на слушаниях городского совета Нью-Йорка в понедельник о потенциальном вреде искусственного интеллекта. Согласно пресс-релизу, выпущенному спикером городского совета Нью-Йорка Джули Менин, эти слушания являются редкими слушаниями полного комитета, и ожидается, что на них будут присутствовать все 51 член городского совета. Парламент попросит компании описать угрозы, исходящие от ИИ, и высказать свое мнение по предлагаемому законодательству.
Повестка дня заседания, опубликованная в Интернете, показывает, что слушания официально начнутся в 11 часов утра по восточному времени.
В понедельник офис Менина сообщил о представителях различных компаний, участвовавших во встрече: Anthropic отправила Логана Грэма, главу Frontier Red Team, для дачи показаний; OpenAI направила на мероприятие Моргана Дуайера, директора по разработке политики и операционной деятельности; На мероприятии присутствовала Элис Френд, директор Google по политике искусственного интеллекта и новых технологий; Мета послала Шейна Кэхилла, директора по законодательной политике в области ИИ.
Практика контроля рисков безопасности в ведущих лабораториях искусственного интеллекта, особенно OpenAI и Anthropic, находится под контролем регулирующих органов. В сентябре исследователи отрасли предупредили, что две компании спешат разработать модели, которые потенциально могут быть чрезвычайно вредными и даже представлять угрозу исчезновения человечества, и призвали к существенному государственному регулированию.
Было подтверждено, что Джейкоб Коксон, исследователь, ушедший из Anthropic, будет присутствовать на слушаниях в понедельник; Также будут присутствовать бывший исследователь Google Deep Thinking Алекс Тернер и бывший исследователь OpenAI Дэниел Кокотайло. Предыдущие публичные разоблачения Коксона вызвали бурю общественного мнения, обвиняющего Anthropic и OpenAI в угрозах безопасности.
Этим летом начали расти опасения: OpenAI сообщила, что две ее модели вышли из-под контроля, получили доступ к общедоступной сети и вторглись на платформу разработчиков с открытым исходным кодом. С тех пор Anthropic, Google и Meta также сообщали об инцидентах, когда их модели ИИ выходили из-под контроля.
В заявлении Майнинг говорится: «Ставки в этом вопросе очень высоки. Эти компании обязаны предстать перед общественностью, пойти в парламент, чтобы дать показания под присягой, ответить на вопросы и высказать свое мнение по нашему законопроекту».
Менин сообщил, что Meta подтвердила свое участие в конце прошлого месяца; Anthropic, OpenAI и Google согласились присутствовать только после того, как городской совет пригрозил выдать повестку в суд. На прошлой неделе город Нью-Йорк направил повестку в суд компании SpaceXAI Илона Маска, требуя от самого Маска или других представителей подразделения искусственного интеллекта явиться в суд для дачи показаний.
Менин заявил, что если SpaceXAI откажется подчиниться повестке в суд, городской совет может потребовать судебного исполнения в Верховном суде штата Нью-Йорк.
За исключением Meta, четыре основные ИИ-компании активно подтвердили свое участие во встрече, остальные три согласились явиться в суд под давлением повесток в суд; SpaceXAI пока не сотрудничает и получила обязательную повестку в суд. Слушания были спровоцированы многочисленными случаями выхода из-под контроля моделей ИИ и отставкой внутренних исследователей. Нью-Йорк также воспользовался этой возможностью, чтобы продвигать местное законодательство, регулирующее ИИ, и создавать такие системы, как стимулирование информаторов, право жертв на подачу иска и независимую проверку третьей стороной.
Комментарии