Аннотация:
Столкнувшись с растущей глобальной обеспокоенностью по поводу потенциального риска выхода искусственного интеллекта высокого уровня из-под контроля и замены технологий доминированием человека, технологический гигант Microsoft официально объявил о новом наборе рамочных норм — «Кодексе поведения гуманистического ИИ». Кодекс устанавливает ряд обязательных железных правил для внутренней разработки и внедрения продуктов, направленных на то, чтобы исследования и разработки передовых систем искусственного интеллекта всегда служили человеческой автономии, достоинству и социальному благополучию, а также решительно предотвращали сползание технологической эволюции в крайний путь, который лишает людей права принятия решений или подрывает основные социальные контракты.
Согласно последним рекомендациям Microsoft, краеугольным камнем концепции является «неотчуждаемость статуса человека-субъекта». В руководящих принципах четко оговаривается, что в основных сценариях принятия решений о средствах к существованию, затрагивающих ключевые общественные интересы, юридические решения, медицинскую диагностику, контроль критической инфраструктуры и занятость основного персонала, системы искусственного интеллекта могут служить только «вторым пилотом», помогающим человеческому суждению и повышающим когнитивную эффективность. Абсолютно запрещено предоставлять системам ИИ полную децентрализацию или права сквозного автономного исполнения, которые отделены от окончательного права вето человека. Все инженерные группы в Microsoft, которые занимаются разработкой передовой архитектуры крупных моделей и автономных агентов (агентов ИИ), должны принудительно встраивать аппаратные и программные механизмы блокировки на уровне «человека в цикле» в базовую конструкцию системы, чтобы гарантировать, что люди имеют окончательное право взять на себя управление и полностью прекратить работу системы одним щелчком мыши в любой экстренный момент.
В ответ на глубокое влияние технологий на рынок труда и социальную психологию «Гуманистический кодекс поведения в области искусственного интеллекта» также предусматривает четкие нормативные границы. Руководящие принципы запрещают неправильное использование пользовательской психологии путем использования антропоморфных алгоритмов с высокой степенью симуляции, сильной эмоциональной зависимостью или манипулирующими характеристиками, а также требуют, чтобы все генеративные системы уточняли свои искусственные и синтетические атрибуты во взаимодействиях. В то же время Microsoft обещает создать специальный «механизм оценки устойчивости рабочей силы и трансформации навыков» в процессе продвижения автоматизации искусственного интеллекта на уровне предприятия. Измеряя коммерческую отдачу от продукции, она также будет систематически оценивать структурный шок, который технологическое замещение приносит в средства к существованию работников, и будет способствовать ответственному проектированию продукции, ориентированному на повышение творческих способностей работников, а не на простое и жестокое уничтожение рабочих мест.
Помимо установления защитной красной линии в отношении технической архитектуры, Microsoft также сделала этот набор гуманистических принципов обязательным условием для корпоративных юридических вопросов, цепочки поставок и делового сотрудничества. Когда руководители Microsoft опубликовали руководящие принципы, они заявили, что компания не только будет строго соблюдать эти принципы во всей линейке продуктов искусственного интеллекта, но также будет проводить проверки соответствия внешних партнеров по крупным моделям, авторизованных клиентов и разработчиков экологических приложений через комитеты по обзору, а также прекратит поставки технологий или приостановит сотрудничество для любых проектов искусственного интеллекта, которые явно нарушают гуманистические принципы, развивают неконтролируемое злонамеренное автономное поведение или имеют тенденции к скрытому манипулированию.
Отраслевые обозреватели и исследователи технологической этики отмечают, что в условиях конкуренции крупных технологических компаний за скорость исследований и разработок сверхразума (AGI) и даже сверхчеловеческого интеллекта Microsoft официально установила и продвигает якорь ценностей «гуманистического ИИ». Это не только активный ответ на недавнюю тенденцию ужесточения антимонопольного законодательства и надзора за безопасностью ИИ в политических кругах, но и важный стратегический шаг, направленный на завоевание этических позиций в гонке технологических вооружений. Реализация этого кода установила решающую линию баланса между слепым поклонением алгоритмической вычислительной мощности и настойчивым требованием ориентированности на человека в технологической отрасли. Его последующие конкретные усилия по внедрению в большое количество коммерческих продуктов и передовые перспективные исследования также станут отраслевым эталоном для изучения эффективности самоэтических ограничений со стороны технологических гигантов.
Комментарии