Аннотация:
4 ноября, по данным Reuters, в октябре этого года OpenAI сообщила, что компания обнаружила записывающее устройство, которое было тайно размещено в конференц-зале руководителей. У многих бывших сотрудников OpenAI была такая же реакция: они не были удивлены.
Альфзана обвиняют в установке подслушивающего оборудования
13 октября Министерство юстиции США сообщило, что сотрудники федеральных правоохранительных органов США арестовали жителя Саудовской Аравии Абдулрахмана Альфозана и обвинили его в установке скрытого записывающего устройства в конференц-зале руководителей. Устройство спрятали в туалетной бумаге, чтобы его не обнаружили. Альфзан, которому сейчас 35 лет, в то время работал инженером в OpenAI.
По словам пяти человек, знакомых с ситуацией, еще до того, как OpenAI запустила ChatGPT в конце 2022 года, некоторые сотрудники компании уже выразили внутреннюю обеспокоенность по поводу ее методов обеспечения безопасности. Эти сотрудники выразили обеспокоенность высшему руководству и совету директоров OpenAI. Однако некоторые сотрудники после разговора с руководством и советом директоров пришли к выводу, что руководство больше сосредоточено на том, чтобы не отставать от конкурентов, таких как Google и Anthropic, чем на самой безопасности.
Эти сотрудники считают, что меры безопасности OpenAI слишком свободны, что позволяет посторонним, в том числе правительствам иностранных государств, относительно легко получать конфиденциальную техническую информацию компании, говорят люди, знакомые с ситуацией. Например, любой сотрудник OpenAI, имеющий доступ к коду компании, может просмотреть технические детали многих проектов компании.
По словам двух человек, знакомых с ситуацией, OpenAI начала корректировать свою стратегию для решения проблем безопасности. Тибо Соттио, член высшего руководства, курирующий разработку продуктов, недавно взял на себя ответственность за внутреннюю инициативу по усилению безопасности внутренних систем OpenAI. В августе Sotio перераспределила четверть инженеров-технологов OpenAI для улучшения своей инфраструктуры безопасности.
Эти внутренние предупреждения, включающие в себя многолетние жалобы сотрудников руководству на внутренние уязвимости, о некоторых из которых ранее не сообщалось, свидетельствуют о напряженности в сфере искусственного интеллекта. С момента запуска ChatGPT в конце 2022 года технология искусственного интеллекта стала стратегическим активом для Соединенных Штатов, что оказывает давление на американские компании, требуя защитить свои технологии от иностранных конкурентов.
Однако добавление уровней защиты может также замедлить прогресс в развитии технологий искусственного интеллекта и усложнить планы масштабного IPO от OpenAI и Anthropic. Эти IPO поставят их в число самых ценных компаний в мире.
Скорость разработки ИИ важнее
Уилл ДеПью, бывший исследователь, ушедший из OpenAI в апреле этого года, опубликовал сообщение на
Отвечая на вопрос о проблемах сотрудников и о том, что руководство не принимает мер по этим вопросам, представитель OpenAI Элана Видманн ответила, что OpenAI является одной из наиболее уязвимых организаций в мире. По ее словам, именно поэтому компании вкладывают значительные средства в свои программы безопасности для защиты от атак инсайдеров, киберпреступников и представителей национальных государств.
"Защита наших технологий, данных и сотрудников — это ответственность, к которой мы относимся очень серьезно, и это работа национального значения. Наши недавние действия показывают, что этот механизм безопасности работает: выявление рисков и решительное реагирование. Поскольку технологии и угрозы продолжают развиваться, мы продолжим укреплять наши оборонные возможности". — сказал Вейдман.
Комментарии