Аннотация:
Генеральный директор OpenAI Сэм Альтман, похоже, глубоко обеспокоен кошмарным продуктом искусственного интеллекта, который он помогал создавать, и ему даже трудно спокойно спать. Около 0:57 утра по восточному времени Альтман написал на платформе X: «Есть две катастрофические тенденции в развитии искусственного интеллекта, которых следует избегать. Во-первых, мы можем потерять контроль над будущим искусственного интеллекта. Это неприемлемо. Мы твердо стоим на стороне человечества, и искусственный интеллект должен всегда служить людям. Для этого мы должны обеспечить скорость развития согласованных технологий и методов безопасности, а также опережать возможности моделей».
Далее он написал: «Второй риск — это высокая концентрация власти в мире. Если определенный человек или определенная компания овладеет чрезвычайно мощным искусственным интеллектом и навяжет всем свое мировоззрение, результат будет крайне мрачным. Чтобы избежать двух вышеупомянутых основных угроз, вам нужно идти узким средним путем. Например, некая страна захватит слишком много власти или некая лаборатория, имеющая слишком много голоса, — все это такие риски».
Всего за два дня генеральный директор Anthropic Дарио Амодей и Альтман, два гиганта индустрии искусственного интеллекта, одно за другим выступили с предупреждениями об этой мощной технологии, которую они возглавляли, и побудили ведущую команду исследований и разработок ускорить ее.
Амодей сказал в своем личном блоге в субботу: "В последние несколько месяцев я все больше убеждаюсь в том, что для того, чтобы полностью реагировать на сопутствующие риски, нам нужно действовать более осмотрительно. Мы не только инвестируем ресурсы для предотвращения рисков, но нам также необходимо контролировать скорость итерации возможностей ИИ и оставлять время, чтобы наверстать упущенное в предотвращении и контроле рисков. Мы должны замедлить темпы совершенствования возможностей моделей искусственного интеллекта. В целом технология по-прежнему будет поддерживать быстрое развитие, и мы должны эффективно использовать время, которое мы выигрыш."
После того как Амодей опубликовал свое сообщение, Ультрачеловек сразу же высказал свое мнение и согласился с точкой зрения своего конкурента.
Комментарии появились после того, как два исследователя ИИ выразили обеспокоенность по поводу опасности передовых моделей ИИ.
Ранее на прошлой неделе Джейкоб Коксон объявил о своем уходе из Anthropic. Он заявил, что ни Anthropic, ни OpenAI не взяли на себя должной ответственности за разработку высокопроизводительных систем искусственного интеллекта.
Впоследствии руководитель отдела выравнивания Anthropic Эван Харбингер отреагировал на сообщение Коксона, поддержав мнение бывшего сотрудника. Он считает, что вероятность того, что эта технология «приведет к вымиранию всего человечества», составляет более 10%.
Президент Трамп в воскресенье отверг подобные опасения по поводу безопасности. Он сказал: «Мы лидируем в Китае в области искусственного интеллекта. Мы самая технологически развитая страна в мире, и, честно говоря, я надеюсь сохранить это преимущество, потому что тот, кто победит в соревновании по искусственному интеллекту, выиграет будущее».
Из-за вышеупомянутых опасений ведущие акции сектора искусственного интеллекта в понедельник оказались под давлением, поскольку рынок обеспокоен тем, что развитие технологии искусственного интеллекта может столкнуться с препятствиями. Акции SanDisk упали на 5% на предрыночных торгах, а акции Nvidia упали на 3% на предрыночных торгах.
Дэн Айвз, партнер-основатель Yorkville Ives, сказал Yahoo Finance: "Я думаю, что статья Далио в сочетании с обсуждениями отрасли на выходных вызовет кратковременное ослабление в начале понедельника, но рынок вскоре восстановится. Инвесторы вскоре ясно увидят, что, несмотря на бурю общественного мнения в отрасли, общая ситуация с инвестициями в ИИ в размере 5 триллионов долларов в ближайшие пять лет существенно не изменится".
Комментарии