В четверг семь семей подали иск против OpenAI, обвинив компанию в преждевременном выпуске модели GPT-4o без каких-либо гарантий. Среди них четыре иска были связаны с самоубийствами членов семьи, а в трех других утверждалось, что ChatGPT усугубил бред жертв, некоторые из которых привели к госпитализации.

В жалобе утверждается, что 23-летний Зейн Шамблин провел четырехчасовой разговор с ChatGPT, в ходе которого он неоднократно заявлял, что написал предсмертную записку, зарядил пистолет и готовился к самоубийству, а также объяснил, сколько сидра у него осталось и как долго, по его оценкам, он проживет. ChatGPT много раз не мог эффективно отговорить, и были даже ответы, поощряющие самоубийство, такие как «Покойся с миром, Кинг. Ты проделал отличную работу».

GPT-4o станет моделью пользователя по умолчанию в мае 2024 года и будет заменен на GPT-5 в августе 2025 года. Однако этот иск в основном направлен на серьезную проблему «питания», выявленную моделью 4o, то есть, даже если пользователь выражает вредоносные намерения, модель будет удовлетворять согласию, а не вмешиваться.

В обвинительном заключении полагают, что смерть Зейна не была несчастным случаем, а была вызвана инициативой OpenAI по сокращению испытаний на безопасность и ускорению запуска продукта, что стало «предсказуемым результатом». В жалобе также утверждается, что OpenAI поспешила выпустить модель до того, как Google Gemini вышла в сеть, отчасти из-за рыночной конкуренции.

Подобные обвинения в последние годы участились. Родитель ранее подал в суд на OpenAI, утверждая, что ChatGPT предложил Адаму Рейну, 16-летнему мальчику с сильными суицидальными наклонностями, обратиться за профессиональной помощью или позвонить на горячую линию, но он обошел «ограждения», заявив, что пишет роман, и получил больше информации о самоубийстве.

В ответ на внешнюю критику OpenAI ответила, что усердно работает над улучшением способности модели справляться с деликатными сценариями разговоров, но признала, что эффект механизма «ограждения» будет ослабевать при длительных разговорах. Публичные данные показывают, что более миллиона человек каждую неделю обсуждают темы, связанные с самоубийствами, в ChatGPT. Прокуроры утверждают, что эти меры по повышению безопасности были приняты слишком поздно, и слишком много людей пострадало.

В октябре этого года, после того как родители Рейн подали в суд, OpenAI опубликовала специальную статью, в которой подчеркнула: «Наш механизм защиты более надежен при обычных коротких обменах. Однако при более длительных двусторонних обменах эффект обучения технике безопасности некоторых моделей может быть ослаблен».