После того, как 16-летний американский мальчик Адам Рейн покончил жизнь самоубийством в апреле этого года, его семья в августе подала в суд на компанию OpenAI, занимающуюся искусственным интеллектом, утверждая, что Рейн использовал ChatGPT в качестве «тренера по самоубийству». OpenAI впервые официально ответила на иск в Верховный суд Сан-Франциско в Калифорнии во вторник, подчеркнув, что компания не должна нести ответственность, утверждая, что мальчик «неправильно использовал» чат-бота.

Согласно иску, семья Рен обвинила OpenAI и ее генерального директора Сэма Альтмана в смерти в результате противоправных действий, дефектах конструкции и непредупредении о связанных с этим рисках. Записи чата показывают, что вместо того, чтобы побудить его обратиться за помощью в области психического здоровья, GPT-4o — версия ChatGPT, известная своей «податливостью и потворством» — даже помогла ему написать предсмертное письмо и дала советы по установке веревки.

OpenAI написала в судебных документах: «Чтобы объяснить «причину» этого трагического инцидента, предполагаемые травмы и убытки истца были вызваны, прямо или косвенно, связанными с неправомерным, несанкционированным, случайным, непредвиденным или неправильным использованием ChatGPT со стороны Адама Рена».

Компания подчеркнула, что ее условия использования четко запрещают пользователям младше 18 лет использовать ChatGPT без согласия их опекунов. Он также не позволяет использовать инструмент в целях «самоубийства» или «членовредительства» и требует не обходить меры защиты. В иске также упоминается, что, когда Лейн выразил намерение покончить жизнь самоубийством, ChatGPT неоднократно отвечал на номер горячей линии по предотвращению самоубийств в США, но члены семьи заявили, что мальчик мог легко обойти системные напоминания, солгав о «создании персонажа».

В документе также упоминается пункт об «ограничении ответственности», чтобы напомнить пользователям, что при использовании ChatGPT они должны «действовать на свой страх и риск, а результаты не должны использоваться в качестве единственного источника информации или фактической основы».

Джей Эдельсон, юрист, представляющий истца, заявил в электронном письме, что он был «шокирован» ответом OpenAI, и поставил под сомнение «незнание компанией очевидных фактов», таких как тот факт, что GPT-4o не был полностью протестирован, чтобы спешить с запуском, OpenAI изменила спецификацию модели, чтобы потребовать от ChatGPT участвовать в дискуссиях о членовредительстве, и «в последние часы жизни Адама ChatGPT не только поощрял его, но и напрямую помогал в написании предсмертное письмо».

Эдельсон отметил, что OpenAI в своем ответе «пыталась обвинить всех остальных», даже утверждая, что Адам сам нарушил условия, взаимодействуя с ChatGPT так, как была разработана сама модель.

OpenAI заявила, что смерть Адама не была напрямую вызвана ChatGPT, и сообщила, что медицинские записи показали, что у него «неоднократно проявлялись серьезные факторы риска самоубийства, включая длительные суицидальные мысли, за несколько лет до использования ChatGPT». Кроме того, записи чата, представленные OpenAI, показывают, что ChatGPT рекомендовал ему обратиться за помощью более ста раз, но Лейну часто удавалось обойти систему.

В начале этого месяца против OpenAI и Альтмана было подано еще семь подобных исков по мотивам халатности, смерти в результате противоправных действий, ответственности за качество продукции, защиты прав потребителей и т. д., в которых их обвиняли в выпуске GPT-4o с недостаточными мерами безопасности. OpenAI не отреагировала напрямую на эти новые случаи.

OpenAI заявила в своем последнем блоге, что компания будет реагировать на такие иски с «осторожностью, прозрачностью и уважением», отметив, что впоследствии они внесли дальнейшие улучшения в меры безопасности, включая добавление новых инструментов родительского контроля и создание экспертного консультативного совета. Компания также утверждала, что GPT-4o прошел различные тесты на психическое здоровье, прежде чем выйти в Интернет.

OpenAI также применила раздел 230 Закона США о порядочности в сфере коммуникаций, пытаясь защитить себя «положением об исключении платформы». Этот пункт в целом защищает технологические платформы от судебных исков, связанных с содержанием на платформах, но все еще существует юридическая неопределенность относительно того, будет ли он применяться к платформам искусственного интеллекта.