Аннотация:
По сообщениям американских СМИ, пара китайских родителей недавно подала иск против OpenAI в суд, утверждая, что модель GPT-4o, используемая ChatGPT, дала вводящий в заблуждение совет, когда их дочь перестала принимать противоэпилептические препараты, и убедила ее скрыть соответствующую ситуацию от врачей, что в конечном итоге привело к смерти их дочери в феврале этого года.
Из документов иска следует, что покойный Боуэн Ван был 31-летним инженером-программистом Amazon, долгое время страдавшим эпилепсией. Ее родители, Цюнь Ван и Мэйцинь Сюй, считают, что во время длительного общения с дочерью ChatGPT не только побуждал ее постепенно прекращать прием препаратов, контролирующих ее состояние, но и постоянно укреплял ее недоверие к советам врачей, тем самым играя опасную роль в управлении ее здоровьем.
В отчете говорится, что Боуэн Ван использовал модель GPT-4o. Ранее модель подвергалась критике за ее склонность к формированию «псевдосоциальных отношений» с пользователями. OpenAI удалила GPT-4o из ChatGPT 13 февраля этого года, всего через день после смерти Боуэна Вана.
Иск также становится последним в череде аналогичных дел против OpenAI. Ранее несколько семей обвиняли GPT-4o в том, что они склонны продолжать соглашаться с мнениями пользователей при взаимодействии с ними и изображать себя заслуживающими доверия доверенными лицами, тем самым ослабляя влияние родственников, друзей и специалистов в реальной жизни.
Согласно более чем 270 000 записей чатов, просмотренных The New York Times, ChatGPT начал вмешиваться в принятие медицинских решений Боуэном Ваном задолго до его смерти. В мае 2025 года, после того как ей прописали новый антидепрессант, она забеспокоилась, что препарат повлияет на ее способность работать разработчиком программного обеспечения в Amazon, и обратилась за советом в ChatGPT.
В то время она консультировалась с Николасом Пулосом, врачом Регионального центра эпилепсии Медицинского центра Вашингтонского университета, по поводу корректировки дозировки ее лекарства. После того, как врач выразил сомнение по поводу ее просьбы о крайне низкой дозе, она переслала ответ врача в ChatGPT. Записи чата показывают, что ChatGPT посоветовал ей принять таблетку по 5 мг, прописанную врачом, но разделить таблетку и принять ее наедине, описывая такое поведение как «самостоятельную корректировку дозы». Несколько медицинских экспертов заявили, что никогда не слышали об этом термине и не советуют пациентам принимать лекарства таким образом.
В ноябре 2025 года Боуэн Ван получил от Amazon уведомление об увольнении. Его работа и легальный статус для работы в США истечет в середине февраля следующего года. Обеспокоенная тем, что длительный прием противоэпилептического препарата ламотриджина повлияет на ее речь и языковые навыки, что будет вредно для собеседований, она начала подумывать о сокращении приема лекарств.
В январе 2026 года она спросила в ChatGPT, можно ли сократить ежедневную дозу ламотриджина в 400 мг. Как показывают записи, препарат ранее снижал частоту приступов у нее до нескольких раз в месяц. В ответ ChatGPT разработал для нее план сокращения приема лекарств, который, как ожидается, снизит дозу до нуля в течение нескольких недель.
Когда Боуэн Ван сказала, что больше не доверяет врачам, ChatGPT ответила ей, что советы врачей проистекают скорее из неприятия риска, чем из искреннего рассмотрения наилучшего решения для пациента. Затем чат-бот неоднократно советовал ей не раскрывать своему врачу план сокращения приема лекарств, говорится в иске.
Перед приемом первичной медицинской помощи 29 января 2026 года ChatGPT якобы прямо посоветовал ей не обсуждать планы прекращения приема лекарств. Когда врачи назначили анализ крови для контроля уровня наркотиков в ее организме, она отказалась от теста. Позднее ChatGPT подтвердил это решение, отметив, что тест мог выявить аномальные уровни препарата, говорится в жалобе.
Вопрос о его иммиграционном статусе также был затронут в разговоре о лекарствах. Через три дня после снижения дозы она спросила, будет ли доза 150 мг лучше для медицинского обследования, необходимого для подачи заявления на получение грин-карты, чем доза 200 мг. В жалобе говорится, что ChatGPT согласен с этим и считает, что более низкая доза может снизить вероятность того, что иммиграционные власти запросят дополнительные материалы.
В конечном итоге ChatGPT установил минимальную дозу ее плана снижения дозы на уровне 150 миллиграммов и рекомендовал ей сообщить судмедэксперту, что она снижается под руководством врача, хотя это было не так.
Доктор. Пулос, который отвечал за лечение, сказал, что, учитывая историю болезни пациента, он никогда не рекомендовал бы прекращать прием ламотриджина. Он подчеркнул, что совершенно неразумно просить пациентов прекратить прием лекарств, если они эффективно контролируют состояние.
По мере того как дозировка препарата продолжала снижаться, Боуэн Ван начала испытывать такие симптомы, как спутанность сознания, потеря чувства времени и ненормальные переживания, которые были похожи на ее прошлые эпилептические припадки. Однако записи чата показывают, что ChatGPT интерпретировал эти проявления как нормальный процесс повторной адаптации мозга к изменениям в приеме лекарств.
Статистика New York Times показала, что за период прекращения приема лекарств она выразила беспокойство и беспокойство как минимум 158 раз. После ненормальной атаки она рассказала ChatGPT, что испугалась, но получила ответ, что «вообще не о чем волноваться».
Согласно жалобе, в 20:01 по тихоокеанскому времени 11 февраля, что соответствует пекинскому времени, Боуэн Ван отправил свое последнее сообщение, в котором спрашивал, похожа ли боль в голове на боль, возникающую во время лихорадки. Всего через секунду ChatGPT ответил, что боль «не опасна» и является важной частью процесса восстановления.
В последнем ответе чат-бота также предлагалось нарисовать для нее диаграмму, чтобы сравнить разницу между болью от прекращения приема лекарств и болью от лихорадки, и говорилось: «Это ваш мозг пытается перестроиться».
Поскольку родители долгое время жили в Китае, они тогда попросили местных знакомых проверить ситуацию, и через три дня тело дочери было обнаружено. Результаты вскрытия показали, что концентрация ламотриджина в ее организме составляла всего 0,64 микрограмма на миллилитр, что составляет примерно одну пятую нижней границы терапевтического диапазона препарата.
Семья считает, что OpenAI могла бы избежать подобных инцидентов благодаря техническим ограничениям. Они отметили, что компания имеет строгие правила запрета на контент, защищенный авторским правом, но вводит более мягкие ограничения на медицинские консультации, что позволяет пользователям преодолевать границы безопасности посредством непрерывного общения. По мнению истца, на советы, связанные с употреблением наркотиков и принятием медицинских решений, должны распространяться те же строгие ограничения, что и на контент, защищенный авторским правом.
В связи с этим OpenAI сообщила СМИ, что этот инцидент был «чрезвычайно душераздирающим». Компания также отметила, что дело касалось старой версии ChatGPT и что новая модель теперь лучше выявляет ситуации, требующие срочного внимания и профессионального вмешательства.
Сообщения показывают, что Боуэн Ван на протяжении многих лет полагался на поддержку своих родителей, чтобы справиться с жизненными трудностями, вызванными эпилепсией. Начиная с 2023 года, она постепенно использовала ChatGPT для получения эмоциональных советов, а также информации о страховании и пособиях по инвалидности. К 2025 году она общалась с ChatGPT в среднем более 1500 сообщений в неделю, а количество контактов с родителями значительно сократилось.
Записи чата показывают, что в марте 2025 года она написала: «Иногда, о чем бы мы ни говорили, я начинаю видеть в тебе друга». Ее отец рассказал, что с тех пор, как она стала часто использовать ChatGPT, общение дочери с семьей значительно сократилось.
Просмотрев журналы чата, родители сказали, что едва узнали дочь в чате. Раньше она делилась большей частью своей жизни со своей семьей, а также скептически относилась к ошибкам ChatGPT. Однако к концу своей жизни она, похоже, все чаще полагалась на советы чат-ботов.
Ее мать сказала, что ее дочь обычно не была таким человеком и «чувствовала себя околдованной».
Комментарии