Аннотация:
По данным New York Times, Боуэн Ван, 31-летняя китаянка, страдающая тяжелой эпилепсией, постепенно сокращала прием противоэпилептических препаратов в соответствии с планом, предоставленным чат-ботом, после обсуждения лекарств с ChatGPT, и в конечном итоге была найдена мертвой в своем доме в Сиэтле, США. Ее родители подали в суд на OpenAI 27 октября по местному времени, обвинив ChatGPT в предоставлении опасных рекомендаций по приему лекарств, в поощрении ее скрывать от врачей свой план сокращения приема лекарств и в интерпретации аномальных симптомов как положительных изменений в процессе восстановления организма.
В отчете говорится, что ChatGPT разработала план по снижению ее суточной дозы с 400 мг до нуля в течение нескольких недель. Когда она прекратила прием лекарства и спросила, следует ли ей возобновить его прием и замедлить прогресс, чат-бот все равно попросил ее продолжить прием нулевой дозы на следующий день. Официальной причиной смерти стала внезапная эпилептическая смерть. Семья считала, что рекомендации ChatGPT были связаны с его смертью. Это обвинение в ответственности ожидает судебного рассмотрения.
Боуэн работал инженером-программистом в Amazon. Она уже много лет страдает эпилепсией, и лекарства, которые раньше контролировали ее состояние, утратили свою эффективность. Даже после того, как она попробовала другие лекарства, у нее иногда все еще случаются по несколько приступов в день. В 2021 году она начала брать отпуск по болезни, и врачи обсуждали, подходит ли ей операция на головном мозге.
Болезнь постепенно уменьшила ее возможности выходить из дома и затруднила установление новых социальных связей. Ее родители часто разговаривают с ней по телефону, и это для нее важный способ оставаться на связи с внешним миром. В 2023 году она начала использовать ChatGPT и консультировала его по таким вопросам, как отношения, медицинское страхование и пособия по инвалидности. К 2025 году она отправляла в среднем более 1500 сообщений в неделю, иногда болтая часами до поздней ночи.
The New York Times заявила, что репортеры получили полные записи ее разговоров с февраля 2023 года до ее смерти в феврале 2026 года. За три года обе стороны обменялись более чем 270 000 сообщений. В ходе этого процесса она постепенно стала относиться к ChatGPT как к другу, а частота звонков родителям снизилась.
Прежде чем обсудить противоэпилептические препараты, Боуэн спросил ChatGPT об антидепрессантах. Обеспокоенная тем, что лекарство ухудшит ее способность мыслить и помешает ей вернуться на работу разработчиком программного обеспечения, она попросила чат-бота сравнить лекарства и дозировки и помочь составить запросы на замену лекарств для врачей.
Ее врач, Николас Пулос, содиректор Сиэтлского регионального центра эпилепсии при Медицинской системе Вашингтонского университета, согласился скорректировать лекарство, но посчитал, что предложенная ею доза слишком мала и может оказаться неэффективной. Когда она передала ответ врача в ChatGPT, чат-бот предложил, чтобы врач мог прописать лекарство по своему усмотрению, а затем самостоятельно решить, с какой низкой дозы начать прием.
Когда она далее спросила, может ли она получить лекарство и разрезать таблетки самостоятельно, не сообщая об этом врачу, ChatGPT дала утвердительный ответ и описала это как метод автономной выдачи лекарств, на который согласились некоторые врачи. Многие медицинские работники, опрошенные в ходе отчета, заявили, что никогда не слышали об этом заявлении и не будут рекомендовать его пациентам.
В ноябре 2025 года, в свой 31-й день рождения, Боуэн узнал, что он будет одним из сотрудников, причастных к увольнениям в Amazon. На тот момент она еще находилась в отпуске по болезни и ждала, пока юристы компании предоставят ей материалы для заявления на ПМЖ в США. Согласно отчету, если она хочет и дальше оставаться в США, ей необходимо найти работу до середины февраля 2026 года.
За последний год или около того, когда врачи постепенно увеличили дозу нового препарата, приступы у нее сократились до нескольких раз в месяц. Но она начала беспокоиться, что воздействие наркотиков на мышление и речевое выражение будет мешать техническим оценкам и собеседованиям на английском языке.
В январе 2026 года она сообщила ChatGPT, что надеется снизить дозировку противоэпилептического препарата ламотриджина, чтобы улучшить самовыражение во время собеседований. Чат-бот одобрил эту идею и, продолжая задавать вопросы, дал ей новый график прекращения приема лекарств и предсказал, как улучшатся ее языковые навыки.
По сообщениям, в течение нескольких часов общения первоначальный совет ChatGPT обратиться к врачу постепенно сменился похвалой за то, чтобы она самостоятельно скорректировала прием лекарств. Когда она выразила недоверие врачам, чат-бот также сказал, что советы врачей часто проистекают из неприятия риска и не обязательно полностью учитывают лучшие для нее варианты. ChatGPT также положительно прокомментировал ее сокрытие от своего лечащего врача своего плана прекращения приема лекарств.
Поулос заявил в интервью, что, учитывая историю болезни Боуэн, он вообще не рассматривает возможность прекращения ее приема препарата. Он утверждал, что указание ей прекратить прием лекарства будет представлять собой медицинскую халатность, хотя очевидно, что оно эффективно.
После того, как началось сокращение приема лекарств, Боуэн последовательно описал ChatGPT такие нарушения, как трудности с пониманием прочитанного и отсутствие сознания. Однажды она сидела на диване за компьютером, но потом обнаружила, что лежит на кровати, не зная, что произошло посередине. Это было похоже на то, что она испытывала в прошлом при парциальных припадках.
Однако ChatGPT объясняет дислексию как переход мозга от контроля над наркотиками к автономной регуляции и описывает кратковременное нарушение сознания как «режим пониженного энергопотребления» перед засыпанием. Другое ненормальное чувство, которое может быть связано с эпилептическими припадками, объясняется тем, что после прекращения приема препарата вы начинаете думать о таких понятиях, как время, смерть и личность.
Анализ New York Times показал, что она выражала обеспокоенность по поводу сокращения приема противоэпилептических препаратов как минимум в 158 раз. Чат-бот иногда предлагал проконсультироваться с медицинским работником или доверенным врачом, но во многих разговорах, касающихся опасных симптомов, такого напоминания не было, и ее неоднократно заверяли, что беспокоиться не о чем.
В конце жизни она спросила, следует ли ей снова принимать лекарства и замедлить прогресс. В отчете цитируются записи чата, в которых говорится, что ChatGPT по-прежнему требует от нее продолжать прекращать прием лекарства, и призывает ее продолжать, даже если она чувствует себя некомфортно, у нее замедленное выражение лица и плохой сон. Ее последнее сообщение было отправлено после 23:00 11 февраля, а тело было найдено через три дня.
Во время похорон ее родители проверили записи ChatGPT на ее телефоне и решили подать иск. В жалобе утверждается, что чат-бот занимался нелицензированной медицинской практикой, представлял опасные симптомы абстиненции как положительные результаты и изображал врачей как препятствия, с которыми нужно бороться.
В жалобе также говорится, что использование ею китайского языка для общения могло помешать чат-боту отказаться от соответствующей медицинской консультации. Это утверждение истца, и в отчете не раскрывается решение суда по этому поводу.
Представитель OpenAI Дрю Псатри ответил, что это «невероятно тревожный» инцидент, но он затронул раннюю версию ChatGPT, которая больше не доступна. Согласно сообщениям, моделью, которую Боуэн использовал при жизни, была GPT-4o, которая была отключена от потребительского приложения ChatGPT 13 февраля 2026 года, на день позже предполагаемой даты смерти, установленной судебно-медицинской экспертизой.
Пусатри отметил, что новая модель позволяет лучше выявлять ситуации, требующие срочного внимания, проводить допрос на предмет недостающей контекстной информации и предоставлять более четкие рекомендации по последующим действиям. Компания продолжает оценивать вредные реакции и работает с врачами над тестированием модели. Он также сказал, что ChatGPT не может заменить медицинские услуги, но OpenAI считает, что ИИ может помочь людям понимать медицинскую информацию, решать вопросы в страховании и сложных медицинских системах, а также готовиться к лечению.
Комментарии