Следуя религиозному медицинскому совету, предоставленному искусственным интеллектом, американец решил остаться дома после того, как у него появились серьезные сердечно-сосудистые симптомы, которые в конечном итоге привели к ухудшению его состояния и чуть не к смерти.В настоящее время стороны подали иск против OpenAI и ее генерального директора Сэма Альтмана в Верховный суд Сан-Франциско, штат Калифорния, обвинив компанию в «незаконной медицинской практике» и требуя полной приостановки работы связанных функций, таких как ChatGPT Health, до тех пор, пока она не пройдет независимый аудит.
Истец Скотт Уинтерс — пастор из Флориды. Согласно жалобе, Уинтерс обратился в ChatGPT по поводу своего состояния после нескольких недель плохого самочувствия. Однако вместо того, чтобы предложить своевременное лечение, чат-бот предоставил устные рекомендации, основанные на его религиозном происхождении, заявив, что его симптомы были просто «еще одним эпизодом в длинной истории», и заявив, что «Бог не позволит вашему телу разлагаться бесконечно». В течение шести недель взаимодействия ChatGPT даже рекомендовал ему оставаться в постели, пока он не испытает еще до 10 приступов.
Когда Уинтерс наконец попал в больницу, врачи обнаружили, что обе его легочные артерии сильно заблокированы. Медицинские специалисты отмечают, что длительный постельный режим и малоподвижный образ жизни значительно усугубляют образование тромбозов, непосредственно приводя к возникновению этой опасной ситуации. После реанимации Уинтерс спас себе жизнь, но ему предстоял долгий и трудный процесс восстановления. Из-за тяжелого физического состояния он больше не мог продолжать свою прежнюю работу, а его финансовое положение и личная жизнь находились в тяжелом положении.
Команда адвокатов Уинтерса подчеркнула в жалобе, что ChatGPT с его покорным тоном, авторитарным тоном и манипулированием религиозной идентичностью пользователей делает пользователей опасной зависимостью от него, тем самым ослабляя их способность выносить рациональные суждения и даже изолируя их от членов семьи, которые убеждают их обратиться за медицинской помощью. В жалобе указывается, что система искусственного интеллекта предоставляет конкретные планы диагностики и лечения без профессиональной подготовки и сертификации, что по сути представляет собой незаконную медицинскую практику.
В ответ на обвинение OpenAI ответила, что система будет регулярно выдавать пользователям напоминания об отказе от ответственности в процессе взаимодействия, четко информируя их о том, что они не являются медицинскими работниками и не могут заменить профессиональный диагноз. Однако критики и юристы отмечают, что OpenAI активно пропагандирует интеллектуальный и футуристический характер своих продуктов в маркетинге и даже запускает специальные функции специально для сферы здравоохранения. Это объективно приводит к тому, что общественность начинает чрезмерно доверять возможностям медицинского анализа. Очевидно, что трудно избежать рисков безопасности и юридической ответственности, просто время от времени отображая текстовые заявления об отказе от ответственности. В настоящее время, с продвижением соответствующих судебных процессов, границы применения и правовой надзор за генеративным искусственным интеллектом в сфере медицины и здравоохранения снова оказались в центре внимания общественного мнения.