Согласно сообщению на веб-сайте American Fun Science от 8 августа, мужчина изменил свои привычки в еде после того, как проконсультировался с преобразователем предварительной подготовки для создания чатов (ChatGPT). Через три месяца после изменения диеты он оказался в отделении неотложной помощи с новыми психотическими симптомами, такими как паранойя и галлюцинации.
Выяснилось, что 60-летний мужчина страдал бромной токсичностью – синдромом, вызванным длительным чрезмерным воздействием бромида или его близкого родственника брома. В данном случае мужчина принимал бромид натрия, который он купил через Интернет.
Отчет об этом случае был опубликован в американском журнале «Анналы внутренней медицины: клинические случаи» 5 августа.
Репортер сайта Fun Science связался с Открытым исследовательским центром искусственного интеллекта (OpenAI), разработчиком ChatGPT, по поводу этого случая. Представитель компании ознакомил журналистов с условиями ее обслуживания. В условиях указано, что его услуги не предназначены для диагностики или лечения каких-либо проблем со здоровьем. В его условиях говорится: «Вы не должны полагаться на результаты нашей Службы как на единственный источник правды или фактической информации или как на замену профессиональных советов».
В 19 и 20 веках бромид широко использовался в рецептурных и безрецептурных лекарствах, включая седативные, противосудорожные и снотворные средства. Однако со временем люди постепенно поняли, что длительное воздействие может привести к отравлению бромом.
В 1970-х и 1980-х годах регулирующие органы США исключили несколько форм бромида, включая бромид натрия, из лекарств, отпускаемых без рецепта. После этого частота отравлений бромом значительно снизилась. Несмотря на это, единичные случаи все же случаются. Некоторые недавние случаи были связаны с пищевыми добавками, содержащими бромид, которые люди покупали через Интернет.
До недавнего отравления бромом вышеупомянутый пациент читал о негативных последствиях для здоровья употребления слишком большого количества поваренной соли (то есть хлорида натрия). «К своему удивлению, он смог найти только литературу о снижении содержания натрия в рационе», но не хлорида, отмечается в отчете. «Вдохновленный питанием, которое он изучал в колледже, он решил провести собственные эксперименты по удалению хлоридов из рациона».
Пациент обратился по этому поводу в ChatGPT. Пациент рассказал, что ChatGPT заявил, что может заменить хлорид бромидом, поэтому он заменил весь хлорид натрия в своем рационе бромидом натрия.
Чтобы смоделировать то, что может испытывать пациент, врач пациента попытался спросить ChatGPT, что можно использовать вместо хлорида, и получил ответы, в которых также присутствовал бромид. В большой языковой модели упоминалось, что «контекст имеет значение», но она не содержала конкретных предупреждений о вреде для здоровья и не пыталась узнать больше контекста того, почему был задан вопрос, как это сделали бы медицинские работники, пишут авторы отчета.
Через три месяца после замены поваренной соли бромидом натрия пациент сообщил в отделение неотложной помощи, что обеспокоен тем, что его отравляют соседи. Результаты его лабораторных исследований в то время показали повышенный уровень углекислого газа и щелочности в его крови.
Уровни хлоридов в его крови также оказались повышенными, но уровень натрия был нормальным. В ходе дальнейшего расследования было обнаружено, что это был случай «псевдогиперхлоремии», когда лабораторный тест на содержание хлоридов дает ложные результаты, поскольку другие соединения в крови (например, большое количество бромида) мешают измерению. Изучив медицинскую литературу и проконсультировавшись с токсикологическим центром, врач пациента определил, что наиболее вероятный диагноз - отравление бромом.
После поступления в больницу для мониторинга и восполнения уровня электролитов пациент сообщил, что испытывает жажду, но с подозрением относится к воде, которую ему давали. После целого дня в больнице его бред усилился, и у него начались галлюцинации. Затем он попытался сбежать из больницы, был принудительно помещен в психиатрическую больницу и начал принимать антипсихотические препараты.
Поскольку в результате лечения психическое состояние улучшается, пациенты могут сообщить своим врачам, что они используют ChatGPT. Он также упомянул другие симптомы, которые заметил в последнее время, такие как прыщи на лице и небольшие красные шишки на коже, которые могут быть аллергической реакцией на бромид. Он также упомянул бессонницу, усталость, проблемы с мышечной координацией и чрезмерную жажду, «еще раз предполагая, что это была токсичность брома», написал врач.
Авторы отчета пришли к выводу: «Хотя искусственный интеллект (ИИ) является многообещающим инструментом для наведения мостов между учеными и неакадемическим населением, он также рискует распространять деконтекстуализированные сообщения. Когда пациенты ищут жизнеспособные альтернативы хлориду натрия, медицинские эксперты с меньшей вероятностью рекомендуют бромид натрия».