Аннотация:
Помимо обращения к врачу, альпинизм на открытом воздухе, очевидно, является одной из областей, где люди «никогда не должны слепо верить в ИИ». Недавно, когда несколько молодых альпинистов поднялись на гору Шаста (Mount Shasta) в округе Сискию, Калифорния, США, они едва не стали причиной катастрофы из-за чрезмерной зависимости от чат-робота Google AI Gemini. Первоначально ИИ предсказал, что путешествие займет всего 8 часов, но в итоге им потребовалось вдвое больше времени, чтобы достичь вершины горы, в результате чего у всех возникли серьезные проблемы.
Трое альпинистов рассказали, что при подготовке к этому походу они в основном пользовались Google Gemini, YouTube и туристическим приложением AllTrails. Помимо того, что они полагаются на искусственный интеллект при планировании маршрутов, они даже позволяют чат-боту предлагать им еду и питьевую воду. В то время Близнецы советовали брать с собой простые сахара и углеводы, а не жиры на ожидаемый восьмичасовой подъем, поскольку жир «переваривается слишком долго». Прислушавшись к этому совету, члены команды подготовили лишь очень ограниченное количество воды и припасов, которых, по их мнению, было достаточно, чтобы справиться с этим «относительно коротким» подъемом.
29 августа трое альпинистов разбили базовый лагерь недалеко от истоков Клир-Крик. По данным San Francisco Chronicle (SFGate), кемпинг в этом районе фактически запрещен. В 3 часа ночи следующего дня они втроем официально свернули лагерь и отправились на восхождение. Однако фактическая степень сложности намного превысила оценку ИИ. Это было не раньше 7 часов вечера. 30 августа, после 16 часов тяжелого перехода, они наконец достигли вершины. Этот момент времени уже намного превысил рекомендуемую местную норму возврата в 12 часов дня.
После достижения вершины ситуация ухудшилась. Телефон, который они использовали для просмотра навигационных маршрутов AllTrails, полностью разрядился и выключился. С наступлением ночи один из членов команды пробирался вперед в темноте, чтобы сэкономить свет фар. К сожалению, он упал и повредил колено на высоте около 11 500 футов (около 3 500 метров). Видя, что запасы еды и воды исчерпаны, а теплой одежды и укрытий, необходимых для ночлега, у них нет, запаниковавшие альпинисты наконец позвонили в службу 911 за помощью.
Из-за сильного ветра в горной местности спасательный вертолет дважды не смог спуститься и подняться. Лишь в 9:30 утра 31 августа сотрудники лесного патруля наконец связались и успешно спасли троих попавших в ловушку людей. Впоследствии эти напуганные молодые люди на допросе патрульных признались: «Мы слишком полагаемся на искусственный интеллект, но пренебрегаем собственным критическим мышлением».
В наши дни нередко слепо следовать советам чат-ботов с искусственным интеллектом и терпеть негативные последствия. Ранее фермер следовал указаниям чат-бота по прополке и борьбе с вредителями, что непосредственно привело к гибели 25 акров посевов; кто-то также страдал редким психическим расстройством XIX века из-за следования диетическим советам ChatGPT; и 19-летний молодой человек предположительно обратился за индивидуальной медицинской консультацией к ChatGPT, который порекомендовал смертельную комбинацию лекарств, которая в конечном итоге привела к смерти клиента и вызвала судебный иск против OpenAI.
Комментарии