Аннотация:
На искусственный интеллект возлагают все больше и больше ожиданий, а некоторые даже полагают, что будущие технологии искусственного интеллекта будут достаточно мощными, чтобы лечить рак, так что о сегодняшних рисках для здоровья больше не стоит беспокоиться. Шьям Санкар, технический директор американской компании по анализу данных Palantir, недавно заявил, что некоторые исследователи искусственного интеллекта начали курить, чтобы выразить свою твердую уверенность в будущих медицинских прорывах ИИ. Это заявление быстро привлекло внимание, а также снова донесло до общественности восторженные ожидания Кремниевой долины в отношении искусственного интеллекта, а также риски, которые может принести технологический оптимизм.
Санкар рассказал об инциденте в интервью программе новостей CBS «Лицом к нации». Он сказал, что некоторые исследователи ИИ полагают, что искусственный интеллект в конечном итоге сможет вылечить рак и начать курить, чтобы показать окружающим, насколько они доверяют этой технологии.
Санкар передал мысли этих людей: «Я очень верю в ИИ и верю, что он может в конечном итоге вылечить рак, поэтому я готов вложить в него все свои силы». По его мнению, курение стало символическим поведением, как бы для того, чтобы показать своим сверстникам, что их уверенность в будущих возможностях искусственного интеллекта достигла такой точки, что не оставляет места для отступления.
Однако Санкар не раскрыл личности этих исследователей и не предоставил доказательств, доказывающих, насколько распространено это явление. Поэтому до сих пор неясно, является ли это реальной тенденцией в узком кругу Кремниевой долины или частным случаем, который преувеличен.
Санкар сделал это заявление не для того, чтобы похвалить действия этих исследователей, а для того, чтобы раскритиковать почти религиозную веру некоторых людей в Кремниевой долине в искусственный интеллект. Он считает, что ожидания некоторых специалистов-практиков в отношении общего искусственного интеллекта (AGI) вышли за рамки обычного оптимизма в отношении новой технологии и начали демонстрировать своего рода иррациональный социально-психологический феномен.
В интервью Санкар процитировал идею французского философа Блеза Паскаля о том, что в человеческом сердце существует «пустота в форме Бога». Он считает, что некоторые люди в Кремниевой долине заполнили эту духовную пустоту своей верой в искусственный интеллект и рассматривают будущий ОИИ как силу, способную решить фундаментальные проблемы человечества.
Он описал это явление как «бог машины». По словам Санкара, некоторые люди не только верят, что искусственный интеллект может значительно улучшить производительность и научные исследования, но и начинают рассматривать его как окончательное средство решения болезней, старения и даже других серьезных социальных проблем. Эта вера может привести к тому, что они недооценят реальные риски и создадут нереалистичные ожидания относительно того, чего действительно могут достичь технологии.
Санкар далее назвал это «коллективным безумием» и «социальным заблуждением». Его критика не ограничивается оптимистами в области искусственного интеллекта, но также затрагивает некоторых людей, которые крайне пессимистично относятся к потенциальным опасностям искусственного интеллекта. По его мнению, независимо от того, верит ли он, что ОИИ решит все проблемы или что это неизбежно приведет к катастрофам, он может довести свои суждения о будущем до крайностей без достаточных доказательств.
Что касается самого феномена курения, то в последние годы появились сообщения о том, что некоторые предприниматели, инженеры и инвесторы в Кремниевой долине вновь принимают этот образ жизни, который многие в технологической отрасли считали нездоровым.
Это резко контрастирует с культурой оптимизации здоровья, преобладающей в Кремниевой долине в последние годы. Раньше некоторые основатели технологических компаний увлекались отслеживанием сна, мониторингом показателей крови, принятием холодных ванн и испытанием различных образов жизни и вмешательств, направленных на продление здоровой жизни. Сегодня некоторые люди в технологических кругах начали рассматривать сигареты как социальный инструмент и даже использовать их для создания более повседневного и менее изысканного личного имиджа.
Для некоторых из этих людей курение может быть просто возможностью наладить связи в офисе или в обществе. По сравнению с официальной встречей, совместное курение на улице может облегчить неформальную беседу, а иногда и помочь построить отношения. Другие считают, что курение делает их менее похожими на типичного технологического предпринимателя.
Однако вера в то, что искусственный интеллект может вылечить рак, также может стать для некоторых людей причиной начать курить.
Ави Шиффманн, основатель стартапа по производству носимых устройств с искусственным интеллектом Friend, ранее высказывал аналогичные взгляды. Он сказал, что к тому времени, когда у людей действительно разовьется рак легких, роботы с искусственным интеллектом уже смогут лечить эту болезнь.
Это мышление отражает противоречивую футуристическую логику: если искусственный интеллект произведет революцию в медицине в ближайшие годы или десятилетия, то долгосрочные последствия некоторых вредных действий сегодня, вероятно, будут компенсированы будущими технологическими достижениями.
Однако с этим рассуждением есть очевидные проблемы. Даже если искусственный интеллект сможет помочь ученым в будущем разработать более эффективные методы лечения рака, это не означает, что риски для здоровья, вызванные курением, исчезнут. Курение не только связано с раком легких, но также увеличивает риск развития многих других видов рака и может привести к сердечно-сосудистым заболеваниям, инсульту и хроническим заболеваниям легких.
Кроме того, зачастую от открытия потенциального метода лечения до доказательства его безопасности и эффективности и до его окончательного одобрения и широкого применения зачастую требуется длительный процесс исследований и клинических испытаний. ИИ может помочь исследователям анализировать данные, находить кандидатов на лекарства или планировать эксперименты, но эти возможности не являются прямой заменой медицинской проверки.
Даже если в будущем появится технология искусственного интеллекта, которая сможет значительно улучшить эффективность лечения некоторых видов рака, нет никакой гарантии, что все виды рака можно вылечить, не говоря уже о том, что лечение будет доступно каждому вовремя, когда оно ему понадобится. Различные виды рака имеют огромные различия в биологических механизмах, прогрессировании заболевания и реакции на лечение. Медицинские прорывы обычно требуют долгосрочного накопления, а не немедленного достижения за счет повышения вычислительной мощности.
Что еще более важно, вред здоровью, вызванный курением, не ограничивается раком. Длительное курение увеличивает риск ишемической болезни сердца, инсульта, хронической обструктивной болезни легких и других заболеваний, которые не будут автоматически решены будущими достижениями в лечении рака.
Поэтому не существует надежной научной основы для использования уверенности в будущих медицинских достижениях ИИ в качестве причины игнорировать текущие риски для здоровья.
Споры вокруг искусственного интеллекта также становятся все более поляризованными. Некоторые люди полагают, что продвинутый ИИ значительно ускорит скорость научных открытий и будет способствовать прорывам в исследованиях и разработках лекарств, диагностике заболеваний и персонализированном лечении; другие обеспокоены тем, что по мере того, как возможности систем искусственного интеллекта продолжают расти, люди могут потерять контроль над некоторыми ключевыми технологиями и даже столкнуться с серьезными социальными рисками и рисками для безопасности.
Этот разрыв особенно остро стоит в Кремниевой долине. Некоторые исследователи и руководители предприятий возлагают большие надежды на AGI, полагая, что он может решить проблемы, которые люди уже давно не смогут решить в будущем; другие предупреждают, что системы искусственного интеллекта с быстро растущими возможностями могут принести непредсказуемые опасности.
Интересно, что эти два, казалось бы, противоположных взгляда иногда приводят к схожей поведенческой логике. Если один человек твердо верит, что ИИ быстро решит такие проблемы, как рак и старение, он может подумать, что нет необходимости слишком беспокоиться о сегодняшних рисках для здоровья; если другой человек считает, что продвинутый ИИ может в конечном итоге уничтожить человечество, он также может подумать, что долгосрочное планирование здравоохранения потеряло свой смысл.
Любой образ мышления может заставить людей игнорировать выбор и обязанности, которые все еще существуют в реальной жизни.
Однако потенциал искусственного интеллекта в медицине не полностью основан на фантазии. Исследователи уже изучают возможности использования ИИ для анализа биологических данных, определения потенциальных целей лекарств, разработки молекул-кандидатов и ускорения некоторых исследовательских процессов. Кандидаты в лекарства, созданные с помощью ИИ, также начали вступать в стадию экспериментальной проверки.
Однако от открытия молекул-кандидатов до разработки по-настоящему эффективных лекарств еще предстоит пройти долгий путь. Предварительные результаты лабораторных исследований не соответствуют эффекту лечения на людях, а изменения в некоторых биомаркерах не обязательно означают, что пациенты будут жить дольше или улучшат свое здоровье.
Поэтому разумные ожидания научного сообщества в отношении медицинского применения ИИ должны основываться на воспроизводимых экспериментальных результатах, строгих клинических испытаниях и надежных оценках безопасности, а не на предопределении того, что будущие технологии смогут устранить сегодняшние риски.
Замечания Санкара также раскрывают более глубокую проблему, с которой в настоящее время сталкивается индустрия искусственного интеллекта: когда от технологии возлагают слишком много ожиданий, выходящих за рамки ее текущих возможностей, люди больше не могут оценивать ее на основе фактических данных, а начинают строить вокруг нее целую систему убеждений.
В этом случае сам технологический прогресс может стать поводом для игнорирования реальных проблем. Люди больше не спрашивают, доказано ли лечение, но верят, что решение будет доступно в будущем. Вместо того, чтобы серьезно взвесить сегодняшние риски, люди верят, что будущих технологий будет достаточно, чтобы компенсировать сегодняшний выбор.
Искусственный интеллект действительно может изменить медицинские исследования и помочь ученым разработать более эффективные методы лечения. Однако по-прежнему существует огромная неопределенность между этой возможностью и тем, что «рак в конечном итоге будет излечен», не говоря уже о том, есть ли основания для рационализации курения.
На данный момент независимых данных о том, сколько исследователей искусственного интеллекта причастно к феномену курения, описанному Санкаром, по-прежнему недостаточно. Несомненно то, что дискуссия вокруг искусственного интеллекта больше не ограничивается производительностью моделей, ценностью для бизнеса и технической безопасностью. Также начали затрагиваться вопросы о том, как люди понимают будущее, как противостоять неопределенности и изменит ли чрезмерное доверие к технологиям поведение в реальной жизни.
Искусственный интеллект, возможно, сможет помочь людям победить больше болезней в будущем, но до того, как соответствующие открытия будут по-настоящему подтверждены, полагаться на невыполненные медицинские обещания, чтобы нести известные риски для здоровья, очевидно, не является научно обоснованным вариантом.
Комментарии