Аннотация:
Юта, США, продолжает расширять сферу применения медицинского искусственного интеллекта и позволяет системам искусственного интеллекта напрямую оценивать пациентов, принимать решения о планах лечения и выписывать рецепты при определенных условиях. С запуском новых пилотных программ Юта становится одним из самых агрессивных полигонов для регулирования медицинского ИИ в США.
Этот новый проект запущен медицинским стартапом в области искусственного интеллекта Nolla Health и ориентирован в основном на пациентов с акне легкой и средней степени тяжести. Сначала пользователям необходимо сделать фотографию лица через приложение и заполнить историю болезни и личную информацию. Затем ИИ анализирует состояние кожи, оценивает тяжесть прыщей, а затем выбирает подходящий план лечения из списка одобренных препаратов на основе медицинской информации, предоставленной пациентом.
В отличие от традиционной телемедицины, суть этого процесса заключается в том, чтобы не позволить ИИ сначала провести обследование, а затем поставить окончательный диагноз врачом. Вместо этого он позволяет ИИ принять окончательное решение о том, назначать ли лекарство, и отправить рецепт непосредственно в аптеку, указанную пациентом.
Однако проект не полностью исключил участие врачей с самого начала. На начальном этапе пилотного проекта каждый рецепт, созданный с помощью ИИ, должен будет быть проверен и подписан лицензированным врачом штата Юта. По мере реализации проекта участие врачей будет постепенно сокращаться, что в конечном итоге позволит ИИ выписывать квалифицированные рецепты без предварительного рассмотрения врачами.
В соответствии с пилотным соглашением, объявленным официальными лицами штата Юта, Nolla Health в настоящее время может лечить акне легкой и средней степени тяжести только у взрослых пациентов, а диапазон рецептов строго ограничен небольшим количеством лекарств для местного применения, включая специальные кремы и гели. Систему нельзя использовать для лечения тяжелых форм прыщей, а также нельзя назначать более рискованные варианты лечения, такие как пероральные препараты или изотретиноин.
Пациенты также должны пройти проверку личности и возраста, а рецепты можно отправлять только на адреса штата Юта. Для пациентов с тяжелой формой акне, беременных или планирующих забеременеть, кормящих грудью, с нарушенной иммунной системой и побочных реакций на родственные лекарства система искусственного интеллекта должна остановить автоматический процесс назначения и передать его медицинскому персоналу.
Причина, по которой Юта может провести такой эксперимент, связана с системой «регулятивной песочницы ИИ», созданной штатом в последние годы. Система позволяет компаниям тестировать продукты искусственного интеллекта под надзором правительства, временно освобождая от некоторых существующих нормативных требований в четко определенных пределах.
Это означает, что компания не получает неограниченную «медицинскую лицензию на ИИ», но после подписания соглашения с правительством штата и соответствующими регулирующими органами она может проводить испытания конкретных продуктов, конкретных заболеваний и конкретных групп в течение ограниченного времени. Предприятиям по-прежнему придется соблюдать другие законодательные требования, которые не исключены из соглашения.
На самом деле, ранее в этом году Юта стала первым штатом в США, где ИИ разрешил самостоятельно пополнять запасы рецептов. Тогда компания Doctronic запустила медицинский сервис искусственного интеллекта, который мог бы повторно назначать некоторые лекарства от хронических заболеваний пациентам, прошедшим длительное лечение, без непосредственного участия врачей.
Эта программа охватывает около 190 широко используемых неконтролируемых препаратов, но не включает обезболивающие, инъекционные препараты и некоторые препараты, используемые для лечения СДВГ. Пациентам необходимо сначала пройти проверку личности и медицинской информации, а затем ИИ решит, разрешить ли пополнение запасов на основе прошлых рецептов и текущего состояния пациента.
Нынешняя новая политика штата Юта означает, что медицинские испытания ИИ переходят от «автоматического пополнения» к «первому рецепту». Между ними есть четкая разница: повторная заправка означает, что пациенту ранее врач прописал план лечения, а назначение впервые означает, что ИИ должен принимать новые клинические решения, исходя из текущего состояния пациента.
Поэтому проекту Nolla Health уделяется особое внимание.
Власти штата Юта требуют от Nolla Health, чтобы на ранних этапах программы два сертифицированных врача проверяли каждый рецепт. По мере реализации проекта метод аудита может постепенно меняться на пост-аудит и выборочную проверку, но каждый раз, когда он переходит на новый этап, он должен получить письменное одобрение правительства штата.
Компании также должны приобрести страхование профессиональной ответственности и сообщать регулирующим органам о неблагоприятных событиях после их возникновения. В то же время аптеки должны быть четко проинформированы о том, что рецепты генерируются системами искусственного интеллекта, и иметь возможность связываться с соответствующими врачами для решения проблем.
Регулирующие органы штата Юта также требуют от компаний не продавать и не передавать данные пациентов для других целей и должны регулярно предоставлять данные о деятельности проекта, включая такие показатели, как степень согласованности между ИИ и мнением врача.
Правительство штата Юта полагает, что эта модель поможет выяснить, может ли ИИ снизить медицинские расходы в некоторых распространенных медицинских сценариях с низким уровнем риска и облегчить проблему нехватки ресурсов врачей. Для некоторых пациентов с относительно простыми заболеваниями возможность пройти обследование и выписать лекарства через мобильный телефон потенциально может сократить время и расходы на поездку в клинику.
Однако в медицинском сообществе существуют очевидные разногласия по поводу этой модели.
Критики считают, что даже при, казалось бы, простых заболеваниях врачам необходимо учитывать возраст пациента, историю болезни, прием других лекарств, аллергию и некоторые клинические сигналы, которые нелегко обнаружить с помощью стандартизированных вопросов и ответов при назначении лекарств. Если вы полностью полагаетесь на ИИ в принятии решений, то если система пропустит важную информацию, это может привести к неправильному лечению.
Ранее в этом году испытание безопасности системы пополнения запасов лекарств с использованием искусственного интеллекта в штате Юта также вызвало споры. Исследователи безопасности использовали относительно простые словесные атаки, чтобы заставить соответствующие системы искусственного интеллекта выдавать неправильные медицинские рекомендации, включая неправильное увеличение дозировки определенных лекарств и предоставление рекомендаций по опасным лекарствам. Такие тесты еще раз подчеркивают различия между медицинским ИИ и обычными чат-ботами.
Один из самых больших рисков медицинского ИИ заключается в том, что неправильные ответы обычных чат-ботов могут просто привести к получению вводящей в заблуждение информации. Однако, как только медицинский ИИ получит право назначать лекарства, ошибки могут напрямую привести к реальным медицинским последствиям.
Поэтому нынешний пилот в Юте на самом деле исследует очень важный вопрос: при каких условиях искусственный интеллект может превратиться из «вспомогательного инструмента для врачей» в «исполнителя медицинских решений».
Сторонники считают, что ИИ не обязательно заменяет врачей, но может выполнять большое количество стандартизированных, повторяющихся задач с относительно низким уровнем риска. Например, простая оценка кожных заболеваний, пополнение запасов лекарств при длительно хронических заболеваниях и другие ситуации, соответствующие четким клиническим рекомендациям, могут стать первыми областями, в которых ИИ войдет в медицинскую систему.
Противники утверждают, что даже если некоторые случаи кажутся простыми, нельзя предполагать, что все пациенты соответствуют стандартной модели. Особенно когда ИИ имеет право предписывать, цена системных ошибок будет значительно выше, чем обычные ошибки информационных вопросов и ответов.
В настоящее время штат Юта не позволяет ИИ «стать врачом» без ограничений. Как лечение прыщей Nolla Health, так и предыдущие проекты пополнения запасов лекарств с помощью искусственного интеллекта строго ограничены конкретными лекарствами, конкретными пациентами и конкретными процессами, и компании должны соглашаться на постоянный надзор.
Однако с точки зрения развития отрасли значение Юты по-прежнему имеет особое значение. В прошлом медицинский ИИ в основном использовался для распознавания изображений, вспомогательной диагностики, сбора медицинских записей и поддержки принятия решений врачом, но теперь ИИ постепенно начинает приобретать реальные полномочия по принятию клинических решений.
Если эти пилотные проекты смогут доказать, что ИИ может безопасно выполнять некоторые медицинские задачи с низким уровнем риска при строгих ограничениях и постоянном анализе, тогда другие штаты США могут обратиться к аналогичным моделям в будущем, чтобы еще больше ослабить сферу применения ИИ в медицинской сфере.
И наоборот, если во время пилотного процесса произойдут серьезные медицинские ошибки, система подвергнется атаке или суждения ИИ значительно отклонятся от решений профессиональных врачей, то эксперимент в Юте также может стать важным поводом для регулирующих органов ужесточить полномочия медицинского ИИ.
Каким бы ни был конечный результат, продолжающийся эксперимент в Юте означает явные перемены: этап проникновения искусственного интеллекта в медицинскую отрасль постепенно переходит от «помощи врачам в работе» к «непосредственному принятию медицинских решений в ограниченном объеме». Сможет ли ИИ взять на себя эту ответственность, больше не будет просто техническим вопросом в лаборатории, а будет все чаще проверяться на реальных пациентах и реальных рецептах.
Комментарии