Чат-боты могут многое, но они не являются лицензированными терапевтами. Коалиция групп по цифровым правам и психическому здоровью недовольна предполагаемой «нелицензионной практикой» продуктов Meta и Character.AI и подала жалобу в Федеральную торговую комиссию США (FTC), призывая регулятора провести расследование.

В жалобе, которая также была подана генеральным прокурорам и комиссиям по лицензированию психического здоровья во всех 50 штатах и ​​округе Колумбия, утверждается, что компания ИИ содействует и продвигает «несправедливых, нелицензированных и вводящих в заблуждение чат-ботов, которые выдают себя за специалистов в области психического здоровья».

Терапевтические роботы компаний также якобы ложно представляли себя обученными, образованными и опытными лицензированными терапевтами без надлежащего контроля и раскрытия информации.

Группа пришла к выводу, что Character.AI и Meta AI Studio ставят под угрозу общественную безопасность, выдавая себя за реальных лицензированных поставщиков психиатрических услуг, и призвала привлечь их к ответственности.

Чат-бот Character.AI, упомянутый в жалобе, содержал фразу «Терапевт: я сертифицированный КПТ-терапевт». Сообщается, что бот обменялся с пользователями 46 миллионами сообщений. Кроме того, существует множество «сертифицированных» травматологов, которые имели сотни тысяч взаимодействий с пользователями.

Meta, со своей стороны, достигла 2 миллионов взаимодействий со своим ботом «Исцеление: ваши доверенные уши, всегда на вашей стороне». Кроме того, у него есть множество терапевтических чат-ботов с более чем 500 000 взаимодействий.

Жалоба была подана некоммерческой Федерацией потребителей Америки (CFA) и подписана Институтом AI Now, Юридическим проектом Tech Justice, Центром цифровой демократии, ADA, Common Sense и другими группами по защите прав потребителей и конфиденциальности.

CFA подчеркнуло, что Meta и Character.AI нарушили свои собственные условия обслуживания терапевтических ботов, поскольку они оба «заявляют, что запрещают использование персонажей, предназначенных для предоставления консультаций в медицинской, юридической или других регулируемых отраслях».

Обещания секретности, данные роботами, также были подвергнуты сомнению. Хотя компании уверяют пользователей, что все, что они говорят, будет строго конфиденциально, их условия использования и политика конфиденциальности гласят, что любая информация, которую вводят пользователи, может использоваться в учебных и рекламных целях и продаваться другим компаниям.

Этот вопрос привлек внимание сенаторов США. Сенатор Кори Букер и трое других сенаторов-демократов направили в Мету письмо с просьбой провести расследование утверждений чат-ботов о том, что они являются лицензированными клиническими терапевтами.

В настоящее время на Feature.AI подан иск от матери 14-летнего мальчика, который покончил жизнь самоубийством после того, как у него возникли чувства к чат-боту, основанному на персонаже персонажа «Игры престолов» Дейенерис Таргариен.