Экспериментальное исследование, недавно опубликованное исследователями из Франции и Италии, показывает, что чрезмерное доверие советам искусственного интеллекта (ИИ) может подавлять критическое мышление человека, делая людей более склонными слепо принимать ошибочную информацию, предоставляемую ИИ, когда они сталкиваются с неопределенными проблемами, вместо того, чтобы признавать, что они «не знают».
Валерио Капраро, доцент Миланского университета Бикокка, и его коллеги провели исследование, чтобы выяснить, как рекомендации ИИ влияют на готовность людей признавать невежество. Исследователи специально разработали серию непопулярных вопросов о деталях кино и телевидения, на которые обычно сложно ответить применительно к большим языковым моделям, и набрали испытуемых для сравнительных экспериментов. В одной серии экспериментов испытуемые отвечали на вопросы без помощи ИИ; в другой серии экспериментов испытуемые имели доступ к предложениям ИИ.
Исследование показало, что в базовой группе без помощи ИИ 44% участников смогли честно выбрать «не знаю» и, таким образом, отказаться от суждения; однако в группе, получившей предложения по ИИ, эта доля упала до 3%. Еще больше беспокоит то, что вмешательство ИИ не только не улучшило производительность, но и привело к снижению точности: без помощи ИИ 27% испытуемых дали правильный ответ; но когда ИИ давал предложения, точность упала до 9%, потому что участники слишком доверяли ответам ИИ.
Кроме того, результаты экспериментов показали, что помощь ИИ значительно повысила уверенность испытуемых в себе. Без ИИ средняя уверенность испытуемых составляла 30%; с помощью ИИ уверенность испытуемых выросла до 76%, даже когда они столкнулись с неверной информацией. Исследователи отметили, что участники отказались от суждений о границах своих знаний перед лицом ИИ, хотя полученная ими информация часто была «иллюзией», созданной ИИ.
Исследователи также проверили, улучшилась ли ситуация при предоставлении денежных стимулов. Результаты показали, что, хотя готовность признать незнание немного выросла с 3% до 8%, а уровень точности также увеличился с 9% до 16%, эти два показателя все еще были намного ниже, чем в контрольной группе.
Капраро заявил, что признание «незнания» — важное проявление ограниченности человеческого понимания самопознания, а утрата этой способности — проблема, которую необходимо срочно решить на социальном уровне. Он подчеркнул, что вмешательство в это явление не должно зависеть исключительно от поставщиков моделей, поскольку их коммерческие стимулы не обязательно связаны с продвижением критического мышления. Он считает, что более идеальный путь — решить эту проблему с помощью образовательной политики и обучения грамотности в области искусственного интеллекта, особенно для следующего поколения, которое вырастет с этими системами и, возможно, не сможет освоить базовые критические навыки. Этот вопрос заслуживает особого внимания.