Недавно, когда некоторые пользователи сети использовали Doubao для поиска Ли Юаньхуна, деятеля из Китайской Республики, появилась отфотошопленная фотография актера Фань Вэя.Этот инцидент с улуном может показаться забавным, но на самом деле он выявил лазейки в аутентичности искусственного интеллекта в распознавании изображений и поиске информации. Многие пользователи сети жаловались, что ИИ недостаточно строг и допускает развлекательные ошибки при поиске серьезных исторических личностей, что влияет на точность получения информации.
По официальному объяснению, ошибка возникла из-за распространенного в Интернете недоразумения: Ли Юаньхун и Фань Вэй внешне очень похожи. Пародийный снимок PS во время кастинга «Основание партии» в 2010 году получил широкое распространение, гораздо шире, чем реальные исторические фотографии. Некоторые фотогалереи и энциклопедии были включены по ошибке, в результате чего приоритет поиска AI соответствовал этому очень популярному составному изображению.
Подобные ошибки в ИИ, по сути, являются типичным проявлением информационной иллюзии.
Эксперты отмечают, что крупные модели полагаются на обучение сетевым данным и не имеют возможности самопроверки. Когда в сети неоднократно появляется неверная информация, ИИ легко выводит ее как правильные результаты, что приводит к ситуации «серьезной ерунды».
Полностью устранить галлюцинации с помощью современных технологий сложно, а уровень ошибок можно снизить только за счет оптимизации источников данных и улучшения проверки поиска.
Этот инцидент также вызвал среди пользователей сети дискуссии о надежности ИИ. Некоторые люди высмеивают, приведут ли поиски других исторических личностей к подобным ошибкам. Некоторые пользователи также поделились своим опытом введения в заблуждение ошибочной информацией ИИ и призвали повысить точность контента ИИ.
В настоящее время соответствующие платформы оптимизируют логику поиска, отдавая приоритет продвижению изображений авторитетных исторических материалов, чтобы уменьшить влияние дезинформации в Интернете.
