Аннотация:
Корейский передовой институт науки и технологий (KAIST) и Microsoft Research Asia разработали новый тип технологии интерфейса «мозг-компьютер», который может в режиме реального времени определять, неправильно ли искусственный интеллект понял намерения пользователя, путем анализа волн человеческого мозга и соответствующим образом корректировать свое поведение. Исследовательская группа считает, что эта технология, как ожидается, поднимет искусственный интеллект на новую ступень от «подчинения инструкциям» к «пониманию намерений».
Исследователи назвали эту технологию «Выравнивание нейронных ценностей (NVA)». Система использует электроэнцефалографию (ЭЭГ) для мониторинга нейронной активности пользователей, когда они наблюдают, как искусственный интеллект выполняет задачи. Когда ИИ ставит неправильную цель или выполняет действие, не ожидаемое пользователем, мозг генерирует конкретный сигнал ошибки прогнозирования. Система может фиксировать эти изменения и преобразовывать их в информацию обратной связи, позволяя ИИ осознать, что в его понимании имеется отклонение.
Хотя искусственный интеллект уже давно демонстрирует мощные возможности во многих областях, в общении между людьми и ИИ по-прежнему часто возникают недопонимания. Даже если пользователь дает подробные подсказки, ИИ может генерировать релевантные, но неточные результаты, как ожидалось. Исследовательская группа считает, что корень проблемы в том, что искусственный интеллект в основном полагается на внешнюю информацию, такую как язык, действия и жесты, для определения намерений, а само это поведение часто неоднозначно.
Исследователи привели пример: взяв чашку, человек может выпить воды, почистить чашку, переместить чашку или передать ее кому-то другому; И наоборот, если цель состоит в том, чтобы утолить жажду, люди также могут достичь ее разными способами, например, взяв чашку, бутылку с водой или попросив других о помощи. Часто невозможно точно определить истинную цель, просто наблюдая за самим поведением.
Чтобы решить проблему «неоднозначности целей и действий», исследовательская группа обратила внимание на сам человеческий мозг. Когда фактические результаты не соответствуют ожиданиям людей, мозг естественным образом генерирует особые сигналы об ошибках прогнозирования. Система NVA использует этот нейронный ответ как дополнительный источник информации, помогающий искусственному интеллекту определить, в каком звене у него возникли недопонимания.
Исследовательская группа сосредоточилась на двух типах нервных сигналов головного мозга. Один тип — это «ошибка прогнозирования вознаграждения», которая отражает, соответствует ли результат личным целям и ценностным ожиданиям; другой тип - это «ошибка прогнозирования состояния», которая отражает, соответствует ли реальная ситуация процессу, ожидаемому мозгом. Анализируя эти два сигнала одновременно, система может не только обнаруживать ошибки в понимании ИИ, но также определять, возникают ли ошибки на целевом уровне или на уровне метода выполнения.
Результаты экспериментов показывают, что после введения обратной связи ЭЭГ искусственный интеллект может более точно сделать вывод об истинном намерении пользователя и заблаговременно корректировать отклонения во время выполнения задачи без необходимости для пользователя постоянно повторять инструкции или выдавать новые инструкции.
Исследовательская группа заявила, что этот результат, как ожидается, будет применен к таким сценариям, как роботы, системы совместной работы человека и машины и интеллектуальные помощники. Например, когда будущий домашний робот выполняет задачу и обнаруживает реакцию «это не тот результат, который мне нужен» в сознании пользователя, он может заранее скорректировать свой план действий, не дожидаясь явных инструкций.
Исследователи считают, что это означает, что в будущем искусственный интеллект больше не сможет просто пассивно реагировать на команды, но сможет использовать технологию интерфейса «мозг-компьютер», чтобы понимать истинные намерения людей, скрытые за языком, тем самым достигая более естественного и эффективного взаимодействия человека и машины. Поскольку соответствующие исследования продолжают развиваться, интеллектуальные системы следующего поколения, которые смогут воспринимать когнитивную обратную связь человека и изменять поведение в реальном времени, могут постепенно стать реальностью.
Комментарии