韓国科学技術院(KAIST)は9月11日、同院の研究者らが、脳波から人間と人工知能(AI)の認知的不一致を検出し、人間の目標に合わせてAIがリアルタイムで行動を修正する脳コンピューターインターフェース(BCI)技術を開発したと発表した。研究成果は学術誌IEEE Transactions on Cyberneticsに掲載された。

左から:ヤンセン・ワン(Yansen Wang)氏、ドンチー・ハン(Dongqi Han)氏、シン・シュー(Xin Xu)氏、ドンション・リー(Dongsheng Li)氏。右上:イ・サンワン(Sang Wan Lee)特任教授

AIは従来、発話や行動、ジェスチャーなど外部から観察できる情報を基に人間の意図を推定してきた。しかし、コップを手に取る行動には、飲む、他人に渡すなど異なる目標があり、喉の渇きを癒すという同じ目標も複数の行動で達成できる。この｢目標と行動の曖昧性｣により、AIが意図を誤解すると、利用者は追加の指示や行動で修正する必要があった。

図1 ニューラル・バリュー・アラインメント(NVA)の概念

KAIST脳認知科学科のイ・サンワン(Sang Wan Lee)特任教授の研究チームは、マイクロソフト・リサーチ・アジア(MSRA)と共同で、予想外の状況で脳内に無意識に生じる予測誤差信号に着目した。AIが最終目標を誤解した時に現れる報酬予測誤差(RPE)と、目標は正しいが行動の過程や方法が予想と異なる時に現れる状態予測誤差(SPE)を区別。AIの課題遂行を観察する人の脳波(EEG)を測定し、目標と方法のどちらが誤っているかによって異なる信号と、両方の誤りが同時に生じた時の特徴的な脳波パターンを特定した。

図2 報酬予測誤差(RPE)と状態予測誤差(SPE)に対する異なる脳反応

研究チームは深層学習を用い、脳波だけから人がAIの行動をどう解釈しているかを判定する｢ニューラル・バリュー・アラインメント(NVA)｣を開発した。さらに、解読した脳信号をAIにリアルタイムでフィードバックし、SPEなら行動戦略を調整し、RPEなら人間が本当に意図した目標を再探索させるアルゴリズムを提案した。シミュレーションでは、人間の目標が突然変化した場合や神経フィードバックの一部が欠けた場合でも、既存手法より迅速に適応した。

筆頭著者はKAIST博士課程のシン・シュー(Xin Xu)氏で、MSRAのヤンセン・ワン(Yansen Wang)氏、ドンチー・ハン(Dongqi Han)氏、ドンション・リー(Dongsheng Li)氏も参加した。同特任教授は、フィジカルAI、自動運転、精密な個別化教育、医療ロボットなどへの拡張が可能だと述べた。

図3 人間の目標が予期せず変化した場合のAIの適応
(出典：いずれもKAIST)

サイエンスポータルアジアパシフィック編集部