韓国の光州科学技術院(GIST)は10月3日、人工知能(AI)融合学科(Department of AI Convergence)のキム・スンジュン(Seung Jun Kim)教授率いる研究チームが、自動運転車で使用される視覚認識システムのセキュリティ脆弱性を診断する新しい敵対的攻撃アルゴリズムを開発したと発表した。研究成果は学術誌IEEE Robotics and Automation Lettersに掲載された。

自動運転車は安全に運行するため、歩行者や車両、車線、信号など道路上のさまざまな対象物をリアルタイムで認識する必要がある。これを可能にする技術にピクセルの集まりを識別し、さまざまな特性に従って分類するセマンティック・セグメンテーションモデルがある。この研究成果は、セマンティック・セグメンテーションモデル上で潜在的な攻撃を事前に特定することで、より安全で信頼性の高い自動運転システムの開発に貢献することが期待される。

深層学習ベースのモデルは、最近、敵対的攻撃として知られる巧妙なデータ操作に対して脆弱であることが明らかにされている。人間の目ではほとんど識別できないわずかな変化でさえ、モデルが歩行者を道路標識として誤認識したり、信号を無視したりする原因となり、安全上のリスクをもたらす。これに対応するため、研究チームは、セマンティック・セグメンテーションモデルの構造的特性に着目し、既存の攻撃手法よりもはるかに高い精度で脆弱性を露呈させる新たな攻撃技術を開発した。

実験結果から、研究チームが新たに開発した手法は既存の手法と比較して自動運転車の視覚認識モデルを3.4倍の確率で妨害し、昼夜を問わず著しく高い攻撃成功率を示した。研究チームは、この技術が自動運転を超えたさまざまなAIアプリケーションの安全性向上に役立つと期待しており、これには高度道路交通システム(ITS)、スマートシティのセキュリティ、ロボティクス、国防分野が含まれる。

同教授は、「本研究は、自動運転車の視覚認識システムの基本的な脆弱性を体系的に分析するための手段を提供します。最も脆弱なシナリオを事前に分析・診断することで、より堅牢な防御戦略を開発し、最終的に自動運転車の安全性と信頼性を大幅に向上させることができます」と述べた。

サイエンスポータルアジアパシフィック編集部