シンガポールのデジタル開発・情報省(MDDI)は1月22日、組織がエージェント型人工知能(AI)を責任を持って導入・運用するための指針を示した「エージェント型AI向けモデルAIガバナンスフレームワーク」を公表した。

同フレームワークは、シンガポールの情報メディア開発庁(IMDA)が開発したもので、2020年に導入されたモデルAIガバナンスフレームワーク(MGF)を基盤としている。エージェント型AIは、従来のAIや生成型AIとは異なり、ユーザーに代わって推論を行い、タスクを完了するための行動を取ることができる点が特徴とされている。

一方で、AIエージェントは機密データへのアクセスや、顧客データベースの更新、支払いの実行など、利用環境に直接影響を与える操作を行う可能性がある。このため、不正または誤った行動が生じるリスクや、自動化システムを過度に信頼してしまう自動化バイアスといった課題が指摘されている。IMDAは、こうした特性を踏まえ、エージェント型AIに対する人間による意味のある制御と監督を維持することが重要だとしている。

フレームワークでは、エージェント型AIの導入に際して組織が講じるべき技術的および非技術的対策を以下の4つの側面から整理している。

• 利用目的に応じた事前のリスク評価と権限設定
• 人間の承認を必要とする重要な判断点の明確化
• エージェントのライフサイクル全体にわたる技術的管理とプロセス整備
• 透明性の確保と教育・訓練を通じた利用者の責任強化

策定にあたっては、政府機関および民間組織からの意見が反映された。Resaro社のエイプリル・チン(April Chin)共同CEOは、「エージェント型AI特有のリスクに対応する初の権威あるリソースであり、組織がエージェントの境界を定義し、リスクを特定し、エージェント型ガードレールといった緩和策を実装するための基盤を確立します」と述べている。

サイエンスポータルアジアパシフィック編集部