米国のシンクタンク「カーネギー国際平和基金(Carnegie Endowment for International Peace)」は1月9日、生成人工知能(AI)が社会にもたらす変化の測定にあたり検討すべき問いを提示する論文を公開した。

この論文は、同基金の情報環境プロジェクト(Information Environment Project)が開催した専門家16名とのワークショップの成果に基づき作成された。事前の文献調査から、2019年から2024年までに発表された情報環境への生成AIの影響に関する86本の論文のうち、実際の影響を測定した研究は9本のみであり、しかも実験室での1回限りの実験であったことが明らかになった。この結果を受け、ワークショップでは観測可能な変化を測定するアプローチを検討した。議論を通じて浮かび上がったのは、変化の測定において検討すべき次の4つの問いである。

1. AI生成コンテンツを確実に判別できるのは、どのような検出方法か
2. 変化を測定するためのベースラインをどう設定するのか
3. 観察対象のシステムは複雑なものか、それとも管理されたものか
4. 新しい技術以外にシステムに影響を与える要因は何か、それらをどのように考慮に入れるか

論文では、これらの問いそれぞれについて詳細に考察し、AI生成コンテンツの検出については、人間の知覚による方法、機械学習による計算的手法、コンテンツ生成時の透かしなどによる出自確認という3つのアプローチがあるものの、それぞれに限界があること、また、情報が過去に体系化されていない場合や国民感情のような無形要素の測定が必要な場合、変化を測定するためのベースラインの設定は難しいことを指摘している。さらに、病院や法廷のような管理された環境では影響の測定は比較的容易だが、複雑で秩序なシステムは測定がはるかに困難なことも課題となる。

最後に同論文は、技術の進歩と新たなAIプロバイダーの参入が続く中、生成AIが情報エコシステムにおいて果たす役割を理解することが極めて重要になると指摘した。

サイエンスポータルアジアパシフィック編集部