韓国科学技術院(KAIST)は7月7日、同院の研究チームが、人工知能(AI)エージェントの反復推論や外部ツール利用に伴う計算負荷と電力消費を実際のサービス環境で初めて体系的に分析したと発表した。研究成果は2月、第32回IEEE高性能コンピューター・アーキテクチャ国際シンポジウム(HPCA 2026)で発表された。

リュ・ミンス(Minsoo Rhu)教授（右上）と研究チームメンバー

大規模言語モデル(LLM)を用いるAIアプリケーションは、質問に答えるだけでなく、自ら計画を立て、ウェブ検索、計算機、コード実行環境などを使い、複数の処理を連携して複雑な課題を解くAIエージェントへ発展している。一方、実際の運用に必要な電力や費用は、ほとんど明らかになっていなかった。

KAIST電気工学部のリュ・ミンス(Minsoo Rhu)教授率いる研究チームは、AIエージェントを、データセンターのサーバーや画像処理装置(GPU)で継続的に処理する新たなワークロードと捉えた。分析の結果、AIエージェントは、推論過程を段階的に分ける従来の思考連鎖(CoT)よりもLLMをはるかに多く呼び出し、応答時間は最大153.7倍に延びた。外部ツールの処理中には、GPUが全実行時間の最大54.5％にわたり待機し、高価な計算資源を十分に活用できない非効率も生じた。

AIエージェントの主な特徴とインフラへの影響
(出典：いずれもKAIST)

700億パラメーターのLLMを使うAIエージェントは、1回の要求当たり平均348.41Whを消費し、単純な質疑応答を行う従来の生成AIの136.5倍だった。また、現在のグーグル検索に相当する1日137億件の要求を想定すると、データセンターの電力需要は約198.9GWに達し、米国の平均電力消費量の約半分に相当すると推計した。

筆頭著者は同学部博士課程のキム・ジイン(Jiin Kim)氏で、チームは研究に用いたAIエージェントの実装とベンチマークをオープンソースで公開した。同教授は「AIがどれほど賢くなるかだけでなく、その知能の実現と維持に必要な電力と費用を初めて定量的に示しました」と述べ、AIエージェントのモデル、半導体、データセンター、電力インフラを一体的に最適化する協調設計の重要性を指摘した。

サイエンスポータルアジアパシフィック編集部