韓国科学技術院(KAIST)は5月29日、同院の研究チームが、大規模言語モデル(LLM)サービング・インフラを実際に構築する前に性能と効率を検証できるシミュレーターを開発し、同研究がコンピューターシステム性能分析分野の国際会議ISPASS 2026で最優秀論文賞を受賞したと発表した。

左から、パク・ジョンセ(Jongse Park) 教授、チョ・ジェホン(Jaehong Cho)氏、チェ・ヒョンミン(Hyunmin Choi) 氏

開発されたシミュレーター｢LLMServingSim 2.0｣は、ChatGPTのようなLLMサービスを支える数万台規模のサーバーを実際に構築する前に、性能や効率をコンピューター上で事前検証する仮想テストベッドである。高価な大規模サーバー設備を用いずに、複雑なAIサービス環境における多様なハードウエアとソフトウエアの組み合わせを分析し、設計案を試すことができる。

同技術は、従来の画像処理装置(GPU)中心の環境に加え、次世代AI半導体として注目されるニューラル・プロセッシング・ユニット(NPU)や、メモリー内で演算するプロセッシング・イン・メモリー(PIM)にも対応する。特定の半導体を導入した場合のサービス速度の向上、消費電力の低減、数万台規模へ拡張した際の安定動作を、仮想データセンター環境で再現・分析できる。

研究用画像(AI生成画像)
(出典：いずれもKAIST)

さらに、データ処理、リクエスト分散、メモリー利用など、実際のAIサービス運用で生じる複雑な動作をシステムレベルで再現する。複数のサーバー資源を分離し、接続して利用するディスアグリゲーテッド・インフラも分析でき、LLMサービス企業やAI半導体スタートアップによる次世代AIインフラの設計・最適化にも活用が期待される。

本研究は、KAISTコンピューティング学部のパク・ジョンセ(Jongse Park)教授の研究チームが実施し、同学部修士課程のチョ・ジェホン(Jaehong Cho)氏とチェ・ヒョンミン(Hyunmin Choi)氏が共同筆頭著者として主導した。研究チームは2024年にも、コンピューターシステムのワークロード分析に関する国際会議IISWCで最優秀論文賞を受賞している。同教授は｢AIサービスの競争力はモデル自体だけでなく、それを安定的かつ効率的に運用するインフラ技術によっても決まります｣と話す。

サイエンスポータルアジアパシフィック編集部