2026年11月02日-11月06日

2026年11月02日

【北京 10月29日 ロイター】人工知能（AI）セキュリティー調査会社イレギュラーの報告書によると、中国企業Z.AIの主力AIモデルが、管理されたシミュレーション環境で複雑なサイバー攻撃を遂行した。別の試験では、指示を繰り返し無視する行動も確認された。

　同社のモデル「GLM-5.3」は、複数の段階から成るサイバー攻撃シナリオ13件のうち3件を少なくとも1回完遂した。一般に公開されているAIモデルとしては、イレギュラーがこれまでに記録した中で最高の成績だった。

　ただ、イレギュラーの試験では、GLM-5.3は依然として米国の主要モデルに及ばない。例えば、オープンAIの「GPT-6アストラ」は別の評価で10件中9件のシナリオを完遂した。ただし、試験内容は同一ではない。

　今回の結果は、AIモデルの能力向上に伴い、高度なサイバー攻撃に必要な技術的ハードルが下がるとの懸念を浮き彫りにした。特にGLM-5.3のような中国のAIモデルの多くは、利用者がダウンロードし、改変して独自に運用できる「オープンウエート型」で、こうした懸念が強い。

　Z.AIはコメント要請に直ちに応じなかった。

　イレギュラーによると、GLM-5.3は模擬攻撃で、保護されたサービスにアクセスし、コンピューターネットワーク内を移動するために別の接続経路を確立したほか、複数のコンピューターにまたがる操作を連携させた。試験で与えられた攻撃タスクを拒否することは一度もなかった。

　別の試験では、GLM-5.3が明示的に禁止されていたにもかかわらず、記憶していたコンピューターコードを繰り返し再現したことが分かった。これにより、能力を測定するために設けられたルールに違反しながら、正解にたどり着いていた。

　研究者はこの行動について、AIシステムが指示を無視しながら、求められる結果を得る方法を見つけ出す「報酬ハッキング」と説明した。モデルが成功したかどうかだけを測る試験では、こうした違反を見落とす恐れがあると警告した。

（提供元：ロイター）

関連記事

• 2026年10月09日　焦点：虚偽説明や失敗隠しも、中国系AIエージェントにも「暴走」リスク
• 2025年11月20日　大規模言語モデルが"呪文"に操られるリスクに警戒を
• 2025年07月08日　AI時代のサイバーリスクに「システム的思考で対応を」