ニュージーランドのオークランド大学は6月15日、人工知能(AI)は人間の代替物ではなく能力を高める増幅器であり、限界を理解したうえで人間の監督を確保すべきだとする同大学研究者の見解を紹介する記事を公開した。

同大学工学・デザイン学部のソフトウェア工学上級講師でDeepNet Discovery Network創設ディレクターのレザ・シャハミリ(Reza Shahamiri)博士は、AIを巡り、雇用喪失、データプライバシー、ディープフェイクの拡散、自動化が社会的交流に及ぼす影響への不安が広がる中、AIの｢知能｣は人間の知能とは性質が異なると指摘した。

ChatGPTやGeminiなどの大規模言語モデルは、数千億語の単語、コードリポジトリ、画像を含む大規模データで訓練され、単語間の数学的関係を使って自然な人間の言語を模倣する。質問に答える際も、データベースから事実を取り出すのではなく、学習した統計的パターンに基づき、次に来る可能性が最も高い語を推測している。このため、訓練データ外の概念に弱く、事実と異なる回答を自信を持って生成するハルシネーションを起こすことがある。

人間の子どもは、少数の例で猫と犬を見分け、その概念を未知の品種にも応用できるが、AIモデルが同等の結果を得るには数万枚の画像と膨大な計算能力を要する。人間の知能が限られた経験から有用な抽象概念を作る効率性を持つのに対し、現在のAIは力任せのデータ消費に依存している。また、人間は意味や文脈、感情を通じて情報を解釈するが、AIには感情も意識もなく、紛争地域の写真から同情的な文章を生成しても、機械にとって画像や言葉に内在的な意味はない。

AIが有能に見える背景には、規模と外部ツールの利用がある。複雑な計算では電卓やコードインタープリターに処理を渡し、自動運転車では人間が書いた安全制御がAIの予測を上書きしてブレーキを作動させる。さらにAIは、不正確さや偏り、古い情報を含む訓練データの欠陥を反映し、安全でないコードを生成することもある。同博士は、専門家によるレビューと品質管理、規制やセキュリティー上のガードレールを整えたうえで、AIを人間のエンジニアを置き換えるものではなく、既存のエンジニアチームの能力を高める道具として使う必要があるとしている。

サイエンスポータルアジアパシフィック編集部