オーストラリア連邦科学産業研究機構(CSIRO)は8月20日、AIのバイアスは技術的な誤りにとどまらず、データの選択や安全対策などを決める人間の意思決定に起因するため、より包摂的なAIエコシステムが必要だとする解説記事を掲載した。

ムニーラ・バノ(Muneera Bano)博士(左)とディダー・ゾウギ(Didar Zowghi)教授(右)
(出典：CSIRO)

米国では、人事管理ソフトウェア大手Workdayが、AI採用選考ツールによって年齢、障害、人種などに基づく差別が生じたとの申し立てを巡り、訴訟に直面している。同社は申し立てを否定している。記事は、AIが差別を再現・増幅すると、技術的誤りと構造的不公正の境界が曖昧になり、バイアスがデジタル上の害になると指摘する。

執筆者のムニーラ・バノ(Muneera Bano)博士とディダー・ゾウギ(Didar Zowghi)教授は2025年の研究で、OpenAIのGPT-4とMicrosoft Copilotに、4職種300人の候補者プロフィールを使った模擬採用を行わせた。両モデルは、特に上級職で男性を優先し、生成画像も若く、痩せ、肌の色が明るい技術者に偏った。言語、画像、雇用記録や、誰がその職業にふさわしいかという思い込みに埋め込まれた関連付けを再現していたという。

同年の別の研究では、報告されたAI関連事例を人手で精査した結果、ほぼ半数に多様性または包摂性の問題があり、人種、ジェンダー、年齢による差別が顕著だった。原因は、多様性に欠ける訓練データや、設計・開発・導入時に多様性と包摂性の原則が軽視されたことなど、AI開発ライフサイクルの各段階に及んだ。

データは現実の中立的な記録ではなく、何を収集し、どう分類し、誰の経験を重視するかを人間が決める。個別の属性では公平に見えるシステムも、ジェンダー、人種、年齢、障害、階級などが交差する人々を不利にし得る。

記事は、バイアスの特定、データセットの再調整、出力調整に加え、AI技術者への社会科学教育、影響を受ける集団の実質的参加、便益・誤り・害が集団間で公平に分配されるかの検証を求める。導入組織にも、リスク検討や稼働後の監視、問題対応の責任者を置くなど、より強いガバナンスが必要だとしている。

サイエンスポータルアジアパシフィック編集部