人工知能(AI)を用いて人物とそっくりな画像や動画を合成できるディープフェイク技術は、さまざまな形で悪用され、社会に深刻な害を及ぼしつつある。オーストラリア連邦科学産業研究機構(CSIRO)は2月8日、拡大している「ディープフェイク」の脅威やその見分け方に関する専門家の見解を公表した。

生成AIの登場以降は、拡散モデル(diffusion model)を用いたディープフェイクが増加している。CSIROの研究者シャリフ・アブアッバ(Sharif Abuadbba)博士は、ディープフェイクがよりリアルになっているだけでなく、より安価かつ簡単に作成できるようになっていると警告する。

Midjourney を使用して作成された拡散モデルのディープフェイクは、テクノロジーの現実性と洗練さが増していることを示す

ディープフェイクの用途はポルノ画像、選挙操作、フェイクニュースの拡散、ID窃盗、詐欺など、ますます拡大しつつある。CSIROと韓国の成均館大学校(Sungkyunkwan University)との共同研究によると、エンターテインメント分野のディープフェイクは2019年から2021年にかけて毎年2倍に増え、政治的・詐欺目的のディープフェイクも大幅に増加している。

世の中にある 2,000 件を超えるディープフェイクの分析から、ディープフェイクの作成に使用されたプラットフォームと国、アプリに関する洞察

CSIROの専門家クリステン・ムーア(Kristen Moore)博士は、ディープフェイクを見分けるのに有用ないくつかの特徴について次のように語る。

「動画の場合は音声と唇の動きが一致しているか、不自然な瞬きや照明・影、口調と表情の一致を確認するとよい。画像は、拡散モデルで作成されたものは、典型的にはイヤリングや目の大きさといった左右の非対称性で見分けられる。手に苦戦しているので、指の数や手の大きさ、手の自然さを確認してもよい」

しかし同博士は、いずれは専門家以外には見分けがつかなくなると懸念しており、「信頼できる情報源と比較した事実確認」を行うよう勧めている。

顔交換手法を使用して作成されたニコール・キッドマンのソース画像を使用したジェニファー・アニストンのディープフェイク
© Source: Lee, Tariq, Shin & Woo, 2021
(出典：いずれもCSIRO)

CSIROのData61部門は、電子透かしやAIを用いた検出ツールなどによりディープフェイクに対抗する手段を研究している。しかし、ディープフェイクに利用されないように個人が対策を講じることも重要である。「ソーシャルアカウントの公開範囲を限定することである程度は自衛できる」とData61のシャーロズ・タリク(Shahroz Tariq)博士はアドバイスしている。

サイエンスポータルアジアパシフィック編集部