【ACT12日】　　　AIによるディープフェイク検出プログラムの研究者は、生成された顔画像があまりに精巧になった結果、今では本物の人間のほうが疑わしく見えてしまう状況になっていると指摘している。

AIディープフェイクを見抜くための新たなトレーニングプログラムを主導する専門家は、進化し続ける技術との関係は「いたちごっこ」だと認めた。

オーストラリア国立大学は、人間の写真とAI生成画像を見分ける能力を約40％向上させる新プログラムを開始した。ただし研究責任者は、AI側もいずれ検出を回避する新たな方法を見つけるのは時間の問題だとしている。

このプログラムではまず、参加者に複数の顔写真（実在とAI生成が混在）を提示し、本物と偽物を見分けさせる。その後、見分け方の講習を受けたうえで再度同じ課題に挑戦する仕組みだ。

主任研究者エイミー・ドーウェル教授によると、その結果、識別能力は約40％向上した。「顔認識に優れた人でも、最初は思ったほど見分けられない。多くの人が自分の精度の低さに驚き、その後の改善にも驚く」と述べた。また「自信がある人ほど誤りが多い傾向がある」とも指摘した。

技術の進化により見分けは年々難しくなっており、かつてのような“指が多い”“イヤリングが左右で違う”といった分かりやすい特徴はほぼ見られなくなっている。「AIの顔は平均的で目立たず、むしろ魅力的に見えることもある。そのため人間はAI画像の識別が苦手になっている」と説明した。

研究では、見分けるための6つのポイントとして「特徴性」「記憶しやすさ」「比率」「対称性」「魅力」「表情の豊かさ」を挙げている。特に対称性は重要で、AI生成の顔は不自然なほど左右対称になりやすい一方、実在の人間は個性やわずかな歪みがあるという。

ディープフェイクの悪用も深刻化しており、出会い系でのなりすましや銀行口座への不正アクセス、パスポート偽造などに使われていると指摘されている。また逆に、実際の映像や写真であっても「ディープフェイクだ」と主張して責任逃れに使われるケースもある。専門家は、AI詐欺による世界経済への損失が来年末までに400億豪ドルに達する可能性があると見ている。

ニューサウスウェールズ大学のトビー・ウォルシュ教授は、「もはや自分の目を完全には信じられない時代になった」と述べ、教育とデジタル透かしの重要性を強調した。デジタル透かしとは、画像などに埋め込まれる不可視の識別情報で、出所の特定に役立つ技術だ。

アデレード大学のヴォルフガング・マイヤー准教授は、こうした技術の進化の背景には大手テック企業間の競争があると指摘する。「意図的にディープフェイクを作っているわけではないが、技術の普及に伴う副産物だ」と述べた。さらに、今後は“何があるか”ではなく“何がないか”に注目する必要があるとし、「ディープフェイクは完璧すぎる。現実の人間にあるはずの小さな欠点を探すことが重要だ」と説明した。

AI自身による見分け方の例としては、手足の不自然さ、肌の不自然な滑らかさ、髪の生え際の不自然さなどが挙げられている。また、最も効果的なのは画像を拡大して細部を確認することで、目や耳、手などを200～300％に拡大すると違和感が見つかりやすいとされている。

ソース：news.com.au – Spotting AI deepfakes a ‘cat and mouse game,’ top expert warns