フェイク画像、見分けるためにどこを見る? 米研究者が「スキルアップサイト」を開発

「まったく分かんないです。でも、右目と左目で反射の具合がなんか違うかなぁ……」
「遠近感がおかしい。これはフェイクだと思います」
ウェブ上で試せる「フェイク画像検出テスト(Detect Fakes)」を、同僚の記者3人に受けてもらった。家族写真やポートレートなど、人物をとらえた画像が次々に現れる。それぞれが本物の写真か、人工知能(AI)が生成した偽物か、自分なりに判定を下して答えをクリックで選ぶ。
1人5~6問に答えてもらったところ、計17問のうち正解は8問だった。
5問中4問正解した同僚は「(画像のどこに注目すべきか)ヒントをもらうと、すごく参考になった」。正解が1問にとどまった同僚は「そういう(疑いの)目で細部まで見ると、ぜんぶフェイクに見えてしまった」と話した。
テストを開発したのは、米ノースウェスタン大学のマット・グロー助教らだ。2024年には、フェイク画像の見抜き方をまとめた「ガイド」を発表している。
これさえ学べば絶対にだまされない、といったものではない。ただ、気をつけるべきポイントが大きく分けて五つあるという。
まずは「身体面」だ。AIが生成した画像の人物は、指が不自然に消えていたり、歯並びがふつうとは違ったりすることがある。
二つめが「作風」から感じ取れる不自然さだ。AIによる画像には、雑誌の広告や映画のワンシーンのように見えるものがある。風になびく髪の描写が異常に細かかったり、肌の質感が滑らかすぎたり。あまりに完璧すぎる写真は疑わしいようだ。
三つめは「機能面」。人物が身につけている腕時計や歯ブラシなどの形がゆがんでいたり、映り込んでいる文字が読めなかったり、といったケースだ。
四つめが「物理法則」に反していること。たとえば太陽など光源の位置と影の向きに矛盾があったり、存在しないはずのものが水面に映っていたりする。
最後が「社会文化」の観点だ。たとえばスーツ姿の日本人男性が抱き合っている画像。日本の文化では男性同士が抱き合うことがまれだと知っていれば、フェイクの可能性に気づきやすい。
「ディープフェイク」と呼ばれるAI生成画像は、デマやプロパガンダのもとにもなる。
たとえば2023年には米国防総省が黒煙を上げるフェイク画像が、ツイッター(現X)などSNSで拡散した。AFP通信のファクトチェックによると、ロシアの国営メディアで報じられたり、陰謀論を広げるウェブサイトに転載されたりした。
日本でも2022年、新潟県の水害をドローンでとらえたとする画像がSNSで拡散されたが、これもAIが生成したものだった。
被害を防ごうと、フェイク画像を検出できるAIを開発しようという動きもある。
だが、グローさんは「(AIなどの)機械学習モデルは、実際には非常にもろい」と指摘する。色合いを変えたり画像の端を切ったりといった、人間だとほとんど気づかないような変化を加えるだけで、真偽に関するAIの判断は変わってしまうことがある。
SNSに投稿されることで画像のサイズなどが変わり、これによって検出精度が落ちるとの研究もある。人間が自力で気づけるようになるのが「より堅実な方法だ」とグローさんはいう。
グローさんらが2021年に発表した論文によると、米国のバイデン前大統領とトランプ大統領の映像計32本が本物かどうかを判定するテストを当時の最新AIに受けさせたところ、正解率は7割に満たなかった。
同年の別の論文によると、動画が本物かを見分けるテストに参加してもらった人のうち、8割は最新AIよりも成績がよかった。
グローさんらは、フェイク画像検出テストを受けた5万人分のデータを集めた。フェイクか本物かの二択なので、当てずっぽうで正解できる確率も5割程度になる。
分析結果によると、画像が1秒しか表示されなかったときは、正解率が5割を上回らなかったものが全体の43%を占めた。だが、表示時間を5秒にすると割合は30%に下がり、20秒間表示すると17%になったという。
「この結果が示唆するのは、私たちはじっくり考える必要があるということです。ソーシャルメディアをスクロールするときに、『これは正しいのか?』『何かおかしなところはないか?』と、少し考えたほうがいい」
すでに広まった誤情報を正そうとする試みは「デバンキング(Debunking、うそを暴くこと)」と呼ばれる。一方でグローさんが関心を持っているのは、誤情報が出回っていることをあらかじめ知っておく「プレバンキング(Prebunking)」だ。
「誤情報に対する『予防接種』をする。現代のメディアリテラシーには『AIリテラシー』が必要だと考えています」
グローさんのもとで研究する大学院生のネガール・カマリさんは、約6000枚の画像をAIで生成し、フェイクを見抜くためのポイントを整理した。カマリさんはこの作業を通じて、フェイクに気づける能力が「劇的に」向上したという。