ディープフェイク悪用の犯罪が多発　オンライン面接やリモートが危ない？日本にも警鐘

ディープフェイクは、人工知能（AI）を使って架空の写真や動画を生み出す技術のことだ。2010年代半ばくらいから、有名芸能人らの顔を移し替えたポルノ映像を販売する事例が現れ始めた。

FBIが警告を出したのは6月28日。「在宅でテレワーク勤務する職員たちがディープフェイクを利用していたという申告が増えている」という内容だ。犯罪者がディープフェイクで身分を隠し、企業に入り込む可能性に警鐘を鳴らしている。

ディープフェイクをめぐっては最近、世界各地で被害が相次いでいる。海外メディアによれば、英国で2019年、企業重役の声になりすまして当該企業関係者をだまし、数十万円を送金させようとした事件が起きた。

ロシアの反政権運動家アレクセイ・ナワリヌイ氏の側近、レオニード・ボルコフ氏になりすました人物が、ラトビアなどバルト三国の政治家らとビデオ通話を行ったと、イギリスのガーディアンが2021年4月に伝えた。

情報セキュリティー大手トレンドマイクロのセキュリティーエバンジェリスト岡本勝之氏によれば、AIによってなりすましたい人物の声を学習させる。プログラム次第では、声を同時変換することで、自然な会話も可能になるという。

岡本氏は「声の質を変えるだけのボイスチェンジャーと異なり、なりすましたい人の声になるのが特徴」と語る。ただ、ディープフェイクでは、なりすます人物の口調やよく使う言葉までは変換できない。

ディープフェイクによる犯罪は、金銭や情報の詐取にとどまらず、国家の行動をねじ曲げる可能性もあることがわかる。

2022年3月、ウクライナのゼレンスキー大統領になりすました人物が、ロシア軍への抵抗をやめるよう国民に呼びかけている動画が出回った。

同じ頃、イギリスのウォレス国防相が、ウクライナのシュミハリ首相になりすました人物とビデオ通話した。ウォレス氏は途中で異常に気づき、会話を打ち切った。

岡本氏によれば、ゼレンスキー氏のなりすまし映像では、顔が周囲から浮き上がったように見えた。慎重に見れば、偽者だと見破れる程度の技術だったという。ところが、ボルコフ氏のなりすまし映像は、より精度が高く、会話の内容などで判断するしかないほどだという。

FBIの警告は、せきやくしゃみなどでは、映像が乱れるケースがあるとしている。ディープフェイクの映像は他人の顔を貼り付ける原理のため、手で顔を触ったり頭をかいたりすると、不自然な映像になる可能性もある。

岡本氏は「コンピューターが突発的で複雑な動きについて行けるかどうかという問題。技術が高度になれば、くしゃみや、顔と手の動きにも対応できるようになるだろう」と語る。

一方、日本国内の状況はどうか。例えばディープフェイクは「オレオレ詐欺」にも転用されることになるのだろうか。

岡本氏によれば、ディープフェイクに利用可能なAI技術のソフトウェアは最近、オープンソースでも出回っている。「オレオレ詐欺」の犯罪者でも入手は可能だという。

ただ、AIで学習するためには、なりすます人物の写真や映像などの情報が必要だ。無作為に詐欺の相手を探す犯罪では利用されないかもしれない。岡本氏は「当面は、組織で情報や金銭を動かすことができる幹部や担当者、あるいは有名人が狙われるかもしれない」と語る。

岡本氏は「日本でもディープフェイクによる犯罪が発生すれば、警察当局がFBIのように警告を発したりするようになるだろう」と語る。

そんな折、アメリカの政府系放送局「ラジオ・フリー・アジア（RFA）」は7月8日、新型コロナウイルスの流行により、日本でも盛んになったリモートワークで、ディープフェイクが悪用される可能性を指摘した。

RFAは、北朝鮮の制裁対象者がディープフェイクで別人になりすました後、オンライン面接で採用される懸念があると指摘。リモートワークを続けながら、採用先の企業の情報を盗んだり、偽の情報で混乱させたりする可能性があるとした。

これに対し、岡本氏は「最終的には、本人確認をしっかりやるしかない」としている。