1. HOME
  2. World Now
  3. 黒人カップルを「ゴリラ」とタグ付け 顔認識はどこまで「使える」のか

黒人カップルを「ゴリラ」とタグ付け 顔認識はどこまで「使える」のか

あなたの知らないAIの世界

【この連載の前の記事】

  1. 「AIなら公平」という思い込み 面接であらわになった偏見
  2. AIがあなたの信用度を判断、日本にも 中国では14億人を格付けへ
  3. ミシェル・オバマを「若い男性」 AI顔認識にひそむバイアス

黒人を「ゴリラ」と誤認識

「グーグルフォト、どうなってるんだ。俺のガールフレンドはゴリラじゃないぞ」

2015年6月28日、ニューヨーク・ブルックリンのプログラマー、ジャッキー・アルシーン氏はガールフレンドとのツーショット写真とともに、ツイッターにこんな投稿をした。 グーグルは5月に新たな写真保存・共有サービス「グーグルフォト」を発表しており、アルシーン氏もそのアプリを使ってみた。

「グーグルフォト」の特徴の一つは、写真に関連するキーワードをAIが自動的に判別して付けてくれる「自動タグ付け」の機能だ。

アルシーン氏がアップロードした写真には、被写体によって「摩天楼」「飛行機」「自動車」「自転車」などのタグが付いた。

ただし、ガールフレンドが手前、アルシーン氏がその後ろに写ったツーショット写真には「ゴリラ」というタグが付いていたのだ。2人は、ともに黒人だ。

「一体どんなサンプル画像のデータを集めて、こんなひどい有り様になっているんだ?」

さっそくグーグルの責任者、ヨナタン・ズンガー氏がアルシーン氏のツイートに応え、すべての「ゴリラ」のタグの削除や、「ゴリラ」のキーワードでの検索停止などの対応策を表明。同種の問題があったことを認めた。

「これまでにも、様々な人種の人々に『イヌ』とタグを付けてしまった問題も起きていました」

ズンガー氏は謝罪とともに、ニューヨーク・タイムズなどのメディアに、こう答えている。

「自動画像ラベル付けの機能には、取り組むべき課題が山積みであることは明らかです。将来、こういった過ちを防ぐためにどういったことができるか、検討を続けたいと思います」

この騒動から2年半が過ぎた2018年1月、「ワイアード」は、4万枚の動物の写真を使って、「グーグルフォト」の画像認識の進展具合を検証する実験を行っている。

すると、「ゴリラ」「チンパンジー」「サル」といった単語では「検索結果なし」の回答しか返ってこなかった、という。その結果をグーグルに問い合わせると、15年の騒動以降、検索語、タグから「ゴリラ」を外し、「チンパンジー」「サル」もブロックしているとの回答だった。

つまり、根本的な改善は行われていなかった、ということになる。 「ワイアード」へのグーグルの回答は、画像分類の技術は「完璧からは程遠い」というものだったという。

「監視に使うな」とベンチャーCEO

AIによる顔認識のバイアスは、現実的な被害をもたらす─そうした危惧の声が、顔認識の専門家からも上がってきた。 「顔認識ソフトは法執行機関の使用に耐えるものではない」。AIによる顔認識サービスを手がける「カイロス」創設者でCEOのブライアン・ブラッキーン氏は2018年6月25日、ネットメディアの「テッククランチ」に寄稿し、そう訴えた。 「カイロス」は米フロリダ州マイアミに本社を置くベンチャーで、広く知られた顔認識サービスの一つだ。

同社の顔認識サービスは、セキュリティ上の身元確認などの用途で使われているという。 だがブラッキーン氏は、そのテクノロジーを警察などの法執行機関が使うことには問題があるという。

「政府による監視を容認するかどうかとは関係なく、商用の顔認識を法執行機関が使うことは、無責任で危険なことだ」  

その理由として挙げるのは、すでに見てきたような、肌の色の違いによる認識率の差だ。自らも黒人であるブラッキーン氏は、「文化的にも社会的にも」この問題の当事者であるという。

「顔認識のテクノロジーが容疑者の身元特定に使われれば、有色人種の人々に悪影響を及ぼす。この事実を否定しようとすれば、ウソになってしまう。 顔認識による政府の監視は、すべての市民のプライバシーを極端に侵害することになるのは明らかだ─そして坂道を転がり落ちるように、自分の身元情報をコントロールする力を根こそぎ失ってしまうのだ」  

ウォールストリート・ジャーナルによれば、ブラッキーン氏の「カイロス」は実際に、警察用ボディーカメラのメーカーによる顔認識技術の提供要請を断っている、という。 ただ、この問題について「カイロス」社内は一枚岩ではなかったようだ。

寄稿から4カ月後の10月、「カイロス」は突然、ブラッキーン氏をCEOから解任。6万ドルに及ぶ使い込みがあり、「株主や投資家の信頼を損ねた」などとして同氏を提訴した。これに対し、ブラッキーン氏も1000万ドルの損害賠償を求めて同社を反訴する事態となった。



 

本書は『悪のAI論 あなたはここまで支配されている』(平和博〔著〕、朝日新聞出版)の第2章「差別される―就職試験もローン審査もAI次第?」の転載である。