黒人カップルを「ゴリラ」とタグ付け 顔認識はどこまで「使える」のか
あなたの知らないAIの世界
更新日： 公開日：
【この連載の前の記事】
黒人を「ゴリラ」と誤認識
「グーグルフォト、どうなってるんだ。俺のガールフレンドはゴリラじゃないぞ」
2015年6月28日、ニューヨーク・ブルックリンのプログラマー、ジャッキー・アルシーン氏はガールフレンドとのツーショット写真とともに、ツイッターにこんな投稿をした。 グーグルは5月に新たな写真保存・共有サービス「グーグルフォト」を発表しており、アルシーン氏もそのアプリを使ってみた。
「グーグルフォト」の特徴の一つは、写真に関連するキーワードをAIが自動的に判別して付けてくれる「自動タグ付け」の機能だ。
アルシーン氏がアップロードした写真には、被写体によって「摩天楼」「飛行機」「自動車」「自転車」などのタグが付いた。
ただし、ガールフレンドが手前、アルシーン氏がその後ろに写ったツーショット写真には「ゴリラ」というタグが付いていたのだ。2人は、ともに黒人だ。
「一体どんなサンプル画像のデータを集めて、こんなひどい有り様になっているんだ？」
さっそくグーグルの責任者、ヨナタン・ズンガー氏がアルシーン氏のツイートに応え、すべての「ゴリラ」のタグの削除や、「ゴリラ」のキーワードでの検索停止などの対応策を表明。同種の問題があったことを認めた。
「これまでにも、様々な人種の人々に『イヌ』とタグを付けてしまった問題も起きていました」
ズンガー氏は謝罪とともに、ニューヨーク・タイムズなどのメディアに、こう答えている。
「自動画像ラベル付けの機能には、取り組むべき課題が山積みであることは明らかです。将来、こういった過ちを防ぐためにどういったことができるか、検討を続けたいと思います」
この騒動から2年半が過ぎた2018年1月、「ワイアード」は、4万枚の動物の写真を使って、「グーグルフォト」の画像認識の進展具合を検証する実験を行っている。
すると、「ゴリラ」「チンパンジー」「サル」といった単語では「検索結果なし」の回答しか返ってこなかった、という。その結果をグーグルに問い合わせると、15年の騒動以降、検索語、タグから「ゴリラ」を外し、「チンパンジー」「サル」もブロックしているとの回答だった。
つまり、根本的な改善は行われていなかった、ということになる。 「ワイアード」へのグーグルの回答は、画像分類の技術は「完璧からは程遠い」というものだったという。
「監視に使うな」とベンチャーCEO
AIによる顔認識のバイアスは、現実的な被害をもたらす─そうした危惧の声が、顔認識の専門家からも上がってきた。 「顔認識ソフトは法執行機関の使用に耐えるものではない」。AIによる顔認識サービスを手がける「カイロス」創設者でCEOのブライアン・ブラッキーン氏は2018年6月25日、ネットメディアの「テッククランチ」に寄稿し、そう訴えた。 「カイロス」は米フロリダ州マイアミに本社を置くベンチャーで、広く知られた顔認識サービスの一つだ。
同社の顔認識サービスは、セキュリティ上の身元確認などの用途で使われているという。 だがブラッキーン氏は、そのテクノロジーを警察などの法執行機関が使うことには問題があるという。
「政府による監視を容認するかどうかとは関係なく、商用の顔認識を法執行機関が使うことは、無責任で危険なことだ」
その理由として挙げるのは、すでに見てきたような、肌の色の違いによる認識率の差だ。自らも黒人であるブラッキーン氏は、「文化的にも社会的にも」この問題の当事者であるという。
「顔認識のテクノロジーが容疑者の身元特定に使われれば、有色人種の人々に悪影響を及ぼす。この事実を否定しようとすれば、ウソになってしまう。 顔認識による政府の監視は、すべての市民のプライバシーを極端に侵害することになるのは明らかだ─そして坂道を転がり落ちるように、自分の身元情報をコントロールする力を根こそぎ失ってしまうのだ」
ウォールストリート・ジャーナルによれば、ブラッキーン氏の「カイロス」は実際に、警察用ボディーカメラのメーカーによる顔認識技術の提供要請を断っている、という。 ただ、この問題について「カイロス」社内は一枚岩ではなかったようだ。
寄稿から4カ月後の10月、「カイロス」は突然、ブラッキーン氏をＣＥＯから解任。6万ドルに及ぶ使い込みがあり、「株主や投資家の信頼を損ねた」などとして同氏を提訴した。これに対し、ブラッキーン氏も1000万ドルの損害賠償を求めて同社を反訴する事態となった。
本書は『悪のAI論 あなたはここまで支配されている』（平和博〔著〕、朝日新聞出版）の第2章「差別される―就職試験もローン審査もAI次第？」の転載である。
