1. HOME
  2. World Now
  3. 大手IT企業が顔認証システム販売から手を引く理由 人種差別との深い関係

大手IT企業が顔認証システム販売から手を引く理由 人種差別との深い関係

小笠原みどりの「データと監視と私」
白人警察官によるジョージ・フロイドさん殺害に抗議する集会は、コロナ下の北米でほとんどの都市に瞬く間に広がった。事件が偶然ではなく、「制度的人種差別」(systemic racism)によって引き起こされたことを追及している=2020年6月、カナダ・キングストンで、溝越賢撮影

アメリカを代表するIT企業のIBM、マイクロソフト、アマゾンの3社が6月、相次いで顔認証システムの開発・販売から撤退する、あるいは警察への販売を停止すると発表した。

顔認証システムとは、目と目の間の距離や鼻の長さ、あごの角度など、顔の複数の部分を数値化して照合し、個人を特定する技術だ。20年ほど前から販売競争が始まり、警察などの取締機関が空港や駅などに監視カメラを設置して、顔認証システムをインストールしてきた。が、人々のプライバシーを奪い、行動の自由を制限すると世界各国で物議をかもしてきた。

禁止する自治体が増加

私は新聞記者だった2002年に、税関が成田空港と関西空港でこっそり顔認証システムを使い始めたことをスクープした。日韓共催のサッカー・ワールドカップ対策として、外国人客への警戒がやたらに叫ばれていた頃だった。税関は、空港に降り立った全乗客を頭上の監視カメラで映しながら、「要注意人物」の顔データと照合していたのだ。来年に延期された東京五輪でも、大会関係者約30万人の会場入りにNECの顔認証システムが使われる。メガ・イベントの度に予算を獲得し、新しい監視技術は歩みを進めてきた。

顔認証のように、指紋、手形、虹彩、声、動作など、人間の身体を数値化して識別する技術は生体認証(バイオメトリクス)と呼ばれる。9.11以降、パスポートやビザの申請、入国手続きなどに各国が導入して広がってきた。治安目的だけでなく、グーグルやフェイスブックは写真の分類や共有などSNSを楽しむ目的にも使っている。顔データを入力すれば世界中の人々をどこの誰なのか特定できる、いわば究極の監視を「面白い」とか「もう当たり前」と思う人もいるかもしれない。

しかし、アメリカでは顔認証システムの使用を禁じる自治体が相次いでいる。19年5月、西海岸シリコンバレーの中心地サンフランシスコを皮切りに、東海岸のマサチューセッツ州でも5つの市が警察を含む行政機関による使用を禁じ、この5月、ボストンもこれに続いた。そして、世界的な技術競争の先頭を走ってきた3社が販売停止を発表。なぜいま、方針転換の決断が下されたのか。

中国の電子機器メーカー「ハンワン・テクノロジー」の研究所で、マスクを着用した状態でも人を判別する顔認証プログラムをテストするエンジニア=2020年3月6日、北京、ロイター

技術に巣食う差別

3社の方針転換は、米ミネアポリスでアフリカ系市民ジョージ・フロイドさんが白人警察官に殺された事件によって、世界中に燎原の火の如く広がった反人種差別運動の最中に公表された。IBMのアーヴィンド・クリシュナCEOは、連邦議員に宛てた手紙にこう書いた

「IBMは今後、多目的の顔認証や分析ソフトを提供しません。IBMは、大量監視、人種プロファイル、基本的人権と自由の侵害のために、他の業者が提供する顔認証技術を含めて、どんな技術が使われることにも固く反対し、これを容認することはありません(中略)。人工知能(AI)は、警察が市民の安全を守るのに役立つ強力なツールですが、AIの業者と使用者はAIに偏りがないかを検査する責任を共有しています。特に、警察によって使用される場合がそうで、そのような偏りの検査は外部監査を受け、公開されるべきです」

クリシュナCEOが「偏り」(bias)と呼ぶのは、肌の色による人種的な偏見を主に指している。というのも、顔認証システムの正確さが人種や性別によって大きく異なることがここ数年、繰り返し指摘されてきたからだ。3社を含む大手企業の顔認証は、白人男性はほぼ間違いなく特定できたが、オバマ元大統領の妻ミシェル・オバマさんら黒人の女性を男性と判定したり、有色人種を誤判定する割合が高かかったりすることが報じられてきた。顔認証という技術も、社会同様、白人男性を中心に設計されていて、肌の色が違う人々を識別できない偏りを内蔵していることが明らかになってきた。

誤判定は、クリシュナCEOが恐れるとおり、警察のような強制力を持った機関が顔認証を使用した場合には、特に実害が大きい。誤判定が誤認逮捕を呼び、誤認逮捕が冤罪(えんざい)を生み出しかねない。実際に今年1月、ミシガン州で顔認証AIによって、アフリカ系男性が誤認逮捕された。彼は30時間後に釈放され、「写真の人物は自分と全然似ていなかった。黒人がみんな同じように見えると思ってほしくない」と語ったが、いくら本人が否定しても、警察がAIを信用するケースもあるかもしれない。まして、差別的で過剰な暴力をふるう警察によって、フロイドさんのようにいのちを奪われる人が増える危険性は否定できない。

マイクロソフトのブラッド・スミス社長は「私たちは、人権に基づく国内法ができ、その法律が顔認証技術に適用されるまで、米国内の警察機関には顔認証技術を販売しません」と述べた。自社製品の誤判定率の高さを指摘されても、警察への売り込みを積極的に続けてきたアマゾンですら、警察への販売を1年中断すると発表した。

つまり3社は、顔認証システムが人種差別を後押ししている事実を認め、コロナ下でわき起こった反人種差別運動への応答として、方針転換を発表した。警察の差別的な暴力に怒る世論が、技術会社にも責任を問い、販売の停止を余儀なくさせたとも言えるだろう。人種差別は、警察という組織同様、顔認証という技術のなかにも巣食っていることが、多くの人々に認識され始めたのだ。 

2018年4月、北京で開かれたグローバル・モバイル・インターネット・カンファレンス(GMIC)で、スクリーンに映し出された顔認証ソフトの広告=2018年4月27日、ロイター

生体認証と人種差別の深い関係

生体認証の問題点は、誤判定だけではない。実は、歴史をさかのぼっていくと、生体認証と人種差別は切っても切れない関係にあるのだ。

生体認証の始まりともいえる指紋は、大英帝国支配下のインドで識別技術として編み出された。19世紀のイギリス人官吏の目には、植民地インドの人々はみんな同じように見え、福祉などを二重取りしているのではないかと疑った。そこから一目瞭然の識別法として指紋による分類・検索が研究され、もう一つの大英帝国植民地、南アフリカでも実用化された。

これを知った日本も、1920年代から中国東北部の炭鉱や鉱山で、中国人労働者から指紋を採取し始めた。日本は1931年以降、同地域を軍事的に占領して「満州国」を宣言すると、抵抗運動を制圧するためにも、住民から指紋を採って身分証明書の持ち歩きを課し、住民の移動を厳しく監視した。こうして植民地で始めた指紋入り身分証が、敗戦後の日本で、外国人に指紋押捺を強制する「外国人登録制度」へと発展したのだ(指紋押捺は2000年、外国人登録制度は2012年に廃止され、新しい在留制度に移行)。

アメリカでも20世紀初頭、中国からの移民を制限する目的で指紋の導入が検討された。つまり生体認証は、植民地で「異人種」を身体的なデータによって見分け、利用したり処罰したりする手段として発達してきた。

こうした生体認証の歴史はほとんど知られていない(ので、私は博士論文のテーマに選んだ)。が、現在の反人種差別運動によって、生体認証という監視技術が差別につながることに光が当たったのは、偶然ではないのだ。生体認証は初めから、人間の体を、一方的にデータとして取り扱う発想に根差している。人間に必要なプライバシーはもちろん、個人を人格を持った存在として尊重する発想は乏しい。20世紀の植民地はなくなっても生体認証は生き残り、21世紀のデジタル技術に姿を変えて人種差別への加担を続けている。より「スマート」な外観で。

今回、顔認証の開発・販売をともに放棄するという勇気ある決断をしたITの老舗IBMは、監視の歴史を気にかけたのではないか、と私は考えている。というのも、IBMは識別技術を提供することでナチスのユダヤ人虐殺に手を貸した過去を持っているからだ。(次回に続く)