技術は差別と暴力にどう加担するのか　IBMとホロコーストの歴史を知る

北米では今週も「Black Lives Matter」 (黒人の命は大切だ) をはじめとする反人種差別運動のうねりが続いている。アメリカの警察によるアフリカ系住民への暴力は、ミネソタ州ミネアポリスで5月25日に白人警察官がジョージ・フロイドさんを殺害した事件で終わることはなく、8月23日には隣のウィスコンシン州ケノーシャでジェイコブ・ブレイクさんが背中を7発撃たれて瀕死の重傷を負う事件を引き起こした。それぞれの事件は偶然起きたのではなく、警察と政府、そして社会全体のなかに制度的な人種差別（systemic racism）があるからだと、抗議活動は告発している。

 前回は、こうした警察の黒人への暴力に対するプロテストに応えるかたちで、大手IT企業のIBM、マイクロソフト、アマゾンが顔認証技術の警察への販売を停止したことを取り上げた。なかでも、コンピュータ開発の老舗IBMこと、インターナショナル・ビジネス・マシーンズはきっぱりと、AI技術が偏見に基づいて使用される危険性を指摘し、顔認証技術の開発そのものを放棄すると発表した。この英断は、IBMがかつてナチスのユダヤ人虐殺に、技術を提供することによって手を貸した過去と関係しているのではないか、と私は考えている。

ホロコーストは登録から始まった

ホロコーストを描いた米アカデミー賞受賞作『シンドラーのリスト』（スティーヴン・スピルバーグ監督、1993年）は、ナチスがポーランド侵攻によって第二次世界大戦を始めると同時に、占領地のユダヤ人に名前や住所などの登録を求め、出頭したユダヤ系住民が列を成すシーンから始まる。この時点で、暴力はまだ登場しない。名前を大声で叫んだり、綴りを繰り返したりする人々の姿は、むしろ微笑ましくもある。けれど、画面をみている私たちは、それぞれ名前と個性を持った人々がやがてゲットーへの強制移住で監視下に置かれ、財産没収、強制労働、そして絶滅収容所、ガス室へと追われる暗い未来を予感して、素直に笑えない。

そう、ナチスによるユダヤ人大量虐殺という歴史的犯罪の始まりには、人々の登録があった。ユダヤ人をリストアップすることで、政府はどこに誰がいるかを把握し、個々人を狩り出し、追い立て、襲うことができた。ナチスのもとでエスカレートし続けた国家の暴力は、偶然起きたのではない。ホロコーストはまさに、登録、識別、移送のシステムによって可能になった、制度的な人種差別だったのだ。

監視技術が虐殺を加速した

IBMは、この大量の登録作業に最新技術を提供することでナチスに加担したことを、アメリカのジャーナリスト、エドウィン・ブラックは著書『IBMとホロコースト　ナチスと手を結んだ大企業』（小川京子・訳、宇京賴三・監修、柏書房、2001年）によって暴いた。当時、コンピュータはまだ存在していなかったが、IBMのパンチカードとカード選別システムは、その先駆けだった。IBMは人口調査の表を作成する会社として1898年にアメリカで創立され、創業者ハーマン・ホレリスが発明したパンチカードに穴を開けることで国籍、性別、職業など個人の特性を記録し、何百万というカードを即座に分類するシステムを開発した。

ブラックが「まさに、人間につけられる19世紀のバーコード」と呼ぶこの技術を、ドイツのIBM子会社はナチスに提供した。ドイツだけで年に15億枚ものパンチカードを生産し、人々に番号を振り、数え上げ、生年月日、既婚未婚、子どもの数、身体的特徴、職業上の技能といった多くの個人情報を、カードに入力し、ユダヤ人を死の収容所へと振り分けていったのだ。データがあったからこそ、ナチスは個人を識別し、監視し、利用し、捕獲することができた。

ブラックは、IBM幹部が、ホレリス式パンチカードがユダヤ人大量虐殺に使われていることを知っていたのか、にも迫っている。ナチスとIBMの幹部同士の交流や、ビジネス上のすり合わせなども本では描写され、まさに現代のIT会社のように顧客の問題に先んじてソリューション（解決策）を提供しようとする姿が描かれる。しかし、「最悪の部分については、IBMはあえて知ろうとはしなかった」とブラックは書いている。社内では、ナチスの犯罪について「尋ねてはいけない、口にしてはいけない」ということになっていた、と。 

IBMが手を貸さなくても、ホロコーストは起きていたかもしれないし、別の会社が似たような技術を提供したかもしれない。けれども、正確で迅速な識別技術によって、大量虐殺がかつてないほど大規模で速やかに遂行されたことを、私たちは技術と企業の責任として、どう考えればいいのだろうか。収益のために、見て見ぬふり、あるいは真実をあえて知ろうとしない態度を、仕方なかったと済ませることは、600万人といわれるホロコーストの犠牲者に対して許されるのだろうか。

政府や警察はいつも正しいのか

日本人が戦争中に「鬼畜米英」と教えられたように、ナチス政権下のドイツ人にとってユダヤ人は「悪」だったろう。同じように、現代では「テロリスト」や「犯罪者」という「悪」を排除するために、顔認証や指紋などの識別技術が公共の場で使われるようになっている。顔認証を採用する政府や警察、技術を提供する企業は、ここでは絶対的な「善」の側に立っている。けれど、政府や警察はいつも正しいのだろうか。いや、いま北米で露呈している警察による差別的で過剰な暴力は、制度の中枢に巣食っている「悪」を見せつけているのではないだろうか。

 IBMの顔認証システム開発中止は、この「悪」に技術という武器を与えることに加わらないという判断だった。IT企業のトップたちは一般的に、政府に進んで協力する。グーグルやフェイスブックといった名だたる企業が密かに政府のスパイ活動に協力していたことを、スノーデンは白日の下にさらし、いまをときめくズームのCEOは「FBIや地元の警察に協力したい」と迷わず述べたことがある。政府や警察は「善」であるという大前提がここにはある。警察の「善」に疑問を投げかけるIBMの判断は、社会全体の構図を見落としがちな技術系会社のなかにあって、やはり異例中の異例なのだ。だから私は、IBMは自社の歴史を省みたからこそ、技術がもたらすネガティブな結果を直視し、差別に加担しないという判断ができたのではないか、と思った。

もちろん、顔認証だけが監視技術ではない。人間を識別する技術の裾野は広く、日本では戸籍や住民登録によって、政府が人々の所在と詳細を長年把握してきた。だから戦争中の徴兵も動員も可能になった。これらの識別制度は、戦争に負けても残っている。そしていまや、ブラックなら「人間につけられる21世紀のバーコード」とでも呼びそうなマイナンバーまである。もしも私たちが歴史から何かを学ぶことができるなら、顔認証だけでなく、幅広い監視と個人情報の仕組みに目を向ける必要があるだろう。