AIがあなたの信用度を判断、日本にも 中国では14億人を格付けへ
あなたの知らないAIの世界
更新日： 公開日：
【この連載の前の記事】
中国の「社会信用システム」
ソーシャルメディアへの投稿の分析による、信頼度調査─この問題がメディアの注目を集めるのは、中国で進みつつあるプロジェクトを想起させるからだ。
それが「社会信用システム」だ。
「社会信用システム」は中国国務院が2014年6月、社会規範の向上を旗印に打ち出したプロジェクトだ。目標年次は2020年。
14億人の国民を対象に「社会信用」のスコアを整備するというものだ。
首都・北京市も2018年11月、2020年までに全市民に「信用スコア」を登録する、と明らかにしている。
スコアのポイントは、交通安全や納税から、ネット上での振る舞いまで幅広い。
ネットでフェイクニュースを流布させたことが認定されれば、「社会信用」は下がる。
「社会信用」が低い人物はブラックリスト化され、飛行機や列車の搭乗が拒否されるなどの制裁措置も科される。
中国の英字紙「グローバル・タイムズ」によれば、すでに2018年4月末までに、「社会信用」を理由として、1114万人が航空機の、425万人が高速列車の搭乗を拒否された、としている。
中国ではすでに民間レベルで、そんな仕組みが実現している。
広く知られているのが、中国のネット通販最大手「アリババ」傘下の「アント・フィナンシャル」が提供する信用評価システム「芝麻（ジーマ）信用」だ。
ネット上での購買履歴、支払い履歴、サービス利用履歴、さらには交友関係まで、様々なデータをAIが判断。950点～350点の範囲で信用度のスコアをつける。このデータ収集には、警察など公的機関の情報も含まれるとしている。
このスコアによって、ホテルやレンタカーのデポジット（保証金）が不要になるなどの特典を受けられるという。
「芝麻信用」などの民間システムと、政府の「社会信用システム」とは別物とされている。
だが、あらゆる振る舞いがデータ化され、スコア化されるという、『一九八四年』的な懸念は根強い。
「より客観的に、適正に」
AIを活用する取り組みは、日本でも目にするようになってきた。
ソフトバンクは2017年5月29日、新卒採用選考のエントリーシート（申請書類）評価に、IBMのAI「ワトソン」を導入する、と発表した。
その理由として「応募者をより客観的に、また適正に評価すること」を挙げている。
「ワトソン」は2011年2月、米国の人気クイズ番組「ジョパディ！」で、人間のクイズ王者2人と対戦し、圧勝したことで知られる。
ソフトバンクの発表によると、ワトソンの自然言語処理の機能を使い、エントリーシートの内容を評価。合格基準を満たした項目は選考通過とし、その他の項目は人間の人事担当者が確認して最終判断を行う、という。
ワトソンの導入により、エントリーシートの確認にかかる時間を75％削減し、その分を面接にあてるという。
サッポロビールも2018年3月1日、2019年度新卒採用のエントリーシート選考で、三菱総合研究所とマイナビが開発したAIシステムを導入すると発表。
ローン審査でも、AI導入は広がっている。
ソニー銀行は2018年5月7日、住宅ローンの仮審査で、独自開発のAIによる自動化の運用を開始すると発表した。導入により、2～6日程度かかっていた仮審査結果が、最短1時間で回答できるようになるという。
三菱UFJ銀行も10月4日、NECのAIによる住宅ローンの事前審査サービスを発表。みずほ銀行も同日、グループ内で開発したAIによる実証実験の開始を発表している。
動き始める「信用スコア」
「信用スコア」の取り組みも動き始めている。
みずほ銀行とソフトバンクの合弁会社「Jスコア」は2017年9月から、「AIスコア・レンディング」を開始した。
18の質問事項や、みずほ、ソフトバンクの利用履歴などをAIが分析し、スコアを算出。スコアに応じた融資条件を提示する。
2018年6月からは、「ヤフー・ショッピング」「ヤフオク」との連携も開始。連携したユーザーには融資金利の0・1％引き下げの特典を設ける。また9月からは、スコアに応じてその他の提携企業の特典が得られる「AIスコア・リワード」も始めた。
ヤフーも10月、ユーザーのIDにひもづくビッグデータをもとに独自のスコアを算出し、サービス利用などに特典を付与する事業に参入すると発表。パートナー企業と実証実験を行うとしている。
またNTTドコモも同月、サービスの利用履歴などから算出した「スコア」を金融機関に提供する「ドコモレンディングプラットフォーム」を2019年3月から始める、と発表。
LINEも11月、みずほ銀行、オリエントコーポレーションとの合弁会社「LINEクレジット」を通じて、信用スコア事業に参入する、と発表している。
「スコア」の仕組みは、利用履歴の共有などについて、ユーザーが同意することが前提になっている。
だがその「スコア」がどのように算出されているのか、そして拡散していく「スコア」をどのようにハンドリングできるのか。
それらがおぼろげなままに、テクノロジーとデータだけが広がっていく。
医大入試の女子差別
AIによるバイアスは、社会にあるバイアスを反映する。
2018年8月、東京医科大学の入試で、女子や浪人年数の長い男子の受験生が不利になる、不正な得点操作が行われていたことが明らかになった。
その手法は2018年度の場合、2次試験の小論文（100点満点）で、女子と4浪以上の男子に対して、実質的に一律2割の減点を行う、というものだった。女子の合格者について、3割以下に抑える目的があったという。
この不正操作は遅くとも2006年には始まり、10年以上にわたって続けられてきた。
第三者委員会の調査によると、この不正な得点操作によって、合格の最低得点を上回っていたのに不合格とされた受験生は、2013年度からの6年間で178人。このうち女子は121人で、3分の2を占める。
直近の2018年度を見ると、不正による不合格者数は50人。うち女子は44人で9割にのぼっていた。
大学関係者は調査に対して、「女性は結婚や出産で長時間勤務ができない」「年齢が高いと医師になった後、大学病院に残らず独立する」とその理由を話したという。
つまり、この問題は医大の入試にとどまらず、その後の女性医師の採用にまでつながる、根深い差別の存在を窺わせる。
また、同様の入試の不正は東京医大だけではなかった。
順天堂大学、北里大学も12月10日、医学部で女子や浪人回数の多い受験生を、入試で不利に扱っていた、と発表している。
順天堂大学では、女子の合格基準を男子より高く設定。2017年度には1次試験で52人（うち女子32人）、2次試験で24人（同24人）、2018年度には、1次試験で65人（同42人）、2次試験で24人（同23人）を不当に不合格としていた。
また北里大学では、一般入試の繰り上げ合格の連絡を行う際、男子や浪人回数の少ない受験生を優先させていた。
文部科学省は聖マリアンナ医科大学についても女子差別を指摘したが、同大は差別を否定した。
このほかにも、昭和大学、岩手医科大学、金沢医科大学、神戸大学、福岡大学、日本大学が、浪人生を不利に扱ったり、卒業生の子どもを優遇したりするなどの不適切な入試を行っていたという。
男女雇用機会均等法では、性別を理由とする人材募集、採用の差別を禁止している。
だが実際には、企業の新卒採用の選考をめぐり、同様の差別の存在は長く指摘されてきた。
このような差別の根が深くはる社会で、そのゆがみがビッグデータ、そしてAIに影響しないと考えるのは難しい。
アマゾンの採用AIの開発チームが抱えた課題は、今の日本の課題でもある。
本書は『悪のAI論 あなたはここまで支配されている』（平和博〔著〕、朝日新聞出版）の第2章「差別される―就職試験もローン審査もAI次第？」の転載である。
