AIがオランダで引き起こした大混乱　数万人を不正受給者と誤判断　親子は引き離された

突然、身に覚えのない「不正受給者」に

「すべては2010年、税務当局から届いた一通の手紙から始まったんです」

オランダのハーグで会ったジャネット・ラメサーさん（38）は、悲痛な表情でそう振り返った。

当時、離婚して3歳の一人息子とともにロッテルダムから故郷のハーグに移ったばかりだった。フルタイムで働き、託児費用の大半は申請に応じて公的に負担されていた。税務当局からの手紙は、改めて就業時間や託児施設の利用を証明する書類を送るよう求める内容だった。

何かの間違いだろう。そのときは深刻には考えず、書類をそろえて返送した。同様の手紙がその後、3度届いた。不審に思いつつ、その度に書類を送ったり、直接役所に出向いて提出したりした。

だが2016年、それまで利用してきた託児費用などの児童手当が不正受給だったとして約4万ユーロ（当時のレートで約500万円）の返還を求められた。説明を求めたが、相手にされなかった。

突然「不正受給者」とみなされ、多額の借金を背負うことに。さらに、財務関係の職場で借金の制限があったために職を失い、生活は困窮した。

2019年2月、息子が通う学校から呼び出された。待っていたのは児童福祉当局だった。自分の食事まで切り詰めている母親を助けてほしいと、息子が学校に相談したのだ。だが当局は、逆に、ラメサーさんの生活状況が育児に適さないと判断。正式な手続きを経ずに息子を連れ去り、息子を元夫に渡してしまった。

税務当局が使ったAIの個人データ分析が引き金に

身に覚えのない返金請求に苦しんでいたのは、ラメサーさんだけではなかった。地元メディアは2018年、税務当局が使ったAIの個人データ分析によって誤って不正受給を疑われ、返金を求められた被害者が推定2万6000人にのぼると報じた。ラメサーさんのように困窮して親子が引き離されたケースも多く、命を絶った人がいたこともわかった。

国会の調査委員会は2020年12月、「前代未聞の不正義」と題した報告書を公表。税務当局が長年、多くの親に誤って過去の児童手当が「不正受給だった」として返金を求めていたと結論づけた。

2012～2019年に「不正受給者」とされた2万5000～3万5000人中、94％が不当な判断だったとしている。

報告書によると、税務当局は少なくとも2013年までに、不正受給をチェックするため、過去のデータをもとに不正申請者のパターンを学習するAIを取り入れた。組織的な不正受給事件の直後で、対策強化を推し進めていた背景があった。

チェックの対象となる個人データには、国籍を含む多数の指標が含まれていた。わずかな申請ミスや託児施設側の問題でも親側が全額を返還しなければならなかったり、未返還分があると次年度の手当を受けられなかったりする制度上の問題も重なり、被害が拡大した。

政府は謝罪し、内閣は総辞職した。被害者への返金と一律3万ユーロの補償を打ち出したが、規模が大きく、被害の認定や補償をめぐって問題は続いている。なぜ誤った判断がされたのか、明らかになっていないことも多い。

比較的早い段階で情報公開請求をしたラメサーさんは、自身に関する税務当局の記録を入手することができた。その結果、「学歴や両親の出生地、住んでいる地域などもAIが不正の疑いをはじき出す際の指標に使われていたことがわかった」と話す。

自身はハーグ生まれのオランダ人だが、両親はともにオランダの植民地だった南米スリナムの出身でインド系だ。記録からは、当局の職員らがラメサーさんについて「インディアン・ケース（インド系の件）」と呼んでいたこともわかった。

欧州委員会がこの事件について2021年に出した意見書では、国籍を指標に用いたことはオランダや欧州連合（EU）の法律に反すると考えられると指摘している。

「オランダでこんなことが起きているなんて信じられないかもしれない。私の両親でさえ、『あなたが申請書類を間違えたんじゃない』と言って、当初は信じてくれなかった」

そう話すラメサーさんは、被害がきっかけで政治に関心を持ち、昨年からハーグ市議会の議員を務めている。12歳で引き離された息子は11月、17歳の誕生日を迎えた。いまも良好な関係を保っているが、「同居していたころの親子関係とは違うものになってしまった」と首を振る。

「息子は借金で生活に困窮する中で育った。次世代への影響もはかりしれない。AI政策の決定者には、事態の重大さと、オランダのような民主主義国家でさえもこんなことが起きたのだと知ってほしい」

「機械だけで人を判断しリスト化、間違い」

ロッテルダムで進行性の難病を抱える長男（17）と長女（12）と暮らすセンシミリア・シュヘンダリンさん（38）も、この事件で自身の記録の開示や補償を求めて闘っている被害者の一人だ。

一人親として長男を育てながら、言語聴覚療法士をめざして大学に通っていた2009年、税務当局から突然、託児費用が「不正受給」にあたるとして、8000ユーロの返還を求められた。身に覚えのないことだったが、この請求を境に、住宅手当や児童手当、健康保険など本来なら当たり前に利用できるはずの公的サービスが、次々と拒まれ、生活は急激に困窮した。

病で次第に歩けなくなる長男のため、行政に車いすを求めたが断られ、バス代が払えず近くの学校への転入を求めたが認められなかった。自身も難病のクローン病を抱え、追い詰められて体重が34キロにまで落ち、入院を余儀なくされた。

シュヘンダリンさんをはじめ、複数の被害者を支援するクリス・セント弁護士（58）は、「彼女が『私の名前に見えない×がついているみたい』と言ったのが印象に残っている」と話す。

問題が明るみに出た後、シュヘンダリンさんは被害者と認定され、政府から謝罪の手紙も受け取った。だが、税務当局の記録は開示されず、様々な行政サービスもいまだに受けられていない。ほかの事例などから「シングルマザーで、父親がカボベルデ出身で、私も息子も難病を抱え、低収入で……という理由から、機械的に『不正受給の疑いあり』と判断されたのではないか」とシュヘンダリンさんは考える。

「AIで便利になることはもちろんある。でも、機械だけで人を判断してリスト化するのは間違っている」

穏やかに話すシュヘンダリンさんが、長男の話になると涙ぐみながら訴えた。「息子には時間がない。児童手当をめぐる政府の問題で苦しんでいる間に、彼が自由に歩ける時間は失われてしまった」

被害者支援に取り組むニコール・テミンク下院議員（36）は、「人間を信用せずにシステムに頼り切り、さらに機械の出した判断が本当にあっていたのか検証することも怠ったことが事件につながった」と指摘する。

「機械は人間以上に計算ができるかもしれないが、心の痛みは感じられない。ときに人を傷つけるものにもなることを忘れてはいけない」