18歳で自死した娘　IT企業相手に立ち上がった親たち　SNSに使われるAIの責任を追及

スマホが友人とつながる唯一の手段になった娘の死

快晴の青空のもと、草原は地平線まで広がっていた。小高い丘にたつ十字架の近くで、風鈴がやさしい音を立てている。

米コロラド州北東部の町メリノ。18歳で命を絶ったアンナ・ショットさんは、この丘で眠っている。

ロシアの地方都市で生まれたアンナさんは、1歳で養子として米国に渡った。農場で育ち、4歳のころ乗馬を始めた。ロデオが好きで、ロデオの推薦で近くの大学入学も決まっていた。

母親のロリさん（61）がアンナさんにiPhone（アイフォーン）を与えたのは、娘が13歳の時。学校が遠いため、「もしもの時のため」との思いからだ。利用時間を厳しく制限し、夜はキッチンにスマホを戻すようにした。

だが、高校に入ると、アンナさんはスマホが手放せなくなる。ロリさんが車で送迎する際も、助手席でスマホの画面を眺めていた。やがて2人は頻繁に口論するようになった。

「ひどい母親」「束縛しすぎ」。普段静かなアンナさんが、母親に辛辣（しんらつ）な言葉をぶつけた。

娘が17歳の頃、ロリさんはアンナさんの手書きのメモを見つけた。

「気分が沈んでいる」「不安だ」

ロリさんはすぐに娘を連れ、車で2時間離れたデンバーの精神科医に連れて行った。カウンセラーはアンナさんに薬を処方し、スマホを使わないよう言ったが、アンナさんは2日ももたず、スマホを使い始めた。

2020年、新型コロナの感染拡大で、アンナさんの学校はリモート授業に。スマホが友人とつながる唯一の手段となり、ロリさんは何も言わなくなった。

そして、2020年11月15日。

ロリさんは夫と車で遠方の親戚の家に出かけた。アンナさんは「学校の出し物の準備があるから」と家に残った。

ロリさんは家に戻る直前、アンナさんとビデオ通話で話した。アンナさんの兄夫婦に子どもが産まれることを伝えた。
「アンナおばさんになるのね、うれしい！」。娘はうれしそうに笑っていた。

その約2時間後。

ロリさんの帰宅途中、隣人から頻繁に電話が入った。両親の留守中に、アンナさんは自ら命を絶っていた。

2021年秋、ロリさんはフェイスブック（FB、現メタ）の元従業員、フランシス・ホーゲン氏の内部告発の報道を見た。

投稿の表示順は、AIの重要な技術である「アルゴリズム（計算手順）」が決める。ホーゲン氏は、これが子どもたちを中毒にしていると主張していた。

ある日、自らのFBの画面に流れてきた画像を見て、ロリさんは息をのんだ。

崖の先端に腰掛け、寂しげにうつむく人の影。娘が命を絶つ数週間前に手帳に描いていたイラストとそっくりだった。

「あれで訴えようと決めたのです」

ロリさんは子どもを失った親の支援団体の弁護士の助けを借りて、娘の動画投稿アプリ「ティックトック」のアカウントに初めて入った。そして、アンナさんが浴びせられるように見ていた膨大な動画を見た。

涙ぐんだ少女の横に「私を愛した人を見つめていると、自分を傷つけ、破壊したくなる」と書かれた動画（いいね：9万6500件）。

黒いフードをかぶった人物が、少年に銃を突きつけた動画（いいね：7万7000件）。

いかに自分が娘の世界を理解していなかったかを痛感した。

アンナさんの死から2年後、ロリさんはこうしたAIを使ってビジネスをしているメタ、米スナップ、ティックトックを運営する中国企業バイトダンスの3社を相手取り、裁判を起こした。

「私たちのような農家でも守るべき規制が数多くあるのに、なぜ数十億ドルも稼ぐ企業は何の義務もないのか。彼らには責任を取ってほしい」

子どもたちの健康より利益、「80年代のたばこ産業と同じ」

訴訟でロリさんが争点としたのは、インスタなどの製品の欠陥だ。企業が未成年の利用者が中毒になるのを知りながら、広告収益のためユーザーの利用時間を最大化させるよう、心理学の手法を使ってAIを設計していたと主張。企業の製造物責任を訴えている。

この訴訟を支えるのが弁護士マシュー・バーグマンさんだ。

バーグマンさんは1990年代以降、アスベストなどの製造物責任の裁判を多く手がけ、10億ドル（約1500億円）以上の賠償金を企業側から引き出した。彼を動かしたのも、フランシス・ホーゲン氏の内部告発だった。

「80年代のたばこ産業と同じだ。なぜ企業は子どもたちの健康より利益が重要なのか。怖くなったのと同時に、怒りを覚えた」

ホーゲン氏の議会証言を見ながら、バーグマンさんはそう感じたという。

バーグマンさんは2021年11月、「ソーシャルメディア被害者法律センター（SMVLC）」を設立。ホーゲン氏本人に直接話を聞いて、被害者救済のための訴訟を相次いで起こした。今では2000人以上から相談を受けている。ロリさんの訴訟など約100件は全米の同様のケースと統合され、集団訴訟となっている。

全米の公立学校も動きだした。100を超える学区が提訴に加わった。

SNSを運営する大手IT企業は、利用者の投稿内容への責任を負うことなく、成長を遂げてきた。そんなIT大手の「盾」となってきたのが、ネット事業者が利用者の投稿に対する責任を免除する「通信品位法230条」だ。

バーグマンさんのアルゴリズムの「製造責任」を問う手法は、この議論をかわす狙いがあった。

だが、10月に開かれた審理では、メタなどの企業側は、さっそくこの条項を盾に、訴訟の差し止めを求めた。

他人からの「いいね！」に影響を受けやすい10代の脳

「ソーシャルメディアは、スロットマシンに似ている」。アメリカ心理学会（APA）のチーフ・サイエンス・オフィサー、ミッチ・プリンスタイン氏はそう話す。

プリンスタイン氏によると、ソーシャルメディアでの活動は、「腹側線条体（ventral striatum）」と呼ばれる脳の一部との結びつきが強いという。「いいね！」など他人から褒められる「社会的報酬」を得た時に分泌される、ドーパミンを受け取る場所だ。特に10代の脳は前頭葉が未発達で、こうした刺激による影響を受けやすいとされる。

今年発表された米ノースカロライナ大の研究では、スマホを使う169人の12歳前後の子どもの脳の画像を3年間にわたり調べた。その結果、端末をより頻繁に使う子どもほど、脳が友人らの反応により敏感になっている可能性があることがわかった。

SNSのメンタルヘルスへの功罪は、詳細にはわかっていない。だが、米疾病対策センター（CDC）によると、10～24歳の自殺率は10万人あたり6.8人だった2007年から、2021年には11人に増加。iPhoneが発売されたのが07年で、スマホの普及と重なる。

米国の公衆衛生政策を指揮するマーシー医務総監は今年5月の勧告書で、「ソーシャルメディアの影響を完全に理解するにはさらなる調査が必要だ」と前置きしたうえで、「一部の子どもには恩恵があるかもしれないが、若者のメンタルヘルスや健康に害を与える深刻なリスクがある」と警告した。

プリンスタイン氏はブログでこう記した。

「人類の歴史で初めて、我々は自分たちの社会的関係の自律的なコントロールをあきらめ、意思決定をAIにゆだねるようになった」

ホーゲン氏の内部告発は、さらに大きなうねりにつながった。

カリフォルニアやコロラドなど41州と首都ワシントン特別区は10月、メタが若者への心理的な悪影響を知りながら利用者を欺いたとして、州の消費者保護法違反などで同社を提訴した。

カリフォルニアなど33州の訴状では、メタがアルゴリズムの設計に、「変動報酬スケジュール」と呼ばれる心理学の手法を使ったと主張。時系列でなくランダムに投稿を表示することで、ドーパミンの分泌を操り、アプリを繰り返し使うように誘導していると訴えた。

原告にはフロリダやケンタッキーなど共和党の支持が強い州も加わった。政治対立が激しい米国で、超党派で大半の州が足並みをそろえるのは極めて珍しく、懸念は米国全体に広がる。

メタ側は「10代の利用者が使う基準づくりで業界側と生産的な協力をする代わりに、州側がこの道を選んだことに失望している」と反論した。

訴訟は長丁場が予想されるが、ホーゲン氏は大きな手応えを感じていた。

「ソーシャルメディアの根源的な問題は、情報開示の義務がなく、フィードバックのしくみがなかったことだ。だが、欧州の規制などで、そうした時代は間違いなく終わる」。ホーゲン氏はそう話す。

「坂の上でビー玉を転がすと、最初はゆっくり進むが、やがてどんどん速くなる。私たちはいま、その最初の瞬間にいる」