「SNSと分断」にどう向き合う　政府と社会、巨大ITの役割は?　専門家に聞く　

――海外では2016年から注目されてきたSNSと選挙ですが、日本でも大きく注目されるようになりました。

私は2024年が、日本のSNSと選挙の転換点だったと考えています。

それまでは、SNSで政治の話題が出ても、選挙の結果に影響を与えることは少なかったのです。でも、東京都知事選、兵庫県知事選と、当初それほど有力だとされていなかった候補や、パワハラ疑惑が報じられたいた候補が、SNSで人気が出て、支持を伸ばしました。そして、兵庫県知事選は勝ちました。

SNSの言説が、非常に大きな力を持つようになったのです。あらゆる年代に浸透し、中高年も情報源にする人が増えているのでしょう。

――こうしたSNSの影響力が課題になっている面もあります。

SNSが大きな影響力をもつことは、多くの人がいろんな情報にアクセスできるようになり、選挙に関心をもてるようになるというメリットもあります。

しかしながら、SNS上では、過激な言説や真偽不明の情報、センセーショナルなものほど拡散しやすい。政策的な中身よりも、強いメッセージや言葉を発することで、支持が集まってしまう。それだけを参考にして投票先を決めるのはマイナスかもしれません。

もう一つの課題は、社会の分断が進むという点です。対立の構図が強調され、分断が加速されます。兵庫県知事選では、誹謗中傷が増えて、その結果、命を絶った人も出てしまいました。

選挙というのは、民主主義のプロセスの一つに過ぎません。終われば、みんな手を取り合って、合意形成をして、よりよい社会を作ろう、という話のはずなのに、社会の分断が進んでしまうと、その話し合いができなくなります。政治の在り方そのものが問われる事態になっています。

――政治家や一部の官僚も、SNSを民意と見て、影響を受けているように見えます。

SNSは、バイアスはあっても、社会の動きをある程度、知ることはできます。ただ、そこには能動的な発信しかなく、サイレントマジョリティーの意見がまるで反映されていません。

偏りがある状態なのに、声をあげている人ばかりに向けて政策を考えると、社会全体にとってはよくない可能性もある。距離感をしっかり考えるのが大事かなと思っています。

――SNSの情報空間をよりよくするために、プラットフォーム事業者は、どう対応するべきでしょうか。

すでに、プラットフォーム事業者が取り組むことで、効果が高くでる取り組みがわかっています。たとえば投稿前に、一度再考を促す機能です。ぜひほかのプラットフォーム事業者にも導入してほしいです。

また、ファクトチェックの結果を優先的に、たとえばフェイク情報が流れた経路に流すこともやってほしいです。

――プラットフォーマーもかつては新興IT企業という位置づけでしたが、いまや情報のインフラを担う企業で、公共性を求められるべきだとの指摘もあります。

事業者に責任はありますが、コンテンツをつくっているわけではありません。事業者が過剰に介入すると、（投稿内容を）コントロールする力を持ってしまうので、どこまで責任を負わせるかはすごく重要な論点です。

（今年4月に施行された）情報プラットフォーム対処法のように、事業者に被害者の通報に対して、迅速に対応すること、透明性をもって運営することを義務づけることには賛成です。

――政府としてとるべき対策は。

私自身は、表現の規制に反対なので、偽誤情報対策の強い法規制には慎重であるべきという考え方です。

いま、偽誤情報、フェイク情報に規制をかける国は多くなっていますが、懸念されるのはそういった法律を政府自身が乱用することです。対立する候補やジャーナリストを逮捕する問題が出ている国もあります。

日本では、すぐに乱用されるとは考えづらいですが、数十年後まで見据えれば、解釈が広がりかねないものにせず、法規制は慎重であるべきだと思っています。

ただ、動画の再生回数が増えればお金が入るので、そういった狙いで参入してきていると見えるケースについては、対策をとることはありえると思います。

――今後をどう展望されていますか。

未来を考えるときは、歴史から考えなければいけないと思っています。

産業革命のときも、黎明期には炭鉱で働く子どもをはじめとする労働問題、環境問題などが起きました。もちろんまだ解決をしていない面もありますが、それでも労働に関する法律をつくり、環境に対する取り組みをすすめ、次第に経済が強くなり、豊かになっていきました。

産業社会の次が、情報社会で、データが石油や石炭のかわりの駆動力になっています。同じように黎明期の今、いろんな問題が発生している状況だと思っています。

情報量はすでに今、かなり増えているように思えますが、これから発展期になれば、ますます増えていきます。

だから、この黎明期のうちに、問題の改善のための道筋をたて、制度をつくり、教育・啓発をすることが求められています。産業社会でもそうであったように、今回も問題を抑える方策をとり、調整できるのではないかと希望を持っています。

――SNS上の分断が広がっています。

私自身は、国際関係と民主主義の接点をテーマとしています。だからSNSの拡散の有用性は完全に否定するべきだと思っていません。

たとえばミャンマーで民主主義を守りたいと思っている人たちが匿名で、現状を発信して共有していく運動のパワーは大きいです。権威主義者から命を守りながら、現実を伝える手段として有用です。

ただSNS上は、いわゆる関心経済モデル（アテンションエコノミー）で、偽情報などが拡散されやすい土壌があります。

その空間のなかで意見の分断があるとき、政治を操る目的もあって、感情を動かそうとしたり、嘘の情報を拡散したり、社会をかく乱したり、といった悪意がある人たちがいます。そういう問題に対して、もっと意識をもつ必要があると思っています。

――分断があるときほど、嘘の情報が意図的に流されがちだということですね。

たとえば私もネットでの影響工作を調査していますが、その結果からも中国は、少なくとも2010年代半ばから、日本への影響工作を行っています。ウクライナ侵攻後からは、ロシアの偽情報が、中国の国営メディアやトロール企業によっても大量に流されているとみています。

日経新聞が報じましたが、沖縄が独立したがっているという偽情報を中国が流す。そうすると、右派の人たちは、沖縄反基地運動をやっている人たちが中国とつながっているかのような主張する。これはまさに中国が狙っているパーセプションハッキング、自分たちと違う人たちをラベリングして批判し、分断を広げていくことになります。

批判する人たちは社会のために批判しているつもりでも、現実にはこれこそが分断を加速している。現状では、SNS上での議論ってあんまりやりすぎない方がいいんですよね。

――どう対応すればいいのでしょうか。

第一に、ファクトチェック。第二にリテラシー教育で、三番目にカウンターナラティブです。

まず、ファクトチェックですが、私自身は日本ファクトチェックセンターの運営委員をやっていて、重要性は感じています。

同時に、偽情報の量と、拡散にかかる時間、一方で偽情報の真偽を確認し、正確な情報を出すまでにかかる時間と労力を考えると、できることの限界も認識する必要があるとも思っています。

やればやるほど、情報をめぐる対立が悪化するときもあり、万能薬ではないということも押さえておく必要があります。

次にリテラシー教育ですが、個々人が自分たちで情報の裏とりをするという習慣をつけることが重要です。

最後に、カウンターナラティブは、一つ一つの偽情報に個別に対応するのではなく、民主主義社会を守るナラティブを作って発信します。

毎年私がおこなっている研修では、東京電力福島第一原発の処理水の放水、新型コロナウイルスのワクチン、英国の反移民感情など、具体的にあった事例を用いています。

こういった問題に関して偽情報を発信しているアカウントが拡散するナラティブを分析。次にこうしたナラティブが響いてしまう人たちに伝わるような親民主的ナラティブを考えるのです。その層が好みそうな言葉づかい、色使い、どんな時間帯に投稿を見るかなども考えて、どんなメッセージなら届くかを考えます。

――ハードルが高そうです。

そもそも自分の思っていることを言うハードルが高いんですよね。日本、そしてアジア全般でもいえますが、儒教思想に基づいて、公けの問題についてはお上が決定し、人々はそれに従うものだと思われがちです。だから意見を出しても意味がない、と考えられ、政治的な意見を出すことも批判を受けがちです。

でも、ふだんから意見を言い合うことに慣れていないと、言葉の強い人が何かをいえば、それに流されるような傾向が強まってしまいます。現状では、それによって公共空間に言説的な空隙が生みだされている面もあると思います。

欧米では、人や社会と個人の間に、水平的な人間関係があると考えられています。人に流されず、主体性をもってコミュニケーションをとるトレーニングが必要です。

――リスク管理も含め、SNSでの分断を架橋する必要があると言われています。具体的には。

SNS上で分断が生まれているのは、SNSのコミュニケーションの割合が大きくなっていること、そして、属性の違う人たちとの対面でのコミュニケーションが少ないというところがあると思っています。

SNS空間で起きていることは、簡単には止められません。架橋していくには、フィルターバブルのないSNS空間外からアプローチするしかないのではないかと思っています。

属性が違う人たちのコミュニケーションをもっと活性化させていく必要があります。

たとえば、将棋や詩吟のクラブ、野鳥の会といった、属性は関係なく、子どもから高齢者までいるような状況で、一緒にいるのが当たり前の社会をつくる必要があると思います。市民社会、市民団体の役割はいっそう大きくなると思います。

――SNSの分断が進んでいます。

分断の背景には、経済格差などさまざまな要因がありますが、これを増幅しているのが、（アプリごとに、どの投稿・動画がどの順番・タイミングで表示されるかなどを決める）アルゴリズムです。

怒りと憎悪が最もアテンションをとりやすい感情だといわれていて、ヘイトや誹謗中傷といった対立をあおるコンテンツは、アルゴリズム上、優先的に表示されやすいです。

――アテンションエコノミーと呼ばれる仕組みですね。

現在の法制度上、誹謗中傷があれば、プラットフォーム企業に削除を要請することができます。でもそれはいわば対症療法に過ぎない。モグラたたきのようにいつまでも続きます。だから、このアテンションエコノミーのビジネスモデル自体を揺さぶって行かないと、問題は根本的に解決されません。分断はどんどん進み、民主主義は非常に厳しい状況に陥るでしょう。

（ファクトチェックや、誹謗中傷の削除など、起きている問題にその都度対応する）対処療法に加え、（構造問題である）アテンションエコノミーの問題を克服する必要があります。そのためには、レコメンダー（推薦）システムの仕組みを透明化して、プラットフォームを選択できるような競争法的規律をかけるなど、多段階・複層的なアプローチが重要です。

――そういうアプローチをとっている国はありますか。

アテンションエコノミーは、米国のIT企業発のものです。米国は、情報空間への規制が忌避される憲法文化があり、政府からの自由を極端に重視する傾向があります。

他方で欧州は、表現の自由はもちろん大事だが、それによって人間の尊厳や人権が侵害されたり、民主主義が侵害されたりするならばやはり適切な規律は必要だという考え方に立ちます。適切に秩序づけられた情報空間で、初めて表現の自由が実現される、という発想です。

――日本はどちらに近いのですか？

日本は、新聞の再販制度や放送法の政治的公平原則など、制度的な支援や規律を受けながら、報道の自由が実現されていた面があったと思います。その意味では欧州に近いのですが、憲法文化の面では米国の影響を強く受けてもいて、国家は表現の自由に一切立ち入るべきではないという「理念」も根強いです。

たしかに、偽・誤情報規制のようなものを国家が悪用することもありえます。政府からの独立や自律が重要であることは言うまでもありません。

ただ、今のアテンションエコノミーに対抗できる主体は少なく、国家が何もしないというのは、現状のプラットフォーム企業による支配を是認し、後押ししかねません。それはそれで無責任なのではないかとも思っています。国家の関与はもちろん過剰であってはいけませんが、適切な関与をしていく欧州のアプローチは参照に値するものだと思っています。

――ルールづくり以外でも、アルゴリズムの問題に対策をとれませんか。

投稿・動画の表示のあり方を決めるアルゴリズムは、プラットフォーム企業によって経済的な意図をもってデザインされているものですが、私たちはその「意図」は気づきにくいし、そもそもどういうアルゴリズムになっているかは企業秘密ともいえます。

いま、さまざまな分野の研究者と連携しながら「情報的健康」という切り口でこの問題を理解してもらおうとしています。

たとえば、食べ物を摂取するときに、すごくおいしくて、嗜好性が高くて、中毒的にどんどん食べてしまうといったことが起こりうる。でも食品表示法により、加工者がだれか、どういう素材を使っているかなどが表示されるので、消費者は、例えばどんな添加物が入っているかがわかる。そうすると「食べるのをやめておこう」とか、「別のものを食べよう」というように、抑制が働きます。個々人がこうした情報を知った上で、食べ物をどう摂取するかの選択ができるのです。

情報についても同じように、この情報がなぜ自分にレコメンドされるのかなど、アルゴリズムの”実体”（狙い）を明らかにしたり、個々の情報の発信者情報や来歴、AI加工（AI加工はまさに人工の「添加物」のようなものですが）の有無などを明らかにしたりすることで、自分の情報的な健康のためにいまどんな情報を摂取すべきか、自分で適切に選択できるようにしようという考え方です。私たちもデータや情報でできている「情報有機体」（情報・データで構成される生き物）だとすれば、これからのデジタル時代、どんな情報を体内に取り込むかが自分の健康や幸福にとって決定的に重要になるのではないでしょうか。

アルゴリズムや情報それ自体の透明性を高めることは、一般の人と、専門家双方に対して必要だと思っています。

私たちの感情が刺激され、分断が広がる「からくり」を意識することも大事ですし、専門家がより詳細な分析をしていけるレベルの情報開示も大事です。プラットフォーム企業が、私たちの「情報的健康」にどれぐらい配慮してくれているのかを明らかにする、こうした透明性の確保については、法的に義務付けていくことも必要だと考えています。

プラットフォーム企業の存在感は大きく、一国家だけでたたかうのは大変です。他国と連携しながら、考えていくことも重要だと思います。