フェイクニュースの免疫学 Sander van der Linden 2026.6.1.
2026.6.1. フェイクニュースの免疫学 信じたくなる心理と虚偽の構造
FOOL
PROOF Why We Fall for Misinformation and How to Build Immunity 2023
著者 Sander
van der Linden ケンブリッジ大学心理学部教授、ケンブリッジ社会意思決定研究所ディレクター。専門は社会心理学で、人間の判断や意思決定の心理学に着目して研究を行っている。そのなかでも特に、情報や誤情報がもつ社会的影響力、情報に人々が説得されるしくみ、そして心理学的な接種によって説得や操作への抵抗力が獲得される機構、といったテーマに関心がある。著書に『現代誤情報学入門』（ジョン・ルーゼンビークとの共著、加納安彦訳、日本評論社、2025）がある。
監訳 笹原和俊 1976年福島県生まれ。2005年東京大学大学院総合文化研究科博士課程修了。博士（学術）。現在、東京科学大学環境・社会理工学院教授。専門は計算社会科学。著書に『フェイクニュースを科学する――拡散するデマ、陰謀論、プロパガンダのしくみ』（化学同人、2018。文庫版、2021年）、『ディープフェイクの衝撃――AI技術がもたらす破壊と創造』（PHP新書、2023）などがある。
訳者 松井信彦 翻訳家。訳書 ジョウハール『私を忘れた父を愛す』（2024）クローズ『宇宙に質量を与えた男』（2023、以上早川書房）バッタチャリヤ『未来から来た男』（2023）ベイル『ソーシャルメディア・プリズム』（2022）ブラストランド、シュピーゲルハルター『もうダメかも』（2020、以上みすず書房）ほか。
発行日 2026.3.16. 第1刷発行
発行所 みすず書房
目次
プロローグ
Foolproof―｢誤用されようのない｣
5G通信網のせいで新型コロナウィルスに感染しやすくなっていると思っている人が、各国で母集団の10～17%いたという調査がある
フェイクニュースを見抜く私たちの能力について楽観的な立場をとるにしても、誤情報の影響力や危険性を高めるのに全ての人を騙す必要はないという事実を忘れてはいけない
本書では、人はどのようにして誤情報を信じるようになるのか？ 誤情報はなぜ、どのように拡散するのか？ それに対して私たちには何ができるのか？ すべて答える
私の母方の親族の大半はオランダでナチによって処刑された。ナチズムが一族に与えた影響を知って、人が危険で有害なプロパガンダに説得されるプロセスに興味を抱く
本書で紹介するのは、説得に対する応戦方法であり、フェイクニュースへの抵抗力をつける一助となるよう、免疫力の強化を促す11の心理的抗原を紹介する
3つの重要な主張がある
①
生物学的なウィルスだけでなく、精神のウィルスも存在する
②
一般的なウィルス性病原体と同様、フェイクニュースには人から人への伝染が必要
③
効果的な抗ウィルス治療(＝フェイクニュースに対する心理的ワクチン)が必要
フェイクニュース作りで用いられる6つの基本的手法(＝操作の6次元)とは
①
社会で集団を二極化(分極化)させる
②
感情に訴えて人を操る
③
陰謀論を広める
④
偽の専門家や公的機関を演じる
⑤
他者の信用を貶める
⑥
オンラインで荒らし行為をする
デバンク: 誤情報・偽情報の嘘を暴く・反証すること
第I部 精神のウイルス
1 真実の錯覚――脳はいかにして事実と作り話を区別するのか
l 子どもたちも大丈夫ではない
デジタルネイティヴな子どもたちでも区別がつかない
｢誤情報｣とは、理由は何であれとにかく虚偽か誤りである情報
｢偽情報｣とは、他人を欺く、他人に危害を加える、といった意図が誤情報と結びついたもの。政治的な意図のもとに用いられる偽情報をプロパガンダという
l 予測する脳
脳は周囲の手がかりを、真だと知っている物事と合わせて考えて、そこに何があるはずかについて最善の推測をする
脳はトップダウン型の解釈を大量に行っており、それは視覚に限ったことではない
l 真実は錯覚なのか？
文言は耳にする回数が増えるほど｢本当｣に聞こえてくる ⇒ ｢真実錯覚効果｣｢流暢性｣
すでに持っている知識は、真実の錯覚を防ぐ役には立たない。錯覚だと知っていても、知覚系のバイアスは修正されない
l 誤情報効果
脳の長期記憶はシナプス(2個のニューロンの繋がり)という形で蓄えられる。えてして自分好みの記憶を残し、それを頻繁に思い、懐かしみ、ともするとその過程で飾り立てさえする。そうでないものは往々にして忘れる
フェイクニュースの抗原1 真実をより流暢にする
⇀ 人間の脳は、見ている物事について経験則をもとに予想を行う
⇀ 経験則の1つとして、私たちは(虚偽の)主張が繰り返されるほど、それに馴染みを感じるようになり、ひいてはそれが真実である可能性が高いに違いないと思う
⇀ この現象は、｢真実錯覚効果｣と呼ばれている
⇀ したがって、真実が｢頭に残る｣ためには流暢に処理される必要がある。主張は馴染みが深まるほど処理しやすくなるから
⇀ 嘘やフェイクニュースはたいていシンプルで残りやすいのに対し、科学はしばしば複雑で一筋縄ではいかないものとして提示される
⇀ それらしい主張は、処理しやすく繰り返しやすいほど馴染みが深まり、脳がそれを真実であることの手がかりとして用いる可能性が高まる
2 動機付けられた脳――あなたが信じたいこと
真実を探る私たちの営みと、この世界について私たちが信じたいこととの間には、常に緊張関係がある。なぜ人によっては気候変動を否定するのか？
l ベイズ的な脳
ケインズはある問題について自身の立場を変えたことへの非難に対し、｢事実が変われば私は考えを変える｣と答えたという
｢ベイズの定理｣とは、ある結果が観測されたとき、その原因が特定のものである確率を求めるための基本定理
実生活で得られた動かしがたい証拠に照らして信念を更新(変更)するが、多くの場面で、信念を証拠に合うよう更新するどころか、更新しないか、むしろ証拠から離れるように更新している。真実をより目立たせる(真実を流暢にする)手段の1つが画像の使用で、画像見れば一目瞭然だが、｢動機づけられた認知｣を前にすると、画像があったとしてもそれを否定する。私たちの信念を突き動かしているのは証拠ではなく、心の奥底にある(政治的な)動機であり、それが各自の世界観に合わせて証拠の知覚を(意図的に)歪めている
l 脳が動機付けられるわけ
基本的な認知処理(記憶、知覚、注意、判断)に動機という色眼鏡がかかっているという考え方がある。トップダウン型認知の強力な介入があって、選択的・意図的に、すでに信じていることを支持するように証拠を探したり退けたりする
日常的な推論の多くが動機づけられていて、通常動機には善意によるものが多い
基本的な動機付けの1つが、事実に触れていたい(正確でありたい」という思い(正確性動機)であり、人間の認知の大半を突き動かしている根源的な力だが、私たちが特にオンラインで置かれている状況は、正確性動機の発動には必ずしも適していない
私たちの脳では、自分の世界観に沿っている証拠の確認と受容の方が、反している証拠の場合よりも処理が速く、その意味で私たちは偏っている
自身の信念に反する証拠を突き付けられると、人によっては信念がむしろ極端になることもある ⇒ 世界観の｢バックファイアー効果｣、｢信念の二極化｣
l 社会的な状況
社会的な目的のために証拠の知覚を意図的に歪めることがあるのは、似た考えを持つ人と繋がって一体感を得たいという欲求があるからで、この欲求はしばしば世界を生き抜く上で極めて強力かつ適応的な動機となり得る
知識というものはコミュニティに根差している。言い換えると、情報源を信頼出来ると思っているからこそ虚偽の主張を是認するのかもしれない
l 二極化の証拠をめぐって科学者の意見が両極端に分かれている理由
人々は世界について自分が好む信念を胸に日々過ごしているが、自身の世界観に反するものも含めて、証拠を検討する意向は持っている。気候変動についても、｢気候学者の97％が、人為的な気候変動が起こっているという結論に至っている｣との文章を示したところ、保守派も一様に、気象変動の科学的コンセンサスに関する各自の信念を証拠に合わせて更新し、二極化ではなく政治的な合意が導かれた
フェイクニュースの抗原2 正確性指向の動機を引き出す
⇀ 誰にも正確な世界観を持っていたいという基本的な動機があるが、それとは別に社会的あるいは政治的な傾倒もあり、これらのバランスをとる必要がある
⇀ 対立する動機があるからといって、証拠に照らして信念を更新する意向がないわけではない
⇀ 重要なのは、正確でありたいという欲求と、他者から好かれて自身の社会的ネットワークに受け入れられたい(社会的に｢正確｣でありたい)という欲求とのバランスをどうとるかだ
⇀ 対立する動機間の緊張関係を解消するための一案が、事実や証拠に基づく科学的かつ超党派的なコンセンサスを発信する等して、科学の政治化に抗い、それを防ぐ必要がある
⇀ コロナのパンデミックで明らかになった通り、科学そのものが大きく政治化されてきた現在、正確さへの欲求を引き出すことは、言うは易く行うは難しである
3 陰謀論効果――真実はそこにある
特定の見方を変えたくないという根深い動機から証拠に背を向ける人物は、これまで総じて極稀で、それが社会全体の姿だったが、もはや陰謀論は社会の周縁で活動している者たちだけのものではなくなっている。アメリカ人の半数以上が陰謀論を1つは支持している
2021年の調査では、アメリカ人の約15％が｢Qアノン陰謀論｣を信じている。アメリカの政界、メディア、金融業界は、世界規模で児童買春を行っている悪魔崇拝の小児性愛者集団によって支配されているという突飛な主張に毒されている
l 陰謀論的世界観
どの陰謀論にも共通している特徴は、大きな力を持つ秘密の存在が陰で活動し、何らかの邪悪な計画を実行に移している、と頑なに信じていること
陰謀論には科学理論から逸脱している側面が3つある
1つは、ある陰謀論を信じていることが別の陰謀論の証拠として機能しているのが特徴
2つ目は、陰謀の秘密を守るために協力する必要のある関係者の人数から言って、陰謀論の多くは数学的に全くあり得ないことで、陰謀論の多くはまるで現実味がない
3つ目は、陰謀論は本当の意味での｢論｣ではなく、その中核には動機付けられた推論の最も根源的な原理が据えられている。特定の前提を出発点としている
陰謀論的世界観の中心的な要素は、被害妄想と役人不信
陰謀論は、少なくとも3つの基本的な心意的欲求を満たす
①
身の回りの世界を理解したいという欲求や、｢実情に通じている存在｣だと感じさせて、一般の｢シープル(羊のシープと人間のピープルの組み合わせ)｣と区別
②
｢実在論的｣な安堵を与え、世界の出来事に対し主体性とコントロールの感覚をもたらす
③
基本的な｢対人関係的｣欲求を満たす。疎外感を抱いている人に、同じ大義を持つコミュニティと繋がっている帰属意識を持つ機会を与える
l 陰謀論的思考の7つの特質
C:
Contradictory矛盾
O:
Overriding Suspicion疑念が最優先
N:
Nefarious Intent邪悪な意図
S:
Something must be Wrong何かがおかしいに違いない
P:
Persecuted Victim迫害の犠牲者
I:
Immunity to Evidence証拠に対する免疫
RE:
Re-interpreting Randomness複数の偶発事象を結び付けて1つのストーリーにまとめ上げる再解釈
これらの特質それぞれを実際見て取れる事例が、2020年5月YouTubeで爆発的に拡散された｢プランデミックー新型コロナウィルスの背後にある隠された思惑｣で、コロナウィルスが生物工学的に開発され、ワクチンのせいで体内に移植されたウィルスがマスクの着用で活性化しているというもの。2日後にYouTubeにより公式に削除
生物工学的に開発されたと言いながら、すでに体内にあるという矛盾
科学の主流や公式見解に関わるあらゆる人物や公的機関に対して疑念が優先する
陰謀を企むそうした者たちには良からぬ思惑もあるに違いないと疑う
陰謀論者は、力のあるエリートが仕組んだ陰謀によって疎外された犠牲者だと見做しがち
陰謀論者は、証拠に動じないものはほぼいないということの例外。陰謀の証拠がないと指摘されると、うまく隠しているからだと答える
偶発事象の再解釈については、パターン知覚の錯覚が起こっている。無関係に起こった出来事を再解釈して、そこに重大な意味を与えている
フェイクニュースの抗原3 陰謀論的思考の7つの特質を見抜いて抗う
⇀ 陰謀論には心理的な魅力がある。ほかの説明では何の関係もなく複雑に見える出来事を、明快かつ簡潔に説明するからだ。偽りのコントロール感覚を取り戻す手助けにもなる
⇀ 陰謀論は伝染性が非常に強い。その影響はひとたび触れただけで伝わる
⇀ 抵抗力をつけるための第1歩は、陰謀論をそれと見抜くこと
⇀ CONSPIREチェックを活用しよう。
4 なぜウイルスは頭から離れようとしないのか――誤情報持続効果
ホロコーストを正当化する陰謀論は今もなお存在しており、大勢のホロコースト否定論者に支持され続けているが、それはホロコーストに限った話ではない
l 誤情報持続効果
｢ひとたび鳴った鐘の音はなかったことに出来ない｣というように、一旦深く刻まれた記憶の痕跡を脳裏から消し去ることは難しく、いくら訂正情報を流したり、誤情報を考慮しないよう明確に指示しても、誤情報にひとたび触れた人はその後も記憶から虚偽の詳細を引き出す。この効果は誤情報が繰り返されるほど、また訂正なしで記憶される期間が長いほど顕著になる。感染が悪化する
l 今なお生き続けるウイルス
1998年、イギリスの反ワクチン活動家が権威ある医学誌『ランセット』に、MMR(はしか)ワクチンと自閉症の繋がりを発見した、医学史上最悪の不正の1つとされる論文を掲載
検査対象群がワクチン製造元に対し損害賠償を求める原告だったことが判明、権威ある機関での検証でもワクチンと自閉症の繋がりを示す証拠は出ず、'10年にはランセットも論文を虚偽と断言。著者は医師免許を剥奪されたが、12年という期間は深刻な害を及ぼすには十分すぎるほどで、イギリスのワクチン接種率は1988年導入後最低に落ち込み、麻疹の症例数が急増。接種率は回復傾向にはあるが、いまだに以前の水準には戻っていない
この活動家は、2016年ニューヨークのトライベッカ映画祭に陰謀論映画《ワクチン接種―隠蔽から破局まで》を持ち込み、映画祭創設者の1人であるロバート・デ・ニーロの後押しもあって上映が予定され、最終的には取りやめられた。デ・ニーロには自閉症の子供がいて、｢自閉症を巡るあらゆ課題がオープンに議論・検証されることが大切｣だと言い、彼の動機は正確さや真実を追求したいという誠実なもので、観察等価性のパラドックスに陥っていることが明らかだが、根拠がないに等しい陰謀論映画に発表の場を与えようとしただけでも、誤情報持続効果が衰えていないことに驚く
映画は、翌年のカンヌ映画祭で非公開上映され、ほどなくロバート・ケネディ・ジュニアが続編《ワクチン接種II―庶民の真実》(2019)の制作総指揮を務めた
9.11の大量破壊兵器に関する報道も好事例。訂正が繰り返されても誤情報が消えないことに加えて、自分の信じたい世界観に沿った誤情報ほど消えにくいことがポイント
ナチのプロパガンダでは、多くの課外活動を含めた教育課程全体が、ナチのイデオロギーに奉仕する形で動員され、現代でもなお、ドイツ人の20％前後がユダヤ人自身に原因があり、対等な権利を与えるべきではないと考えている。この数字は地域差があり、予て反ユダヤ感情を抱いていた人々にとりわけ効果的で、今日まで効果が持続していることを示唆
l 誤情報の影響はなぜ持続するのか？
人が虚偽の情報を思い出し続ける理由を完全には説明できていないが、誤情報と訂正情報が脳内で共存し、注意を争っていることは分かっている
誤情報を訂正するためには、訂正情報を誤情報より目立たせ、訂正情報の記憶ではなく、誤情報の記憶が図らずも強化されるのを避けることが非常に重要。加えて、出来事の因果関係について信頼できる代替説明を用意して、メンタルモデルの空白を埋めることも大切
l 影響が持続しないよう誤情報を訂正する
代替説明とそれまでの信念とにあからさまな矛盾がないのが理想的
私たちの研究から得られた知見では、科学的コンセンサスを強調することが、影響力のある誤情報を再掲する必要性をなくすための有力な手段になり得ることが判明している
大手メディアでも依然としてデバンクしようとする中で誤情報の主な内容の再掲が繰り返されているのは遺憾。デバンキングを強いられた際には正しく行うことが肝要
効果的なデバンキングの方法として提唱するのが、｢真実のサンドウィッチ｣と呼ぶアプローチに基づいたもので、虚偽を真実の層で挟むことにより効果を高める
①
事実――専門的な情報源に基づき、簡潔かつ記憶に残る形で提示
②
俗説についての警告――俗説について視聴者や読者に警告(1回だけ)
③
操作手法の暴露――その俗説がなぜ、どのようにミスリードなのかを説明(俗説を再掲せずに)
④
事実――事実を再度強調し、信頼できる代替説明を提示して締め括る
ただし、デバンキングで誤りを正せるのは訂正(する)情報が十分広く共有されている場合に限られる。誤情報が急速に拡散し続けている時には、デバンクしてもその情報への馴染みが深まるばかりで、結果的に持続的効果の影響が一層強まりかねない
フェイクニュースの抗原4 誤情報持続効果を最小限に抑える
⇀ ひとたび触れた誤情報の訂正は難しい。誤情報は記憶に根付き、訂正がなされたと知っていても判断に影響を与え続ける
⇀ 誤情報が脳内に留まる期間が長いほど、そして以前からの記憶との一貫性が高いほど、影響力は強く、訂正は難しくなる
⇀ ワクチンと自閉症の関係、イラクの大量破壊兵器、第2次大戦はユダヤ人のせいなどは、訂正が繰り替えされているにも拘らず一部で信じ続けられている
⇀ 俗説を再掲せず、信頼できる代替説明を添えてタイムリーに訂正できれば、誤情報に対する継続的な依拠の抑制につながる可能性がある
第II部 インフォデミック――誤情報ウイルスが拡散する仕組み
5 誤情報という病原体――古代ローマからソーシャルメディアまで
｢古代ローマの情報戦争｣と呼ばれるオクラウィアヌス(カエサルの姪の息子で、後のアウグストゥス)が仕掛けた偽情報キャンペーンは、カエサル暗殺後の3頭政治崩壊の際、政敵となった義兄のアントニウスを誹謗するもので、東方人に対する既存の偏見を利用し、義兄が異国の女性クレオパトラの虜になっていると非難
このようなプロパガンダや二極化は以前からあったが、ソーシャルメディアはそのありようを一変させた。社会における情報の流れを根本的に作り変えた。情報伝達のスピードを変え、クリック1つでリーチできる相手の人数を変え、情報が提供および操作される社会環境を変えた
⇀
いざ、シリコンバレーへ
フェイスブックは2014年、メッセージングプラットフォームのワッツアップを200億ドルで買収したが、'18年ワッツアップで拡散された誤情報によってインドで人命が奪われたことを示唆する証拠が露見して窮地に立たされ、私たちに支援の要請が来た
ワッツアップ上で児童人身売買に関するフェイクメッセージが大量に飛び交い、インド各地で暴徒による集団リンチ事件が多発。ワッツアップのユーザーは全世界で20億人を超え、中でもインド市場は突出しており、有害コンテンツ拡散の抑制が急務
ソーシャルメディアは誤情報の伝わり方を根本的に変えてきたが、その独特な側面を如実に示す実例として、ワッツアップはとりわけ興味深い
⇀
虚偽は飛ぶように伝わり、真実はあとからもたもたやって来る
情報伝達のスピードに加え、伝わる範囲や広がり方も重要
ウィルスの｢基本再生産数R0
(＝伝染力、アール・ノートと発音)｣は、事前免疫のない集団において、感染者1人が平均何人に感染させるかを示す。R0は3つの主要因に左右される。感染性期(感染者が感染性を持ち続ける期間)、伝播様式(空気感染など、病原体の広まり方)、接触率(1人が接触すると見込まれる感染者の数)で、麻疹のR0は推定12～18
誤情報を病原体に見立てた場合、R0は誤情報の投稿をすでに行っている人(感染性がある)との接触後にフェイクニュースの投稿を始めると予想される人の数と捉えられる。無自覚な人も有害と気づかずに共有したり、興味本位で拡散させたりするので、有力な感染媒介者になり得る。誤情報が拡散しやすいのは、オンラインという伝播様式ゆえでもある
WHOは(誤)情報の爆発的な拡散を受け、'20年に世界的な｢インフォデミック｣を宣言
ツイッターのデータをもとに、真偽の確認済みの情報伝達の態様を調査した結果、虚偽はすべての情報カテゴリーで真実よりも格段に速く、深く、幅広く拡散していた。リツイートされる可能性も虚偽のニュースの方が70％高い。とりわけ顕著だったのが政治関連のフェイクニュースで、'16年の大統領選前後がそのピーク
⇀
メディアがメッセージと化したとき
ワッツアップでは、投稿内容の監視(コンテンツモデレーション)がなされておらず、誤情報の出所を特定できない。インドでの集団リンチ報道を受け、メッセージの転送に制限を課したが、ユーザー心理にまで踏み込まなければ、誤情報の拡散は止められない
さらに、ワッツアップでは、メッセージの送信者が友人や家族など、同じグループのよく知る人物ということが多く、受け取った情報を信じやすいという特性もある。さらには、テクノロジーがメッセージのコンテンツそのものを大きく変えている。音声や加工された画像などが添付され、証拠としての信憑性を高めている
⇀
伝令（メッセンジャー）を責めてはならぬ？
ワッツアップは、インスタントメッセージング・プラットフォームであり、重要な拡声器として機能しているが、それ自体が問題の根本原因ではない
デジタルリテラシーの低い地域や、よそ者の排斥など、既存の信念やイデオロギーと共鳴する形で処理する動機が住民にある場合は拡散が速い
フェイクニュースの抗原5 ソーシャルメディアでのフェイクニュースの爆発的な拡散を抑える
⇀ 有史以来、誤情報は人類について回ってきたが、ソーシャルメディアの台頭によって、誤情報や偽情報を世界中の数百万人に瞬時に拡散できる前例のない手段が現れた
⇀ 誤情報の拡散スピードと、誤情報が達し得る世界中の人々の数、そして私たちの偏見をテクノロジーが利用できる新たな形態が、人々の幸福に対して深刻な脅威となっている
⇀ ｢インフォデミック｣に対処するには、R0を抑える必要がある
⇀ 誤情報の拡散力を抑える試みとして、メッセージの共有または転送できる頻度を制限するようなテクノロジー主導の解決策による介入も有用だが、問題の根本原因は人間とソーシャルメディア・テクノロジーとの相互作用にある
6 マシンに向かう怒り――エコーチェンバーとフィルターバブル
私は昔から新テクノロジーには臆病で、マーケティング用語では｢レイト・アダプター｣といわれるが、コンピューターやインターネット、ソーシャルメディアの普及状況はラジオや車など過去のテクノロジーの普及に比べ、遥かに急激
ü エコーチェンバー（Echo chamber）とは、SNSなどの閉じたコミュニティ内で似た意見や思想が反響し合う現象。自分が発信した意見に対して同じような賛同が返ってくるため、その思想や偏った情報が「世間の常識」であると錯覚してしまう状態を指す。
ü フィルターバブルとは、検索エンジンやSNSのアルゴリズムが、ユーザーの過去の検索履歴や行動パターンを分析し、「その人が見たい・好みそうな情報」だけを優先的に表示する結果、見解が偏った情報の泡（バブル）の中に閉じ込められてしまう現象のこと
ü 「ラビットホール（Rabbit Hole）」とは、「本来の目的から逸れて、抜け出せなくなるほど深く入り込んでしまう状況」や「複雑で底なし沼のような世界」を指す言葉で、『不思議の国のアリス』が語源。主人公のアリスが、白ウサギを追いかけて「ウサギの穴（ラビットホール）」に落ち込み、奇妙で不思議な世界に迷い込んでしまう場面に由来
l エコーチェンバーの中――誰か聞いてる？
過激思想に染まった人たちの辿った道のりは違っても、共通するのはネットに費やす時間が非常に長かったこと
l エコーチェンバーがフィルターバブルだとは限らない
エコーチェンバーは、閉じたメディア環境内で信念や意見が増幅及び強化される状況であり、既存の世界観を強化する情報だけを探せると同時に、それらにともすると不快な形で異を唱えているかもしれない反対意見のコンテンツには触れなくて済む
エコーチェンバーは、確証バイアス、集団極性化、誤情報の拡散、そして状況によっては過激な思想への傾倒や極端な主張への支持に拍車をかけると考えられている
フィルターバブルとも密接な関係にあるが、はっきり区別しておく必要がある
l うさぎの穴の奥深く
ラビットホールは一種のフィルターバブルで、アルゴリズムによる視聴のお薦めが、時間とともにユーザーをより過激なコンテンツへと誘導していく
ソーシャルメディアにおけるアルゴリズムによるフィルタリングが、特にオルタナティブや過激主義のコンテンツにそもそも目を向ける可能性のあった個人に対し、既存の偏見を増幅して悪化させるようなエコーチェンバーを作れることがわかる
l そっちのせいだ、こっちじゃない
フィルターバブルとエコーチェンバーの重要な違いの1つは、エコーチェンバーがフィルターバブルによる結果とは限らない点。ソーシャルメディアはエコーチェンバーの形成に重要な役割を果たしているが、エコーチェンバーはオフラインでも存在する
l この話はオフラインで
人は自身の個性や政治志向に合った地域に引っ越す傾向にある
人はオフラインでもエコーチェンバーに入り込んでいる。ということは、オンラインのエコーチェンバーは、ソーシャルメディアによって形成されるどころか、実はオフラインのエコーチェンバーによって動機付けられている
'16年のブレグジット国民投票期間中のツイッターの投稿を見ると、地理的に近い者同士でのやり取りが圧倒的に多く、オフラインのエコーチェンバーがオンラインのエコーチェンバーの動機付けに一定の役割を果たしている可能性を示す
フィルターバブルはオンラインでしか生じない
l オンラインのエコーチェンバーはなぜ誤情報の拡散に拍車をかけるのか
エコーチェンバーは完璧な宿主として機能している。私たちの免疫反応を弱め、増殖の温床となっている。エコーチェンバーに嵌ると、ゆくゆくは集団極性化に繋がる。同じ考えを持つ人との討議を経た人は、自分の主張に対する確信を深め、二極化が一層進む
l エコーチェンバーに穴を開けると？
エコーチェンバー問題の簡単な解決策としては、相手側の意見やより多様な視点に触れさせればいいが、事はそう簡単ではない
l ソーシャルメディアのいびつなインセンティブ
ソーシャルメディアは、ネガティブなエンゲージメントに報酬を与えるという形でいびつなインセンティブを作り出しているように見える
相手側の批判や、｢ダンキング｣(誰かを批判・嘲笑して喝采を得ようとする行為)が一貫して共有率の高さが見られたが、ソーシャルメディアの使用をやめると二極化が緩和された
本当に必要なのは、ゆっくり行動し、物事を修復すること――ソーシャルメディアのインセンティブ構造を抜本的に見直すこと。エンゲージメントを最大化する必要はない。最大化すべきは正確性と建設的な議論だ
デジタルフットプリントを利用してユーザーにマイクロターゲティングを仕掛ける偽情報キャンペーンこそが問題であり、ひいては、ソーシャルメディアでの偽情報の拡散が民主的な選挙を損なってきたのか、という大きな問題に発展する
フェイクニュースの抗原6 エコーチェンバーを避け、アルゴリズムにデータを差し出さない
⇀ エコーチェンバーには様々な｢オフライン｣の要因があるが、その形成にはソーシャルメディアが重要な役割を果たしている
⇀ アルゴリズムによるコンテンツのフィルタリングは、ユーザーの行動に基づきレコメンデーションエンジンを通じて行われ、漏斗のように働いてユーザーを二極化や過激主義へと導く
⇀ エコーチェンバーやフィルターバブルは、誤情報のファクトチェックやデバンキングの普及と浸透を妨げる深刻な要因となっている
⇀ エコーチェンバー内では、ユーザーが同じような考えを持つ相手に情報を偏った形で伝えている
⇀ エコーチェンバーに穴を開けるのに、相手側のより多様な意見に触れさせるだけでは不十分。ソーシャルメディアは不釣り合いなほどのインセンティブをネガティブなエンゲージメント(義憤など)に与えており、結果として二極化が一層進み兼ねない
⇀ したがって、ソーシャルメディアのインセンティブ構造を変えて、二極化や過激化を招くコンテンツや虚偽のコンテンツが、報酬を与えられたりお薦めされたりしないようにする必要がある
7 大衆説得兵器
2016年、アレックス・コーガン(別名アレグザンダー・スペクター)が自身で開発したアプリを使ってフェイスブックから集めたビッグデータをケンブリッジアナリティカに売却、そのデータを活かしたマイクロターゲティングの手法を用いて有権者にオンラインの政治広告を配信し、トランプやブレグジットの投票に影響を及ぼし、民主主義の根幹を揺るがせるスキャンダルに発展
l コーガンのファイル
コーガンの開発したアプリは、心理学では一般的に用いられる｢性格診断｣で、ユーザーのパーソナリティデータを集めるだけでなく、回答とオンラインでの活動を組み合わせようとした。27万人に3ドル程度の報酬を払ってデータを取得、同時に彼らの友達からも同様の情報が自動的に取得される仕組み('15年には中止された)になっていたため、瞬時に膨大なデータセットが出来上がる。イギリスでは100万人分、アメリカでは7000万人分のデータがあり、ケンブリッジ社は80万ポンドでそのデータを取得。コーガンの商業目的による売却行為は、フェイスブック社の規約に違反。ケンブリッジ社の主な出資者は億万長者でオルト・ライトのアメリカ人ロバート・マーサーやトランプの選対本部長を務めたバノンなどがいて、極右寄りの政治的関心との繋がりが後に暴露されている。ケンブリッジ社自体、元々はカナダのリベラル寄りの政党が選挙に負け続けたことを理解するために設立された会社で、後に事件を内部告発したワイリーというデータコンサルタントが、バノンの”心理専用使用権マインドファックツール”の開発のためコーガンのデータを買収したが、やがてバノンが”文化戦争を仕掛けてアメリカ政治の流れを変える”という発想に関心を持っていることを知って会社を辞め、のちに暴露に踏み切る
ケンブリッジ社がとりわけ関心を寄せたのは米国民のパーソナリティデータで、それぞれの性格に合わせた政治的なターゲティング・メッセージを送ることが可能。例えば、｢神経症傾向が高い｣人には恐怖に基づくメッセージが響きやすいなど
最大の焦点は、こうした手法がどれだけの効果を発揮するかどうかで、ワイリーも自身の開発したモデルの精度はそれほど高くないと言っていたが、何がデタラメで何が真っ当かをどうしたら見極められるのか？ 個人データの政治利用を巡ってデータ保護当局が初めて実施した調査結果(‘20)では、｢我々の民主主義体制には体系的な脆弱性が存在する｣と指摘された。その結論に至った理由を理解するには、｢サイコグラフィック・マイクロターゲティング｣を支える科学を掘り下げる必要がある
l フェイクニュースは民主的な選挙の結果を左右しうるか？
誤情報が有権者の選択に影響を直接与え得るのか？との問いに対して、科学者は懐疑的
｢直接的｣な影響力があるという証拠はほとんど得られていない。キャンペーンによって投票行動を変えたのはほとんど例がない
‘16年の大統領選でも、実際に人々が触れたメディア情報全体にフェイクニュースが占める割合はかなり小さく、選挙結果に及ぼす影響は無視できるとの調査結果が支配的だが、どの調査でも有権者のサイコグラフィック・プロファイリングに基づくフェイクニュースのマイクロターゲティングの影響が考慮されていないため、過小評価との疑念は打ち消しがたい
l あなたが残すデジタル痕跡
アメリカでは商用の有権者ファイルを購入できるため、政治組織や信販企業が保有する顧客データなど、利用可能な個人情報がほかにもあれば、統合して個人のプロファイリングができる。特定の問題に対する各人の立場を予測するためには、心理学的なデータが欠かせない。｢いいね！｣データだけで性別を93％、党派を85％、民族を95％、性格的指向を88％予測できた。オンライン上のデジタルフットプリントから性格を予測することが可能
フェイスブックは、｢ソーシャルネットワーキング・システムにおけるコミュニケーションおよび特徴に基づくユーザーの性格特性の特定｣と題した特許を'12年に出願。そこには、｢推定された性格的特徴はユーザーのプロフィールと関連付けられて保存され、ターゲティングに使用できる｣とされている
説得型広告キャンペーンの重要な指標の1つが｢コンバージョン率｣で、広告の表示回数に対する｢コンバージョン｣(商品の購入や投票など)の回数の割合。平均値は極めて低く、政治キャンペーンでは多額の投資をして何度でも広告を流さないと行けないが、マイクロターゲティングを活用すれば、効率を格段に高められる
l マイクロターゲティング――心理的大衆説得兵器
不適切に入手されたフェイスブックデータがブレグジットやトランプのキャンペーンでマイクロターゲティングにどの程度使われたのかについては未解明のままだが、両キャンペーンでマイクロターゲティング戦略がフェイスブック上で大々的に展開されたこと、同じことがこれからも起こる可能性が高いことは重要。マイクロターゲティングが人々を説得し得ることを示す新たな証拠は出てきたが、それによって選挙の結果が左右されるかどうかは未解決のまま
‘18年の米中間選挙でテキサス州の有権者90万人を対象に実験した結果、｢接戦区｣の女性に限ると、中絶支持の広告に投票行動への比較的大きな効果が見られた
フェイスブックで広告を買うだけでは選挙結果を左右するのに不十分で、文脈が重要であり、メッセージが重要であり、オーディエンスが重要だとわかる
このキャンペーン全体の費用は25,000ドル
l 選挙におけるフェイクニュースの役割に関する私の評決
上記の実験では、フェイスブックのアルゴリズムを利用して特定のオーディエンスに響く｢ツボ｣を見つけるのにそれほど費用はかからなかった
'16年のトランプ陣営では、フェイスブック広告に4000万ドルが投じられ、｢プロジェクト・アラモ｣と呼ぶキャンペーンで様々なターゲティング広告が配信され、特にヒラリーを貶める広告を黒人有権者に効果的に流したことで、前回はオバマに投票した黒人有権者たちに今回は投票を抑制しようという動きに繋がったという
似た特徴を持つグループはいくつでも容易に作ることが可能で、｢いいね！｣のようなデジタルフットプリントをデータに加えることで、ターゲティングの精度と効率がさらに向上することが判明。国政選挙の1/4近くが3％未満の僅差で決まっていることを踏まえると、豊富なデジタルフットプリントをもとに誤情報をマイクロターゲティングできる機能は危険な大衆説得兵器となりかねない。広告キャンペーンの狙いをユーザー1人にまで正確に絞り込めるナノターゲティングの実現可能性を示した最新研究もある
プラットフォームでの政治広告を禁止する動きや、マイクロターゲティング機能に制限を加える動きもあるが、規制の抜け道はいつの世も考え出されている
フェイクニュースが有権者の選択に、”間接的”に及ぼす影響については未知数。有権者を直接狙うのではなく、社会的な緊張を煽り、公の議論を混乱させたりして、間接的に世論を強力に形成し得る
人類はとうとう、誤情報ウィルスを高度に濃縮した形で感受性と感染性が特に高い人々に投与する手法を開発したことになる。これは生物兵器のデジタル版と言える
こうした状況で私たちに必要なのはワクチン、すなわち悪意のある有害なオンライン操作から人々を保護する心理的免疫を作ることのできる仕組みだ
フェイクニュースの抗原7 マイクロターゲティングの試みを見抜き、それに抗う
⇀ フェイクニュース記事1件が持つ投票行動への説得効果は限定的かもしれないが、デジタルフットプリントをもとに心理特性を予測する技術によって、政治勢力はマイクロターゲティングをより高精度に実施できるようになった
⇀ ｢いいね！｣などのオンラインデータをもとに人々のパーソナリティをターゲットとしたキャンペーン広告は、政治的な選考に影響を及ぼし得る
⇀ 影響を受けやすい人を特定出来たキャンペーンは、小さな説得効果を積み上げて大きな影響を及ぼすことができる
⇀ 言い換えると、ソーシャルメディアによって、特定層への説得力が特に高いと見做せる誤情報要素を選び出し、それを組み合わせて的確にターゲティングできるようになった
⇀ この新たな大衆説得兵器の存在を認識することが、それに対する免疫を獲得するための第1歩
第III部 誤情報に対する心理的ワクチン
8 新たな科学――プレバンキング(心理的な予防策)
‘53年、朝鮮戦争終結で戦争捕虜の交換が行われた際、21名が共産中国に残る選択をした
北朝鮮の収容所は論外だが、中国の収容所では｢寛大政策｣が取られ、中国の主張に耳を傾ける捕虜は比較的穏当に扱われたという
捕虜を通じた一連の出来事を通じ、人は認知的ワクチンの｢接種｣によって洗脳に対する耐性を獲得できるかもしれないという発想が、プレバンキングという科学に繋がる
l 洗脳に対するワクチン
第2次大戦中、陸軍ではプロパガンダや説得の有効性の研究を通じて、説得の基本法則を明らかにしようとした。研究を主導したホヴランドは、戦後もイエール大学に移り、コミュニケーションと態度変容に関して心理学史上最も影響力の大きい研究プログラムを創設
特定の立場を支持する議論をもっと提示するのではなく、自身の信念を弱められたプロパガンダに前もって晒してはどうかと考えた。その方が、｢免疫｣を与える手段として遥かに高い効果を発揮するはずだと考えた。心理的接種のプロセスは、生体医学のアナロジー通りに進む。生体の場合、十分に弱められたウィルス株に晒すことで、抗体の産生が促され、将来の感染に対抗できるようになるのと同様、情報の場合も、十分に弱められた説得用の｢異議｣にあらかじめ晒し、その異議を反駁することで、誤情報への心理的抵抗力をつける心理的抗体を育めるのだと考える
l 誤情報に対する心理的接種
ワクチンには予防目的のものと治療用に使われるものがあるように、誤情報ウィルスについても両方の可能性があるのではないかと考え、実証するために、アメリカで世論をもっとも大きく二分している問題として地球温暖化を取り上げる
l 地球温暖化のフェイクニュースがバズっている
この俗説のもとになっているのは’98年に始まった｢オレゴン地球温暖化請願書プロジェクト｣という怪しい請願活動で、3万超の｢科学者｣の署名を集め、人類が地球温暖化を引き起こしているという科学的な証拠はないと訴え、｢いいね！｣の累計が50万を超えた
これに対し、見解の相違を強調するのではなく、”人類が地球温暖化を引き起こしているという主張に科学者の97％以上が合意している”という事実を伝えたらどうなるか？
一般的に言って、人々は個々の専門家の判断よりも大勢の専門家の判断を格段に信頼する。その根底には、個人には偏見があるかもしれないが、独立した専門家からなる集団全体が誤る可能性は非常に低いという直感がある
l 態度変容のゲートウェイ信念モデル
研究や調査を行った専門家の知見に頼るのは当然であり、複雑な科学に関する人々の理解が、科学的なコンセンサスがあるかどうかの認識と密接に結びついている
この知見を体系化したのが、私たちが提唱した態度変容の理論｢ゲートウェイ信念モデル｣で、科学的合意に対する認識は入り口の役割を果たす
地球温暖化を巡る科学的コンセンサスに対する人々の認識は、科学的な理解、それに対する感情、そして最終的にはこの問題への対応を支持する度合いに影響を与える”てこ"として働く。米国政府も当初はこの科学的コンセンサスに疑問を投げかける側に回った。懐疑派を登場させることは、科学的議論が拮抗しているかのような印象を人々に与える。懐疑派が少数だとしても、論争を生かし続けることは、時代を超えて重要な戦略であり続ける
その好例がタバコ企業の喫煙とがんの関連を巡る論争
l 誤情報に対する心理的ワクチン
心理的接種のプロセスは、(a)いつ遭遇してもおかしくない誤情報や説得の試みについて事前警告する(｢脅威｣段階)、(b)説得的な誤情報に触れた時の反論や抵抗に必要な議論や認知ツールを事前に備えさせる(｢反駁的先制｣ないし｢プレバンキング｣段階)
誤情報をそれと見抜くためには動機と能力の両方が必要で、プレバンキングは、攻撃と反論の流れをシミュレーションするという形のリハーサルとなり、事前警告は、いつ遭遇してもおかしくない誤情報への防御を促す動機付けとなる
誤情報は、存在するだけで、事実情報の本来なら強い肯定的な効果を打ち消すが、心理的接種によって、肯定的な見方をする人には予防的に働き、中立や否定的なグループに対しても治療的に働くことが判明。懐疑派の基本的世界観を変えるところまではいかないが、誤情報に対しある程度は引っかからないようにする効果はあった。特に中間層に対しては効果が大きく、その占める割合が大きいことから考えると、接種の果たす役割は大きい
また、(a)(b)合わせて接種するほうが効果が大きいことも判明
心理的接種の絶大な効果に対し、世間一般には、”誤情報には誤情報で対抗できる”という発想にある種の居心地の悪さを感じる根強い反発がある
l Qアノンと接種――機会損失(接種しないことが機会損失につながる)
'20年家庭用品販売の米EC企業ウェイフェアが、ネット上で児童人身売買の組織の一部だとの中傷を受ける。会社側は、もっと自社が倫理的な企業だと広報しておくべきだと総括したが、私は異を唱え、問題だったのは、顧客に｢人身売買｣云々という誤情報攻撃に対する心理的防御がなかったこと。事前に顧客に対し誤情報の現出を事前警告し、その陰謀論を退けるために必要な事実や議論を伝えてプレバンキングをしていたら、顧客も誤情報に反論して影響されずにいる力を身に着けていただろう
予防的な効果は難しいとしても、接種によって治療的なメリットは期待できる
多種多様なフェイクニュース記事を予測してプレバンキングすることは理論的には可能だが、もっと効率のいい優れた方法があるはず
フェイクニュースの抗原8 誤情報に対する接種を行う
⇀ フェイクニュースの弱毒化版を提示し、それに続けて説得力のあるプレバンキングを行うことは、そのフェイクニュースに対する知的抗体を育む一助となる
⇀ さらなる事実や健康的な｢情報｣食を提示することには何の問題もないが、人々をフェイクニュースから本気で守りたいなら、事前の接種の方が遥かに効果的
⇀ 例えば、地球温暖化が現実であることを裏付ける証拠をいくら提示しても、人為的であるという科学的コンセンサスへの攻撃に対する備えにはならない。いつ遭遇してもおかしくない攻撃を事前に警告したうえで、その誤情報の弱められた例とそれへの強固な反駁を提示するほうが、そうした虚偽に対する心理的抵抗力を育む上で遥かに効果的
⇀ 事前警告には一定の効果があるが、誤った主張がなぜ虚偽あるいはミスリーディングなのかを理解し、それに反論するために必要なツールや材料を前もって身に着けておくことこそ、心理的免疫の形成に繋がる
9 『バッドニュース』――操作の6次元
｢影響力のゴッドファーザー｣ロバート・チャルディーニは、説得に関する6つの普遍的な原理があるとするが、誤情報にも操作の構造を成す基本要素があり、共通する
l 操作の6次元――｢DEPICT操作｣フレームワーク
Ø Discrediting(信用を貶める行為)――誤情報への批判の発信源を攻撃することで、非難の矛先をそらす手法
Ø Emotion(感情の操作)――感情を利用して人々の反応を引き出す。特に効果的な戦略がフィアモンガリング(合理的でも必要でもない対象への恐怖心を人々に抱かせようとする意図的な働きかけ)と義憤の2つ
Ø Polarization(二極化)――人々の分断を深めること。対立を煽るコンテンツをツイートするボットを使い、特定の争点を巡る言論を席巻する。的を絞った偽情報キャンペーンの中心的な狙いの1つが政治的な二極化であることも少なくない
Ø Impersonation(なりすまし)――1つは見かけを精巧に模してアカウントや実在の人物に成りすますもの、もう1つは正規の報道機関やニュースメディアを装いつつ、報道上の規範も資格もないタイプ
Ø Conspiracy(陰謀思考)――陰謀論は、非主流のニュースウェブサイトに限らず、一部大手メディアにとっても、出来れば提供したい定番コンテンツの1つになっている
Ø Trolling(荒らし行為)――オンラインでは、扇動的あるいは感情的な投稿を餌に、世間の認識を操ろうとしたり、ユーザーからの反応を引き出そうとしたりする
l 『バッドニュース』(誤情報発信のゲーム化)
接種を一般化するためには、上記操作の6次元に加えて、心理的ワクチンの生産量と接種率をどう高めていくか、何をバーチャルな注射器にするか、などの課題もある
『バッドニュース』を広範に実験した結果、自ら誤情報の発信を経験した処置群の約73％がフェイクニュースを見抜く力で統制群の平均を上回る結果を得た。心理学における一般の平均では63％とされているので、一定の効果があることが確認された
l 必衰の理（ブースター接種を打たないなら）
効果の持続期間は未知数だが、心理的ワクチンも医療用ワクチン同様、免疫力を維持するために｢ブースター｣接種が必要
フェイクニュースの抗原9 誤情報の手法に対する免疫力を高める
⇀ 特定の虚偽に対する接種は可能だが、ウィルスの基本要素に対する免疫力を高める方が遥かに効果的
⇀ そうすれば、同じ誤情報の様々な株への免疫を獲得でき、異なる虚偽を個別にプレバンクする必要がなくなる
⇀ 用いられている主な基本的手法が｢操作の6次元DEPICT｣
⇀ 『バッドニュース』のようなソーシャルメディア環境を模した対話型ゲームは、守備範囲の広いワクチンを投与するための効果的な｢バーチャル注射器｣であり、人々がフェイクニュースを見抜けるようになること、事実と虚構を見分ける力への自信を深めること、誤情報を他人に共有する意欲を削ぐことに貢献する
⇀ 心理的なワクチンの効果は時間とともに衰えるので、免疫反応を定期的にブーストすることが効果の長期的維持に役立つ
10 心理的な集団免疫
接種理論から導かれる最も重要な帰結は心理的な集団免疫の可能性で、天然痘のワクチンと同様、心理的ワクチンについても、接種の規模を人口全体に拡大し、最も必要とする人々に届ける手段を見つける必要がある
課題は、物流面と、ワクチン躊躇への対策
l 『バッドニュース』を世界中に拡散させる
イギリスの外務・英連邦省が『バッドニュース』に興味を示し、世界的なメディリテラシー強化の一環としての活用を考える。現在では26言語に対応が拡散
l バズらせよう！――新型コロナウイルス関連の誤情報に対するワクチン接種
パンデミックが始まったばかりのころ、英首相官邸が心理的ワクチンに興味を示し導入
l 内閣府、国連、WHOとともに展開した世界規模のワクチン接種キャンペーン
英政府によるワクチン接種への動きは、｢フェイクニュース｣との闘いが政治論争と化す状況の中で、接種キャンペーン導入は挫折したが、国連やWHOの同様の動きと合体することでワクチン接種が拡散
l 国土の安全保障と、パイナップルピザをめぐる戦争
'20年の米大統領選では、米国務省が｢外国による敵対的なプロパガンダおよび偽情報｣への対策を検討し、国家安全保障省も参加。｢国家の免疫系を強化する｣ためのキャンペーンの一環として、私たちの研究が活用された
l さらなる誤情報、さらなるワクチン
介入手段を新たに作ってほしいという依頼は絶えず。接種的なアプローチを応用できそうな誤情報の問題はいくらでもある。過激派の勧誘で使われる戦略に対する接種も可能
l ゲームの先へ――グーグルと進めた誤情報に対する接種
グーグルと共同で、ユーチューブへの動画掲載によるワクチン接種法を開発
l ソーシャルメディアへのワクチンの導入
グーグルは、｢スキップ不可の広告｣枠を使うことこそできなかったが、接種動画をアップロードして、ブランド認知度を測るのに用いられる｢ブランド・リフト｣調査を流用し、誤情報を見抜く力を評価した結果、90秒の接種動画を提供することで、ユーザーがミスリーディングなコンテンツを見抜く力が5～10％向上したことが確認された
ツイッターでも'20年10月、選挙結果に関する誤情報のプレバンキングを開始。ユーザーフィードの最上部にメッセージを掲げて、ツイッターで誤情報に遭遇する可能性があることを警告し(事前警告)、選挙プロセスに関する虚偽の主張に先手を打って反駁した
フェイクニュースの抗原10 心理的な集団免疫
⇀ ワクチンは個人のレベルで人々を守るものだが、誤情報がオンラインやコミュニティで拡散されないようにするには、十分な割合の人が誤情報ウィルスに対するワクチン接種を受ける必要がある
⇀ どのようなワクチン接種プログラムも、最終目標は｢集団｣の保護。すべての人にリーチできると想定するのは非現実的、加えてワクチンを受けたがらない人もいる。だが、コミュニティの十分な割合が接種を受ければ集団免疫によりほかの人々も守られる
⇀ そのためには、大規模に展開して世界中の人にリーチできるようなワクチンが必要。この点については、政府や公衆衛生当局、テクノロジー企業の協力で進展がみられる
⇀ 接種の針は全くの｢バーチャル｣なので、リーチの可能性に制約はない。ゲームやビデオ、メッセージである必要もない。それどころか、個人的な会話さえも針になり得る
11 友人や家族に接種を施す方法
私たちは心理的接種の要素を日々の暮らしの中で無意識に、あるいはそれと知らずによく使っている。政治絡みでも効果があり、近々あり得る相手候補からの攻撃を、支持者に事前警告し、模擬攻撃(弱毒化版)の提示と反駁を教えておくことで、自らの支持者を相手候補からの攻撃から守ることが可能
l 巧みなプリバンキングはアリストテレスもお気に入り
心理的接種は本質的に誰にでも使えるレトリック戦略
すべての始まりはアリストテレス。彼の合理的な分析には明確な狙いがあった。推論の欠陥を暴いて見せ、それによって人々が怪しげな説得を見抜けるようにすることで、推論の誤謬を見抜けるようになれば、それを用いた説得の試みへの抵抗力がつくと論じる
アリストテレスは接種のプロセスを発見し、｢反駁のための説得推論｣と呼んだ
本書の知見はあくまで集団の平均に基づくものであり、誰か1人の反応を断定的に指摘することはできない。おしなべて効果があり、バックファイアーのリスクは低い
爆発的に拡散するフェイクニュースや誤情報に対する接種を友人や家族に施すにはどうしたらいいのか？
l 事実ベースの接種
特定の虚偽に対する免疫力を高める試みが事実ベースの接種、または、問題ベースの接種
“インフルエンザワクチンでインフルエンザに罹り得る”という虚偽の主張がオンラインで拡散しているのに気付いた場合、家族や友人にその様な有害な誤情報に遭遇する可能性があると事前警告を試みる。その上で、”ほとんどのワクチンには感染を引き起こせない不活化されたウィルス株が使われており、ワクチンで感染は起こり得ない。したがって発症もあり得ず、ましてや流行するはずがない”と指摘する
事実ベースの接種アプローチの大きな利点は、これから来る誤情報にワクチンが極めて特化されていること。大きな欠点は、そのトピック全般に対する免疫を保証するものではないこと。免疫の対象が｢狭域｣
l 手法ベースの接種
欠陥のある推論戦略を見極めて白日の下に晒すというアリストテレスのアプローチをより一般的に取り入れたのが手法ベースの接種、または、論理ベースの接種
最たる例は操作の6次元。特定の事実は扱わず、特定の誤情報手法によってミスリードされる可能性を事前警告し、弱毒化版を使ってその手法をプレバンクする
インフルエンザ接種の例でいえば、悪意のある人物が私たちを操作しようと巧みな手法で誤情報を拡散していると事前警告する。巧みな手法の1つが｢なりすまし｣で、よくニセの専門家が登場。事前警告によって、容易には騙されなくなる
手法ベースの接種の大きな利点は、広域的であること。特定の問題に縛られないこと。欠点は、焦点が曖昧で具体性に欠けるせいで、心理的免疫のレベルが平均して見劣りする可能性がある
l 能動的な接種と受動的な接種
どの接種でも｢能動的｣または｢受動的｣なやり方を選べる。受動的接種の一例が、気候変動の請願書の件で、署名した科学者は偽者が多く、仮に全員が本当の科学者だったとしても、その数は全体のごく一部でしかないことを伝えた。一方、能動的な接種の例は、『バッドニュース』の参加者で、ゲームプレーヤーとして能動的に自己の誤情報を作成した
l 予防的な接種と治療的な接種
心理的接種の理想的な使い方は、純粋な予防で、人々が誤情報に触れる前に実施すること
接種は、誤情報にすでに晒されている人にも、治療として効果がある
l ブースター接種と接種後トーク
フェイクニュースから自分を守ろうという動機と実際に守る能力の両方を維持するためには、定期的なブースター接種が必要
心理的接種の好ましい副効果の1つが、人々がよく自身のネットワークで他の人と接種を話題にしていること。この自発的な共有プロセスを｢接種後トーク｣と呼ぶが、自身のネットワークでワクチンを友人から友人へと連鎖的に共有する可能性を開く
接種を頻繁に話題にすることも、説得に対する抵抗力の強化に繋がる
1人1人の抵抗を、社会の免疫へと変えていこう
フェイクニュースの抗原11 友人や家族に接種する
⇀ 心理的な接種を暮らしにとりいれるには、事実ベースと手法ベースの接種がある
⇀ 事実ベースの接種は狭域的なワクチンを使い、特定の虚偽を事実や証拠を用いて事前に反駁しておく。このタイプの接種の利点は、特定の誤情報に特化されていること
⇀ 手法ベースの接種では、広域的なワクチンを使い、誤情報の拡散に使われている大枠の戦術への免疫を育む。このタイプの強みは、同じ戦術を使う多様な虚偽に対応できる抵抗力がつくこと。また、事実と信念が折り合っていない人からの反発を受けにくい
⇀ どちらのタイプの接種も、能動的または受動的なやり方でできる。能動的な接種の方が、受ける人により多くの関与が求められる。抗体を自ら作り、それが抵抗力の強化に直結
⇀ 接種が定着し、広範に拡散されるためには、人々が定期的に｢ブースター｣接種を受けることや自身のネットワークで他の人と接種の話をすることが必要。誤情報を見抜いて反論するための動機と能力は時間とともに衰えるので、定期的に会話を重ねることを通じて、接種プロセスに対する動機付け、記憶の喚起、主体的な関与を促すことが重要
エピローグ――真実の未来
生物学的ウィルス同様、誤情報ウィルスも変異を重ねて、より巧妙で、伝染力がさらに強く、被害の深刻ささえも増す株になるに違いなく、それに対抗するために、広域的な心理的ワクチンの開発に注力している
差し迫った危険性が指摘されているのがディープフェイク。人工知能、中でも｢深層学習｣の手法を使ったフェイク動画を生成する技術で、実にもっともらしく見える
オンラインの詐欺行為はますます巧妙になっている
ワクチンの更新に手法レベルでアプローチするメリットは、真実の未来と、私たちが虚偽をどう定義するかと関係があり、｢真実｣とは何かに関する私たちの理解を更新し続ける必要があるが、信用できるコンテンツを見極める力を育む上で、今後は手法ベースの接種が支援の要になっていくだろう
｢真実vs虚偽｣的な単純に過ぎる分類とは距離を置き、どのようなコンテンツが信用できるのか、正確なのか、あるいは操作的なのかについて、互いに協力してその判断を一層慎重に校正する必要がある
誤情報の拡散阻止に役立つ11の抗原
フェイクニュースの抗原1 真実の流暢性を高める
～ 主張への馴染みが深まるほど、それを脳が処理しやすくなる
フェイクニュースの抗原2 正確さへのインセンティブを与える
～ 人々が政治にではなく正確さに拘りたくなる環境を作る
フェイクニュースの抗原3 陰謀論を見極めるための手掛かりとなる兆候CONSPIREをしる ～ 陰謀論には典型的な構造があり、それを知っていれば見抜けるようになる
フェイクニュースの抗原4 誤情報持続効果を最小限に抑える
～ 誤情報が脳に留まる時間が長くなるほど、その影響力が強まる
フェイクニュースの抗原5 ソーシャルメディアにおける誤情報の爆発的な拡散を抑える
～ 誤情報が｢いいね！｣されたり共有されたりする頻度を抑えられれば、その影響力を削ぐことができる
フェイクニュースの抗原6 エコーチェンバーやフィルターバブルを避ける
～ エコーチェンバーによって、(誤)情報の流れが同じ考えの人に偏る
フェイクニュースの抗原7 マイクロターゲティングの可能性を意識する
～ 説得されやすい脆弱は層が特定されると、マイクロターゲティングの対象となり得る
フェイクニュースの抗原8 誤情報に対する接種を行う
～ あらかじめフェイクニュースの弱毒化版に反駁しておくことで、心理的な免疫力を高めることができる
フェイクニュースの抗原9 操作の6次元DEPICTを見極め、プレバンクする
～ 信用を貶める行為、感情の操作、二極化、なりすまし、陰謀思考、荒らし行為
フェイクニュースの抗原10 誤情報対策となる接種の拡散に貢献する
～ 十分な割合の人々がワクチン接種を受ければ誤情報は拡散できなくなる
フェイクニュースの抗原11 友人や家族に接種を施す
～ 接種の種類を選ぶ。事実ベースか手法ベースか。能動的か受動的か
監訳者あとがき
著者は、フェイクニュースの心理学研究における第一人者。フェイクニュースを暴くだけでなく、それにどのように備えるかを実証的に研究してきた研究者として国際的に注目
本書の中心テーマである｢接種理論Inoculation
Theory｣は、フェイクニュースが拡散した後で訂正を行う(デバンキング」だけでは不十分であるという現実を直視し、あらかじめ人々が心にワクチンを打ち、免疫を身につけることで感染そのものを防ぐ、という予防医学的な発想に基づく
人間の脳は、真偽を見極める｢ファクトチェッカー｣として進化したのではなく、むしろ限られた時間と情報の中で素早く判断するための｢推論装置｣として進化してきた。常に「もっともありそうな解釈」を構成して世界を理解している。この仕組みそのものが、情報環境の中で悪用可能になっている。その典型例が｢真実錯覚効果Illusory Truth Effect｣。ある主張が、真偽に関係なく、繰り返し接触するだけで、人はそれを｢もっともらしい｣と感じやすくなる。脳は、情報の馴染み深さや処理のし易さ(流暢性)を、真実の代替指標として用いてしまうから。特にSNSのタイムラインは真偽とは無関係に露出を増やしやすい
さらに厄介なのが｢誤情報持続効果Continued
Influence Effect｣で、心理的には、最初の説明が出来事の物語を作り、それが後の判断の枠組みとして残る→デバンキングの限界
もう1つ強調しているのが、私たちの信念がしばしば証拠ではなく欲求によって形作られるという事実で、自分の世界観やアイデンティティに合う情報を好んで受け入れ、不都合な事実は無視したり、理屈をこねて退けたりしやすい(確証バイアス)。受け入れた情報はエコーチェンバー効果によって拡散され、その際優先されるのは｢真実かどうか｣ではなく｢仲間が信じているかどうか｣になってしまう
フェイクニュースの中でもとりわけ感染力が強く影響力を持つのが陰謀論。本書は、陰謀論を単なる間違いではなく、人間の真理に深く根差した理解の枠組みとして描く、複雑で偶発的な出来事を、単純で分かり易い物語へと変換し、怒りや不安の行き場を与える
陰謀論的思考に共通する特徴をCONSPIREという枠組みで整理し、その対策として提唱するのが、｢心に効くワクチン｣の事前接種という｢プレバンキング｣の手法。あらかじめ弱毒化した誤情報とその操作方法を提示し、反駁の筋道を経験させることで、実際に遭遇した時に引っ掛かりにくくする。ここで重要なのは、個別の誤情報の答えを暗記するのではなく、誤情報の生成に共通する手口の型DEPICTを学ぶ点にある
この考え方を社会実装した具体例が『バッドニュース』などのオンラインゲーム
日本の社会にとって本書の知見が意味するのは、これまで日本は国際比較でも、大手メディアへの信頼度が高く、極端な政治的分断も限定的だったが、SNSの普及や日本特有の災害の多さなどから、日本が直面するインフォデミックのリスクを際立たせるとともに、その際の国家としてのレジリエンス(復元力)に直結することを示唆
本書はまた、高度化するフェイクニュースにどう向き合えばよいのかについて、現実の場面で役立つデバンキングの工夫も紹介。｢真実のサンドウィッチTruth Sandwich｣は、訂正を行う際に、かえって誤情報だけが印象に残ってしまう事態を避けるための考え方
著者からの日本の読者にあてたメッセージ
今こそ、事実と証拠、そして誤情報から互いを守るという市民としての義務のもとに団結することが、かつてないほど必要とされている。皆さんがこのミッションに加わってくれることを願う
みすず書房 ホームページ
「5G電波のせいで新型コロナウイルスの被害が拡大している」「あのピザ店は巨大な児童売買組織の拠点だ」「400人以上もの人さらいが村にやってきたらしい」――。これらはすべて実在したフェイクニュースで、一つの共通点がある。それは、どれもが実際に死傷者が出た事件と関係している点だ。いまや、出所不明のフェイクがリアルな被害につながっている。
このような誤情報が次々に伝染して社会にダメージを与える様子は、感染症のパンデミックの情景によく似ている。そして本書によれば、その対策方法もよく似ている――ワクチンを打てばいいのだ！
本書には、人間の認知のしくみと誤情報の性質に基づく「心理的接種理論」の詳細と、それを社会実装する方法が記されている。そして重要なことに、心理的ワクチンは誰もが身近な友人や家族に接種できるという。本書を読めばフェイクを見抜きやすくなるだけでなく、「心理的な集団免疫」の実現にあなたがコミットできるようになる。
SNS全盛、インフォデミックの時代に必携の「心のワクチン」学。
フェイクニュースの免疫学 サンダー・ヴァン・ダー・リンデン著
ゲームで学ぶ誤情報の手口
2026年5月16日 日本経済新聞
「騙（だま）されるのはリテラシーが低いから」。授業で学生にフェイクニュースについて話すとこんな答えが返ってくることがある。本書は、その見方を問い直し、誰もが騙される危険性があると主張する。その理由は脳の仕組みにある。
脳は予測しながら物事を理解しようとする。「だからこそこの文も読めてめしまう」（気づきましたか？）。他にも、繰り返し見聞きすると馴染（なじ）み深いと感じるという真実錯覚効果、訂正されても間違った情報が残ってしまうという誤情報持続効果などがある。
著者はこの厄介な問題にプレバンキングと呼ばれる対策を提唱する。コロナウィルスに対する「ワクチン」に例え、弱毒化したフェイクニュースに事前に触れることで心理的な抗体を持たせるという。誤情報の手口を研究してDEPICT（信用を貶（おとし）める行為、感情の操作、二極化、なりすまし、陰謀思考、荒らし行為、の頭文字）と呼ばれる6つの要素にまとめ、それを学ぶ「Bad News」と呼ばれるゲームを開発した。
ゲームではフォロワーを出来るだけ多く獲得して、フェイクニュース帝国の主となることを目指す。スキャンダルをでっち上げ、ボットを使って対立を煽（あお）り、ファクトチェッカーを攻撃する。いきなり過激な陰謀論を投稿しようとすると「フィルターバブルに少しずつ引き込んで」と注意される。楽しみながら手口を学ぶことで怪しい情報に触れた時に「これは危険だ」と予測して脳が警告を鳴らすようになる。
プレバンキングは従来の対策に一石を投じている。ファクトチェックは間違った情報を訂正し、リテラシーは真偽を見抜く力を強調することが多いが、それは正しい情報があれば、人は誤りを避けられるという前提に立っている。プレバンキングは、人は間違えることを前提に、真偽や善悪ではなく、手口のパターンを知るところが異なる。
本書において課題はそれほど語られていないが、個人の思想への介入や手口の悪用防止については議論が必要だろう。アテンション・エコノミーにおいてアクセスを稼ぎたいメディアの手口はDEPICTと重なる側面もあり、メディア不信につながる可能性もある。プレバンキングはメディアにもそのあり方を問うているといえる。
《評》法政大学教授 藤代 裕之
原題=FOOLPROOF（笹原和俊監訳・松井信彦訳、みすず書房・4180円）
▼著者は英ケンブリッジ大教授。社会心理学が専門で、人間の判断や意思決定を研究。共著に『現代誤情報学入門』。
2026.4.11. 朝日新聞
評者： 植原亮
「フェイクニュースの免疫学」 ［著］サンダー・ヴァン・ダー・リンデン
コロナ禍という歴史的な経験でわれわれが学んだのは、感染症がときにすさまじい勢いで拡大することだ。だがそれだけではない。パンデミックにまつわる誤情報もまた猛烈なスピードで拡散し社会に広く影響を及ぼすことも、痛切に思い知ったのである。ウイルスは生物兵器だとか、ワクチンは人体にチップを埋め込もうとするビル・ゲイツの陰謀だとか。
では、その種の誤情報やフェイクニュースを信じてしまうのは、どんな心理的メカニズムのせいなのか。それが世界を瞬く間に駆け巡るのは、どんな情報環境に取り巻かれているからなのか。本書の第Ⅰ部と第Ⅱ部では、もはや定番とすらいえるこうした問題について、最新の知見や生々しくも恐ろしい現実の事例を盛り込みながら、整理の行き届いた読み応えのある解説をしている。
しかし、研究者としての著者の最も重要な貢献は、続く第Ⅲ部で報告されている内容である。誤情報は、まさにそれ自体がウイルスのごとき感染力をもっている。だとしたら、誤情報に対抗するためにも、実際の感染症と同様の手が打てるのでは？ すなわち、「心理的ワクチンの接種」という策である。有害な誤情報をウイルスになぞらえ、接触に備えて事前に「免疫」を獲得しておこうというわけだ。この発想そのものは珍しくないだろう。だが著者の研究が革新的なのは、そうしたワクチンの試作品を実際に作ってみせたところにある。
とりわけ秀逸なのが、心理的ワクチンをゲームの形でデザインした点だ。プレイヤーに課されたミッションは、自らフェイクニュースを作り出してバズらせること。それを通じて誤情報のもつ特徴が楽しく学べるのである。誤情報にワクチンで対抗するというアイデアは企業や政府の関心を集め、それ自体が広範に拡散しつつあるという。本書後半はそのドキュメントとしても興味深く読めるに違いない。
◇
Sander van der Linden 英ケンブリッジ大教授。専門は社会心理学。共著に『現代誤情報学入門』（加納安彦訳）。
◇
笹原和俊監訳 松井信彦訳
コメント
コメントを投稿