操作される現実 Samuel Woolley 2021.4.7.
2021.4.7. 操作される現実 VR・合成音声・ディープフェイクが生む虚構のプロパガンダ
The
Reality Game ～ How the Next Wave of Technology Will Break the Truth 2020
著者 Samuel
Woolley AIや政治、ソーシャルメディアを専門とする研究者兼著述家。テキサス大学オースティン校のジャーナリズム・スクール助教およびメディア・エンゲージメント・センターのプログラムディレクターを務める。シリコンバレーの中心地を拠点とするシンクタンク、未来研究所でデジタル・インテリジェンス・ラボを立ち上げ、ディレクターを務めたほか、オックスフォード大学オックスフォード・インターネット研究所のコンピューター・プロパガンダ・プロジェクトを共同で主宰した。政治的操作のテクノロジーについて、ワイアード誌、ガーディアン紙、スレート誌などさまざまなメディアに寄稿している。著者の研究成果は、ニューヨークタイムズ紙、ワシントンポスト紙、ウォールストリートジャーナル紙などでも取り上げられている
訳者 小林啓倫(あきひと) 1973年東京都生まれ。筑波大学大学院修士課程修了。システムエンジニアとしてキャリアを積んだ後、米バブソン大学にてMBA取得。外資系コンサルティングファーム、国内ベンチャー企業などで活動
発行日 2020.11.12. 第1版第1刷発行
発行所 白揚社
はじめに
｢フェイクニュース｣という概念が世界中に広まったのは、2016年の米大統領選挙期間中、明らかに間違ったニュースが大量に出回り、デジタル世界がゴミのようなコンテンツで溢れた後のこと
時の権力者たちに取り込まれ、正統なジャーナリズムを弱体化させる手段や自分たちの悪事に関する事実をひっくり返す手段として使うようになった
私は、｢フェイクニュース｣という言葉を極力使わずに、｢誤報｣｢虚偽｣を使う。｢フェイクニュース｣という言葉自体が本物のジャーナリストの書いた記事やレポートを攻撃するためのツールとして悪用されているからで、真実の報道を｢フェイクニュース｣という言葉で封殺している
｢コンピュータ・プロパガンダ｣とは、当初ソーシャルメディア上で自動化されたツールやアルゴリズムを使用して世論を操作することを意図していたが、本書ではより広い意味で使用。フェイスブックからAR(拡張現実)デバイスに至るまで、様々なデジタルツールを駆使して政治的な動機に基づいた情報拡散を行うことを指すと同時に、何等かの報道をやめさせるために、ソーシャルメディアを使って匿名でジャーナリストを攻撃することや、人間が話しているかのような音声を合成できるデジタル音声システムを利用して、有権者に電話をかけて反対派に関する嘘を伝えることも含まれる。AI(人工知能)やソーシャルボット(オンライン上で人間であるかのように振舞う自律型プログラム)を使って、人間が行っているかのようなコミュニケーションをつくり出し、オンライン上で人気のニュースを判定するアルゴリズムを騙して、特定のニュースを上位に表示させるという例もある
｢民主主義｣という言葉を使うときには、民主主義が持つ価値(自由、平等、正義など)について語っているので、米国型の民主的統治などを支持せよという意味ではない
｢人権｣という言葉も、国連の定義を念頭に置いて使う
テクノロジーは民主主義と人権の価値を踏まえるべきだと考える。これから登場する様々なデバイスが、真実をさらに損なうことの無いよう、私たちが作るツールの中で平等と自由が最優先されなければならない
1 曖昧な真実
ü あなたの現実、私にはフェイク
オックスフォード大の｢コンピュータ・プロパガンダ・プロジェクト｣は、世論を形成し、真実をハッキングし、抗議を黙らせるツールとして、ソーシャルメディアを利用するという現象を詳らかにすることに焦点を当て、政治に関わる重要なイベントの最中に、自動で動くツイッターの｢ボット｣と｢トレンド・アルゴリズム｣が人々に影響を与えるためにどう利用されたのかを詳しく解説、不誠実なキャンペーンの背後に誰がいるのかを明らかにし、彼等がどのように情報を拡散しているのかを突き止めたいと考えた
ボット:決められた作業を自動で繰り返すプログラム
トレンド・アルゴリズム: 今どのようなトピックに注目が集まっているかを把握するプログラム
時の権力者は、｢オルタナティブ・リアリティ(もう一つの現実)｣を創造し、真実を捻じ曲げようとする。トランプ、フィリピンのドゥテルテ、インドのナレンドラ・モディ、ブラジルのボルソナロなど
ü テクノロジーと虚偽の新しい波
ソーシャルメディアに対しこれまでにない規模での操作が行われ、民主主義が弱体化され独裁政権を強化している。現実や真実への挑戦は、AIやVR(仮想現実)など次世代テクノロジーの波によって目新しさや強度を増していく
ソーシャルメディア上のデータを分析し、あるユーザーの好みに応じてコンテンツの優先順位をつけるためのより効果的な手法が生まれてきたが、それは同時に人々が情報を拡散する方法と、拡散を行う人間を根本的に変えてしまった
テクノロジーの次の波によって、現実を攻撃する手法は強力になるばかり
かつてのソーシャルメディアは他人と繋がりコミュニケーションを取り、連帯するための刺激的なツールと見られたが、現在では間違ったニュースや政治に関する誤報、あるいは特定の人物を狙った嫌がらせを拡散する悪意のあるプラットフォームと化している
ü 現実と真実への「攻撃」
デジタルのツールをどう使うかを決めるのは人間にも拘らず、テクノロジーをどう使うべきかという点についてはコンセンサスが得にくいのは、問題が技術的なものではなく、社会的なものだから
ソーシャルメディア・ボットの使われ方を見ると、ボットを開発した人とそれにお金を払った人々に問題があることがわかる。ボットを使うことで、オンライン上に大規模な運動が起きているかのような錯覚を起こさせるというアイディアを思いついた。大量のボットを使ってハッシュタグの使用回数を急上昇させれば、ツイッターのハッシュタグのトレンドを捏造できることを発見したのは人間
ü テクノロジーの変化、社会の変化
1991年に一般利用が始まったVR技術は、現在では優れた没入感と現実感を味わうことができ、ソーシャルネットワークにも接続され、政治や思想教育といった目的にも使われる。こうしたシステムを使って政府が理想的な市民を｢育成｣しようとしている
｢バイラルの最前線｣で勝つものが勝利を収める
バイラル:本来は｢ウィルス性の｣の意だが、人伝に急速に拡散する話題やニュースを指す
人々の操作を目的としたソーシャルメディアの使用に拍車をかけているのは、社会的、経済的、政治的な問題の組み合わせであり、特に社会問題として深刻
仮想現実と拡張現実はいずれも、没入型メディアツールで、コミュニケーションのためのテクノロジーとして機能し、情報を広めるための乗り物となる
ソーシャルメディアのプラットフォームは民主主義を発展させるための素晴らしいツールになるだろうとされたが、同時に人々を操り、嫌がらせをし、黙らせるためにも使うことができる
誰が、どうすれば世論を動かすことができるのかという問いについて、様々な答えが存在するようになった
本書では、コンピュータやインターネットを活用したツールが現実と真実を曲げるためにどのように使われるのか、を見ていくと同時に、多種多様な新しいメディアテクノロジーと、それらを利用して民主主義を強化するために何ができるかということに焦点を当てる
ü プロパガンダからコンピュータ・プロパガンダへ
2018年イスタンブールで殺害されたサウジ政府の政策を公に批判していたカショギは、亡命中にワシントンポスト紙のコラムニストの職に就き、王室に反抗すると、オンラインにおける活動に留まらず、オフラインにおける生活までも妨害。ムハンマド・ビン・サルマン皇太子の命令で動く組織化された止むことのない｢荒らし(トロール)｣に遭い、至る所で中傷、攻撃を受ける
トロール:ネット上で粘着的な嫌がらせをする人々
コンピュータ・プロパガンダ/情報操作/フェイクニュースと呼ぶものが、自動化されたオンラインツールや戦術を使うという点で、人々を操作するための新しい手法となっている
人々が何を、どう考えるかを操作するという発想は古代ギリシャから存在
最近の紛争や現代史における多くの選挙では、プロパガンダが人々の行動や信念の形成に重要な役割を果たしている。航空機を使って敵地にビラをまくのは第1次大戦にまで遡る心理的プロパガンダの1つだが、それが強力なテクノロジーによって増幅されている
重要なのは、情報操作の新しい手段は、自動化でき、完全に匿名で行える場合も多いこと
政治活動を行うボットの一群は、10年以上前から、虚偽の情報や政治的な嫌がらせを広めるために利用されてきたが、ソーシャルメディア各社のトレンド分析アルゴリズムを騙して、どのニュースが優先して表示されるかをコントロールする
ü 未来のテクノロジーの役割
最新のVRの世界では、完全に没頭することができ、あらゆる情報にアクセスできるが、全く規制がないために知らないうちに偽情報の犠牲者になる可能性もある
既に多くの｢ディープフェイク｣(人間の目ではフェイクだと判別で見ないほど巧妙に加工された映像)が政治家や著名人がしていないことや言っていないことを捏造するために作られている
Googleは、本物の人間そっくりの声で電話がかけられる自動音声通話システムを完成させ、そのツール｢デュプレックス」をAIパーソナルアシスタントと謳っている
このシステムが政治的なロボコールやプッシュポーリングに使われる可能性も十分
ロボコール:宣伝や売込み等の目的で不特定多数の人々に架電して、録音や合成された音声を流すマーケティング手法
プッシュポーリング:政治活動で使われることの多いテクニックで、世論調査を装って有権者に接触し、意識を変えようとするもの
AIを使ったより洗練されたチャットボットが、会話を通じて本物の人間を説得することができるようになり、初歩的なソーシャルボットに取って代わる可能性が高い
コンピュータ・プロパガンダとその要素(フェイクニュースから政治的トロール行為に至るまで)を理解している人が増えるほど、それが世界に根付くことを防ぐのは容易になる
2 真実の破壊――過去・現在・未来
ü 事の起こり
2014年当時、ウクライナがコンピュータ・プロパガンダの最前線
ポーランドを始めトルコ、中東、メキシコなどで｢デジタル政治工作｣が溢れていた
ü デジタル偽情報はどこから来るのか？
2014年ウクライナ上空で起きたロシアによるマレーシア航空機撃墜事件を契機として、ネット上に偽情報が飛び交い始めた
偽情報の裏にある策略の多くはクレムリンに端を発し、冷戦時代の古いメディア操作にまで遡るが、コンピュータ・プロパガンダは国境のないインターネットの上で進化してきたため、そのルーツは世界各国に存在している
2010年テッド・ケネディの死去に伴うマサチューセッツ州上院特別選挙で、ウェズリアン大学のコンピュータ科学者が、不審なツイッターユーザーの集団が民主党側の候補者マーサ・コークリーを反カトリック的だと主張して組織的に攻撃していることに気付き、攻撃側のアカウントのほとんどはプロフィール写真が掲載されておらず、自己紹介文もなくフォロワーも殆どいない。平均的なユーザーよりも遥かに頻繁に数秒ごとに攻撃を繰り返し、文章は型に嵌ったもので、ボットにより引き起こされていることを突き止める
攻撃のために構築された自動アカウントが、コークリーに対する”アストロターフ”に使われ、背後にはアイオワ州のティーパーティー活動家の小さなグループの存在が判明
アストロターフ:草の根運動に見せかけた宣伝工作
さまざまなメディアを漁ってコークリーの反カトリック傾向や教会員に対する差別を取り上げ、突然出現した攻撃に足元を掬われた民主党は予想外の敗退を喫する
ü コンピュータ・プロパガンダの登場
12年のオバマとロムニーの米大統領選では、オバマのデジタルチームが態度を決めていない有権者に関する膨大なデータを利用して、彼等に接近し支持を得ようとしていたが、これはビッグデータ分析ツールを駆使して個々の有権者に狙いを定める政治的なキャンペーンの初期の例で、2016年にケンブリッジ・アナリティカがテッド・クルーズやトランプに売り込んだような個人を欺く不正なオンライン広告とはかなり違うもの
国政レベルの政治的キャンペーンで成果を上げるためには、ビッグデータ分析とテクノロジーを使った政治的マーケティングにおけるパーソナライゼーションは必須
ケンブリッジ・アナリティカ:データ分析を選挙に持ち込んだコンサルティング会社、16年の選挙に影響を及ぼしたと言われるが、18年破産申請
パーソナライゼーション:個人の属性や性格等に合わせて提供するメッセージやコンテンツの内容を調整し、最適化すること
2010～11年のアラブの春と、11年秋に始まったオキュパイ運動(ウォール街占拠運動)では、デジタル技術を使ってコミュニケーションと動員を行い、｢支配の象徴｣と見做した者に対して大規模な草の根運動を展開。パーソナライズされ、様々なメディアネットワークを越えて行われるコンテンツ共有に基づいた、インターネットが促した別の種類の現象を利用したものといわれる
ツイッターのようなプラットフォーム上のボットは、政治についての偽情報を広めるためだけでなく、市民の社会参加や文芸批評のための足場としても使用されていた
ボットの開発者たちは、ソーシャルメディアと自動化、人工知能の活用とイノベーションにおいて最先端だった
世論操作を目的とした、ソーシャルメディア上での自動化技術とアルゴリズムの使用は、民主主義が直面している最も差し迫った問題の1つ。中でもネット上での政治的議論を対象とした、実際のユーザーを模倣するために構築されたソーシャルボットに注目
政府などの豊富な資源を持つ強大な存在が、政治ボットを使って政治的な反対派やマイノリティを攻撃し、記者や大衆を欺いて虚偽を信じ込ませている
コンピュータ・プロパガンダの請負業者は、ボットの開発以外にも、トロールによる攻撃や、ジャーナリストに対するドキシング(誰かを攻撃するために個人情報を晒すこと)、偽のオンライン抗議活動を演出するといった不正サービスを販売する
2016年の米大統領選の数か月前まで、フェイスブックとツイッターはコンピュータ・プロパガンダの存在を否定、ロシアなどの関与が明らかにされたのは3年後
ü 人間の要素
19年、トランプはツイッター社に対し、自身のツイッター・アカウントのフォロワー数が大幅に減少しているとしてクレーム、ツイッター社はボットやスパムアカウントを削除したためと説明、大統領が常にフォロワー数の変化に気を揉んでいることが判明
ボットのアカウントをつくるのは人間だが、ボットは自動的に指示に従って動く
最も活発なソーシャルメディア・アカウントの多くが自動化されていることもあって、一定期間内に投稿できるコンテンツの量に制限が設けられている
ü アクセスの問題
ソーシャルメディアのデータ分析に加えて民族誌学を組み合わせることによって、新たに現れた社会的・技術的現象を、社会政治的な側面から深く掘り下げることができる
民族誌学:慣習や文化を科学的に記述する学問
2016年広まったあるミームでは、ヒラリー・クリントンとキリストが炎を背景にボクシングをしている。人々はこの突拍子もない話をソーシャルメディア上で誰かに教えたくなる。こうした情報のジャンクフードは、4chanのようなプラットフォームからサブレディットへと伝播。｢/r/The_Donald(トランプ)｣｢/r/altright(オルトライト＝オルタナ右翼)｣などが、極右の偽情報と陰謀論が流れる場所として人気となり、そこからユーザーは裏で誰が糸を引いているかも知らず、せっせとミームを拾い上げ、フェイスブックやツイッターなどに拡散、情報は雪だるま式に拡大するが、それこそまさに｢アストロターフ政治｣であり、カスケード効果という
レディットreditto:米国の掲示板型ウェブサイト。日本の同種サイトに例えて「米国版5ちゃんねる（旧2ちゃんねる）」とも呼ばれる。個人が誰でも自由に興味がある話題を提示し、その話題について自由に議論できる。写真や動画などを共有も可。2005年創設
ミーム:ネット上の流行語のように、人から人へと遺伝子のように受け継がれ、拡散していく概念やコンテンツ、行動
カスケード効果:カスケードとは小さな滝が段々と連なっている地形を指し、そのようにある場所から別の場所へと影響が波及していく効果のこと
カスケード効果はボットを使ったり、自動化技術を使わなくとも、サブレディットでユーザーを集め、彼らがツイッター上で互いにフォローし合うようにすれば、ツイッターのプライベートチャット機能を使って大勢の人とチャット上で会話を仕掛ければ、陰謀論や虚偽でもツイッター上に拡散される。ツイッター上のキュレーションシステムを騙すために十分なユーザー数を確保するだけで可能であり、あとは口コミで大衆に広がる
キュレーション:情報を収集し、つなぎ合わせて新しい価値を持たせること
ソーシャルメディア上の政治的プロパガンダは、電子メールのスパムと同じ戦略を数多く活用。違いはフェイスブックのような企業が全クライアントに対して完璧なアクセスを販売するようになったために、スパム行為が100倍簡単になった点。バイアグラの販売業者はすぐに後期高齢者にアクセスできる
政治的なコミュニケーションは瞬く間にツイッターやユーチューブのような企業にとって大きな収入源になった。選挙で誰が勝つのかには興味なく、彼等が売るのは特定の社会集団や共通の関心を持つ人々へのアクセス
世論を操作するために有権者にリーチする戦略は、フェイスブックのようなサイトに有料で広告を出すという単純なものから、偽の政治キャンペーンを組織的に行って偽情報を拡散するという全くの詐欺行為にまで及ぶ
2016年、ケンブリッジ・アナリティカが提唱したのは、フェイスブックやクレジット会社を利用して230百万人の米国人のデータを集め、特定の個人に狙いを定めて政治広告における｢サイコグラフィックス(心理学的属性)｣とソーシャルメディアを活用して訴えるというもので、決して大風呂敷ではない
ü 過去――何が起きたのか
2013年以前でもソーシャルメディア上で悪意ある政治的攻撃や自動プロパガンダキャンペーンは存在、特定の意見を広め、反対派がソーシャルメディアを介して団結する力を弱めた例はあり、選挙期間中オンライン上のコミュニケーションを大幅に歪めた者が僅差で勝利し、政治が危機に瀕しているという偽情報が驚異的なスピードで拡散されたが、北アフリカや中東で明白に見られた
｢アラブの春｣が示した民主主義への熱狂は、フェイスブックのIPOやロンドン五厘の陰に霞んだが、シリアではフェイスブックやユーチューブといったサイトが戦場となる。アサド大統領の電子軍というハッキング組織は、ソーシャルメディア、政治ボット、ミーム、標的を絞ったスパム、動画を組み合わせて利用することで、世界の人々の目を逸らし、シリア国内の世論を変えた
メキシコやトルコなど同様の弾圧や統制が世界的に急増したが、ソーシャルメディア企業は悪用を放置。金さえあれば誰でも、人種や民族といった条件でユーザーを絞り、ターゲットにすることができた。現在では放置するどころか、自ら政治の世界との緊密な連携を通じて、政治的キャンペーンにおけるコミュニケーションを積極的に担っている
キャンペーンによる合法的な政治的マーケティングと、デジタル・プロパガンダの境界線はほとんど存在しない状況は今でも変わらず、オンラインメディアを実験場として、個人や集団に絞った政治的ターゲティング広告というアイディアを試している
選挙活動における広告費でも、テレビなどの伝統的なメディアから、ウェブに向けられる金額が増加の一途を辿る
2018年時点で、米国人の2/3以上がソーシャルメディアを通してニュースに触れている
伝統的なメディアは多様な規制下にあり、特に政治広告に関しては厳しいルールがあるが、インターネットは｢ワイルドウェスト｣と比喩されるように誰が勝つか分からないゲーム
ウェブはそのコミュニケーション形態ならではの性質である｢バイラル性｣を具えているので、オンライン上では人気のあるものが急速に拡散するどころか、虚偽や嘘の方が真実の情報よりも遥かに速く拡散
ü 現在――何が変化しているのか
コンピュータ・プロパガンダが提示する問題に対して、ようやく政府やテクノロジー企業が対応を検討し始めた
フェイスブックやグーグルのような大手のテクノロジー企業では、｢テクノロジー・ユートピア｣的な考えが強く、新しいコンピュータツールを社会問題に対する万能薬として重視し、洗練された文化の証と思い込んでいるが、エンジニア・コミュニティに深く根付いたリバタリアニズムによってさらに悪化
リバタリアニズム:個人的な自由及び経済的な自由を重視する政治思想
コンピュータ・プロパガンダ台頭の背景には社会的問題と技術的問題の両方が存在し、その影響に対抗するには両方の領域のメカニズムを理解する必要がある
政治家も企業経営者も、リーダーの視点に欠陥があり、学際的なリーダーシップと教育が必要 ⇒ 公益を考える技術者と、テクノロジーに精通した政治家が求められる
ü 未来――何が起きるのか
コンピュータ・プロパガンダはトランプの勝利で世界中に急速に広がり続けている
オンライン上で的確に標的を絞り、大損害を与えるような情報漏洩や嫌がらせを実行できる資源を持っているのは、軍や政府などの強力な政治的アクターであり続ける。さらにソーシャルメディアや新しい没入型ツールを利用して世論を操作することによって、引き続き現実世界に暴力が引き起こされるだろう
この数年間で得られた最大の教訓は、オンライン・プロパガンダの実行者の戦術ではなく、その変化の速さにある
テクノロジーもグローバルであることを考えると、新しいテクノロジーがもたらす影響に備えて今すぐ準備を始めないといけない
ü メディアの崩壊
フェイスブックやユーチューブといったサイトの急速な台頭は、そのシステムの設計上の欠陥によって、私たちの情報収集のやり方を劣化させているだけでなく、自らのメディア機能を旧式の報道に替わるより良いものとして提示することで、伝統的なニュースメディアの役割を奪っていた。これらの企業は、自分たちはヤフーとは異なり、独自のニュースを制作しないのでメディア企業ではない(＝｢真実の裁定者｣ではない)と主張するが、炭素式が制作した正式なニュースや報道コンテンツを使って広告収入を得ており、自社サイト上のどこにいつどのように他社の記事が表示されるのかをコントロールしているのは間違いない。彼等のアルゴリズムが毎日20億人以上が見る情報を制御し、それによって真実を裁定する
今こそ、大手テクノロジー企業はニュースメディアと提携し、厳しく精査されたプロフェッショナルな報道を支援すべきであり、自由な報道を悪者扱いする最近の政治家の主張を受け入れてはならない。専制的で排他的な政権の台頭を許してはならない
グーグルは最近、報道機関と協力するために数百万ドル規模の取り組みを始めたが、他の企業も参加する必要がある
3 批判的思考から陰謀論へ
ü バイラルな記事のつくり方
2016年の米大統領選直前に執筆されたフェイスブックの記事は、伝統ある報道機関の名前で｢ヒラリーのメール漏洩問題を捜査中のFBI捜査官が殺害｣とのセンセーショナルな見出しで、民主党の陰謀を詳細に暴露したもので、毎分100回以上シェアされたが、発信者も内容も全て噓。世間のジャンクニュースに対する欲求をお金に換えることで月数万の広告収入を得ていた。でっち上げさえすれば、ソーシャルメディアが自然にバイラルに広めてくれる
ü シリコンバレーから愛をこめて
2016年の米大統領選へのロシアの干渉への捜査によって、コンピュータ・プロパガンダは周知されるに至り、デジタル偽情報という民主主義に向けられた広範な脅威に注意が払われた
同様に、個人や企業がソーシャルメディアやその他の技術を利用して虚偽を広めたり、他人に政治的嫌がらせをすることも起きている
ツイッターが立ち上げられた頃からハッカーたちは、インターネット・リレー・チャットIRCなどのソーシャルメディアの前身を含むチャット・アプリを使用して攻撃を計画し、政治的抗議活動に関与していたとも言われる
IRC:1988年開発。インターネット上で複数人が参加するチャットを行うためのシステム
ü オンライン・ユートピアからデジタル・ディストピアへ
グーグルやフェイスブックなどの巨大企業が世界中のインターネット・トラフィックのほとんどを支配するようになり、人々が互いに繋がることを可能にする製品を所有しているのがそうした企業であるというだけでなく、｢誰がどのように話を聞いてもらえるか｣を決めるのも、彼等が開発したコードであり、彼等のアルゴリズムは、何がバイラルになり、どんなニュースが読まれるのかを決める。それによりオンライン上自由に発言する権利までコントロールしている。彼等は、ネット上のコミュニケーション空間をより公正で人道的なものにしていると主張するが、コンピュータ・プロパガンダの台頭は、その主張が事実ではないことを示す
インターネットは、政府のコミュニケーションツールから官民のハイブリッドな日用品になった。それ以来私たちの生活は一変し、情報を共有する方法は、すべての人がニュースの作成者や評論家となる、巨大なマス対マスのマルチメディア・システムへと変化
ニュースメディアを取り巻く状況は依然として混乱を極めたままで、新興デジタルニュース企業も有効なビジネスモデルの樹立に苦戦
大手ソーシャルメディア企業が自社の不透明なアルゴリズムによって、あらゆる情報を収集し、整理統合して独占したことによって伝統的なメディアを駆逐しようとしている
インターネットは私たちのメンタルモデルを変える恐れがある。私たちが世界をどう見て、どう理解するかを変える可能性がある。客観的であろうと常に心掛けてきたジャーナリストの情報を得ることはもはやなく、ネット上に溢れるニュース商品(偽情報も含む)を選択している。古いメディアによる独占構造は、ガバナンスと機能に関する透明性がさらに低い、新たなメディア財閥に取って代わられた
ソーシャルメディア、より広く言えばインターネットは、当初こそ言論の自由を広め、市民の政治参加を後押しするユートピア的なツールとして想定されたが、すぐにそれを支配しようとする政府やその他の強力な政治団体に取り込まれてしまった。ウェブは人々を結び付けて力を与える手段となっただけでなく、人々をコントロールするためのツールにもなった
ü あなたが読んだものがあなたをつくる
2019年時点で、仮想ユニバーシティのように人々によってオンライン上で何十億回も閲覧されているコンテンツは、極めて党派的であると同時に、大部分は虚偽であり、一部は極右的な思想を持つが著名なジャーナリストたちの手によるもので、正式な教育機関として認定されていない
オンライン上で行われる政治キャンペーンの最大の標的は、無防備で疎外されている人々であり、主流の政治では発言権を持たないが、真の民主主義を機能させるのに不可欠な人々であることが多い。彼等は調査報道や科学的調査の結果よりも陰謀説を信じようするため、自らの利益やより大きな民主主義の利益に反する活動に巻き込まれやすい
現状のこのシステムを変えるためには、批判的思考と陰謀論を区別することを学ばなければならない。質の高いニュースや情報へのアクセスを要求し、すべてのジャンクコンテンツとノイズを除去する方法を考え出さなければならない
ü 批判的思考から陰謀論へ
ビッグデータのデタラメの見分け方
米国をはじめ諸国では、過去半世紀にわたって政府をはじめ様々な組織への信頼度が減っている。科学コミュニティへの信頼も40％にまで落ちた。その根本的な原因は、客観的事実と合理的な議論の欠如にある
政治への信頼度の低下の原因は、政権による基本的な倫理基準の違反や、政府の透明性の低下であり、権威主義の台頭も影響
ü ソーシャルメディアはメッセージ
インターネットは、ビッグデータやアルゴリズム、ソーシャルメディアと共に、現実や信頼性に関する大きな疑問を生み出してきた。多くの人はインターネットが情報の平等をもたらす救世主になると主張したが、それには、何者にも束縛されないインターネットは支配の道具にもなり得るという視点が抜け落ちていた
多くの場合、オンライン上の生活やあらゆる種類のデジタル情報の追求は、匿名性によって曖昧にされ、自動化によって増幅される。そのためインターネットは民主主義を弱体化させ、批判的思考と陰謀論を区別できないようにするためにも使われてきた
批判的思考も陰謀論的思考もどちらもアイディアや議論、出来事を｢深く掘り下げる｣ことに注力しており、混同されやすい ⇒ 事実とフィクションを見分けるには、証拠とデータ、出来事をじかに体験した人々へのインタビュー、さらには客観的であろうとする努力が必要
主に極右勢力の間で、オンライン上で広がる陰謀論｢Qアノン(QAnon)｣は、トランプと保守勢力に反対する隠れた政府内抵抗勢力｢ディープステート｣の話を中心に展開。確かな証拠を示さないままディープステートがトランプと米国政府を攻撃する勢力を操っているとの陰謀論を展開
ディープステート:正当な政府の裏側で影の存在が国を動かしているという考え
QAnon:Qは秘密情報の取扱許可を持つことを示唆しており、それが匿名(anonymous)掲示板に書き込んでいるのでQAnonという
陰謀論的思考にある特徴的な手法や目的には欠陥があって、｢強力な勢力や集団は、その支配や強制力に関わるような秘密を隠そうとしている｣という発想に突き動かされている
陰謀論は、ソーシャルメディア上を効果的に、素早く広まり、匿名性によって公には発言しないはずの考えを表に出し、何等かの怪物から民主主義を救うとの幻想をまとうばかりでなく、自動化されたソーシャルメディア・ボットによってインターネットに植え付けられ、増幅される。ソーシャルメディア企業は、彼らの発言を監視することを避けてきた
ü 政策はどうなっているのか
2006年、米連邦選挙委員会は、オンライン政治広告だけが政治資金規正法の対象になると宣言し、オンラインでの政治活動をほとんど無視するという重大な決定をした
1995年の通信品位法第230条では、ソーシャルメディアを使ってユーザーが行った主張に伴う法的責任をそのメディア企業から免除したばかりか、ネット企業に対し自社サイトにおける有害なコンテンツを検閲する権利を与えながら、言論の自由に関して厳しい決定を下す義務の大部分が企業に転嫁され、判断を誤った場合にも責任を問われないとされたため、ソーシャルメディア企業は230条を、問題のある政治的コンテンツについては対応しないでも許されるというライセンスと見做したし、｢真実の裁定者ではない｣との主張の根拠として引き合いに出した。真実を裁定するためのライセンスだったが、シリコンバレーに長く根付くサイバーリバータリアン精神によって、行動しない方を選択
米国政府、特に連邦選挙委員会FEC、連邦通信委員会FCC、連邦取引委員会FTCは、ソーシャルメディアが民主主義の根幹となる考え方に対抗する手段として利用される可能性を考慮していない。厳格な倫理基準や用心よりもイノベーションを優先
EUではデジタル・プロパガンダの問題に対処するためにより協調的で知見に基づいた取り組みが行われている。ドイツなどではネット企業に対して自社のプラットフォーム上のヘイトスピーチを削除しなかった場合の罰則が規定され、18年春には一般データ保護規則GDPRの適用が始まり、ソーシャルメディア企業に対しユーザー情報の利用についてよりオープンにすることを要求し、個々の政治的嫌がらせやドキシングからソーシャルメディア上での政治広告販売に至るまで、政治的デジタルコミュニケーションに影響を与えている。それでもテクノロジーによって改革が骨抜きにされる可能性を過小評価していた
ドキシング:｢晒し｣と称され、誰かを攻撃するためにその個人情報をネット上で公開する行為
虚偽の拡散には長い歴史があるのに、権力者やコンピュータ科学の第一線にいる者はそれに耳を貸さなかった
ü メディア指向の解決策
真実を操るために新しいツールはどのように使われているのか ⇒ 形態が多様化したVR(仮想現実)が一般への普及に向けて進み始め、そこに機械学習チャットボットが組み込まれる可能性もある
すぐにでも、大量に偽情報の集合である｢デジタル詐欺｣に対抗するための実現可能な政策を実施する必要がある ⇒ 透明性、説明責任、基準、調整、適応性、包括性などの側面から明確な法的救済措置が必要で、技術進歩よりも民主的自由を優先すべき
米国では1890年のシャーマン反トラスト法、1914年のクレイトン反トラスト法と連邦取引委員会法という3本の法律が制定されているが、今こそこれらの法律を再検討し、世界のデータやニュースの大部分を支配しているソーシャルメディア企業に適用する時
ソーシャルメディア・ボットを禁止すれば、オンライン上でプロパガンダの増幅に対処できるとして法案も提出されているが、既にボットがインフラとなっているツイッターのようなサイトでは実行不可能であり、増幅の問題に取り組むためには情報の流れの操作という問題に着目すべき。ただ、言論の自由との兼ね合いで問題がある
ヘイトスピーチに関する法律をオンラインに適用しようとする試みも深刻な問題に直面
暴力を助長したり、投票を妨害するようなコンテンツの禁止なら簡単だといっても、個々のソーシャルメディア企業が個別に規制したのでは効果は限定的
巨大なSNSプラットフォームや検索エンジンのほとんどは、ユーザーへのリーチとユーザーデータへのアクセスを販売することで利益を得ている。それもユーザーの明確な同意なしに行われている。その一方で企業は、言論の自由を守るために虚偽情報を止めることはできないと主張
これらの大企業、無責任な政府、利益団体、テクノロジー投資家に、コンピュータ・プロパガンダ蔓延の責任の大部分がある。ブレーキの無い車が走っているようなもの
4 人工知能――救いか破滅か？
ü ザッカーバーグのマクガフィン
2018年、フェイスブックのザッカーバーグが16年の大統領選でユーザー情報の取り扱いを適切に行わなかったとして政治的な糾弾を受ける立場に立たされ、議会で証言。選挙直後にはフェイスブックが偽情報を拡散しユーザーデータを不正に扱っていたという非難を受け流し、ジャンクニュースが有権者や世論に何らかの影響を与えたことはあり得ないと一蹴していたが、｢死の受容のプロセス｣(｢否認｣→｢怒り｣→｢取り引き｣→｢抑鬱｣→｢受容｣)を踏んで公に謝罪
議会でのザッカーバーグの追及は、他方で議員の恐ろしいほどの無知を暴露。中には｢ユーザーが料金を払わないビジネスモデルをどう維持しているのか?｣というのまであった
注目すべきは、ザッカーバーグが何十回となくAI(人工知能)に言及したことで、膨大なデジタル・プロパガンダに対抗するプログラムを用意することで、AIがデジタル偽情報問題の解決策になるだろうと示唆したものの具体的な裏付けはなく、｢AIはザッカーバーグのマクガフィンで、ソーシャルメディアの問題は解決しないが、他の誰かに責任を転嫁できるとのザッカーバーグの問題は解決する｣との批判もある
マクガフィン:ヒッチコックの造語で、物語を先に進める役割を果たすが、別の何かに置き換えても支障のないもの。ほとんど意味のない小道具のこと
ü ボットからスマートマシンへ
ある日自分のSNSのフォロワーが急増し、徐々に親近感を増して様々な情報を共有することになるが、フォロワーの実態はAIを使って開発されたボットだったというのは実際に起こり得る話
ソーシャルメディア上で｢スマートな(賢い)｣ボットに騙されるなど、ありえないように思われるが、ボットが拡散した記事を共有し、議論までしている
雇用主が職場のコンピュータ上で従業員の行動を監視することは、かなり一般的
テクノロジー企業が利益と成長の2つに集中するのは悪くないが、そうした利益が集団の自由より優先されると問題が起きる。偽情報の影響を抑えようとする一方で、偽情報を助長する新しいツールを開発している
人種や民族を理由にサービス提供を拒否する伝統的な｢赤線引き｣は依然として世界中で起きているが、テクノロジーの助けを借りて、人種や民族に応じてオンライン上の特定のコンテンツにフィルタリングをかけるという｢デジタル赤線引き｣と呼ぶべき補完行為までが行われている
企業の社会的責任CSRは、ソーシャルメディア企業にも当然に及ぶ
ü ユーザーの問題？
テクノロジー業界のリーダーや政治家は、オンライン上の偽情報の問題は｢ユーザーの問題｣だというのが一般的で、ユーザー自身が問題点を正すべきというが、一般の人々は詐欺の被害者に過ぎず、ソーシャルメディアやインターネットの設計と管理に関する意思決定の欠如がジャンクニュースや偽情報のデジタル的な拡散を可能にしたのは間違いない
ü 単純なボット
ツイッターで人気の投稿を見れば、短時間に何度もツイートしていることがわかるが、それはボットの仕業で、他のアカウントが特定のハッシュタグを使ったり特定のアカウントに関するツイートを投稿したりするのに反応して、同じ攻撃的なコンテンツを繰り返し拡散するように作られている
ü AIボットの時代
より優れた通信技術が安価に利用できるようになり、単純なボットや組織化された人々によってコンピュータ・プロパガンダが行われる時代は終わりつつある
AI技術の発達で人間のアカウントだと感じられるものと、ボットだと感じられるものは紙一重となるはず
ü AIを実現する技術
コンピューティングの世界では、AIとは、周囲の環境から得られるデータに基づいて、特定の目標を達成するための｢賢い｣意思決定を行うコンピュータ・プログラムを指す
機械学習は、AIを実現する手法の1つで、タスクの効率を最大化し、エラーを最小化に抑えるという｢最適化｣に重点を置く
深層強化学習は機械学習の一種で、ディープラーニングと興か学習を組み合わせたもの
会話型の機械学習ボットは、データから学習し、パターンを識別して、最小限の人間の介入で決定を下すことができる
ü 無視されるエシカルデザイン
ARのソーシャルメディア企業では、誰でもバーチャルコンテンツを投稿できるようにすると同時に、ヘイトスピーチを検出して除去するアルゴリズムを構築するつもりだったが、大失敗に終わったので検証してみると、アルゴリズムを訓練したのが白人男性のエンジニアだったことが判明 ⇒ 開発者には技術的なノウハウはあったが、社会的・倫理的な判断力がほとんどなかった
将来起こる問題のほとんどは、現在は解決策のように見える技術によって引き起こされるともいえる ⇒ 解決策として工夫された技術が将来悪用される
ü AIプロパガンダの始まり
既にAIを利用したコンピュータ・プロパガンダや虚偽の拡散が始まっている
彼等は、特定の影響力ある人々や政治的反体制派に活動の矛先を向けている
機械学習で訓練されたAIボットは、大規模に展開でき、ターゲットにぶつける情報をパーソナライズする能力を持って、世論を細かく操作できる強力なツールとなる
ü 毒を以て毒を制す
AIや自動ボット技術を活用して、オンライン上での情報操作に対抗する方法とは？
AIと機械学習が、コンピュータ・プロパガンダを検知するのに役立つ可能性があるのは確かで、機械学習を利用してボットを検出するツールが開発されたが、検出された情報の形式的なファクトチェックだけでは意味がなく、早期警戒システムの構築が必須
ü ファクトチェックを越えて
フェイクニュースを特定するのに最も効果的なのは、人間によるファクトチェックとAIの組み合わせによるハイブリッド型のモデル ⇒ 英国のファクトチェックの非営利団体フルファクトは1つの成功例
グーグル系列の技術インキュベーターであるジグソーは、トロール対抗ツールキットを使って、有害な言葉を自動的に検出することを可能にしている ⇒ 言葉を部分的に取り出して検出してしまうこともあり得るので、自由な表現との関係で常に論争がある
技術の開発者や訓練する人々の偏見によって構築されたAIは、人種差別や性差別、階級主義、その他の問題を解決するどころか、悪化させる可能性がある
ü 頭の悪いAI
AIは現実の社会問題に技術的な修正を行うと同時に、新しい深刻な問題も生み出す
政治的な世論操作の背後にいるのは常に人間であることを忘れてはならない
コンピュータ科学分野の著名人たちは、スマートマシンを人間が制御できなくなる時代(シンギュラリティ)が間もなく到来するのではないかという恐れを強く否定
現在のAIシステムは、人間と自然言語で会話することから物体を認識することに至るまで、あらゆる種類のことができるが、これらの動作は人間によって決定されており、人間の価値観に基づいている。どう振舞うべきかを教えられているのだ
コンピュータ・プロパガンダの問題に対処するには、ツールの背後にいる人々に焦点を当てる必要がある。政治的コミュニケーションの手段としての一連のツールは、究極的には人間の支配欲を満たすことに焦点を当てている。機械をどう作るかについて賢い判断を下すことのできない人間をこそ恐れるべき
ü AIからフェイクビデオへ
単純なボットの時代は終わり、フェイクAIビデオの時代に向かいつつある
AI技術によって、誰かが言ったりしたりしているように見せかけるディープフェイクの映像がウェブ上で公開されるようになり、より悪質で世論操作を目的としてAI修正動画も拡散しつつあって、虚偽の拡散を加速させている。著名人が違法行為を犯す場面を映したビデオがあっても、偽物かもしれないのに、一般の人々には検証の手段はない
5 フェイクビデオ――まだディープではない
ü 加工動画対ディープフェイク
2018年、ホワイトハウスでの大統領インタビューでCNNの記者がマイクを取り上げようとしたインターンに暴力を振るったとされる映像は、のちに再生速度を速くしたものだと判明。ちょっとした加工だが、それを証拠にCNN記者は入館証を剥奪されたが、オールタナティブ・ファクトの生みの親(TVのインタビューで虚偽発言を批判された際、｢虚偽ではなくもう1つの真実だ｣と答えた)である大統領顧問のケリーアン・コンウェイに言わせれば、単に早回しだけで内容は加工されていないということになる
事実が判明して入館証は返還され騒ぎは収まったが、専門家たちはビデオが偽情報の次のフロンティアだという重要な事実を学ぶ
ü ディープフェイク
テクノロジーを使って映像に映っている人の唇の動きを操作できるとしたら？ 体の動きや背景も変えられるとしたら？
ディープフェイクとは、ディープラーニングとフェイクを組み合わせた言葉で、AIで加工された動画を意味する。様々な感覚を通じて人々の現実認識を操作する新たな手法
合成されたメディアの使われ方として、コンピュータ・プロパガンダによる｢嘘の洪水｣や、個別化されたマイクロターゲティングなどが考えられるが、｢嘘の洪水｣は大量の加工されたコンテンツを送り付けファクトチェックや検証を不可能にし、マイクロターゲティングは、偽のコンテンツを使って特定の個人をターゲットできる
政治のみならず、日常生活における信頼と安全にまで深刻な影響を与えかねない
文化や社会のあらゆる分野で、世論や私たちが現実だと考えていることを破壊する目的に利用できる
高度な偽ポルノビデオについて｢ディープフェイク｣という言葉が使われたのは2017年で、レディット上で加工ビデオを、使用したコードと共にアップロード
機械学習の1つである敵対的生成ネットワークGANによれば、同一人の何千枚もの写真から、似てはいるが全く新しい写真を生成できるし、既存の音声から新しい音声を生成することも可能
政治的な世論操作に使われた例は少ないが、その1つが極めて重要なもの ⇒ 2018年作成の公共広告の映像で、オバマがトランプをデタラメな奴だと非難。広告の公開時にディープフェイクであることを明示し、急速に進化するディープフェイク技術について人々に警告しよとしたものだったが、もし明示していなかったら、本物の声明として報道機関に取り上げられ発信されていたら？
偽動画は、政治家やその他の人々の口を使って、様々な言葉を言わせることで、不和の種を蒔いたり、ニュース報道を混乱させようとしてるが、民主主義に対する脅威であるだけでなく、私たちの現実認識をも脅かす
ü まだ注目するには早い？
まだ安価で効果のあるツールが利用可能なうちは、高度なフェイクAIビデオなどが悪用されている例は少ない
テクノロジー自体よりも、コンピュータ・プロパガンダを人々が信じるように仕向ける、根本的な心理的・社会的な問題の方が大きい
偽情報キャンペーンは一旦開始されると、元の状態に戻すことはほぼ不可能で、誤った情報や虚偽に対してオンライン上で訂正したり、ファクトチェックしたりする事後的な取り組みは、うまくいかない場合が多いことは明らか ⇒ ｢バックファイア効果｣といって、訂正は実際には標的にされた人々の間に生じた誤解を増大させる
ほとんどの場合、偽情報やディープフェイク動画をインターネットから削除するというほぼ不可能な仕事を任されているのは、被害者自身
新し技術を世に出す前に、その技術に安全装置を組み込まなければ、確実に悪用される
ü 普通の動画も強力なプロパガンダ・ツールに
普通の動画でも、意図的に編集され繋ぎ合わされた映像は、失言を強調したり、文脈から特定の部分を取り出したりして、事実を歪曲しようとする人の危険な道具になり得る
現時点で浜田本物の動画に関心を向けるべき時かもしれない ⇒ 世界の平均的ユーザーが動画を見る時間は、2017～18年にかけて1週間に1時間から6時間半に増加、新しいプラットフォームの登場でこの傾向は特に若い層で加速
2019年、リンカーン記念堂の前で行われていた抗議活動の最中に、トランプのスローガン”Make America Great Again”の帽子を被ったケンタッキー州の高校生の生徒たちがネイティブアメリカンの男性を嘲笑する動画が公開された。いくつかの動画から、ある人は高校生が穏やかに歌っていたといい、別な人は左派の抗議グループが実際には暴力を扇動しているところが映っていると主張。いずれも長いシーンの一部を取り出して見せる以外の基本的な編集もなかったが、誰もが自分の言い分の正しさを証明する瞬間を見つけられるようになる。本物の映像の本物の断片ほど、誤解を招くものはない
風刺として編集した動画も、完全なフェイク動画と同じくらい、あるいはそれ以上にバイラルに拡散される可能性がある
動画は、その複数の感覚に訴える性質によって、真実をさまざまな形に曲解させる強力なツールになる。動画の方がより現実的に感じられ、文章より記憶に残りやすいため、アイディアを広める際には効果的であり、有利なツールといえる。脳は文章よりも6万倍速く映像を処理することができる
多くの動画サイトは投稿されたものを精査して監視するために、人とアルゴリズムの両方を採用しているが、大部分の人々はリンカーン記念堂の動画を問題だとは認識しなかっただろうし、｢動画による言論の自由」を優先する限り監視の効果は限定的
ü ユーチューブ問題
世論操作のプラットフォームとしてユーチューブにはほとんど関心が寄せられていなかったが、虚偽や陰謀論満載の動画をトレンドのトップに掲載した過去があるのは事実
白人ナショナリストやオルトライトのお気に入りのメディアになっている
ユーチューブは、人々が特定の報道機関にどの程度の権威を感じているかといった、品質に関する指標に基づいてニュース速報などのコンテンツを整理している。これはユーチューブが自身と報道機関との懸け橋を築くことを目的とした大規模な取り組みの一環として高く評価され始め、検索結果のトップにニュース速報を表示するようになっている。ニュースとして価値があると判断したコンテンツや、｢本物｣と判断したコンテンツを優先的に表示しているように見えるが、判断の基準などは公開されていない
2018年、ユーチューブは陰謀論動画への対策として、ウィキペディアの記事にリンクを貼るという新方針を打ち出す。巨大営利企業が、寄付金と少数の活発なボランティアの記事執筆者によって支えられている小さな非営利団体に、事前の連絡も了解もなしに、危機解決のための支援を求めたのは問題で、無条件で寛大な補償をすべき
英語以外の言語によるコンテンツの問題もある。テキスト分析や自然言語処理により、文章をより正確に翻訳することが可能になったが、文化の複雑さを理解することは難しく、ましてや映像となるとこうした問題への対処は不可能に近い
テキスト分析:テキストデータの中から情報を取り出すこと
自然言語処理:人間が書いたり話したりする自然な文章やスピーチを分析し、内容を把握する技術
ü フェイクビデオの拡散を止める
ディープフェイクや意図して作られたストリーミング動画を検出・防止するためにはどうしたらいいか？
いくつかのグループが、ディープフェイクを検出・特定し、対処するアルゴリズムの開発に取り組んでいる。あるグループはまばたきのパターンに注目
ü ライブストリーミングの問題
ソーシャルメディア上のライブストリーミング・アプリによって、誰でも簡単にライブ配信が可能。2019年クライストチャーチのモスク襲撃事件では、殺人犯が銃乱射の模様をフェイスブックにライブ配信し、その動画が他のユーザーに保存され、別のバージョンで再投稿されたりした。フェイスブックは、ライブ配信サービスの発信者に制限をかけることを検討するというが効果は未知数
ü 動画からバーチャルリアリティーへ
VR(仮想現実)、AR(拡張現実)、MR(混合現実)などのXRメディアが手頃に利用できるようになれば、次の大きなソーシャルメディア・ツールになる可能性を秘めている
XR:Extended Realityの略。VR、AR、MRの総称であり、拡張現実を意味
6 XRメディア
ü バーチャル・ウォー
ソーシャルボットや動画と同じように、VRやARが何らかの強制や扇動を目的とした活動に利用される可能性がある
世界中がXRメディアの教育的、さらには民主的な力に気付き始めている
これらのツールが特に強力なのは、ユーザーをデジタル技術によって補強された空間の中に置き、経験したことのない出来事を見たり、聞いたり、感じたりできるようにするからで、多くのグループが、人々に歴史的な出来事について教えたり、人種差別や性差別、その他の偏見のターゲットになることがどのような体験であるのかをわからせるために、この技術を使い始めている。環境悪化や気候変動などの危険性を知らしめるために導入するグループもあって、既に初期の結果は、強力なものであることを示している
ü XRメディアの世界
テクノロジーと社会が交差する領域の未来予測が盛ん
没入型メディアが社会的な善と政治的な悪の両方にどう利用される可能性があるのかを考える必要がある
ü バーチャルの定義
XR:Extended
Reality/Cross Realityの略。仮想の現実と現実の世界を組み合わせるメディア・ツールの総称
VR:Virtual
Realityの略。コンピュータがリアルタイムで生成した多感覚の体験にユーザーを直接没頭させることに特化
AR:Augmened
Realityの略。デジタル画像を現実世界の上に表示する。ポケモンGOが好例
MR:Mixed
Realityの略。複数種類のXRメディアを組み合わせたハイブリッドツール。現実と仮想が同時に相互作用することが可能に
ü ARかVRか？
XRメディアが、平等を促進し、人々を教育するためだけでなく、人々に権力や他人を支配する力を与えるために現在どのように利用されているか
現状では、ヘッドセットが高価なこともあって、没入型メディアは一般化されていないが、将来的には、特にVRが完全没入型であることから、ARよりも広範囲に普及する可能性が高い
2017年のカンヌ国際映画祭では初めてVRプロジェクトが認められ、20年ぶりにアカデミー特別業績賞が贈られた
このツールが世論操作に使われた時、真実や現実はどうなってしまうのか?
ü XRメディアと世論操作
差別や何等かの詐欺行為が、多感覚なXR体験に組み込まれる恐れがある
中国では、共産党が政治的な忠誠心を確認し、さらにそれを強化するための道具としてVRを活用している ⇒ 仮想空間にアクセスさせ、共産党の理論や地震の日常生活、党の｢先駆的な役割｣をどう理解しているかなど、様々なテーマについて質問される
他人を操作するための優れたメディアであることは間違いない
伝統的な著作権の制約に対する一般的な例外として、｢オリジナルのアイディア、歌、キャラクターなどを変形させた創作物は著作権違反ではない｣という考え方があるが、VR空間で作られたキャラクターなども同様に著作権批判ではないと考えられるのか？ ヴァーチャル有名人が人種差別的発言をしたら、禁止や制限ができるのか？
ü 社会的利益につながるVRの活用
コミュニティや繋がりを育むという目的にVRはどのように利用できるのか？
仮想現実の中で数分間過ごすことで、白人が他の肌の色の人々に対して抱いている認識が変わる可能性がある、との研究結果もある
共感のゲーム化
さまざまな教育コンテンツや科学情報を発信することができるが、同じようなことがプロパガンダ目的でもできる
ü スローXR
ユーザーを真に引き込むXR体験を作るための秘訣はまだ解明されていないが、時間の問題で、フェイスブックやインスタグラムと同じくらいの中毒性を持つVRがデザインされるようになるだろう
XRメディアの悪用を防ぐための守るべき原則 ⇒ ①匿名性を排除し、透明性を確保するための明確なルールの確立、②ソーシャルメディア企業間での協調(偽情報は常に移動して拡散する)
XRテクノロジーが取り返しのつかないほどの中毒性を持ち、心理的な影響力を過度に持つようになるのを防ぐための3原則:
①
プラットフォームが健全に使用されるように設計し、その節度を持った利用を優先すべきで、誤った形で使われていないかを明確に示す指標を提供すべき
②
XRプラットフォームは提供する体験に対して説明責任を果たさなければならないし、特にソーシャルXRが進化するにつれ、虚構と事実を峻別しなければならない
③
XRプラットフォームは包括性の原則に基づいて運営されなければならない。あらゆる種類の人々に対し、ツールへの平等なアクセスを提供し、社会的、民族的、宗教的なマイノリティ集団にもツールの公平性を与えるよう努めなければならない
ü 人間と人間に似たもの
XRとAIは、テクノロジーと人間がますます絡み合うようになる中で、人間であるということの境界を拡げている
本物と偽物の境界線を引くのが困難になる ⇒ 信頼性の高い情報とジャンクコンテンツの区別が難しくなる
私達人間は他人に説得されやすく、特に彼らの話を聞いたり姿を目で見たりすると、その傾向が強くなる。本物のように見え、聞こえ、感じられるAIツールが普及する時代が近付きつつある今、信頼と真実の基盤は揺らぎ始めている
7 テクノロジーの人間らしさを保つ
ü @Futurepolitica1
人間のようなデジタル人形がどのように機能するのかを教育目的で示すためのプロジェクトだったが、あらかじめ自分は研究と教育のために作られたボットだと正直に伝えた
人は機械を人間に似せ、人間のように話し、振舞うように発展させたが、それが及ぼす影響はボットを遥かに越える。AIは単なる新技術というわけではなく、それは人間の行動と寸分違わぬのになっていく
ü マシンか人間か
間もなくAGI(汎用人工知能)の時代が到来するということには懐疑的な専門家が多いが、人と機械を隔てる境界線が日を追うごとに曖昧になっていることは否定できない
AI技術によって、人間のような見た目と印象を備え、人間のように話すことのできるツールを作ることが可能だし、音声認識及び音声生成技術はますます人間に近づいていて、ロボットらしさは減ってきている
擬人化されたツールが特定の目的に使用されることの倫理的意味について、もっと意識的にならなければならないし、どのようにテクノロジーが構築されるかによってテクノロジーが事実や真実、現実を伝えるありかたに影響が及ぶことも意識しなければならない
ソルトウェアやハードウェアが人間に近いものであればあるほど、それが人間を模倣し、説得し、影響を与える可能性は高くなる
ü マシンとの関係構築
アップルのシリやマイクロソフトのコルタナ、アマゾンのアレクサなどは女性のように聞こえるようにプログラムされているが、古い性差別主義が具体化されたもの
テクノロジーの人間らしさが増し、反対に機械らしさが少なくなることで、人間とテクノロジーとのやり取りが変化していく可能性がある。両者の関係性が進化し続ける中で、より有益なテクノロジーを創造しようとして、同時に世論操作や服従を容易にするツールを開発してしまわないような注意が必要
人間を装ったデジタル偽情報の拡散行為が悪用されないよう配慮が必要
ü 人間らしい音声を越えて
AIの進歩とより安価になったハードウェアによって、5000ドル以下で自分そっくりのロボット(ミーボット)を作ってもらえることが可能に
ミーボットが大量に作られ、大量にハッキングされ、選挙で投票に行ったとしたら？
ü 人間の声が持つ説得力
人が自分の知性を表現し、他人の知性を評価する際に、言語から受ける影響は大きい
メディアを介した言語の活用(ウェブへの書き込みや音声の投稿、字幕付き動画など)についての研究成果では、声に出してコミュニケーションする時、相手がより知的で、有能で、思慮深いと感じる傾向がある。特に人間の声を聞くかどうかが重要で、声に変化と自然なリズムがある、自然な人間の声は｢非人間化の影響を和らげる｣効果があるとわかり、ロボットの声をより自然な人間の声に近づけようとする努力がなされている
｢グーグル翻訳｣のアプリは、音声認識を機能に組み込んでいるテクノロジーで、翻訳精度の向上に加えて、同時通訳に近いものを実現できる｢ピクセル・パッド｣というイヤホンまで開発されている ⇒ 文化を超えたコミュニケーションを効率的に行うことが可能に
ü 人間の顔をデジタルで生成する
2018年には、信じられないほどリアルな人間の顔を、機械で生成するためのAIプログラムが開発された ⇒ AIを活用して特定のイメージや絵画のスタイルを模倣する｢スタイル・トランスファー｣を組み合わせて使ったもので、まだ高価でトレーニングに時間がかかるので実用化はされていないが、様々な用途が考えられる
AIが生成する画像は、司法制度における写真に基づく証拠の扱い方に害を及ぼすために利用される可能性も ⇒ 人工的に生成された顔写真もまた、何が真実か、何が本当かという認識を混乱させるために使われる可能性がある
顔認識技術の使用が、人々のプライバシーをどのように侵害する可能性があるかについても検討されている
ü マシンが親切に振る舞うようにする
社会的な用途を持つ自動化技術全般については、設計者と技術者による技術的な制作物が、人工知能や機械学習技術を使用して作られたり、自動化されたりしていると明示することは極めて重要
ツイッターは、同社のプラットフォームのAPI＝Application Programming Interfaceを使ったサードパーティのソフトウェアを開発・販売しようと考える人々全員に対し、登録を義務付けており、ツイッター上で悪意のあるスパム行為を行うボットが使用されることを大幅に防ぐことができた
一般の人々が自分のデータを守ることは、自分自身と、自分に関する真実の両方について守るという意味がある
8 結論――人権に基づいたテクノロジーの設計
オンライン上の虚偽や、政治的な情報操作がもたらす問題への解決策は一筋縄ではいかない。デジタル情報の世界は広大で制御不能な上、ネットは日々その規模を拡大
オンラインツールを使って世論を翻弄したり、社会的・政治的抑圧を強めたりしようと活動している人々にとっては、潜在的なターゲットについて膨大な量のデータにアクセスできる上に、オンラインの匿名性、自動化、ネットの圧倒的な規模を利用して、殆ど追跡不可能なままでいることを可能にしている
オンライン上の情報操作の戦術は常に進化しているので、現在有効とされるボットチェックのシステムなども常に更新され、他のプラットフォームにも対応するようにしなければ有用性は維持できない
ü 既存ソーシャルメディアの窮地
フェイスブック、ユーチューブ、ツイッターは、トレンドを基にしたアルゴリズムとソーシャルネットワーク構造を修正して、ボットや偽のニュースに対する脆弱性の改善に取り組んでいる
中長期的に必要とされるのは、プロパガンダに対するより積極的な防衛策と、現在のソーシャルメディア・プラットフォームを体系的に、そして透明性を担保して分解修理すること。断片的な対応ではなく、組織的な解決策が求められる
デジタル虚偽の潮流の中で身を守るための既知の方法を用いて、社会に｢情報レジリエンス(回復力)｣、つまり一種の認知的な免疫を培う必要がある
デジタル時代に向けて、メディア・リテラシー(読み書き能力、知識と応用力)を育む公共政策の実施が待たれる
社会集団の間に生じた亀裂を修復するための行動も必要
国の内外を問わず、二極化とナショナリズム、グローバル化、過激主義という現在の世界の根本的な問題が、人々の間に大きな隔たりを生み出している
その主な解決策は、教育システムへの投資から、かつては不変と考えられていた法律や社会通念の改革に至るまで、社会的なものになるだろう
テクノロジーはあくまでも道具であることに変わりなく、その開発と実行の背後にある人々と、彼らが抱く動機が揃うことで有用になるのだ
ü テクノロジーに対する社会調査の価値
デジタルツールが社会に与える影響を理解するには、テクノロジーを構築する人々やグループを理解しなければならない。人々の規範、価値観、信念の定性的な理解と、テクノロジーの利用に関する定量的な情報を切り離すことはできない
ü 拡大する世界規模の問題
プロパガンダの新たなフロンティアに対して、何らかの法的介入が必要であることは疑いの余地がない
今のところ、2010年以降のコンピュータ・プロパガンダのほとんどは、洗練された技術を使ったものではなく、大半は世論をハッキングするための試みに過ぎなかった
2016年のロシアによる米大統領選介入のころから、コンピュータ・プロパガンダはソーシャルメディア技術を使い、それらの技術が本来目的としていることを行った。情報を拡散させ、社会生活についてコミュニケーションし、トレンドを生み出した
ロシアゲート:2018年米司法省が、2016年の大統領選におけるトランプ陣営を利する形での選挙妨害の疑いで、ロシア人13人を起訴。特別検察官が任命されたが、被告の1人は司法取引に応じたが、現職大統領は訴追できないこともあって、嫌疑不十分で捜査は終了
よりスマートなテクノロジーが使用される時代がすぐそこまで来ていて、人を騙す活動はますます高度化するし、ソーシャルメディアを情報操作に用いる基本的な方法が知られるようになればなるほど、プロパガンダ行為者はさらに賢くなる
2016年の米大統領選では、フェイスブックが米国民の3/4以上の個人情報を持っていて、トランプ陣営は合法的にそれを利用して、スイングステートの有権者に接触し、自らの支持基盤を強化し、対立候補を中傷。政治的コミュニケーションが突如として、フェイスブックやツイッター、ユーチュブのビジネスモデルの大きな割合を占めるようになった
ü コインテルプロ
長い歴史を持つ｢COINTELPRO｣は、今日のコンピュータ・プロパガンダと関連がある
コインテルプロ:COunter INTELligence PROgramの略。FBI初代長官フーバーが開始したプログラムで、国内の反対勢力を弱体化させるための非合法活動
工作員が敵対組織の中に潜り込む代わりにオンライン上での攻撃が行われるが、コンピュータ・プロパガンダの世界では新たな動きとして、世論操作を目的としたグループが、大手サイトが規制を始めたのを潜るように、偽ニュースなど争いを生むような政治的コンテンツを含む広告を、中小のサイトに掲載。特定の利害を持つコミュニティ向けのソーシャルメディアやウェブサイトが狙われている
ü 若者と未来のテクノロジー
ソーシャルメディア上で狙われやすいのは高齢者であること多いと判明しているが、デジタルネイティブとされる若者でもターゲットとされ、彼らはメディアには精通しているが、フェイクと本物を見分けることが苦手であることも判明している。特に画像や動画、ストリーミングが多用されているところから、悪意ある情報から守る方策の検討が急がれる
ü 倫理的なオペレーティングシステム
先ずは現在のシステムの欠陥に対処する必要がある ⇒ ソーシャルメディアでどのような自動化や匿名性が実現されるのかについて、検討が必要
特に技術者たちは、作ったツールによって引き起こされるダメージを、それを作る前に予見する必要がある
匿名性は諸刃の剣で、この機能を利用して弱者を保護するシステムを構築すると同時に、悪意のある行為者が匿名性を利用して、人々を攻撃したり操作したりするのを防ぐツールを構築することができるはず
多くのソーシャルメディアやテクノロジー企業が、ユーザーの信頼を維持するために、透明性といった価値観を守るための新しいガイドラインを打ち出している。透明性の背後にある考えは、技術システムに関する情報を、人々に多く提供すればするほどすべての人にとってより良い結果につながるということで、透明性についても、自社の製品や企業倫理の中に組み込むべき
ü 崩壊した現実を立て直す
世界中でインターネットの普及率は上昇を続ける
古くなった技術の在り方を修正し、倫理的な配慮を行った新製品を開発し、目の前にある社会政治的な問題に取り組むことはまだ可能だが、ソーシャルメディア企業やテクノロジー企業などが連携した組織的な動きが必要
コンピュータ・プロパガンダと選挙資金とが関わる問題を明らかにするために取るべき政策は以下の通りで、これによってより民主的なオンライン世界を構築する:
①
デジタルの政治広告における資金の流れを透明化するために、主要な技術プラットフォームに対して、政治広告に関する情報開示を義務付ける
②
｢選挙運動通信｣の定義を拡大して、オンライン広告など｢選挙運動｣の範疇に入るコミュニケーションを拡大し、情報開示を義務付ける
選挙運動通信:選挙期間やその前の時期に、特定の候補者に言及する形で行われる放送等のコンテンツ
③ 有料の意見広告に対する情報開示義務の内容を拡大する
④ 全ての政治行動委員会に対して、下請け業者への支出に関する情報の開示を求め、デジタル広告の仕組み全体の透明性を高める
⑤ 広告料金の支払者や広告のターゲットが誰かを広告内に開示することを義務付ける
⑥ デジタル政治活動における資金の流れを調査する権限を有する、独立した機関を創設
ü 民主主義を再構築する
コンピュータ・プロパガンダやその他のテクノロジーの悪用の台頭が民主主義への深刻なダメージを与えている
想定外の利用法によって、予想もしなかった社会的な影響を生む結果を招いたソーシャルメディア企業は、この問題を公の場で議論し始め、リスク除去の取り組みを開始
私たちの世界には、他者を支配することで権力を構築し、維持しようとする人々が常に存在し、目的達成のためには新しいテクノロジーを含む利用可能なあらゆる手段を使う。彼らはソーシャルメディア・プラットフォームの進化を、真実を自分たちに有利なように捻じ曲げるために利用しようとする
こした社会的・技術的問題に取り組み、人権と自由を優先するシステムが実現され、より強い世界をつくらなければならない
訳者あとがき
ソーシャルメディアやVR、AIといった先進テクノロジーのプロパガンダへの利用によって、私たちが真実を把握するのが難しくなっているということ、それが民主主義を危機に陥れていることを描き、こうした現状にどう対処するべきかを考察
新しいテクノロジーがプロパガンダに利用されるのは歴史上何度となく繰り返されてきた
15世紀に完成した印刷技術は、カトリック教会の権威を批判する人々を後押しし、宗教改革の一因となったし、20世紀の諸戦争は放送技術を駆使した宣伝合戦と無縁ではなかった
そうしたパターンが21世紀における先端テクノロジーの分野でも起きようとしている
その新しいプロパガンダの姿を、本書ではコンピュータ・プロパガンダと称し、様々な事例を紹介し、それらが決して妄想ではないと説く
新たな脅威に対し危機意識を持つよう促す一方で、解決策として、単なる技術の規制だけではなく、先進テクノロジーを開発・活用する企業の取り組みや、政府など公的機関による積極的な対応など、複合的な施策を提案
重要なのは私たち一人ひとりの姿勢であり、悪用の手の内を知る人が増えて行けば、私たち全員にとって良い結果となるだろう、と訴える
2014年の日本の総選挙の投票日前後の54万件のツイートを分析したところ、ツイートの8割がボット等によるもので、その多くが安倍政権を支持するメッセージを拡散するものだったし、20年には｢ディープフェイクによるアダルトコンテンツ制作｣で初の逮捕者も出ており、日本も対岸の火事ではない
コロナウィルスの流行に関して、誤った情報を発信する多くのボットが登場している。発信された関連情報の45～60％がボットによるものと考えられ、さらにデマをリツイートした人も大勢いた。デマを拡散する目的や意図的なものかどうかは未だに不明
操作される現実VR・合成音声・ディープフェイクが生む虚構のプロパガンダ
サミュエル・ウーリー 著小林啓倫 訳
仮想空間での思想教育、リアルな偽の映像･音声による世論操作……
感覚をハックするテクノロジーが民主主義をむしばみ始めた
2016年の米大統領選の際、フェイクニュースやSNS上のボットによる情報操作、ソーシャルメディア企業によるユーザー情報の販売が民主主義への攻撃と捉えられた。
しかし、それはもはやは過去のもの。
VRの没入感や、AIによる本物と偽物の区別がつかない映像・音声によって威力を増した、プロパガンダが出始めている。
オックスフォード・インターネット研究所のコンピューター・プロパガンダ・プロジェクトを主宰しディレクターを務めた研究者が、AI時代に直面する新たな問題を分析し、処方箋を提示する。
:::::::::本書への賛辞:::::::::
ティム･オライリー（オライリー･メディアCEO）『WTF経済』著者
「オンライン上の虚偽やプロパガンダについての必読の書」
ジェイン･マクゴニガル『スーパーベターになろう!』著者
「フェイクニュースの衝撃に世界が揺れる中、本書はさらにその先を見通す」
マイケル･マクフォール（スタンフォード大学政治学教授）『From Cold War to Hot Peace』著者
「『フェイクニュース』や『トロール（荒らし）』『ボット』という言葉がささやかれる遥か前から、著者は民主主義を蝕むデジタル時代の現象を研究してきた。その成果を凝縮した本書は、研究者から政策立案者、一般市民まで広く読まれるべき一冊」
目次
謝辞
「操作される現実」書評 誰もが嘘を拡散する時代を詳述
評者： 坂井豊貴 ／ 朝⽇新聞掲載：2021年01月09日
操作される現実 ＶＲ・合成音声・ディープフェイクが生む虚構のプロパガンダ著者：サミュエル・ウーリー出版社：白揚社ジャンル：社会学
ISBN: 9784826902229
発売⽇： 2020/11/06
サイズ:
２０ｃｍ／３９７ｐ
仮想空間での思想教育、リアルな偽の映像・音声による世論操作…。ＡＩや政治、ソーシャルメディアを専門とする研究者が、感覚をハックするデジタル時代がもたらす新たな問題を分析し…
操作される現実 VR・合成音声・ディープフェイクが生む虚構のプロパガンダ ［著］サミュエル・ウーリー
先日の紅白歌合戦に覆面グループＧＲｅｅｅｅＮが登場した。ただし登場したのは実物ではなく、人間のような立体映像。実に精巧にできており、私は最初それを実物かと思った。技術がもう少し進歩すれば、最後まで見分けが付かないものになるだろう。
こうした技術は、本人が喋（しゃべ）っていないことを、喋ったように見せかける映像を作ることにも使える。すでにネットには虚偽のニュースが多くある。そこに虚偽の証拠動画が加わるというわけだ。そのようになりつつあるいまの社会状況を、本書は詳述する。
虚偽の情報を流すこと自体は、人間の歴史に古くからある。だがそれは社会の有力者しかできなかった。ところが今はインターネットで、誰もが虚偽の情報を作成し、拡散できるようになった。面白おかしい嘘を集めたニュースサイトで、広告収入を得られるようにもなった。そのようなサイトのある運営者は、ヒラリーを陥れる陰謀論を掲載したことについて、取材で「人々がこういう話を聞きたがったのです」と語る。陰謀論を好む人がいれば、そのような人を操作して利益を得る人もいるのだ。
痛感させられるのは、いわゆるＩＴ革命が、本当に革命的な変化を人間社会にもたらしたことだ。米国のある調査では現在、若者の４５％が「ほぼ常に」インターネットを使っているのだという。そこでは様々なチャットやメディアで各人が交流して、情報を流通させている。この複雑なネットワーク上の情報の流れは、テレビや新聞による一方向的な情報の流れとはまるで異なるものだ。
情報は、政治家や商品への評価に直結する。だから流通の変化は、政治と経済の姿を変えてゆく。だが情報はモノと違って目に見えないから、流通の変化はとらえにくい。変化の影響についても然（しか）りである。こうした難しい作業を行ううえで、本書は多くの助けを与えてくれる。
◇
Samuel Woolley AIや政治、ソーシャルメディアが専門の研究者、著述家。テキサス大助教などを務める。
坂井豊貴（さかいとよたか）慶応大学経済学部教授
1975年広島県生まれ。ロチェスター大学経済学博士課程修了。横浜市大や横浜国立大准教授を経て、2014年から現職。著書に『多数決を疑う』『マーケットデザイン』ほか。2020年4月から書評委員。
（書評）『操作される現実 ＶＲ・合成音声・ディープフェイクが生む虚構のプロパガンダ』
2021年1月9日 5時00分
■誰もが嘘を拡散する時代を詳述
先日の紅白歌合戦に覆面グループＧＲｅｅｅｅＮが登場した。ただし登場したのは実物ではなく、人間のような立体映像。実に精巧にできており、私は最初それを実物かと思った。技術がもう少し進歩すれば、最後まで見分けが付かないものになるだろう。
こうした技術は、本人が喋（しゃべ）っていないことを、喋ったように見せかける映像を作ることにも使える。すでにネットには虚偽のニュースが多くある。そこに虚偽の証拠動画が加わるというわけだ。そのようになりつつあるいまの社会状況を、本書は詳述する。
虚偽の情報を流すこと自体は、人間の歴史に古くからある。だがそれは社会の有力者しかできなかった。ところが今はインターネットで、誰もが虚偽の情報を作成し、拡散できるようになった。面白おかしい嘘（うそ）を集めたニュースサイトで、広告収入を得られるようにもなった。そのようなサイトのある運営者は、ヒラリーを陥れる陰謀論を掲載したことについて、取材で「人々がこういう話を聞きたがったのです」と語る。陰謀論を好む人がいれば、そのような人を操作して利益を得る人もいるのだ。
痛感させられるのは、いわゆるＩＴ革命が、本当に革命的な変化を人間社会にもたらしたことだ。米国のある調査では現在、若者の４５％が「ほぼ常に」インターネットを使っているのだという。そこでは様々なチャットやメディアで各人が交流して、情報を流通させている。この複雑なネットワーク上の情報の流れは、テレビや新聞による一方向的な情報の流れとはまるで異なるものだ。
情報は、政治家や商品への評価に直結する。だから流通の変化は、政治と経済の姿を変えてゆく。だが情報はモノと違って目に見えないから、流通の変化はとらえにくい。変化の影響についても然（しか）りである。こうした難しい作業を行ううえで、本書は多くの助けを与えてくれる。
評・坂井豊貴（慶応大学教授・経済学）
＊
『操作される現実 ＶＲ・合成音声・ディープフェイクが生む虚構のプロパガンダ』 サミュエル・ウーリー〈著〉 小林啓倫（あきひと）訳 白揚社 ３１９０円
＊
Ｓａｍｕｅｌ Ｗｏｏｌｌｅｙ ＡＩや政治、ソーシャルメディアが専門の研究者、著述家。テキサス大助教などを務める。
（短評）『操作される現実』サミュエル・ウーリー著
2021年1月16日 2:00 [有料会員限定] 日本経済新聞
■『操作される現実』サミュエル・ウーリー著
情報をやり取りするテクノロジーの進化によって、本物と偽物の区別がつきにくい社会が出現した――。政治と人工知能（AI）、ソーシャルメディアの関係を研究する著者はそう警鐘を鳴らす。
フェイクニュースがネットで拡散し、世論操作があったとされる2016年の米大統領選に限らず、各国が「デジタル政治工作」を経験してきたと指摘したうえ、仮想現実（VR）など問題を深刻にしかねないテクノロジーを解説する。
技術開発者はイノベーションの追求に気をとられ、人権や民主主義への影響を忘れていないか。そんな問題意識から、テクノロジーがわかる政策立案者、社会問題を理解できる科学者の育成が大切といった提言も盛り込んだ。小林啓倫訳。（白揚社・2900円）
コメント
コメントを投稿