閉じこもるインターネット Eli Pariser 2012.6.10.

2012.6.10.　閉じこもるインターネット　グーグル・パーソナライズ・民主主義

The Filter Bubble : What the Internet is Hiding from You　2011

Eli Pariser　1980年生まれ。アメリカ最大のリベラル系市民政治団体の1つ｢ムーブオン｣(MoveOn.org)の元エグゼクティブ・ディレクターで、現在は理事会長。2001年、暴力の連鎖を断ち切って平和を訴える署名サイト｢9-11peace.org｣を開設。わずか数週間で192か国から50万人の署名を集めたことで脚光を浴び、ムーブオン(バークレー発の市民活動系スタートアップ)のキャンペーン・ディレクターにスカウトされる。それ以降、｢Obama in 30 Seconds｣など彼の独創性溢れるキャンペーンと、少額寄附システムの確立によって、ムーブオンは会員数500万人を突破。120百万ドルの寄附を集める有力NPOに成長した。2011年、本書のテーマでTEDに登壇し、大きな反響を呼んだ

TED（テド、英: Technology Entertainment Design）とは、アメリカのカリフォルニア州モントレーで年一回、講演会を主催しているグループのこと。

TEDが主催している講演会の名称をTED Conferenceと言い、学術・エンターテイメント・デザインなど様々な分野の人物がプレゼンテーションを行なう。講演会は1984年に極々身内のサロン的集まりとして始まったが、2006年から講演会の内容をインターネット上で無料動画配信するようになり、それを契機にその名が広く知られるようになった。

訳者　井口耕二　1959年生まれ。東大工卒。オハイオ州立大大学院修士課程修了。大手石油会社勤務を経て、技術・実務翻訳者として独立。｢翻訳フォーラム｣(プロ翻訳者の情報交換サイト)を共同主催。

発行日           2012.2.20.　初版印刷         2.25.　初版発行

発行所           早川書房

あなた好みの情報を自動的に取捨選択して見せてくれる、近年のネット社会のフィルタリング技術。その裏に潜む、民主主義さえ揺るがし兼ねない意外な落とし穴とは――。

｢フィルター・バブル｣問題に警鐘を鳴らすニューヨークタイムズ・ベストセラー、待望の日本語版。

はじめに

2009.12.4.　グーグルの公式発表　⇒　57種類もの記号(Signal 4)――ログインの場所や使っているブラウザーから過去の検索した言葉まで――を使い、各ユーザーがどういう人物でどういうサイトを好むのかを推測するようになり、ログアウト後も検索結果のカスタマイズが行われ、そのユーザーがクリックする可能性が高いと推測したページが表示される　⇒　検索した人によって、グーグルのページランク・アルゴリズムがその人に最適だと推測した結果が表示されるので、他の人とは違った結果となる可能性がある

2001年当時、インターネットで社会全体の民主化が大きく進むものと思われた　⇒　ブロガーや市民ジャーナリストは独力で公共メディアの立て直しを進めて行けるし、政治家はごく普通の人々が少しずつ拠出する資金を幅広い層から集めてその資金だけで選挙に出られるようになるだろうし、地方政府の透明性が高まり市民に対する説明責任が十分果たされるようになるだろうと思われたが、現実はそうなっていない。他人の視点から物事を見られなければ民主主義は成立しないというのに、我々はバブルに囲まれ、自分の周囲しか見えなくなりつつあり、事実が共有されなければ民主主義は成立しないというのに、異なる並行世界が一人一人に提示されるようになりつつある

初めに気が付いたのは、Facebookのページからいつの間にか保守系の友人が消えていたこと　⇒　インターネットの有名サイト50カ所には、データ満載のクッキーや個人データを追跡するビーコンが1カ所当たり平均で64も用意されていて、一旦アクセスすると追跡用のクッキーとビーコンが働いでしつこく追い回すような仕組みが出来上がっている

“無償サービスには、個人情報という対価を払っている”　“オンラインにおけるユーザーの行動に関する情報”⇒　それを金に換えるのがネット企業であり、グーグルは今のところ個人情報を外に出さないと約束しているが、保証していないウェブサイトやアプリが多い

アクシオム(Acxiom)は1人当たり平均1500項目もの個人情報を集めてデータベース化しており、そのカバー率は米国人の96％に達する(全世界では5億人)　⇒　9.11後の政府による情報提供の呼びかけに応じて、19名のハイジャック犯のうち11名について詳細なデータを提供している

インターネット系大企業の事業戦略はシンプル　⇒　個人に密着した情報を提供できるほど広告料が稼げるし、ユーザーは提示された製品を購入する

ウェブの未来は、パーソナライゼーションにある　⇒　ユーザーに合わせられるかどうかが勝負　⇒　ユーザーの行動を予測

米国では、30歳以下の若者の36％がニュースをSNSから得ていると言われ、何をもってニュースというかは別として、Facebookは世界最大のニュースソースとなったと言える

フィルターバブル(パーソナライズドフィルター)登場の問題点

①   一人づつ孤立　⇒　情報の共有が体験の共有を生む時代に、我々を引き裂く遠心力として働く

②   バブルは目に見えない　⇒　提示する結果がどうしてそうなっているのか教えてくれない

③   そこにいることを自らが選んだのではない　⇒　受け身で情報が表示される

フィルターバブルの対価

①   フィルターを使う人が直接的に支払う対価　⇒　自覚するか否かは別。我々の身体は刺激の強いものに注目するようにできているので、社会全体にとって良くないコンテンツばかりを消費するようになる恐れ

②   フィルターバブルの中で生活する人が増えたときに発生する社会的影響　⇒　インターネットの普及により世界全体が一体化される方向に進むと考えられたが、フィルターの働きが逆行している

フィルターバブルの姿を白日の下に晒す必要がある、それが本書の目的

第1章     関連性を追求する競争

個人が直面する情報の選択肢は無限に増え続けており、注意力には限界　⇒　個人に代わって必要な情報をふるい分けてくれる機能の重要性

関連性を活用すれば数十億ドル規模の利益が挙げられると早い段階で気付いた1人がアマゾンのジェフ・ベゾス　⇒　1994年には客と本を瞬時にマッチングできるアルゴリズムを検討　⇒　サイバネティックス(機械学習)を活用して、それぞれのユーザーの購買行動にマッチした情報を提供　⇒　キンドルも個々のユーザー情報の収集に貢献

アマゾンの成功に刺激されたのがグーグル　⇒　｢究極の検索エンジンとは、ユーザーが意図した内容を正確に把握し、求めるものを返せるものをいう｣　⇒　ログインの仕掛け(クリック)を使って個人を特定しその個人情報を蓄積、個人のグループ化、ログインする際の位置情報も有力な手がかり

Facebookによる｢ソーシャルグラフ｣(人間関係図)とニュースフィード(友達の更新情報のみを抽出して表示)　⇒　関連性の源としてこれほど純粋なものはない

ウェブは1対1の関係が集まったものと考えられていたが、いつの間にか一つにまとまりつつある。データの共有が利益になるとの認識が企業に広がりつつあるからで、関連性を追求した結果、ネットの巨大企業が生まれ、企業は我々のデータを少しでも多く集めようとし、関連性に基づいてパーソナライズされつつある　⇒　ウェブの仕組みの変化

第2章     ユーザーがコンテンツ

2004年のラザーゲート　⇒　大統領選でブッシュが軍歴をごまかした証拠を入手したとのニュースを｢60ミニッツ｣のダン・ラザーが紹介。証拠捏造疑惑の投書がブログに出て、大統領選の行方を混沌とさせたが、最終的に事実は分からず仕舞いに終わったものの、CBSもこの証拠を使うべきではなかったことを認め、ラザーは翌年不名誉な形で引退に追い込まれた　⇒　ブログとインターネットがジャーナリズムを変えた不朽の神話とされているが、きっかけはブログかもしれないが、炎上させたのはメディアであり、オンラインと放送メディアの相互作用を示す好例と捉えるべきであり、放送の時代が終わった後、ニュースはどのような形になるのか、どのような形で流れるのか、考えないといけない

語る言葉から書かれた言葉へ　⇒　印刷機の普及によりすべての人が同じページを読めるようになり、少人数の特権階級のみだった｢世間｣が大衆へと変化、新聞と民主主義の関係が深まる。その過程で、倫理と公的責任という考えも不完全ながら焼き込まれているが、その後のフィルターバブルにはそのようなものは焼き込まれていない

インターネットの登場で、何かを集めてパッケージとするビジネス、芸術、職業のすべてにおいて起きた　⇒　メディアという仲介者なしに、生の情報が入手できるようになった

新たな仲介者の登場　⇒　アマゾン、グーグル、Facebook等、メディアならその姿勢を糾弾できたが、新たな仲介者はその意図すら知る術がない

インターネットの普及により我々は、市民としての責任や役割という感覚が明確に定められ十分な検討が加えられたシステムを、倫理感覚のないシステムに交換しようとしている。パーソナライズドフィルターの大半はクリックの少ないものを振るい落とすだけで重要なものを優先する仕組みが用意されていない。｢人々が望むものを与えよ｣は、底が浅くて危うい市民哲学にしかなり得ないし、フィルターバブルの興隆によって影響を受けるのは、ニュースの受け取り方だけではなく考え方もなのだ

第3章     アデラル社会

パーソナライズドフィルターは、既存アイディアの強化と新規アイディアの習得という認知的な均衡を2つの側面から狂わせる　⇒　1つは、フィルターバブルにおいて我々は知っている(かつ賛同している)アイディアに囲まれてしまい、既に持つ観念的な枠組みに対する自信が過剰になってしまう点であり、もう1つは、学びたいと思うきっかけとなるものが環境から取り除かれてしまう点

ある政党の支持者は自分の政治信条に沿ったニュースを消費する傾向があり、教育程度の高い人は政治関連のニュースに興味を持つ割合が高いことから、教育程度の高い方が間違ったことを学んでしまう可能性がある　⇒　フィルターバブルはこれを自動化してしまい、フィルターバブルに包まれると、既に知っていることを正しいとするコンテンツの割合が大幅に高くなる　⇒　学びを妨げる作用を持つ

各種アンフェタミンを配合した｢アルデラ｣という薬　⇒　注意欠陥障害の処方薬だが、過密スケジュールで睡眠不足となった学生の必需品として、難解な研究論文や複雑な実験に長時間、集中するために利用される。集中力が維持できるという効果がある反面、依存症という副作用や、血圧を高め、連関による創造性を弱める効果がある　⇒　アルデラが神経伝達物質のノルエピネフリンを増やすことが分かっており、ノルエピネフリンには新しい刺激に対する感受性を落とす効果があるが、なぜそのような効果があるのかは分かっていない　⇒　周りが見えなくなって、打算的・保守的になったという証言が多い

インターネットのパーソナライズドフィルターにも同じ様にごく狭い範囲に注意力を絞り込んでしまう効果がある　⇒　完全なる関連性の追求と創造性を醸成する偶然に発見する能力とは、向きが正反対

パーソナライゼーションは、創造性やイノベーションを3つの面から妨げる　⇒　①解法を探す範囲を人工的に狭めている、②フィルターバブル内の情報は創造性を刺戟する特質に欠けたものになりがち、③フィルターバブルは受動的な情報収集を推進するもので、発見に繋がるような探索と相性が悪い

第4章     自分グループ

Facebookのザッカーバーグは、｢アイデンティティは1つだけ。仕事とプライベートで2種類のアイデンティティを持つことは不誠実さの見本だ｣と言い、実名の交流を推進　⇒　心理学で｢基本的な帰属の誤り｣と呼ばれる誤信であり、性格は驚くほど流動的

インターネットの草創期には、自分のアイデンティティを明らかにしなくてよいことが大きな魅力だったが、法制度や商業活動が技術に追いつくにつれ、匿名性を持つオンライン空間は縮んでいった

パーソナライズドフィルターの3段階　⇒　①どういう人で何を好むかを把握、②その人に合わせたコンテンツとサービスを提供、③正しくフィットするように微調整する

アイデンティティがパーソナライズを進めると同時に、インターネットによって自分の像が歪められる現象も出てき兼ねない

グーグルのフィルタリング・システムは、ウェブ履歴とユーザーのクリックを中心に、ユーザーが好むものを推測する　⇒　より自然な自分が出てくる

Facebookのパーソナライゼーションは、何を公開し、誰とやり取りしているかからアイデンティティが導かれる　⇒　他の人からこう見られたいと思う自分にしてくれる

アルゴリズムによる帰納法は情報決定論に繋がる。過去のクリック履歴が未来を完全に規定してしまう世界だ。世界は潮の満ち干のように予測可能なルールに従い、予測可能なパターンで動くことが多いが、そのような考え方を人間の言動に当てはめるのは危険

第5章     大衆は関連性がない

情報を操作し、世論を変えるためには、同じことを様々な形で表現できなければならない　⇒　｢類語辞典｣が役立つ　⇒　フィルターバブルが認知を操作する新しい方法になりうる

アルゴリズムによって国民感情が徐々に変化する

政府は、クラウドからなら簡単に個人情報を入手できる

データにも規模の経済が働くため、クラウドの巨人はますますパワフルになる

今のところ、政府も企業も、個人情報やパーソナライゼーションがもたらす力の利用には比較的慎重(中国やイランは例外)だが、意図的な操作には利用しなくとも、フィルタリングが普及すると民主主義に様々な形で深刻な影響が現れる　⇒　世の中にとって何が重要かというより、友好的世界症候群ともいうべき、皆が｢いいね!｣といったニュースが取り上げられる　⇒　重要な社会的問題が葬り去られる恐れがある

目に見えない選挙活動も可能だし、一部はすでに実践されている

第6章     Hello, World!(プログラミングで最初に取り上げられるコードから得られる結果)

善きにつけ悪しきにつけ、プログラマーやエンジニアは、社会の未来を形作る大きな力を持つ地位にある。市民が十分な情報をもって活発に活動できるようにすること、自分たちの生活だけでなく、コミュニティや社会をもうまく動かせるようなツールを人々の手に渡すことは、エンジニアリング的な観点からもとても重要で魅力的な課題だと思う。この課題の解決は、膨大な技術的スキルと人間性の深い理解が必要とされる偉業である。善を為すエンジニアが必要なのだ

第7章     望まれるモノを――望むと望まざるとにかかわらず

第8章     孤立集団の街からの逃亡

あらゆるところにフィルタリングが組み込まれた結果、インターネットにおける体験が変わりつつある　⇒　インターネットは圧倒されるほど豊富な情報源や選択肢を提供してくれるというのに、我々はフィルターバブルに包まれ、その大半を気付かずに過ごしてしまう。インターネットは自らのアイデンティティを育て、様々なことをトライするチャンスを提供してくれるというのに、パーソナライゼーションという経済性の追求は個性を不変なものにしようとする。インターネットによって知識やコントロールが分散する可能性があるというのに、実際には、我々が何を見てどういうチャンスを手にできるのかといった選択がかつてないほど少数の人の手に集中しつつある

問題は、パーソナライゼーションへのシフトが基本的にユーザーから見えないところで行われており、そのために我々がコントロールできないところにある

パーソナライゼーションが進んだ世界は個別集団であって、停滞と狭量を生むので、閉鎖的であってはならない

個人情報に対するコントロールを個人に返すことを企業に義務付けることが必要　⇒　オンラインのパーソナライゼーションは比較的新しい動きだが、コントロールに関する原則は何十年も前に確立されている　⇒　1973年米国保健教育福祉省が、個人情報の公正な運用に関する提言を行っており、データが安全に守られなければならないと同時に個人が自らの情報をコントロールできなければいけないとしている

訳者あとがき

フィルターの登場で、自分の興味関心に関連のある情報が得やすくなったが、その反面デメリットもあるはずだが、それが分かりにくい。以下のようなデメリットが考えられるがそのデメリットを説明するために本書が書かれた

①   思わぬモノとの出会いがなくなり、成長や革新のチャンスが失われる

②   パーソナライズの基になった言動を強化する情報ばかりが入ってきて、パーソナライズがさらに強化される

③   ｢我々の行動を売ることを許可する｣という形で対価を払わされている　⇒　フィルターで変えられたユーザーの言動を利用して利益を上げようとする人間が出てくる

④   フィルターによって、購買以外の行動、国の政治や世論といったものまで変えられる

⑤   そこまでの力を持つフィルターを私企業がそれぞれ好き勝手に開発しているため、どういう方針で何をどのように処理してパーソナライズしているのか全く分からない

閉じこもるインターネット　情報の選別をめぐる最新事例

日本経済新聞朝刊　書評　2012年４月８日付

フォームの始まり

フォームの終わり

この１月、グーグルが自社サービスのプライバシーポリシーを一本化し、ユーザーの情報を横断的に利用できるようにすると発表した。グーグルで検索した言葉の傾向からその人にぴったりの検索結果を表示するという現行の仕組みを、ユーチューブなど他のサービスでも利用できるようにしようというのだ。

　インターネットの問題というとプライバシー侵害や未成年者の利用の問題がフォーカスされることが多い。だが研究者の間では、今回のグーグルのように、ユーザーごとにその人に合った情報を表示する仕組みが広がっていくことがもたらす問題についても、深い関心が寄せられている。本書において著者は、自分にぴったりの情報を選別するフィルターによって人々が「フィルターバブル」という情報宇宙の中に閉じこめられてしまうと主張し、その問題点を明らかにしている。普段何の気なしにグーグルのようなサービスを利用している人からすれば、自分の見ている情報がこんなにも「自分向け」にカスタマイズされていたのかと驚くかもしれない。

　実際、本書では豊富な事例とともに、様々な情報に触れることが重要である理由についても学問的知見を引きながら説明されており、教科書的に理解するのには役立つ。一方で、この問題については日本国内でも既に議論の蓄積があり、類書もたくさん出ているので、目新しさを感じないという向きもあろう。それでも最新事例の紹介、現時点での議論を概観する入門としては非常に有用な本だ。

　評者自身の不満を言えば、ネットがパーソナライズ技術によって閉鎖的になりつつあることは明らかだが、重要なのはそのことを指摘することではなく、なぜそうした傾向が強まり、別の技術的発展が起きないのかについて考えることだと思う。そこにはネット産業の問題や、情報リテラシーの格差の問題、社会全体の議論の未成熟などの要因がある。そこに踏み込めなければ、これまでと同じような問題の指摘か、場当たり的な対応策の検討にとどまってしまうだろう。ネットと社会の関係は、もっと根本的な水準で考えられなくてはならない。

（社会学者　鈴木謙介）