フェイスブックの失墜 Sheera Frenkel/Cecilia Kang 2025.2.9.
2025.2.9. フェイスブックの失墜
An Ugly Truth ～ Inside Facebook’s Battle for Domination 2021
著者
Sheera Frenkel ニューヨーク・タイムズ紙記者。サンフランシスコ支局でサイバーセキュリティを担当。以前は海外特派員として中東に滞在し、BuzzFeed､NPR､Times of Londonなどの媒体に記事を執筆していた
Cecilia Kang ニューヨーク・タイムズ紙記者。ワシントンDC支局でテクノロジーと規制政策を担当。以前はワシントン・ポスト紙にテクノロジー担当シニアライターとして在籍した。Dow Jonesのソウル支局長を務めた経験もある
訳者
長尾莉紗 早稲田大学政治経済学部卒。英語翻訳者
北川蒼 早稲田大学法学部卒。英語翻訳者
発行日 2022.3.10. 初版印刷 3.15. 初版発行
発行所 早川書房
プロローグ どんな犠牲を払っても
2020年、米連邦取引委員会FTCと全米のほぼすべての州が、ユーザーや競合他社に損害を与えたとしてフェイスブックを提訴し、同社の分割を求める。政府による1企業に対する反トラスト法訴訟としては1984年のAT＆Tの分割以来最大級となる訴えで、訴状によれば、フェイスブックは長年にわたり、競合他社を容赦なく排除する｢buy or bury(買うか、葬るか)｣戦略を展開した結果、強力な独占企業が誕生し、様々な弊害を社会にもたらしたとして、フェイスブックのビジネスモデル自体を問題にしている
本書では、フェイスブックがユーザーを保護せず、世界的な支配力を持つITプラットフォームとして脆弱であることを露呈した、前回と前々回の大統領選挙をまたぐ5年間に焦点を当てる。フェイスブックを現在の姿にしたすべての問題が、この期間に頭をもたげてきた
｢フェイスブックは企業として「アルゴリズムの失敗」に陥った」と断じるのはたやすい。だが、真実はそれよりもはるかに複雑
第1章 大物を挑発するな
フェイスブックのシステムは、オープンで透明性が高く、全ての社員がアクセスできるように設計されており、ユーザーの個人情報に対するアクセス権限の悪用を防ぐには、社員自身の良心に頼る以外なかった
2014～15年、アクセス権の悪用で52人解雇。この問題が初めてザッカーバーグの目に触れたのは15年9月。最高セキュリティ責任者CSOにアレックス・ステイモスが就任してからで、彼はフェイスブックのセキュリティ対策の現状を包括的に評価し、ユーザーデータを自社のコンピューターセンターで暗号化する約束を守っていないばかりか、解雇後も問題解決のための対策を何も取っていないと指摘。エンジニアリング部門では、データへのアクセスを特権として認められ、製品開発の作業を円滑にするために利用されてきたため、大混乱を来す
2015年12月、トランプの選挙陣営は、トランプがテロ対策としてイスラム教徒の入国禁止を求める旨の反イスラム演説をおこなったのをフェイスブックに投稿。10万以上の｢いいね!｣が付き、フェイスブックは窮地に立たされる。ザッカーバーグは削除したかったが、｢大物は挑発するな｣との警告に従って放置。トランプの投稿はフェイスブックのコミュニティ規定に違反する可能性が高い。方や、トランプ陣営は選挙運動早期からフェイスブックの安価なターゲット設定機能に着目し、メディア対策資金の大半をフェイスブックに投入、支持者へのアプローチのみならず、特定の利用者に向けてネガティブ広告キャンペーンも行っていた
2016年初頭には、アメリカ人の44％が、候補者に関するニュースはネットで知ると答えた
第2章 次世代の天才
フェイスブックのアイディアは、友人同士が繋がるのに役立てるための善意で開発されたフリーソフトウェアのサイトだった
2001年、ザッカーバーグは、エクセター高校名物の在校生写真名鑑のオンライン化に付け込んで、自身のプロフィールを見るとパソコンがクラッシュするような仕掛けを組み込んだ
ザッカーバーグがハーバードで｢フェイスマッシュ｣を始めた時、多くの学生に受け入れられると同時に、プライバシーの侵害に警鐘を鳴らす学生もいた。特にラテンアメリカ系学生グループと黒人女子学生グループで、ザッカーバーグは、それに対し詫びをいれている
ザッカーバーグは、自分のサイトのネットワークはハーバード大学内に限定されているため、意図的にアクセスをユーザーだけに限定していると学生たちに説明していたが、初期利用規定にはユーザーの個人情報がどのように使用されるかについては何も書かれていない。後年ザッカーバーグは、フェイスブックが人と人とを繋ぎ、世界中の人々を1つにする力があると繰り返していたが、創業間もない頃の彼の関心は全く異なり、蓄積したデータに自分がどれほどアクセス出来るかを明らかにし、友人に｢ハーバード大の誰かの情報が必要なら、自分に言えばいい｣と自慢げに話していた
創業1年未満にして、ペイパルのピーター・ティールやネットスケープのマーク、アンドリーセンなどの起業家に準えられていた。その思想の根底にあったのは、イノベーションと自由市場を重視し、政府の介入や行き過ぎた規制を嫌う自由至上主義思想
ワシントン・ポストのドナルド・グラハムは、オンライン・メディアの脅威が迫っていることを察知、SNSのプラットフォーム企業との連携を模索。ザッカーバーグとの面談で、彼のサイトに大きく成長するポテンシャルを感じ取り、10％を600万ドルで買うとオファーし口頭で合意
直後にアクセル・パートナーズから2倍以上のオファーを受ける
2006年6月にはヤフーが10億ドルで買収を提案。買収は拒絶したが、自社の長期的なビジョンを考える必要性に迫られる。より多くの人々の繋がる世界を目指して考えられた新たなサービスが「ニュースフィード」で、各人のプロフィールの情報を1つの画面に統合し再構成するもので、自分にとって優先度の高い順に情報を並べて表示する機能
06年9月、ニュースフィードが公開されると、抗議が殺到。ユーザーはこの瞬間にフェイスブックが自分について何を知っているのか、その内容の全てを目撃することになり衝撃を受ける
プライバシー擁護団体が反フェイスブック運動を起こすが、一方でユーザーのサイトに滞在する時間がかつてない程に長くなった。ザッカーバーグは、ユーザーが一部情報へのアクセスを制限できるツールを導入する一方で、ユーザーが公開した情報はすべて公開することに固執したが、編集担当者がいないために掲載＝公開するコンテンツの編集方針が欠如しているという問題に直面。新聞は長年の経験を持つ編集委員の判断と組織として蓄積してきた知識に基づいてどんな記事を掲載するかを決めているが、フェイスブックではその場しのぎで決定
広告についても同様で、フェイスブックでは掲載する広告の制限はほぼなしに等しかった
高速インターネット回線の普及が進み、家庭での通信環境も改善され、イノベーションが生まれやすい環境が整い、世界の動きを常に反映した情報の提供を目的とする新しいソーシャルネットワークが誕生、06年7月にはツイッターが急速にユーザーを拡大
フェイスブックが対抗してビジネスを拡大するためには、収益性を高める必要がある
第3章 私たちはどんなビジネスをしているのか？
1989年、ハーバード大で公共経済学を担当していた34歳のローレンス・サマーズ教授の授業を聴講していたのがシェリル・サンドバーグ。世銀に移ったサマーズの下で働き、サマーズが財務副長官になると財務省に転職、そこでグーグルにスカウトされる
2007年12月、サンドバーグはザッカーバーグに初めて出会い、彼に野心に興味を持つ
その頃規制当局は、フェイスブックのような無料のプラットフォームが収集したデータによってユーザーに害を与えていないかと疑念を持ち始め、FTCは07年12月にデータのプライバシーを保護するための行動ターゲティング広告に関する自主規制原則を発表
グーグルでのキャリアが頭打ちとなったサンドバーグは、ワシントン・ポストのグラハムの勧めもあって、08年3月フェイスブックCOO就任を承諾
サンドバーグが入社した頃のフェイスブックは、セクハラ発言をザッカーバーグが無視し、エンジニアリング部門でもパワハラが当たり前だった
1994年、ネットスケープのエンジニアがサイト訪問者情報を保存する仕組み｢クッキー｣を開発。サイト運営者はそのデータを広告主に販売する。クッキーの登場によって｢行動ターゲティング広告｣と呼ばれるより詳細な追跡が可能となり、データ収集の重要性が改めて認識される
フェイスブックは、2006年にマイクロソフトと広告事業に関する契約を結び、自社のSNS上でのバナー広告の販売と掲載の大部分を同社に業務委託していた
フェイスブックは、既にユーザーのデータをすべて1カ所に集めていたので、広告主はクッキーに頼る必要がなかった
サンドバーグが入社するずっと以前から、プライバシー保護強化を目指す活動家ジェフ・チェスターはザッカーバーグのスピーチを注視していたが、なかでも「ビーコン」という名の革新的プログラムを発表したときは驚ろく。ビーコンはユーザーが他のサイトで商品やサービスを購入した情報を、そのユーザーの友人のニュースフィードに掲載する広告プログラムで、ビーコンの提携企業はプログラムに参加してフェイスブックユーザーのデータ提供を受け、ユーザー同士のお薦めによって意図的でなくとも自社商品やサービスが宣伝される。繋がっている誰かが何かを購入したり、記事やレシピを読んだりすると、自動的にユーザーのニュースフィードに表示され、その友人たちの同様の行動を誘う。広告の理想形は口コミによる推薦であり、フェイスブックがそれを大規模な仕組みとして提供する
チェスターは以前から、広告による消費者心理の操作との戦いを続けていた。規制のないオンライン広告にも目を向け、｢デジタル民主主義センター｣というプライバシー保護団体を設立し、1998年にはインターネットを利用する子どもたちを守るための連邦法｢児童オンラインプライバシー保護法｣の制定に漕ぎ付ける
ビーコンは、ユーザーの同意を得ないままユーザーに関する詳細な情報を広告に利用していた。プライベートな生活が公開されたことにユーザーはショックを受け激しい抗議が起こる
公的機関や法執行機関が個人の情報を入手する以上に、営利企業や広告主にプライバシーを握られるのが危険で、ビーコンはまさにそれをやろうとしていた。抗議を前に、フェイスブックはすぐに希望するユーザーだけが使えるサービスに限定し、ビーコンの導入の失敗を認めた
ただし、この時でもフェイスブックは本当のプライバシー侵害については全く放置、個人データが広告主の目に触れないようにすべきだが、そのための何等の措置も取っていない
サンドバーグは、ユーザーがどのコンテンツを公開するか決めるので、広告主とデータをシェアしていないと主張したが、広告主はユーザーの属性によるターゲト選別は可能で、フェイスブックがデータから利益を得ていたことは明白。サンドバーグは、フェイスブックに対する高い信頼と徹底したプライバシー管理によって、人々がネット上でも安心して本当の自分でいられるようにしたことがフェイスブックの功績だと主張するが、プライバシー保護活動家は相反する見解を持ち、フェイスブックは一般の人々の無知につけ込んで利益を上げていたとする
2009年2月、フェイスブックは誰でも簡単に自由な意思表示ができるようにする究極の手段、｢いいね!｣ボタンを発表。たちまちユーザー同士が｢いいね!｣を獲得するために投稿を競うようになり、積極的に情報を開示するようになった。さらにこの機能は、それまでにないスケールでユーザーの好みに関する詳細な情報を収集する、全く新しい可能性を提示していた
フェイスブックが基本的に閉じたネットワークだったため、情報収集にも限界があったが、急成長中のツイッターはオープンだったため、誰でも他のユーザーを検索してアカウントをフォローできることから、フェイスブックも対抗策を講じる必要に迫られていた
2009年12月、ザッカーバーグは、ログイン後の画面に情報先を｢全員｣にする同意を促すボックスを表示するという大胆な変更を加える。知らずに多くのユーザーが「同意する」をクリックしたために、それまで隠されていた個人情報がネット上で検索可能となる
ザッカーバーグは、自らのプライバシーを徹底的に守ってきた全世代の技術系CEOたちとは異なり、ネット上での情報共有についてはオープンで、社会的な偏見が広く存在していることが理解できていなかった。個人に関する正確な情報こそがユーザーにとっても広告主にとっても最も大切なものとの世界観は、プライバシー保護の観点からは受け入れがいたもの
2009年12月、プライバシー保護団体が共同で、フェイスブックのプライバシー設定の変更は違法でユーザーを欺くものとFTCに提訴。フェイスブックは始めて連邦政府による大規模な調査の対象となり、以降20年にわたり定期的な監査を受けることで政府と和解するが、政府は何もせずに放置、インスタグラムやワッツアップとの合併(2012/2014)にも異議を唱えず
第4章 ネズミ捕り係
2016年、偽情報や政治的に変更した陰謀論を掲載しているサイトがフェイスブックの閲覧の上位にランクされたり、トランプの大統領選挙の道具になっているではないかとの問題提起がなされる
フェイスブックの内部調査部門は、社員のあらゆる問題行動の調査を担当する部署で、秘密情報に見せかけた｢ネズミ捕り｣を仕掛け、マスコミに情報をリークする社員がいるか見張る
情報をリークした社員は即刻解雇
トランプの大統領就任阻止のためにフェイスブックがすべきことは何かという質問が次の全社員会議の質問に取り上げられることになったことがメディアにリークされる
人々はニュースを見たい時、グーグルやツイッター、ユーチューブなどのサイトを利用することが多いが、フェイスブックはそれに対抗するために｢トレンディング｣という部署を作り、アルゴリズムによってその日最も人気のある話題として抽出されたものがログインページの一部に表示されることになったが、どのような情報が表示されるかは当該部署の一部の社員が操作していることが判明、業界紙『ギズモード』に｢過酷な労働条件、秘密主義で威圧的な文化｣と共に曝露され、さらに政治的にも「保守層向けニュースを日常的にカットしていた」ことが内部情報によってスクープされ、トランプのアカウントを停止しないと決め保守党との対立を回避していたフェイスブックは窮地に立たされる。ヒラリー誕生の場合の閣僚候補とまで言われていたサンドバーグは役に立たず、夫が心臓発作で急死したショックもあって、ザッカーバーグは自ら保守派への対応に追われ、保守派に大幅に譲歩することで事態を収めようとしたが、そのやり方がかえって社内の対立を深める
大統領選の本格化とともに、フェイスブックのニュースフィードはアメリカ国民の分断の深刻化を示す。相手を悪者に仕立て上げようと躍起になり、明らかに虚偽のニュースを垂れ流すサイトまで多数存在し、突飛なストーリーであればあるほどユーザーがリンクをクリックする可能性が高くなることが悪用された。社内でも問題にされたが、上層部は問題を放置
エンジニアリングのトップは｢The
Ugly｣と題した社員向けのメッセージで、｢私たちの醜い真実は、人と人を繋ぐ価値を深く信じているからこそ、より多くの人をより頻繁につなぐためなら何であってもよき行為と見做されるということだ｣と高らかに宣言
世界的にヘイトスピーチが増加していると思われる状況をフェイスブックの社員たちが調査した結果、陰謀論や偽のニュースアカウント、マイノリティに対する組織的なヘイトスピーチの発信源として、自分たちの会社の名前が繰り返し浮かび上がっていることに気づき、次の全社員集会での質問に挙げる
サンドバーグは、2012年取締役に就任、大規模なデータマイニングという新たなビジネスを展開し、資金を集め続ける。彼女の開発した新たな広告ツール「カスタムオーディエンス」は、広告主の有するデータに基づき、フェイスブックユーザーのデータから似た様なデータを抽出して広告のターゲットとする、より効果的なターゲティングを可能にするものだった
フェイスブックが成長するにつれて有害なコンテンツも大きく増え、特に若いユーザーの間では制御不能な状態になっていた。13歳未満の子供がアカウントを持つことを禁止する独自のルールも守られていなかった。消費者団体や児童擁護団体からの抗議が日に日に高まるなか、2012年非営利の児童擁護団体「コモンセンス・メディア」から、子どもたちが一生後悔する可能性があるコンテンツを投稿することから彼らを守るために、ユーザーが過去のどんな投稿も撤回できる「取り消しボタン」の導入の提案があったが、インターネット全体に有害な波及効果をもたらすとして拒絶
その頃サンドバーグは、サイト上の有害なコンテンツを監視する｢コンテンツ・モデレーション｣戦略を検討。もともと2008年には、フェイスブックが禁止するコンテンツのリストをアップデートしていたが、方針だけあって裏付けとなる理論はなかったため、何度も問題を起こしていた。2011年オーストラリアの野党党首の娘を揶揄した名称のフェイスブックページを削除しないという決断が物議をかもした時、サンドバーグは、はその部門を自らの管轄下に置くとした。ロビー活動部門を統括する彼女がコンテンツに関するポリシー決定も監督する事になり、コンテンツ決定に政治的な計算が持ち込まれるのは火を見るよりも明らかに
第5章 炭鉱のカナリア
フェイスブックの｢脅威情報チーム｣のサイバーセキュリティの専門家は、ハッカー集団のフェイスブックでの活動を追っているが、大統領選でのロシア人ハッカー集団がヒラリーにダメージを与えようと画策していることを察知
ヤフーのサイバーセキュリティ部門にいたステイモスは、アメリカ政府がヤフーメールのユーザーを秘密裏に監視するための検索システム導入をマリッサ・メイヤーCEOが認めていたことを指摘して会社を辞めるが、サイバーセキュリティ業界では｢炭鉱のカナリア｣と呼ばれるようになり、フェイスブックに入社するとサンドバーグの下で強固なセキュリティチームを編成
トランプ陣営は、フェイスブックユーザーがポピュリスト政治家の扇動的なメッセージに強く惹きつけられるアルゴリズムに付け入って、自陣に有利なようにフェイスブックを支配していた
ソーシャルメディア企業がサイバー攻撃の主体を直接明らかにしたことはなかったが、ロシア関連のアカウントがハッキンギした文書をフェイスブックで拡散している状況を国家的緊急事態と判断したセキュリティチームはハッカー集団のアカウントを削除
だが、大統領選の週末を控え、フェイスブックにはハッキンギしたメールに基づくものも含めアメリカ社会を分断しようとする辛辣で過激なコンテンツがあふれる
第6章 クレイジーな考え
2016年11月、トランプの勝利によってフェイスブックと国家は未知の領域に入る
フェイスブックがフェイクニュースや扇動的なエピソードを氾濫させてトランプの勝利をもたらしたとの非難が世界中で巻き起こるなか、ザッカーバーグは｢ちょっとフェイクニュースを見ただけで自分の投票行動を決めることなどありえない｣と発言し、ザッカーバーグと彼の会社は選挙に与えた影響に対して責任を取ろうとしていないとの非難が殺到し、社内は混乱
ステイモスは、ザッカーバーグの「クレイジー」発言を知って、それまでのロシアによる数々の軽快すべき活動を報告したことがトップに届いていないことを知って愕然
第7章 企業は国を超える
ステイモスは、ザッカーバーグに直訴。フェイスブックが能動的及び受動的な情報操作のプラットフォームだと世間から見做される可能性が高く、17年は我々にとって組織的な偽情報拡散への対処が一層大きな課題になると指摘
ロシアによる選挙介入の真相究明に向けてステイモスらを含むチームが編成されたが、ロシアの工作活動に関する情報をあまり得られず、それでも、フェイスブック上に偽ニュースサイトの巨大ネットワークが発見された。ロシアの関与の決定的証拠が見つからなかったことに安堵した経営陣は、将来に向っての対策を取ることを躊躇
上院の情報委員会もロシアの選挙干渉について、フェイスブックの関与を確信
フェイスブック社内では、ステイモスのチームがロシア関連のアカウント群の特定に成功。アカウントの多くはトランプ陣営や各種保守派団体を支持するもので、米国民の分断を招くことのある｢シームライン・イシュー｣(銃規制、移民、フェミニズム、人種など)が存在する所には必ずそれらのアカウントが絡んでいた
2017年9月の取締役会で調査報告書を公開することにしたが、トップは重要情報の隠蔽を指示。役員会は。今になって重要事実を知らされたことに怒りを爆発させ、さらにステイモスが、未だにロシアの影響がフェイスブック上に残っていると警告を発したため混乱
会社は調査結果を記したブログ記事を公開したが、ロシア関連アカウントが出した広告費と広告数は記載したものの、全ての広告はフェイスブックのポリシーに従って削除されたと述べたに留まり、膨大な数のアメリカ人がそれらの広告を見たという事実は伏せられた
反ワクチン活動家やイスラム革命のISISなどにとっても、フェイスブックは組織の数と影響力をネット上で拡大するための格好のツールとなってしまった
議会はフェイスブックに報告書の裏付けとされた広告のデータの公開を迫り、更にグーグルやツイッターも公聴会に召喚される。ステイモスたちのチームは、ロシアの選挙干渉を発見しながら、感謝されるどころか、活動を長い間見逃していたことや公表の遅れを責められた
会社は、エンジニアリング部門に新たなセキュリティチームを発足させたが、ステイモスは厄介者扱いされ辞職。18年2月、特別検察官がロシア国籍の人物たちによる選挙介入とそれに関連するトランプの顧問らの国内での犯罪容疑に対する捜査で犯人を突き止めたと公表
第8章 フェイスブックを削除せよ
2018年3月、『ニューヨーク・タイムズ』とロンドンの『オブザーバー』が、ケンブリッジ・アナリティカというイギリスの政治コンサルティング会社が8,700万人のフェイスブックユーザーのプロフィール情報などを、ユーザーの許可なく取得していたという事実をスクープ。トランプの支持者が出資し、トランプの上級顧問のバノンが経営に携わるこの会社が、個人の性格や政治的価値観に関するフェイスブックのデータを利用して、新たなレベルの政治広告ターゲティングを行っていたという。個人データの侵害が繰り返されてきたフェイスブックの信頼はさらに失墜。フェイスブックが選挙妨害を許したとの反感が高まる
上院の公聴会に召喚されたザッカーバーグは、初の議会証言で、フェイスブックの目指す理想を強調
ケンブリッジ・アナリティカによるフェイスブックユーザーのプライバシー侵害の発端は、8年前外部のアプリ開発業者にフェイスブックユーザーの情報へのアクセス権を与えるプログラム「オープングラフ」を創設したこと。安全性やプライバシーは二の次にして、オープングラフに新たな提携先を誘い込み、フェイスブックユーザーのデータを受け取るためのシステム設定を支援していた。オープングラフがフェイスブックユーザーのデータを売買するブラックマーケットの活動に拍車をかけていると警鐘を鳴らし、プライバシーとセキュリティを脅かす危険なプログラムであることを社内で警告する声もあったが黙殺された
2018年3月、FTCは、プライバシー保護を定めた2011年の同意審決にフェイスブックが違反している可能性について独自調査を進めていると公表。同意審決はフェイスブックがユーザーを欺いてデータ乱用を繰り返してきたことに対する包括的な和解協定で(第3章参照)、今回のフェイスブックの行為は明らかな合意違反
選挙介入やプライバシー侵害がテクノロジー企業に対する規制の必要性を現実に示しているとの声が高まり、フェイスブックはタバコと同じくらい中毒性があって危険だと非難
サンドバーグの著書『LEAN
IN』（2013）は、2011年にハーバード大の卒業式でのスピーチから生れたもので、キャリアを追い求めるべきだと女性に呼び掛けたもので、彼女はフェミニストの象徴的存在となったが、一方でジェンダーバイアスを指摘せずに女性を不当に非難していると感じた反感も高まる。根底には彼女の世間知らずの自惚れがあったが、彼女は不当な個人攻撃と受け止める
第9章 シェアする前に考えよう
2017年8月、ミヤンマー軍の兵士たちが大量虐殺の最中にイスラム系少数は民族のロヒンギャを中傷する投稿をフェイスブックに繰り返していた
18年3月、国連の独立事実調査団は、ソーシャルメディアが虐殺において｢決定的な役割｣を果たしたと指摘。｢フェイスブックが敵意と不和と紛争の激化に実質的に貢献した。ヘイトスピーチが原因の1つにあることは明らか｣だとし、フェイスブックの影響力の大きさに言及
ザッカーバーグは、4月の公聴会で対応を約束したが、5カ月たっても成果は上がらず
ミヤンマーでは、既に2013年から反イスラムの話題がすべての会話の中に出没し始め、不正に加工された写真や映像が広まる。その頃軍事独裁政権の規制緩和で外国の通信事業者の参入が解禁され、携帯の料金が大幅に下がると、一気にインターネットやフェイスブックの利用が拡散。両者がほぼ同義語のようになってフェイスブックのユーザーが激増
2013年8月、ザッカーバーグは世界的な大手通信事業者6社と提携し、全世界をインターネットで結ぶことを目的に｢インターネット・ドット・オルグ｣という組織を立ち上げ、複数の携帯電話会社と事業契約を結び、開発途上国向けに必要最低限のインターネットサービスを提供。そのサービスにはフェイスブックアプリが初期搭載された。同時に、グーグルや中国系企業などもグローバルな事業拡大に向けて鎬を削る。ただ、フェイスブックには、特に民主主義体制が確立されていない国で事業展開を監督する責任者はおらず、おざなりに投稿されるコンテンツをチェックするモデレーターを置いただけで、本社の経営陣には見えていなかった
ミヤンマーの人権保護のために立ち上がったアメリカ人の人道支援家がフェイスブック本社に乗り込んで、ミヤンマーで起きていることの深刻さを説明、フェイスブック上のヘイトスピーチが実際の暴力に繋がり、人々が殺されていると訴えたが、まともに取り合ってはもらえない
情報操作問題の根源は、当然ながらテクノロジーにある。フェイスブックは、人の感情を掻き立てるようなコンテンツがあれば、たとえそれが悪意に満ちたものであっても、その拡散に拍車をかけるようアルゴリズムが設計されている。ミヤンマーは、インターネットが上陸した国でソーシャルネットワークが主要かつ最も広く信頼される情報源となった場合に何が起こるかが試される、生死のかかった実験場となった
2014年6月、会社が秘密裏に行っていた実験について公表。ユーザーの心に深く入り込むフェイスブックの力と、ユーザーの知らないところでその力の限界を試そうとする会社の姿勢を露呈するもので、70万人のユーザーを対象にログインした際に表示される内容を操作し、一部のユーザーには「幸せな」コンテンツばかりを表示、他のユーザーには「悲しい」コンテンツばかりを表示したところ、前者は自分の投稿でも明るいコンテンツを拡散する傾向が強く、後者はネガティブな態度を示すようになった。人と人との直接的な交流がなくても感情の伝染が起こることが実証された。フェイスブックには人の思想に影響を与えて怒りを掻き立てる力があるという批評家の主張が裏付けられたが、会社は伝え方が不十分だったと広報の不手際を詫びただけ。内部でも、ニュースフィードが人々に与える影響の邪悪な面が出たとの批判が起こり、扇情的な見出しのサイトがしょっちゅうニュースフィードのトップに上がってくると不満を漏らし、アルゴリズムの見直しの必要性を訴えた
2018年9月、人権団体がミヤンマーでの虐殺を国際刑事裁判所に提訴すべく、フェイスブックに証拠となる情報の提供を求めたが、アメリカでの未成年を狙った性犯罪者の検挙に貢献していた時とは裏腹に、有害なコンテンツを発見する手段は社内にないとして協力を拒否
第10章
戦時のリーダー
2018年7月の会社幹部40人による｢Ｍ｣チームの会合でザッカーバーグが語ったのは、今までは平時のリーダーだったが、これからは戦時のリーダーになるということ。平時では自社の強みの拡大・強化に集中できるが、戦時では生き残りをかけた戦いに本気で挑まなければならない
2016年の大統領選に伴ってフェイスブック上でフェイクニュースが増加して以来、ザッカーバーグは言論における首尾一貫した方針を考え出すのに苦労。表現の自由については毅然とした態度で明確な線引きをして絶対的な立場を貫き通し、フェイスブックはアイディアの市場であり、そこには不快な意見の居場所もあるという考えを示す
フェイスブックは暴力、ポルノ、テロリズムを禁止し、AIシステムがそうしたコンテンツの90％以上を自動的に検出し削除したが、ヘイトスピーチとなると簡単に定義づけできず、ザッカーバーグが言論の複雑さを軽んじていることが露呈
選挙に関するセキュリティが会社にとっての最優先事項だと議員たちに約束し、新たに1万人のセキュリティ要員を配置、情報操作を行うアカウント群を削除
トランプはフェイスブック最大の政治広告主で、自身の選挙運動を反映するように、トランプの広告は嘘の情報を載せたり本来なら削除されるような思想を奨励したりするものも多く、フェイスブックはトランプから多額の金を受け取る代わりに、絞り込んだターゲットにリーチできるツールで危険なイデオロギーを広めさせているという印象が強まっていた
2018年11月、フェイスブックがロシアの選挙介入に関する情報を隠蔽・歪曲してきた2年間をまとめた記事を『ニューヨーク・タイムズ』が公表すると、サンドバーグは広報責任者に責任を転嫁、社内に彼女の退任を求める声が高まる
第11章
有志連合
2019年、ザッカーバーグは、フェイスブック上で急増する暴力やヘイトスピーチについてマクロン大統領と話し合うため訪仏。各国です進む規制強化への対応の一環
2019年、共同創業者のクリス・ヒューズが『ニューヨーク・タイムズ』にフェイスブックを痛烈に批判する論説を寄稿、個人データを底なしに求め続ける危険な独占企業に成り果て、今こそ解体すべきと主張。フェイスブックの広報は、10年も前に辞めた人の憶測の論評だと反撃に出たが、同調者は他にも増えて来ていて、大統領選でもテック企業解体論が飛び出していた
ザッカーバーグは、｢ソーシャルネットワーキングにおけるプライバシー重視への転換｣を提唱、ユーザーを公の場所から、よりプライバシーとセキュリティが確保されたクローズな場所へと移動させようとしたが、オンライン・セーフティ部門からすれば、不審な行動や犯罪者の情報の大半はユーザーからの通報に拠っていて、同じ様な考えを持つユーザーが集まったプライベートグループではそれが遥かに難しくなり、犯罪行為を検出できなくなると非難。側近のクリス・コックスもプライバシー保護強化によって生じるセキュリティの穴に危険を感じ、珍しくザッカーバーグに反論し退社を決意。会社の”魂”と言われ、後継を目されていただけに衝撃
日経2019.3.15.【シリコンバレー=中西豊紀】米フェイスブックは14日、サービス全体を統括する主要幹部のクリス・コックス氏が退社すると発表した。同氏はマーク・ザッカーバーグ最高経営責任者（CEO）の側近だったが、最近は「意見の相違」（米メディア）があったとされる。プライバシー重視の戦略にかじを切ろうとする同社だが、内部体制のほころびが目立ち始めた。
コックス氏は創業直後の2005年からフェイスブックに所属していた。当時まだ15人しかいなかった同社の初期エンジニアのひとりで「ニュースフィード」など主要な交流サイト（SNS）の開発や人事を手掛けた。
14年には最高プロダクト責任者（CPO）に昇格し、18年からはフェイスブックのほか写真共有アプリの「インスタグラム」、対話アプリの「ワッツアップ」など主要サービス全般の統括を担当していた。シェリル・サンドバーグ最高執行責任者（COO）に次ぐ社内ナンバー3として知られザッカーバーグ氏の後継候補とも見られていた。
ザッカーバーグ氏は14日に出した声明で「別のことをしたいというクリスと、数年にわたって議論を重ねてきた」と説明。コックス氏が退社の意向を以前から持っていたことを強調した。
ただ、一部の米メディアは今回の退社に内紛の可能性を指摘している。ザッカーバーグ氏は対話アプリの「メッセンジャー」やインスタグラム、ワッツアップを機能統合し、プライバシーを重視したサービスを展開する方針を示している。一方、コックス氏はこれに反発していたとの見方だ。
コックス氏は14日、自身のフェイスブックページに「会社はこれから新しい方向に向かう。そこに興奮を覚えるリーダーが必要だ」とコメントした。米ニューヨーク・タイムズは、これについて複数の社員への取材を基に「（ザッカーバーグ氏への）反対をほのめかすものだ」と断じた。
フェイスブックは同日、ワッツアップの担当副社長、クリス・ダニエルズ氏の退社も発表した。ザッカーバーグ氏は声明で二人の辞任を「新たな章の始まり」と総括し、「より優れたリーダーを育成する機会になる」とした。
同社の元幹部の一人は「データ共有型からプライバシー重視型の企業への移行を本気で進めるために体制を一新した可能性がある」と今回の退社劇を分析する。とはいえ、大きな戦略転換を計ろうとする中での主要幹部の流出はザッカーバーグ氏の求心力に影を落としかねない。
フェイスブックでは18年3月の膨大な個人情報の漏えいが発覚した不祥事以降、インスタグラムやワッツアップの創業者が会社を辞めるなど、人材流出が相次いでいる。ザッカーバーグ氏との路線対立が背景にあったもよう。ニューヨーク・タイムズは戦略転換を急ぐザッカーバーグ氏が社内で支配力を強めていることに不安を感じる幹部がいるとしている。
「我々には大事な仕事が残っている。引き続き世界をひとつに近づけていく」と声明を締めくくったザッカーバーグ氏。前途にはまだ多くの困難が待ち受けていそうだ。
ザッカーバーグは、フェイスブック、インスタグラム、ワッツアップのメッセージングサービス間の壁を取り払う計画を発表、各アプリのバックエンド技術を更に連携させ、ユーザーがそれらアプリ間でメッセージのやりとりやコンテンツの投稿をできるようにした。合計26億人のユーザーを抱え、会社はユーザーに関してさらに詳細な分析ができるようになる
フェイスブックへの反感はかつてないほど高まる。人権保護団体や消費者プライバシー保護活動家はもとより、独占禁止法違反の立証を目指す動きも活発化
第12章
存亡の危機
2020年の選挙に向けた情報操作防止の取り組みにつき、議会はサンドバーグを厳しく追及
民主党下院議長ペロシの酔っ払って呂律の回らない加工動画がSNS上で拡散、抗議を受けてYouTubeはすぐ削除したが、フェイスブックのフィルターや検出ツールは単純な回避策でかわせてしまうことが判明。数カ月前のニュージーランドでの銃乱射事件の際も、拡散を狙って撮られた犯人のおぞましい主観映像も、150万本のうち120万本は未然に防ぐことが出来、フェイスブックは削除できたと誇らしげに発表したが、残る30万本は拡散し続け、フェイスブックの動画監視・削除システムの欠陥が暴露。社内でも議論が対立し、ザッカーバーグは、社内の｢ディープフェイク｣の定義に当てはまらないとして放置することを決定。ペロシはフェイスブックとのコンタクトを立ち、フェイスブックは民主党内で最も有力な支持者を失う
ペロシは、「嘘と分かっているコンテンツを載せているということは、ロシアにも進んで選挙介入させていた証しであり、フェイスブックはサイト上の情報操作問題をむしろ助長している」と言って非難。サンドバーグは、｢誤情報・偽情報がサイトに上がっても削除しない。表現の自由においては、良い情報こそ悪い情報に対抗する唯一の手段であるべきだ｣と平然と語る
新たに広報担当としてスカウトされたニック・クレッグは、中国の競合相手の名を挙げ、中国の経済上・安全保障上の脅威を指摘することで批判の目を逸らそうとした
日経2018.10.20.【シリコンバレー=中西豊紀】米フェイスブックは19日、元英副首相のニック・クレッグ氏（51）を広報・国際戦略担当の副社長に招くと発表した。世界規模での個人情報の大量流出など不祥事が相次ぐなか有力元政治家を対外業務のトップに据えて信頼回復を目指す。同氏は欧州議会での議員経験もあり、米企業に厳格な欧州との間合いを探る狙いもありそうだ。
同社のサンドバーグ最高執行責任者（COO）が自身のフェイスブックのページを通じて発表した。「彼の（政治家としての）経験と複雑な問題に取り組む能力は今後我々に価値をもたらす」とクレッグ氏を紹介。フェイスブックは「深刻かつ明確な課題に直面している」として、信頼回復に向けた取り組みなどで同氏が大きな役割を果たすとした。
クレッグ氏も自らのフェイスブックページで人事と米カリフォルニア州への移住を公表。フェイスブックの課題について「個人のプライバシー、民主手続きでの分断を防ぐこと、世界に広がるネットと地域文化の相違、人工知能（AI）の力と脅威」などをあげ「フェイスブックは答えを見つけることができる」と述べた。
2007年から英自由民主党の党首をつとめていたクレッグ氏は保守党と連立を組み、10年から15年までキャメロン政権下で副首相を務めた。英国と欧州議会の議員のほか、欧州連合（EU）の執行機関である欧州委員会で勤務した経験もある。個人情報の保護では欧州が規制づくりやその執行で厳しい姿勢を見せており、交渉役として同氏の経験に期待する面もありそうだ。
クレッグ氏はフェイスブックのマーク・ザッカーバーグ最高経営責任者（CEO）、サンドバーグCOOと「数カ月」話し合い就任を決めたとしている。英国が国民投票でEU離脱を決めた後の17年の総選挙で下院議員を落選した同氏だが、今でも国内での知名度は高く18年には貴族の称号を得ている。
2019年6月、フェイスブックに対する調査が3件開始。FTCは会社の独占力を調査。ニューヨークなど8州の検事総長事務局も独占禁止法違反についての合同調査を開始。下院司法委員会の反トラスト小委員会はフェイスブックを含む大手テック企業を個別に調査
社内の動揺をよそに、ザッカーバーグは、ブロックチェーン通貨計画「リブラ」を発表。従来の金融システムの座を奪う可能性があると世界中の規制当局が批判し、違法行為の隠れ蓑になりかねないと警告を発する
第13章
大統領との接近
2019年9月、ザッカーバーグは大統領と秘密会談。トランプは、フェイスブックを使って選挙戦で成功したにもかかわらず、このSNSを信用していなかったし、IT業界が公然とヒラリーを支持したことにも恨みを抱いていたので、彼の反感を和らげるのが会談の目的
2人は中国の脅威で意見を一致させ会談は友好裡に終わる。ザッカーバーグは、トランプの移民に対する攻撃的な発言を嫌悪していたが、公に発言することはなかった
トランプは、16年の選挙と同様にソーシャルメディアを利用する戦術で再選を目指すべく準備を整える。フェイスブック広告には前回の倍以上の総額1億ドルを投じ、マイクロターゲティングで分類した各層の有権者の興味を惹くよう広告内容を脚色して浴びせ続ける戦略をとる。広告の中にはトランプに関する大手メディアのネガティブな報道に反応するものも多かった
何年も前から市民権運動活動家たちは、フェイスブックの広告ターゲティングにはバイアスがかかっていることや、従業員の黒人とヒスパニックの割合が1桁台からほとんど変わっていないと非難。サイト上ではヘイトが蔓延。社内でもリーダー職がほぼ白人である状況を批判
その後の会社との対話や、会社の方針転換を受け入れて活動家は納得しかけたところで、フェイスブックは新たに政治家に完全かつ無制限の発言権を与えると発表。”政治家の発言”には選挙候補者と陣営による有料広告も含まれ、ファクトチェック無しに掲載されることになり、新たな有害なポリシーの発表にアンチフェイスブックの声が高まる
10月にはザッカーバーグは、市民権運動における言論の自由の重要性についてスピーチ。インターネットは新しく強力な形態としての表現の自由を生み出した。ネット上ではすべての個人が世界中に声を届けられる。フェイスブックは新たな「第5の権力」の一部として27億人のユーザーに検閲も編集もされず自分の声を世の中に届ける力を与える。反対意見を封じ込めることに警告を発し、健全な民主主義においては議論は不可欠。政治家の発言が嘘か否か判断するのは国民であって、1私企業の役割ではない、と語る
たちまち各方面から猛烈な反発が起こる。表現の自由という権利には「アルゴリズムによる権利の増幅」は含まれないとの批判も。テクノロジーは、考え方や経験の似かよった人々が構成するエコーチェンバー(閉じた部屋で音が反響する物理現象に準えた)をあちこちに生み出し、ザッカーバーグはこのジレンマを解消できていなかった。1つの国家ほどの力を手にしながら、ユーザーを守る責任を取っていなかった
尊敬するビル・ゲイツに倣って、妻で小児科医のプリシラ・チャンとの連名の慈善団体CZIを立ち上げ、巨額の寄付をしていたが、それすら有限責任会社の形態をとったことに対し、節税のためとの非難が起こる
サンドバーグは、ますますザッカーバーグとの考え方の相違に悩み、何もしようとしない彼女に周囲の批判も高まることに焦燥を感じていた
第14章
世の中のためになるもの
2020年1月、ザッカーバーグは、CZIの感染症専門家からの情報で、世界よりいち早くコロナの拡散を知り、社内に情報収集を含めた対応を指示
素早い対応がフェイスブックに対する評価を高めたが、4月にトランプが｢消毒剤や紫外線がコロナ感染症対策として有効かもしれない｣と発言したことがフェイスブックに試練を与える
発言は医師や医療専門家によって直ちに否定されたが、フェイスブックやインスタグラムではあっという間に拡散。何件かは削除されたが、発信源のトランプのアカウントは放置。以前ザッカーバーグは、政治的言論の自由における数少ない例外として医療にかかわる偽情報を挙げていたが、今回も同じ主張を虚しく繰り返すだけだった
20年5月、ジョージ・フロイドが警察官に押さえつけられて圧死した事件に抗議するデモに対し、トランプはフェイスブックとツイッターに投稿。｢米軍の支援を要請し、略奪が始まれば発報が始まる｣とあって、ツイッターは警告ラベルをつける異例の措置に踏み切る。トランプは反発し、通信品位法を撤廃するといって脅す。ザッカーバーグがすべての政治コンテンツを保護すると宣言した直後に、ツイッターは政治広告を禁止し、選挙関連の偽情報を流布しようとするトランプのツイートにラベルを付け始めていたが、ザッカーバーグは、個人的にはトランプの発言に不快を感じながらも、「表現の自由を約束する組織のリーダーとして対応する責任がある」として従来の方針を堅持
倫理的責任を果たそうとしない会社の方針には、社内からも強い反発が起こる。社内の混乱は記録的な速さで報道機関にリークされた
問題の1つは、最も過激な動きが非公開グループ内で展開していることで、フェイスブックは数年前からグループへの参加を奨励しており、それが問題を悪化させていた。陰謀論や過激な政治運動をテーマにしたグループに参加する人が多いことが悩みを募らせる
退職していたコックスがフェイスブックに戻る。退職中に彼は、｢ソーシャルメディアやメッセージングサービスを運営する企業は広く流布されるものに対して責任を持つべきだ」と考え方を変え、｢情報操作やプライバシー侵害、大量のデータを収集する技術などは、非対称な力の集中を産み、悪意ある人が悪用し兼ねない｣と警告を発していた
ITmediaNews 2020.6.12. 米Facebookを昨年3月に退社したクリス・コックス氏が6月11日（現地時間）、CPO（最高製品責任者）に復職すると発表した。
コックス氏はFacebook投稿で、「今は私がFacebookを去ったころとは別の世界になった」と語った。新型コロナウイルスのパンデミックや人種差別抗議運動の拡大を指すとみられる。「私たちの家族やコミュニティのために、そして子どもたちの未来のために何ができるか懸命に考えた。Facebookとその製品は、かつてないほどに私たちの未来との関連を強めている。Facebookは、私が腕まくりして頑張るのに最適な場所だ」という。
同氏はFacebookを辞めた後、地球温暖化や2020年の大統領選挙に向けた活動に従事していたが、「少し前にマーク（ザッカーバーグCEO）に連絡をとり、手助けをしたいと申し出た」という。ザッカーバーグ氏は自身のFacebook投稿で「クリス（コックス氏）がFacebookに帰ってきてくれて本当に嬉しい」とコックス氏を歓迎している。
20年夏、ザッカーバーグは、ホロコースト否定論がサイト上で拡散したことによってミレニアル世代で支持が広がっていることに衝撃を受け、ついにサイトから追放するポリシーの作成を指示。その間にも｢Qアノン｣に関連するコンテンツが2カ月で300％も急増。ザッカーバーグも、暴力に繋がる可能性があるという理由で一部の削除を承認したが、完全に政治的領域に踏み込む。選挙が近づくにつれ暴力行為発生の危険性が深刻化することは自明で、ついに8月には武装蜂起を呼び掛けるサイトに同調者が呼応して流血の惨事が発生。フェイスブックがユーザーにグループ参加を促したことで、武装集団や陰謀論者などの過激派がサイト上で活動を組織化し仲間を集めやすくさせていた
ザッカーバーグは、Qアノンの全アカウントを削除するなど対応したが、あくまで個別事案への対応に留め、基本的な会社の方針に変更はないと強弁
特に選挙の数週間前からは緊張が走る。接戦が明らかになると臨時にニュースフィードのアルゴリズムを変更し、報道機関の信頼性をランク付けして誤解を招き易い記事を掲載している報道媒体のコンテンツを抑制するが、あくまでユーザーのクリックする回数(セッション数)が減らないという前提だった
2021年1月、トランプ支持派による国会襲撃騒動で、過激派右翼による暴力的なネットワークが浮き彫りになる。サンドバーグはフェイスブックの関与を否定したが、暴徒の訴追が始まると、襲撃に参加した人々がいかにフェイスブックを利用していたかが暴き出される
フェイスブック幹部は、襲撃当日も中継を見守るだけだったが、暴徒の排除が始まるまでにトランプの投稿を2つ削除し、その後24時間彼の投稿を禁止。さらにバイデンの就任式まで禁止を延長するとともに、保守派グループなど襲撃に協力した多くのトランプ支持グループに対しても徹底的な措置を取るよう指示。民主的に選ばれた政権に対する暴力的な反乱を扇動するためにフェイスブックのプラットフォームが利用されていると断定したが、平和的に政権移行が完了するまでの2週間に限定するという逃げ道を作っておいた
エピローグ ロングゲーム
2020年5月、フェイスブックは投稿の削除など表現の自由に関わる難しい案件について判断するために創設された独立委員会(フェイスブック監査委員会)の最初のメンバー20人を任命したと発表。外部有識者により、一般ユーザーからの申し立ての中から案件を選んで審査
委員会の最初の審査はミヤンマーからの投稿で、｢侮蔑的または暴力的である｣と見做して削除。その投稿は差し迫った危険とは見なされなかったが、過去にフェイスブックがミヤンマーで反イスラム主義を煽る危険な役割を果たしていたことを認めた
21年1月、ザッカーバーグは、フェイスブックからトランプを永久追放する問題を委員会の裁定に委ねる
20年12月には、連邦政府と州政府が反トラスト訴訟を提起、フェイスブックの分割を要求していた
創立以来17年の歴史を通じて、フェイスブックは消費者のプライバシーや安全性、民主主義制度の健全性といったものを犠牲にして巨大な利益を上げてきた。その犠牲が成功の妨げになることもなく、強力過ぎて分割することもできない、利益を生み出す機会のようなビジネスを構築。1つ確かなことは、フェイスブックが根本的な変革を遂げるとしても、その変革が内部からもたらされる可能性は低い。フェイスブックの心臓部であるアルゴリズムはあまりにも強力で、膨大な利益をもたらす。フェイスブックのビジネスは、人と人とを繋ぐことで社会を発展させるという使命と、そうする過程で利益を得るという、両立の難しい根本的な二律背反の上に成り立っている。それはフェイスブックのジレンマであり、”醜い真実”でもある
Bloomberg
2024.1.18.
シェリル・サンドバーグ氏、メタ取締役を退任へ－５月に再選目指さず
Alex
Barinka、Kurt
Wagner
フェイスブック親会社の米メタ・プラットフォームズの取締役で2022年半ばまで最高執行責任者（ＣＯＯ）を務めていたシェリル・サンドバーグ氏が、年内に取締役を退く意向を明らかにした。有望なインターネットのスタートアップからデジタル広告の雄へとメタが成長する上で尽力してきたが、同社での最後の正式な役割を終えることになる。
サンドバーグ氏（54）は17日、フェイスブックへの投稿で、「感謝と思い出で心がいっぱいになる中、私は今年５月、再選に向けて立候補しないことをメタの取締役会に告げた。今後、私は社のアドバイザーとして、常にメタのチームを助けていくつもりだ」と説明した。
グーグルやマッキンゼー・アンド・カンパニー、米財務省での勤務を経て、サンドバーグ氏は08年に共同創業者マーク・ザッカーバーグ氏のナンバー２としてフェイスブックに入社。設立間もない同社の広告、パートナーシップ、事業開発、運営を担当した。22年に、メタと社名を変えていた同社のCOOを退任している。
メタの取締役会には現在、他に８人のメンバーがいるが、サンドバーグ氏の後任を予定しているかどうかは不明。広報担当者は、メタは一貫して取締役会の拡大方法を検討していると述べたが、詳細について明言は避けた。
早川書房 ホームページ
フェイスブックはなぜ個人情報を流出させたり、フェイクニュースを拡散させたりしてしまったのか。また創業者ザッカーバーグとCOOのサンドバーグとの間には、どのような溝があったのか。関係者400人以上の証言をもとに、シリコンバレー最大のIT企業の闇を描く
MIT Technology Review
書評：フェイスブック内部の「醜い真実」が物語ること
ニューヨーク・タイムズ紙のベテラン記者2人による新刊『An Ugly
Truth（醜い真実）』は、2回の米国大統領選挙の間にフェイスブックに起きたことを巧みなストーリー・テリングで描いた意欲作だ。by Karen
Hao2021.08.20
あるフェイスブックのエンジニアは、デートの相手から返事をもらえない理由が知りたくてたまらなかった。もしかしたら、病気や休暇など、単純な理由だったのかもしれない。
だからある日の夜10時、このエンジニアは、カリフォルニア州メンローパークにある本社で、社内システムを使ってフェイスブックが保有する彼女の個人データを調べ始めた。政治観や生活様式、興味だけでなく、現在位置までも、だ。
後にこのエンジニアは、社内データの閲覧権を不適切に悪用した他の社員51人とともに、自らの行動によって会社を解雇されることになる。社内データの閲覧権は職務権限や勤続年数にかかわらず、当時フェイスブックに勤務していた全従業員が持っていた特権だった。51人の大多数は、このエンジニアと同様に、好意を抱く女性の情報を調べていた男性だった。
2015年9月、新たにCSO（最高情報セキュリティ責任者）に着任したアレックス・ステイモスから問題を知らされたマーク・ザッカーバーグCEO（最高経営責任者）は、全従業員のユーザー・データへのアクセスを制限するようシステムの全面的な見直しを命じた。ステイモスCSOは、個人の行動ではなく、フェイスブックの設計に問題があるとザッカーバーグCEOに認めさせ、貴重な勝利を収めることに成功した。
これが、ニューヨーク・タイムズ紙のベテラン記者シーラ・フレンケルとセシリア・カンが著した、フェイスブックに関する新刊『An Ugly Truth（醜い真実）』（2021年刊、未邦訳）の冒頭だ。フレンケル記者のサイバーセキュリティの専門知識と、カン記者のテクノロジーと規制政策の専門知識、それに2人の持つ膨大な情報源を駆使して書かれた本書は、2016年から2020年の大統領選までのフェイスブックの内情が説得力を伴う形で描かれている。
ステイモスCSOはそれ以降、ツキに恵まれなかった。フェイスブックのビジネスモデルから派生した問題は、その後数年間でエスカレートするばかりだった。米国大統領選におけるロシアの干渉など、不適切な社内データ閲覧よりもさらに大きな問題を暴いたステイモスCSOは、ザッカーバーグCEOとシェリル・サンドバーグCOO（最高執行責任者）に不都合な真実を突き付けたことで社を追われた。ステイモスCSOを追い出したフェイスブック上層部は、ケンブリッジ・アナリティカ（Cambridge Analytica）のスキャンダルやミャンマーの大量虐殺、新型コロナに関するデマの横行など、非常に厄介な多くの問題への対処を避け続けた。
フレンケル記者とカン記者は、フェイスブックが現在抱える問題は同社が進むべき道を見失ったからではないと主張する。そうではなく、問題はザッカーバーグCEOの偏狭な世界観、彼が培ったずさんなプライバシー文化、サンドバーグCOOとともに追い求めた途方もない野望の上に築かれたフェイスブックの設計そのもの、という指摘だ。
会社の規模がまだ小さいうちは、慎重さや想像力の欠如も許されたかもしれない。しかし、ザッカーバーグCEOとサンドバーグCOOの意思決定は、規模が大きくなってからも明らかに成長と利益を最優先にしている。
例えば、「Company
Over Country（国を超えた会社）」という章では、上層部がロシアによるフェイスブック上での選挙介入を、米国の情報機関や議会、国民からどのように隠蔽しようとしたかが時系列で記されている。上層部は、複数回にわたってフェイスブックのセキュリティ・チームが発見して公開しようとした詳細事項を検閲したり、事態の深刻さと政治的不平等性をないがしろにするために都合の良いデータだけを選び出したりした。ステイモスCSOが問題を繰り返さないように社内組織を再構築するように提案すると、他の指導者たちは「（不必要な警告を発する）人騒がせな人」と一蹴し、世論の統制と規制当局を退けることに資源を投入した。
「Think Before
You Share（シェアする前に考えて）」の章では、2014年、激化するミャンマーでの暴力に対し、フェイスブックが似たようなパターンで対応し始めたことが詳細に綴られている。1年前の2013年の時点で、ミャンマーに拠点を置く活動家たちは、ムスリム少数派のロヒンギャに対する懸念すべきレベルのヘイト・スピーチや誤った情報がプラットフォーム上にあることを、フェイスブックに警告し始めていた。しかし、世界的な拡大を目指すザッカーバーグCEOの願望に駆り立てられていたフェイスブックは、この警告を真摯に受け止めなかった。
ミャンマーで暴動が勃発しても、フェイスブックは自らの優先事項をさらに強化していた。2人の死者と14人の負傷者が出てもフェイスブックは沈黙を貫いたが、ミャンマー政府が国内でのフェイスブックへのアクセスを遮断すると、状況は急転した。それでも、フェイスブック上層部は当時、暴力の悪化を阻止できた可能性のある投資とプラットフォームの改修を、ユーザーのエンゲージメントを減少させるリスクがあるとして、先延ばしにし続けた。2017年には、民族間の緊張状態が本格的な大量虐殺へと発展し、2万4000人以上のイスラム教徒のロヒンギャが命を奪われることになり、後に国連からフェイスブックが「実質的に（暴力に）貢献した」と認定されている。
これが、フレンケル記者とカン記者がフェイスブックの「醜い真実」と呼ぶものだ。つまり、人同士のつながりを深めることで社会の発展を目指しつつも、同時に自社の利益も追求したいとする「両立不可能な二律背反」である。章を追うごとに、この2つを両立させる難しさと、フェイスブックが何度もユーザーを犠牲にして自社の利益を選んできたことが明らかになっていく。
本書は、優れた報道であると同時に、優れたストーリーテリングの作品でもある。私のようにフェイスブックのスキャンダルを詳しく追ってきた人も、断片的にしか知らない人でも、フレンケル記者とカン記者のおかげで、誰もが何かを感じ取れるようにまとめられている。詳細に綴られたエピソードを読めば、「アクアリウム（水族館）」と呼ばれるザッカーバーグCEOの会議室で何が起きたのか、会社の方向性がどう決まったのか、舞台裏が見えてくる。章ごとのテンポもよく、ページをめくるごとに新しい事実が待ち構えている。
著者たちが言及した出来事について、私はそれぞれ認識していたものの、他人を犠牲にしていかにフェイスブックが自社を守ろうとしたかという事実は、私が理解していた以上にひどいものだった。一方、隣で一緒に本書を読んだ私のパートナーはまさにフェイスブックのスキャンダルを断片的にしか知らない読者だが、本書に書かれている事実を知って唖然としていた。
本書は、著者たちによる分析についてはそれほど書かれておらず、事実を語ることに焦点を当てている。そうした考え方のためか、フェイスブックがどうすべきか、あるいは我々は今後どう対処すべきなのか、明確な結論は避けている。「フェイスブックが、今後数年で大幅な変化を遂げることがあっても、その変化は内部から起こると考えるのは難しいでしょう」と2人は書いている。その行間から明らかに読み取れるのは、フェイスブックに自浄力はない、ということだ。
カーレン・ハオ [Karen Hao]米国版 AI担当記者
MITテクノロジーレビューの人工知能（AI）担当記者。特に、AIの倫理と社会的影響、社会貢献活動への応用といった領域についてカバーしています。AIに関する最新のニュースと研究内容を厳選して紹介する米国版ニュースレター「アルゴリズム（Algorithm）」の執筆も担当。グーグルX（Google X）からスピンアウトしたスタートアップ企業でのアプリケーション・エンジニア、クオーツ（Quartz）での記者／データ・サイエンティストの経験を経て、MITテクノロジーレビューに入社しました。
Hatena Blog
虚偽情報の蔓延、ユーザー離れ、株価急落、「メタバース」への事業転換……すべての原因はここに!
ニューヨーク・タイムズ・ベストセラー
解説:古田大輔(ジャーナリスト、メディアコラボ代表)
フェイスブックはなぜユーザーの個人情報を流出させたり、またヘイトスピーチや危険なフェイクニュースを拡散させたりしたのか。
さらに、ユーザーの思想・政治的な対立を増幅させ、トランプ大統領の誕生と失脚後の大混乱を招いた責任は、創業者マーク・ザッカーバーグとCOOシェリル・サンドバーグにどう問われるのか。そして、ザッカーバーグとサンドバーグとの間の溝とは。
ニューヨーク・タイムズ紙記者が、関係者400人以上の証言をもとに、世界27億人のユーザーを抱えるビッグ・テックの「醜い真実」を暴く。
フェイスブック、使っていますか？
僕の場合、ブームと付き合いで、アカウントは作ってみたものの、現実で繋がっている人とネットでもお互いに見張りあっているのは息苦しくて、現在は開店休業状態です。
むしろ、「使っている痕跡を残すとめんどくさそうなので、頑張ってログインしないようにして放置している」のですよね。
「いやー、僕には合わなくて、使っていないんですよね……」ということにしておきたい。
実際、Twitterを見ることはできないと辛いけれど、フェイスブックやインスタグラムは、触らなくても何も困らないのです。
わかる、という人も、僕とは全く逆のSNS生活を送っている、という人もいるとは思いますし、「自分はそれぞれ役割を分けて使いこなせている」と言う人も多いのでしょうけど。
この本、今やAppleやGoogle（アルファベット）、Amazonなどとともに、現在の世界を牽引するIT企業となったフェイスブックのこれまでの足跡と、そこで生じてきた（そして、今も生じ続けている）さまざまな問題について、関係者への綿密な取材に基づいて書かれています。
アメリカのジャーナリストが本気で取材して書いたノンフィクションは、本当にすごい（読むのがけっこう大変、と言うのも含めて）。
フェイスブックは、人々のプライバシーを扱う企業であるにもかかわらず、そのセキュリティはかなり緩いものだったのです。
2015年のフェイスブックについて。
Facebookの幹部たちは、ユーザーデータへのアクセス権限を使って個人的な目的のために友人や家族のアカウントを調べたりしていることが発覚した社員はただちに解雇されると強調してきた。しかし、データに対する安全対策が講じられていないことも幹部たちにはわかっていた。Facebookのシステムは、オープンで透明度が高く、すべての社員がアクセスできるように設計されてきた。それは技術者たちの作業をスローダウンさせて自立型の仕事を妨げるいっさいのお役所的な仕組みを排除するという、ザッカーバーグがフェイスブックの社員数がまだ100人にも満たなかったころに導入されたものだ。だが数年が経ち何千人ものエンジニアを抱えるようになっても、誰もこのやり方を見直そうとはしなかった。ユーザーの個人情報に対するアクセス権限の悪用を防ぐには、社員自身の良心に頼る以外になかった。
一度デートした相手のことを調べたこのエンジニアは、2014年1月から2015年8月までの間にユーザーデータへのアクセス権限を悪用して解雇された52人のフェイスブック社員の一人にすぎない。権限を悪用したエンジニアの大半は、気になる女性のプロフィールを調べた男性社員だった。ほとんどはユーザーの情報を調べただけだったが、大胆な行為に及んだ社員もいた。あるエンジニアは、ヨーロッパ旅行に一緒に行った女性を追いかけるためにデータを利用している。二人は旅行中にけんかして彼女が部屋から出ていったため、そのエンジニアは女性を移動先のホテルまで追跡した。別のエンジニアは、最初のデートをする前からある女性のフェイスブックページにアクセスした。サンフランシスコのドロレス公園をよく訪れていると知ったエンジニアはある日、女性が友人とその公園で日光浴しているのを見つけた。
解雇されたエンジニアたちは仕事用のノートパソコンを使って特定のアカウントを調べていたため、こうした普通でない活動をフェイスブックのシステムが感知し、上司たちに違反行為を通報していた。社内規則に違反した行為が事後に発覚したためにこの社員たちはフェイスブックを去った。違反行為が見つからずに済んだ者がいったい何人いたのかはわかっていない。
フェイスブックの創業者であるマーク・ザッカーバーグという人は、基本的に「情報はどんどんオープンにしていくことで世の中は良くなるはず」「インターネットには自浄作用があり、プラットフォームはなるべくユーザーの書き込みを制限したり排除したりすべきではない」と考えているようです。
もちろん、プライバシーやセキュリティを無視している、というわけではないのですが。
このエンジニアたちの行為も、「プライバシー軽視」にしか思えないものではありますが、自分がフェイスブックで働いていて、自由にデータを見ることができるのであれば、「魔が差す」のではないか、とも思うのです。これは「本人がネットに発信していて、その友達には公開されているもの」だし、って。
僕は、この本を読みながら、ザッカーバーグがFacebookの技術的な進化やネットの自浄作用にばかり目を向けて、デマを拡散する危険性や政治的な宣伝に利用される可能性を軽視している、とは感じたのです。
しかしながら、僕自身も、インターネットをけっこう初期から使い、「これで、『誰が言ったか』よりも『何を言ったか』が重視される社会ができるのではないか」と期待していたので、ザッカーバーグの「気持ちはわかる」のです。
この本を書いたニューヨーク・タイムズの記者たちは、フェイスブックがちゃんと情報を管理し、デマやヘイトスピーチを制限・排除しないから、社会は分断され、トランプ大統領が生まれたのだ、と考えているようです。
でも、それは「アメリカの民主党支持派である都会のインテリ・リベラル層にとっての不都合」を強調しているようにも感じられるんですよね。
フェイスブックには、新しい製品や機能をできるだけ早く実現するようエンジニアを奨励する文化があった。「作れ、出せ」という言葉が社内でよく使われていた。このプロジェクトは遅々として進まなかったが、ザッカーバーグは2008年末、ついに新機能として承認した。社内の検証データからこのボタンの価値を確信したからだ。小規模なテストを重ねた結果、ボタンがあるとフェイスブックの利用率が上がることが示されていた。ザッカーバーグは「いいね！ ボタン」という正式名称をトップダウンで決定した。
この新機能はたちまち大ヒットとなった。ユーザーは自分のニュースフィードをスクロールしながら、このボタンで友達に素早くポジティブなリアクションができるようになった。ニュースフィードで「いいね！」を押すと、フェイスブックは類似した他のコンテンツを表示する。突然、猫の動画や面白いインターネット・ミームなどが次々と表示された。その一方で、ユーザーは「いいね！」を獲得するために投稿を競うようになり、たくさん好意的な反応を得ようとして自分から積極的に情報を開示するようになっていった。同じ年に廃止されたビーコンとは異なり、「いいね！」ボタンがユーザーから問題視されることはほとんどなかった。開発者のパールマンは期せずして、政治家、ブランド企業、友人たちなど誰もが高い評価を得ようと競い合うインターネット上の新しい共通言語を設計したのだ。
フェイスブックそのものは、リベラル色が強いアメリカのIT企業であり、自ら積極的にデマを拡散しているわけではありません。
しかしながら、フェイスブックが企業として、自らのプラットフォームにより多くの人を集め、滞在時間を長くして、広告を表示させようとしていくと、大きな金銭的な利益と引き換えに、さまざまな弊害が生じてきたのです。
サンフランシスコ湾を見下ろすアパートの一室で、誤情報研究家のレネ・ディレスタがフェイスブックのブログを確認した。すぐに彼女は他の研究者で、それまでの二年間で知り合ったアマチュアの誤情報研究家たちにメッセージを送った。
アメリカで誤情報を専門に研究している人はほんの一握りしかいない。他の研究者たちと同様、ディレスタがこの分野に足を踏み入れたのは偶然がきっかけだった。2014年に長男を入れる幼稚園を探していた時、カリフォルニア北部には厳密なワクチン接種のルールを設けていない幼稚園がいくつもあると知った。これは子どものワクチン接種を拒む親が多いからだが、なぜ医学界の勧告を聞き入れない親がそれほどたくさんいるのか疑問に思ったディレスタは、フェイスブック上の反ワクチングループにいくつか参加してみた。
二十代のころのディレスタは市場力学を研究しており、金融市場のパターンを理解するためにいつもデータの詰まった図表を使っていた。ディレスタはそれと同じやり方で、反ワクチングループがどのようにしてネット上で情報を共有しているのかを調べた。活動家たちは、フェイスブックを利用してそれまでにない数の人々を自分たちの運動に誘い込んでいた。フェイスブックのアルゴリズムそのものが彼らの最大の武器だった。「自然健康療法」や「ホリスティック医学」を謳うグループに一つ参加すると、そこからさらなる深みへと引き込まれ、1、2クリックで反ワクチングループに招待される。そこまで行ってしまえば、その後もフェイスブックが他の反ワクチングループを次々と勧めてくるのだ。
情報操作問題の根源は、当然ながらテクノロジーにある。フェイスブックは、人の感情をかき立てるコンテンツがあれば、たとえそれが悪意に満ちたものであっても、その拡散に拍車をかけるよう設計されていた。アルゴリズムがセンセーショナルなものを好むのだ。ユーザーがリンクをクリックした理由が、興味を持ったからなのか、恐怖を感じたからか、積極的に関与しようとしているのかは重要でない。広く読まれている投稿があればより多くのユーザーのページに表示させるだけだ。ミャンマーは、インターネットが上陸した国でソーシャルネットワークが主要かつ最も広く信頼される情報源となった場合に何が起こるかが試される、生死のかかった実験場となってしまったのだ。
フェイスブックは自社のプラットフォームに人々の感情を操る力があることをよくわかっていた。それが世界中の人々の知るところとなったのは、2014年6月上旬、会社が秘密裏に行っていた実験について発表したときだ。この実験は、ユーザーの心に深く入り込むフェイスブックの力と、ユーザーの知らないところでその力の限界を試そうとする会社の姿勢をいずれも露わにするものだった。
「感情は伝染という形で他者に伝わり、人々は無意識のうちに同じ感情を経験することになる」と、《米国アカデミー紀要》に掲載された研究論文の中でフェイスブックのデータ科学者たちは述べた。論文によると、2012年の1週間で会社は70万人近くのユーザーがログインした際に表示される内容を操作した。
この実験において、一部のユーザーには「幸せな」コンテンツばかりが表示され、他の一部のユーザーには「悲しい」コンテンツばかりが表示された。幸せなコンテンツは動物園でパンダの赤ちゃんが生まれたことなどで、悲しいコンテンツは移民問題に関する怒りの論説などだった。結果は劇的だった。ネガティブなコンテンツを見たユーザーは自分の投稿でもネガティブな態度を示すようになったのだ。一方、ポジティブなコンテンツを見れば見るほど、ユーザーは明るいコンテンツを拡散する傾向が強くなった。
この研究に関する限り、「人と人との直接的な交流」がなくても感情の伝染が起こることが実証されたのだ（知らぬうちに被験者にされていたユーザーたちはそれぞれでニュースフィードを見ていただけなのだから）。これは驚くべき発見だった。
この本を読みながら、考え込まずにはいられませんでした。
フェイスブックが「人間の自然な欲望に忠実に、アクセスや滞在時間を伸ばそうとすると、センセーショナルな話題ばかりがトップページに表示される、あるいは、偏った情報に興味本位で触れると、次から次に、その「仲間」の情報にさらされるようになった」のです。
悪いのは、アルゴリズムなのか、それとも人間の本質なのか。
人々のさまざまな垣根を越えるはずだったインターネットは、人々を分断するためのツールになってしまった。
しかしながら、良くも悪くも、フェイスブックは誕生してから20年近くになり、すでに、多くの人々にとっては欠かせない、日常生活を支えるインフラとなっています。
フェイスブックは必要か否か、を論じる段階では、もう無くなっているのです。
フェイスブックが存在するのを前提として、その「自由」と「制限」は、どのくらいが妥当なのか、という試行錯誤は、今も続いています。
イリノイ州選出のディック・ダービン民主党議員が、鼻先にかけた黒縁の眼鏡越しにザッカーバーグを見下ろした。「ミスター・ザッカーバーグ、あなたが昨夜泊まったホテルの名前を教えていただくことはできますか？」ダービンはそう切り出した。
返答に困ったザッカーバーグは、天井をちらりと見上げてひきつった笑いを漏らし、「ええと、いいえ」と居心地悪そうな笑顔で答えた。
「今週誰かにメッセージを送っていたら、その相手の名前を教えていただけますか？」とダービンは続けた。
ザッカーバーグの笑顔が消えていく。質問の方向性は明らかだ。
「議員、いいえ、ここでそれを公にしようとは思いません」とザッカーバーグは真剣な口調で答えた。
「これこそが今回の問題の本質かもしれませんね」とダービンは言った。
「プライバシーの権利とその限界、そして、現代のアメリカでは、『世界中の人々をつなぐ』という名目でどれほどの権利を手放すのか」
自分のことを知ってほしい、という欲求と、自分のことを（嫌いな人、めんどくさい人には）知られたくない、というプライバシーを守りたい意識のせめぎ合いは、フェイスブックというプラットフォームだけでなく、それぞれの人の心の中にあるのです。
フェイスブックは、絶対的な正解がない問いに、ずっとさらされ続けることになるのでしょう。
読売新聞 Online
『フェイスブックの失墜 An
Ugly Truth』シーラ・フレンケル、セシリア・カン著（早川書房）
2022/05/27 05:20
ＳＮＳ 自由優先のツケ
評・小川哲（作家）
◇Sheera Frenkel＝米ニューヨーク・タイムズ紙記者、サイバー担当◇Cecilia Kang＝同、規制政策担当。
SNSは人々に新しい形の「繋がり」をもたらした。一度仕事をしただけの人の近況を聞く。卒業してから疎遠になっていた同級生が結婚したことを知る。共通の知人を介して、地元が同じ人と結びつく。共通の趣味を持つ人と知り合い、輪が広がっていく。利用者たちは誰かの投稿というコンテンツを通じてコミュニケーションをする。SNSはインターネット時代における交流や情報のあり方を大きく変えた。そしてその中心にあったのがフェイスブックだった。
フェイスブックは、SNSという新しいメディアの利点をすべて持っていた。30億ものユーザーがこのサービスを利用した。潮目が変わったのは2016年だ。その年アメリカで大統領選挙があり、ドナルド・トランプが勝利した。
本書は16年以降、フェイスブックの問題がどのように暴かれ、どのような批判を受けてきたのかを、入念な取材と関係者のインタビューから明らかにしている。フェイスブックはSNSの利点を兼ね備えながら、同時に脆弱性も抱えていた。フェイクニュースが蔓延し、差別が見過ごされた。人々の交流を促せば、必然的に悪意を持った集団も生まれてしまう。人々を釘付けにするためのアルゴリズムは、しばしば過激な投稿を優先して紹介してきた。
フェイスブック創業者のザッカーバーグは、可能な限り「表現の自由」は守られるべきだと考えていた。しかし、「表現の自由」にもどこかに線を引かなければならない。誰かを傷つける自由はあるのか。虚偽の情報をばら撒く自由はあるのか。虚偽の情報と勘違いの差をどう判断するのか。フェイスブックはそういった線引きで常に後手にまわり、結果としてＳＮＳが抱える様々な問題点を顕在化させてしまった。
フェイスブックを告発することは、SNSとインターネットを告発することでもある。未来のメディアのあり方について考える上で、非常に参考になる一冊だ。長尾莉紗、北川蒼訳。
小川 哲（ おがわ・さとし ）
1986年生まれ。作家。2015年に『ユートロニカのこちら側』でデビュー。18年に『ゲームの王国』で山本周五郎賞、23年に『地図と拳』で直木賞を受賞。
コメント
コメントを投稿