特集

2019プレ講座

一覧ページへ

2019/12/04
IT革命がもたらす政治・経済・人権の危機 北口末廣さん


国際人権大学院大学(夜間)の実現をめざす大阪府民会議では毎年様々な切り口で人権をテーマにした「プレ講座」を開講している。2019年度のプレ講座では、「社会的マイノリティに向けられるバッシングを考える」をテーマに、研究者や当事者に講義していただく。連続講座の様子を報告する。

IT革命がもたらす政治・経済・人権の危機 北口末広さん

桁違いに大きくなるビッグデータ

 まずIT革命の進化によって、センサーが爆発的に増加し、それらから得られる情報も飛躍的に拡大した現実を厳正に知る必要あります。ビッグデータの量も桁違いに大きくなっています。そしてそれらのビッグデータをAIが分析し、政治や経済に大きな影響を与えています。またIOT(インターネット・オブ・シングス)といわれるあらゆるものがインターネットとつながることによって、そうした機器から蒐集(しゅうしゅう)される情報も膨大な量になっています。それらのデータを販売するデータブローカーも増加しています。その一つである米国大手アクシオム社は、世界人口の10%である約7億人の個人データと年間500兆件の消費活動データを所有しているといわれています。これらのデータが、錬金術の資源になっているのです。ある土地を活用してどれだけの収益を上げることができるかが、その土地の価格のベースであるように、個人データを活用してどれだけの収益を上げることができるかが、その個人データの価格です。EU(欧州連合)は、EU域内に居住する約5億人の個人データの経済的価値を132兆円と発表しました。まさに20世紀の冨の源泉であった石油や土地が個人データに置き換わろうとしているといっても過言ではありません。こうした個人データが価値を持ち出した大きな要因が、IT革命の進化によるデータ収集と分析の飛躍的な進化であります。

 20世紀のデータ量は今日と比較すればかなり少なかったといえます。また当時はビッグデータを収集できたとしても、それらを今日のように分析できるAIと呼ばれるディープラーニング(深層学習)が可能なコンピューターの進化もありませんでした。これからはビッグデータも先に申し上げましたように桁違いに増加していきます。AIの学習教材ともいえるビッグデータが飛躍的に増加していくことはAIの進化にも結びついています。

 3年前の2016年時点におけるビッグデータも極めて大きなものでありましたが、2025年にはその約10倍になり、163兆GB(ギガバイト)と予測されています。1GBは文字数にして400字詰め原稿用紙のおおよそ85万枚といわれています。その163兆倍です。想像すらしがたい量です。またIOTの普及でインターネットにつながる機器も飛躍的に増加し、来年2020年頃には300億前後になると予測されています。これらの膨大な機器から収集されるデータ量は、2016年から2025年で約10倍になると予測されています。すでにスマートフォンだけでも30億個以上の数になっています。これらのスマートフォン等を活用したソーシャルネットワークから蒐集される個人データは、全個人データの43%です。こうして蒐集された個人データが、心理学的知見を加えてAIによって分析されることで政治・経済・社会に重大な影響を与えているのです。また多くの個人は無料アプリやサービスを受け取る代わりに個人データを提供しています。それが利益の源泉になっています。しかしその個人データによって、政治や選挙、ビジネス、社会などに多大な影響を与えているのです。

多くの個人データが日々蒐集されている

 2000年に世界の人々の10%しかネットにつながっていなかった状況から2018年には、約半数の人々がネットにつながるという状況になっています。こうした人々のソーシャルメディア上の動きを追跡(トラッキング)することによって、多くの個人データを蒐集しているのです。それはどのようなサイトを閲覧しているかということだけではなく、どのようなキーワード検索をしているか、ネット上で繰り出されてくる心理クイズ等の質問にどのような回答をしているか、何に対して「いいね」のボタンを押しているかなども蒐集されています。それらが分析され、政治やビジネスに利用されているのです。例えばキーワード検索の場合でもどのような単語を使用しているかによって、世論状況や差別意識まで一定程度把握することができます。どのようなキーワード検索が何件ぐらいなされているのかによっても世の中の関心事が分かるように、差別問題でも蔑称語を用いてキーワード検索されている数の増減によって、差別意識の根強さも把握することができます。

 さらにケンブリッジ大学心理センターの二人の研究員が発表した論文では、心理学的手法を駆使すれば、フェイスブック上のユーザーが押した「いいね」ボタンの68個を分析すれば、そのユーザーの属性や支持政党などのプロフィールをある程度明らかにすることができると述べています。その数をさらに重ねていけば、より多くのことを特定できると指摘されています。こうした分析が政治や選挙に利用されています。それらがさらに精緻になってターゲット広告からマイクロターゲット広告も可能になっているのです。ターゲット広告は一定の商品やサービスを購入する可能性の高い人々を個人データから抽出して、それらの人々をターゲットにしてデジタル広告を送付するものです。それが政治の場合では、ある特定の政治的意見や政党支持者層に対してなされる政治的なターゲット広告にもなっています。

個人を対象にマイクロターゲット広告が可能に

 それらの対象をさらに絞っていき、特定個人を対象に行われるのがマイクロターゲット広告です。そうしたことが可能になっています。それだけではありません。フェイスブックは独自で開発したアルゴリズムによって、特定の個人データを解析し、その特定個人が好むようなニュースを提供しています。アルゴリズムという言葉も分かりにくいですが、誤解を恐れずにいえば、問題を解決するためのシステムのようなものです。ここでいうアルゴリズムとは、特定の個人データからその個人が欲するようなニュースを選び出すシステムのようなものだと理解していただきたいと思います。こうしたアルゴリズムによって、選択されたニュースのラインナップは、その人が好むニュースであり、右翼的な思想の持ち主であれば右翼的な人々から好まれるニュースを提供することになり、左翼的な思想の持ち主であれば左翼的なニュースが提供されるということになります。そのことによってニュースが見られる回数が増加すれば、フェイスブックの広告収入は確実に増えます。

 こうした個人の好みに合わせて提供されるニュースに接する機会が多くなればなるほど、その個人の思想傾向や価値観はより一層特化し過激化していくことになります。こうしたことが人権や差別の分野でも起こっているのです。ある特定の国や民族への偏見を含む思考傾向がある個人には、その個人が好むだろうと思われる内容の記事や映像を含むニュースが提供され、より一層偏見や予断が確信的なものに変化していくことを助長します。そしてこれらのニュースの中にフェイクニュースが混在すればなおさらです。日本の既存メディアでも思想的傾向はおおよそ分別できます。それによって自身とは反対の見解を持つ新聞を定期購読する人は多くありません。つまり自身の思想的な傾向に合わせて既存メディアと接触しているのです。それでも既存メディアの場合は、編集段階でファクトチェックをはじめとする多くのチェックを経て読者や視聴者に提供され、露骨にフェイクニュースが掲載されることは多くありません。もしフェイクが明らかになれば、訂正や謝罪がなされます。さらに一方的な視点でニュースが提供されることもありますが、多様なニュースも提供されます。つまり自身の考え方とは異なるニュースも提供されるということです。

IT革命の進化でディープフェイクが登場

 しかし雨後の竹の子のように登場する無料のウェブニュースサイトでは、事実に基づくニュースとともにフェイクニュースが紛れ込んでいることも多くあり、フェイクニュースがさらに拡散されていくことになります。これらをフェイクであると見分けるのは極めて難しいといえます。まさにネットジャーナリズムが多くの人々の心を手玉に取っているように思います。しかし面白いフェイクニュースは間違いなく多くの人々に好まれます。それがそのウェブニュースサイトを運営する人々の収入と直結していれば広がることはあっても終息することはありません。個人が簡単に正しいニュースサイトであるように偽装することは難しいことではなくなったのです。

 さらにIT革命の進化は、ディープフェイク(深化した虚偽情報)といわれるような高度なフェイク動画を製作することを可能にしました。昨年からアメリカではオバマ前大統領がトランプ現大統領を口汚くののしるフェイク動画が拡散しています。そのフェイク動画は、過去の映像を利用してそれがフェイクであると認識できないほど高精度の映像技術で作られています。本当にオバマ前大統領が口汚くののしっていると思わせる映像なのです。こうした現実をみるとフェイクニュースをフェイクであると見極めるのが極めて難しいと感じさせられます。これらの映像が政治や戦争、ビジネスで多用されれば、社会は間違いなく危険な方向に進むといえます。すでにそうした方向に進みつつあるといっても過言ではありません。これらを阻止するためにもメディアリテラシーや情報リテラシーの能力が民主主義社会を維持する基盤であることを強く認識する必要があります。

 フェイクであると認識できないほど高精度の映像技術等を駆使し繰り出されるディープフェイクは、これからの政治や社会に甚大な影響を与えるといえます。  AI(人工知能)の進化は、さらに深化したディープフェイクをつくることを可能にしていくことになります。これはフェイク(虚偽)とファクト(事実)を峻別することが極めて難しくなることを意味しています。かつてのメディアリテラシーとは、レベルが違うといっても過言ではありません。これまで私たちはメディアリテラシーを「メディアを批判的に読み解くとともに、メディアを使って表現していく能力」と捉えてきました。しかし今日の高度な映像等を駆使したディープフェイクを批判的に読み解くためには、その前提として高度な映像チェックの技術や広く深い知識が求められます。こうした知識がないと簡単に騙されてしまうことになります。

民主主義を崩壊させるフェイクニュース

 今後さらに膨大な量になると予測されるディープフェイクやフェイクニュースに対して、ファクトチェック(事実チェック)が追いつくとも考えにくい状況です。またファクトチェックができたとしてもフェイクニュースの方が拡散力も拡散速度も速ければ、フェイクを打ち消すことは事実上容易ではありません。それはMIT(マサチューセッツ工科大学)メディアラボがツイッター社の協力を得て行った先行研究でも立証されています。私たちが予測していた以上にファクトチェックをしたニュースよりもフェイクニュースの方が拡散力もスピードも圧倒しています。その研究報告では、最も拡散力が大きくスピードの速いフェイクニュースの場合、拡散力は100倍で拡散速度は20倍という結論でありました。

 以上のような研究結果は、政治・経済・社会等のあらゆる分野にディープフェイクやフェイクニュース、デマ情報が圧倒的な影響を与えることを示唆しています。そしてそれらを防止することが極めて困難であるということを示しています。

 有権者をはじめとする多くの人々は、政策選択や投票行動の選択を多くの情報に基づいて行っています。それらの情報がフェイクであれば、虚偽の情報に基づいて政治的な判断をしてしまうことになります。そしてフェイクニュースを是正することが上記の研究結果のように、たとえファクトチェックができたとしても、それらのチェックに基づくファクト情報の拡散力が100分の1で、拡散速度が20分の1であれば、政策選択期限や投票日までにファクト情報を有権者に届けることは極めて難しいといえます。

 これは民主主義の根幹に関わる問題です。これを国際的に考えればより深刻です。デジタル情報を駆使して世論操作をしている国家が存在しており、それらの国家がフェイク情報で世論操作を展開すれば世論は容易に間違った方向に誘導されます。一方、反政府組織が世論操作を展開すれば、政治や社会の混乱を容易に引き起こすことができるようになります。かつてナチスは、当時のメディアの最先端であり、最新の映像技術であった映画とラジオを駆使してフェイク情報を流し続けました。それが今日ではSNS上を闊歩するディープフェイクとフェイクニュースになったことによって圧倒的な拡散力とスピードになったのです。

サイバー攻撃が戦争の重要な手段に

 それは経済分野でも同様です。多くの国の為替市場や株式市場も情報に基づいて取り引きがなされています。2013年にオバマ大統領が爆発事故に遭遇し、負傷したというフェイクニュースによって、アメリカ株式市場が約13兆円も暴落したことがありました。これはAP通信のツイッターアカウントが乗っ取られたことによって流されたフェイクニュースが原因です。これによって大きな利益を得た人と大きな損失を被った人がいたのはいうまでもありません。アメリカ株式市場の混乱は多くの影響を与えました。すでに金融市場をターゲットにしたフェイクニュース企業も存在しています。

 このようなサイバー戦争は少ない経費で甚大な影響を敵国に与えることができます。また巨額の国家財政を持たないテロ集団でも遂行可能な戦術です。これは戦争の概念を大きく変えることにもつながっています。一定の思想を持つテロ集団や犯罪集団が限られた財源で多大な影響を攻撃対象の国家や各種機関に与えるということも可能だということです。

 これらは武力で圧倒的な差をもつ国家や集団間でも、サイバー技術に詳しい人物が存在していれば対等に戦えることを意味しています。しかしゲリラ集団をサイバー攻撃のターゲットとして攻撃するのは極めて難しく、国家よりも優位の立場にあるといっても過言ではありません。国家は多くの行政機関を運営し多くの機能を担っています。国内のインフラを担っている多くの企業も存在しています。それらのインフラがサイバー攻撃で致命的な打撃を被れば人々の生死にも関わってきます。

 一方、サイバー攻撃をする側にとっては、一定の機材とサイバー技術を駆使できる人材がいれば場所の必要性はそれほど高くありません。それは差別行為や差別扇動についてもいえることです。今日のネット上の甚大な差別事件をみれば明白です。こうしたことが事実上国境のない電子空間、ネット上で行われているのです。まさにサイバー攻撃が戦争や紛争の極めて重要な手段にもなっている証です。ある面では武力以上に重要な攻撃手段であるともいえます。

ターゲット政治宣伝も可能になっている

 こうした世論操作にターゲット広告やマイクロターゲティング(個人を対象にした広告)の手法が駆使されれば、敵国や影響を与えたい国の世論を操作することも容易にできます。相手国の国民の思想的傾向が個別的に把握できれば、それらの傾向に基づいたターゲット政治宣伝が可能になるということです。通商交渉や政治交渉等の相手国内の世論操作ができれば、自国に有利な方向で交渉をまとめることに役立ちます。2016年のアメリカ大統領選挙のロシア疑惑のように、相手国の大統領選挙にまで干渉することも可能なのです。

 武力で敵国のインフラを破壊するのも戦争であれば、サイバー攻撃で敵国のインフラを混乱させるのも戦争です。サイバー攻撃の場合はどの国が敵なのかも分かりにくいといえます。もし日本国内で電力と水が使用できなくなればその被害は甚大です。但し、この戦争はいつ始まりいつ終わったのかも分かりません。そして戦争なのか犯罪なのかも分かりません。国家の命を受けてそれらを遂行している人々が犯罪人になるのかも判断し難いといえます。それにゲノム革命の成果を駆使して安価に細菌兵器をはじめとする生物兵器が製造されれば、それらに対して十分な防御ができません。社会は高度になればなるほどネットワーク化し、一ヵ所を破壊されれば全体に致命的な打撃を受けます。

 こうした世論操作に対して、世界の多くの人々のフェイクニュース等に対する情報リテラシー能力は決して高くありません。日本は世界的に見れば識字率の高い国です。しかし日本においてメディアリテラシー教育はほぼ行われていません。さらにいえば文字の読み書きができるという識字率は高いのですが、文章を正確に理解する読解力、文章を作成して自身の考えを表現する能力である「機能的識字」能力は不十分なのです。こうした視点からもフェイクニュースや世論操作に対する耐性はそれほど高くないといえます。ましてやディープフェイクに対する耐性はほとんどありません。先に述べたようにディープフェイクは過去の映像から新たな映像をつくる技術を駆使しています。それに本人の会話をビッグデータとして学習すれば、亡くなった人と映像を通して会話するような状況を作り出すことが可能になるといわれています。亡くなったカリスマ的政治リーダーを電子空間上で生存しているように偽装するディープフェイクも登場させることができるようになります。いずれそうした人々と自然な会話ができるようになります。

 そこまで進化しなくても、フェイクニュースに操られる人々が犯罪を起こす事態はアメリカでは現実のものとなっています。それがすでに死亡しているカリスマ的リーダーのディープフェイクの呼びかけに応じるような事態が生ずれば、さらに過激な行動に走る人々は出てくるといえます。すでにボット(人間による操作や作業を代替したりするアプリ)が多くの差別扇動をネット上で行っていることをふまえれば遠い未来の話ではありません。

ボットが差別を扇動するとともに人権侵害の書き込みへの警告も

 ボットは電子空間上で発せられる多くの人々の会話や言語を学び、他のユーザーと会話をし書き込みもします。現実空間や電子空間で発せられる私たちの会話や講義を聞いているAIボットは、それをビッグデータとして学んでいるのです。差別的な集団から学んだAIは、当然のごとく差別的な会話を学んでいきます。そうしたAIが生身の人間をネット空間を通して差別的な人間にすることもあり得るといえます。一方で反差別や人権擁護の立場を堅持して会話を遂行することができる高度なAIボットも可能だということです。さらにネット上で差別的な書き込みや発言を続けている人々に警告を与えるボットを配置することも可能になります。あるいはそうした機能を使用して、差別的な人々をターゲットにしたターゲット人権啓発も可能になり、差別意識を持つ個人を分析し、マイクロターゲティング啓発も技術的には可能になりつつあります。

 しかしそれらはプライバシー保護や内心の自由との重大な問題を提起します。また現行法に違反している書き込みをしている人々へのターゲット警告も可能になります。例えば「あなたの送付した(送付しようとしている)書き込みは損害賠償を請求される可能性があります」と警告が届けば、多くの人々の差別的書き込みを抑止することができるかもしれません。

 このように政治や経済、社会に与えた影響は甚大です。最近の世界的な政治傾向を分析するとポピュリズムの蔓延ともいえる状況を指摘することができます。

 人と人とをつなぎ、表現の自由を強固にするはずであったネット環境は、分断と差別、ポピュリズムの道具になってしまったような錯覚さえ覚えるほどです。まさに「超ポピュリズム」の時代と表現できるような時代になったように思います。

 21世紀のIT革命は、個人をマスメディア的にしただけではありません。20世紀までの情報技術革命は、情報を広く速く発信することが中心でありました。今日のIT革命は、情報を発信するだけではなく、AI(人工知能)を活用して個人データをはじめとする大量の情報を収集し分析し活用するという新たな側面をもつようになりました。これが20世紀までの情報技術革命との根本的な違いです。ビッグデータを活用した情報分析は、情報発信の在り方まで変え、政治、経済の在り方をさらに変えました。

情報の在り方が根本的に変化、「マイクロマスメディア」が可能に

 フェイクニュースやディープフェイクをどのような人々に発信すれば最も効果的に騙すことができるかを選別できる時代になったのです。これまで紹介してきたようにネット上の個人のウェブ閲覧歴等をはじめとする多数の個人データを収集し心理学的手法を駆使して分析することによって、あらゆるジャンルでターゲット広告やマイクロターゲティング広告が可能になりました。

 つまり21世紀のIT革命と20世紀までの情報技術革命の根本的な違いは、情報「発信」の飛躍的な技術革新ではなく、情報の「収集・分析」の飛躍的な進化が与える影響によるものなのです。マスメディアは、同じ内容のコンテンツ(広告内容)を大量の人々に送付してきましたが、マイクロターゲティング広告は、異なる内容をその内容で影響を受けやすい人々や影響を与えたい人々に対して個々に大量に送付することを可能にしました。極端にいえば異なるコンテンツの数だけコンテンツを受け取る人々がいるということです。あるいは同じような趣味嗜好や考え方の人々をグループ化して、そのグループの数だけAIを活用してコンテンツを製作するということです。まさに「マイクロマスメディア」と呼べるような状況になったということです。

 すでに2016年のアメリカ大統領選挙で行われてきたことです。情報は広告に使われるだけではなく、攻撃の手段にもなります。情報は多くの側面を持ちます。情報は教育手段にもなれば、広告の手段にもなり、仕事の手段にもなります。また詐欺罪等の犯罪の手段にもなれば、誹謗中傷する手段にもなります。さらに政治や選挙で多数派を形成する手段にもなれば、多様な敵を攻撃する手段にもなり、個人データという情報は経済的利益を得る手段にもなります。

 このように多様な武器にもなり得る情報を取り巻く環境が、情報発信対象の人々の詳細な情報収集・分析ができるようになったことによって、収集される側、分析される側が極めて脆弱になってしまったのです。個人の情報弱点が明らかになれば、その弱点を攻撃すれば容易に攻撃する側が有利になります。それだけではありません。先に述べたようにネットを介した情報によって、敵国のインフラまで攻撃できるようになりました。

 このように手段としての「情報」は「表現の自由」や「通信の秘密」といった人々の人権とも密接に結びついています。しかし情報を仕事の対象にしているメディア等の各種機関の規制や、個人の表現の自由をを安易に規制すれば権力の暴走を許すことにもなります。一方、情報を操る自由が濫用され、情報が暴走すれば社会は危険な方向に進むことになります。この極めて重要な情報の在り方が根本的に変化しようとしていることを深く知っていただきたいことを最後に申し上げ、受講者の熱心な聴講に感謝し講演を終えたいと思います。

※本稿は講演内容をもとに本人がまとめたものです。

●国際人権大学院大学(夜間)の実現をめざす大阪府民会議
同会議では2002年から様々な人権課題をテーマに「プレ講座」を開講している。今年度は「社会的マイノリティに向けられるバッシングを考える」をテーマに5回連続で講座がひらかれた。

関連キーワード:

一覧ページへ