ソーシャルメディアが一般に広まったあたりからフェイクニュースの問題が顕在化し、技術の発展に伴って巧妙なディープフェイクが激増、今や深刻な社会問題となっています。今回のブログでは、虚偽情報とは何か、そし虚偽情報をめぐる最新動向と一連の対策についてご紹介していきたいと思います。

虚偽情報とは?

まず初めに、虚偽情報とは何かを改めてみていきましょう。現代社会において、正しい情報と偽情報が交錯したことによってもたらされる状況は、広義にインフォメーション・ディスオーダー(情報の混乱)と定義され、その状態にあてはまる情報のあり方はMis-Information, Dis-Information, Mal-Informationの3つに分類されます。

インフォメーション・ディスオーダー

そして、上記の3つのうち、悪意ある情報とするDis-Information, Mal-Informationは、騙そうとする悪意の強度により、更に以下の7つに分けられます。

出典: First Draft

悪意のある情報であるDis-Informationのなかで、近年その巧妙さがクローズアップされているのがディープフェイクです。技術の進歩に伴い、既存の音声やビデオ・画像などの改ざん、もしくはゼロから非常に精巧な合成コンテンツをたやすく作ることが可能になりました。また、そういった合成コンテンツは得てして非常にセンセーショナルなものが多いため、インターネット上での拡散効果が非常に高いのが特徴です。

こういった虚偽情報は、フェイスブックやツイッターなどのソーシャルメディア、あるいはソーシャルボットなどの媒体によってオンライン上で瞬く間に拡散されていきます。ソーシャルボットとは、ソーシャルメディア上で自律的にコミュニケーションを行うエージェントを指し、有効活用される場合もありますが、虚偽情報拡散に使われることも多いのが実情です。2022年、イーロンマスクがツイッターの買収の話を突然反故にしたのは、ボット機能を使って虚偽情報を流している偽ツイッターアカウントが依然として多数存在していることがその一因と言われています。また、パンデミックの最中、オンラインでコロナに関する真偽不明の情報が溢れましたが、それらの一部はソーシャルボットが自動的に拡散したものであることがわかっています。

虚偽情報が増幅する要因

虚偽情報の拡散・増幅は、以下にあげる様々な要因が複雑に絡み合ったうえで生じると考えられています。

  • 人間の習性:出どころもはっきりしないオンラインの虚偽情報を人がたやすく信じてしまう一因として、人間がもつ情報を認知する際に様々なバイアスがフィルターとしてかかってしまう習性が影響しており、これを認知バイアスと言います。思い込みや先入観などで自分の都合のよいように物事を解釈するバイアス群、多勢になびく同調行動を後押しするバイアス群などが挙げられます。
  • アテンション・エコノミー:情報過多社会において、情報発信側は情報の内容そのものよりも、視聴者の目を引きやすい仕掛け作りへと流れていきがちです。そこに虚偽情報が付け入る隙ができてしまう、というわけです。
  • テクノロジーの負の側面:ソーシャルメディアでは、エコーチャンバーとよばれる閉じた空間を作りやすく、異なる意見が入り込む隙間がなくなっていくという循環を引き起こします。また、AIが飛躍的に進化した結果、ディープフェイクに悪用されるケースが急増しています。
  • 国家レベルでの情報操作策略:2016年および2020年の米国大統領選への関与、EU難民危機など、国家レベルでの虚偽情報の捏造、拡散に拍車がかかっています。ウクライナ侵略に関連するロシア当局の虚偽情報撹乱は記憶に新しいところかと思います。

虚偽情報対策

これまで述べてきた通り、より巧妙かつ大量の虚偽情報がオンライン上で溢れかえっている現代ですが、様々な組織によって虚偽情報対策が講じられています。

1. メディアリテラシー
メディアの機能を理解し、虚偽情報に惑わされず正しい情報を選択できる、といったような、情報に対する免疫力を蓄えることがまず重要です。そういった能力をメディアリテラシーといい、それを強化するための教育・啓蒙活動が欧米を中心として様々な地域で展開されています。
例:ニュース・リテラシー・プロジェクト、メディア・リテラシー・ナウ

2. ファクトチェック
ファクトチェックとは、情報発信元であるメディアや第三者の団体によって、発信済みの情報の正確さをチェックし、その結果を公表するプロセスを言います。米デューク大学のレポーターズ・ラボでは、世界各国のファクトチェック団体の閲覧が可能です。2022年時点で、活動中の団体数は世界で355にのぼります。
例:ポリティファクト、ファースト・ドラフト

3. オープンソース・インベスティゲーション
オープンソース・インベスティゲーション(公開情報調査)は、公開されているWeb・SNSに蓄積された膨大なテキストや写真、動画、衛星画像、地図情報、そしてデータベースや画像処理、解析ソフトなどを駆使して真相を解明しようとする手法です。これは、インターネットに既にある情報を徹底的に調査し、そこから真実をあぶり出す革新的な手法ともいえます。この手法で一躍注目を浴びているのが調査集団ベリングキャット(bellingcat)です。

4. 法による規制
虚偽情報を新しい法によって取り締まろうとする試みは、欧州が先行しています。2017年にドイツでネットワーク執行法が施行されたのを皮切りに、フランスでも同様の法律が2020年に施行、また、EUのくくりではデジタル・サービスに関連する法律GDPR (一般データ保護規則)(2018年)、ディープフェイクを含むAIに関する包括的な規制案(2020年)、DSA (デジタル・サービス法案)(2022年)、DMA (デジタル市場法案)(2022年)が策定されています。

米国では憲法で保障された表現の自由のため虚偽情報への規制にはこれまで慎重でしたが、2016年の大統領選挙における虚偽情報の横行が引き金となり、ソーシャルメディア及びディープフェイクに対する規制の動きが高まってきています。

5. 個別企業による対策
メタやツイッターなどのプラットフォーマーをはじめ、グーグルやマイクロソフトなどエンドユーザーと接点の多い大手IT企業は、EUが提唱する「偽情報に関する行動規範」に沿った施策にコミットするのと同時に、個別の対策を講じています。とはいえ、一民間企業の判断で情報を管理するのは恣意的になりかねないとの懸念もあり、その舵取りが難しいところではあります。

===================

悪意をもって虚偽情報を拡散させる側と、虚偽情報の防止・駆逐に努める側はいわばいたちごっこの様相もありますが、ベリングキャットのような新しい手法で虚偽情報に対峙する組織がでてきたり、法による規制が着々と進んできたりしています。また、そういった情報に惑わされないためにも、我々一人一人がメディアリテラシーを高めることが今後更に重要になっていくのは間違いありません。