フェイクニュースの蔓延とは？
生成AIなどを活用したフェイクニュースがソーシャルメディアにより急速に拡散し、世論形成や意思決定に大きな影響を与える。政治的操作、商業的利益、扇動目的など、その背景は多様であり、フェイクニュースは社会の分断を深める可能性がある。
対策として、ファクトチェック技術の向上、メディアリテラシー教育の強化、プラットフォーム企業の責任強化などが進められているが、表現の自由との兼ね合いが課題である。
予想される未来社会の変化
- AIによる高精度な偽情報生成により、真実と虚偽の区別が極めて困難になる
- 情報の信頼性を確認するための時間とコストが増大し、意思決定や社会活動の効率が低下する
- 情報の真偽を検証する新たな職業や産業が発展し、ファクトチェックが重要なビジネスとなる
トレンド
フェイク判定レポートサービス
NABLASはフェイク判定レポートサービスの提供を開始した。本サービスでは、データや情報についてリアルかフェイクかの判定だけではなく、複数の観点からデータが信頼に値するものかを多重的に検証する。
AIによるフェイク検出に加え、人間によるアカウントや拡散経路の信頼性調査、データの加工や、データの内容とそこに含まれるリンクなどの付帯情報を踏まえたファクトチェックなど、多面的かつ総合的にデータの信頼性に関するレポーティングを行う。
今後は、多面的なチェック・レポート機能を自動化させることで、ユーザーがさらに迅速かつ正確に情報の信頼性を評価できる環境を整えることを目指している。
偽情報対策システムの研究開発
富士通は、内閣府や経済産業省などの関係府省が連携して創設した「経済安全保障重要技術育成プログラム（K Program）」に基づき、国立研究開発法人新エネルギー・産業技術総合開発機構（NEDO）が公募した「偽情報分析に係る技術の開発」に採択され、偽情報の検知や評価、システム化に向けた研究開発を開始。
現在のインターネットでは生成AIや合成コンテンツによる偽情報の流通が社会問題となっており、ディープフェイク技術を用いた偽情報の判別技術が検討されているが、偽情報の抽出から分析までを一貫して行うシステムは未だ存在していない。そこで、富士通は、偽情報に対して複数の根拠を元に検知および評価を行い、総合的な分析を実施するシステムの研究開発に着手。
この偽情報対策システムでは、SNS投稿などの情報の真偽を判定するために、文章、画像、音声、動画が生成AIによって作成されたかどうかを判定し、さらに「エンドースメントグラフ」を用いて、情報の発信者やその属性、位置、日時などの真偽判定の根拠となる情報を整理し、整合性や矛盾を分析することで真偽の判定を支援する。また、社会的な影響度の評価も行う。
本事業では、民需・官需向けのユースケースに応じた要件定義を行い、これを基に4つの研究開発内容から成る偽情報対策システムを構築。具体的には、メディアごとの情報分析や偽情報検知、根拠・エンドースメント管理、総合真偽判定支援、偽情報影響度評価の技術を組み合わせて開発を進める予定。
ファクトハント
クロフィーはAIを活用し、多様な業界の情報信頼性向上に取り組んでおり、テキストの真偽を自動検証するクラウドサービス「ファクトハント（FactHunt）」の提供を開始した。
ファクトハントは、Slack上に投稿されたテキストを解析し、複数の言語に対応した真偽検証を自動で実行することで、企業の生成AI活用を支援するサービス。
機密性の高い情報を含む生成文章のファクトチェックにも対応し、情報漏洩リスクを抑える。
さらに、生成AIを利用していない場合でも、人的ミスによる誤情報の混入を防ぐことができる。
・情報収集のために利用されているメディアは、現在インターネットが主流である。
近年はスマホやタブレットの普及により、インターネットによる情報収集が時間や場所を問わずに行え、SNSによって新しい情報が手に入るようになった。
これらを要因として、情報取得のコストは下がり、結果、人々の情報感度は高まった
・インターネットや携帯電話、スマーフォンが普及した時代に育ったミレニアル世代は情報感度が高く、消費行動も以前の世代と異なるとされている。
10代から20代前半の33％、20代後半から30代の23%が「SNSで話題になったモノをよく買う」という調査結果がある
・消費行動の特徴を捉える際、世代や性別によるカテゴライズよりも、トレンドへの敏感さの指標である情報感度によるカテゴライズのほうが適しているという意見もある
今後情報格差が広がると、その傾向は更に強まることが予測される
・インターネット、SNSが普及したことで誰もが情報を発信できるようになり、フェイクニュースが増加している。フェイクニュースを興味本位、金銭を得るため、政治的動機に悪用する人も存在し問題となっている。
コロナ禍においても多くのフェイクニュースが確認され、混乱の要因となっている
・フランスでは、伝統的なニュースメディアが大衆から信頼を失い、SNSやインターネットで情報を得る人が増加。フェイクニュースを取り締まる法改正が成立したが、言論統制に悪用されると批判する声もある
・フェイクニュースを信じ、不用意に拡散してしまう人を減らすため、メディア・リテラシーを育成する重要性が増している。
欧米ではフェイクニュース対策として、メディア・リテラシーやニュース・リテラシーを育成することが、国防戦略の重要な要素として位置づけられており、教育においても重視されている
＼未来コンセプトペディアを活用してアイデア創出してみませんか？／
新規事業・新サービスアイデア創出ワークショップ
新規事業立ち上げの種となるアイデアを創出し、新たな領域への挑戦を支援します。
