チームみらいのAIファクトチェッカー(エビデンスチェッカー)を2日で作った話 - 日本は認知戦にどう対処するか?

チェッカーで何に対処しようとしているのか

SNSによる偽情報拡散の脅威は、既に大きな政治的リスクとなり､｢認知戦｣と呼ばれる新たな戦場になっている。

ルーマニアでは2024年の大統領選挙でインフルエンサーが外国に買収され､結果が不正に操作された疑いが大きいとして､実際に大統領選挙がやり直しになった｡

アメリカではSNSは憎悪をブーストする燃料となっていると言われ､政策の妥協が困難になり､暴力動員のリスクが持続していると言われている。

従来の人力による監視では、24時間体制でSNSをチェックすることは現実的に不可能だった。また､偽情報の流布から訂正までに不正確な情報が拡散する問題も深刻だ。チームみらいのファクトチェッカーは、この課題に即応する､具体的な解決策として開発された。

技術的な説明

このシステムは5つのステップで動く｡

1. マニフェスト等の信頼できる情報をシステムに登録

2. Twitter/X上で特定キーワード(ex. チームみらい､安野たかひろ)の投稿を自動収集

3. OpenAIのGPTとVerctorStoreを使用したRAGで､信頼できる情報と突き合わせて真偽判定

4. 疑わしい情報を検出した場合、Slackに通知

5. 人間が判断を行い、必要に応じて対応。

最終的な判断は人間が行うことが重要だ。AIはあくまで大量の情報を選別する役割を果たし、対応は人間が責任を持って行う。

オープンソースなので､もっと深く知りたい人は以下からコードを覗いてほしい｡

実際に動かしてどうだったか

1. 専門家の方から「当事者が行うものはファクトチェックとは言わない」との指摘があった｡

   これはご指摘通りであり､その後名称をエビデンスチェッカーに変更することが決定した(選挙が忙しすぎてまだ諸々の設定変更はできていないが､､､､)｡

2. チームみらいはまだ知名度が高くなく､有名政党ほど偽情報は流れなかったので､効果は限定的だった｡

   チームみらいで動かしているチェッカーはあくまでチームみらいのマニフェスト等を元に調査するので､その他政党に対する情報は調査できないし､一般的な情報についても調査できない｡これは何とかすべき課題だと考えている｡

   例えば台湾ではCofactsという公民連携ファクトチェック機関があり､AIと人間が協力してINEボット経由で1日3,000件の投稿をAI＋人間がチェックする仕組みがある｡

   https://news.yahoo.co.jp/expert/articles/ea08db1d092604950430e920febc63682cd1b6b9

   このような仕組みを日本でもやりたいと考えている｡

3. 実際に分断を生んでいるのは､明確な偽情報というよりも悪意ある言及ではないかと思った｡

   これは定量的な分析ができているわけではないのではっきりとしたことは言えないが､実際に選挙中の言論を見ていると｢〇〇は無能だ｣とか｢〇〇のせいで日本はだめになった｣というような､明確に偽情報だと判断することはできない悪意のある言葉が多く飛び交っていた｡今後の｢認知戦｣と呼ばれる領域では､このような言説に対抗することも必要だと考えている｡

今後どうしていくか

｢認知戦｣は､今回の選挙だけではなく､今後の国民生活に大きく影響する課題だ｡

選挙終了後はデジタル民主主義2030という枠組みでこれに対抗していきたい｡

具体的にどうしていくかについては白紙だが､台湾の事例を参考にすると､ミームによって悪意に対抗するのは筋がいいのではないかと考えている｡

台湾では｢humour over rumour(噂よりユーモア)｣というアプローチで偽情報に対抗していて､例えば「トイレットペーパーがなくなる！」という噂が流れたとき､政府のスー首相が“お尻を振る”漫画を掲載し､お尻は1つ、買い占めても仕方ないというユーモアで偽情報に対抗した｡

日本風に言えば｢悪意より笑い｣となるだろうか｡

もし笑いで世界を良くすることに興味がある人がいればデジタル民主主義2030に参加してほしい｡エンジニアだけじゃなく､お笑い芸人や動画クリエイター等もいてくれると非常に助かる｡