チームみらいのAIファクトチェッカー(エビデンスチェッカー)を2日で作った話 - 日本は認知戦にどう対処するか?团队未来AI事实核查器（证据核查器）两天制作的故事 - 日本如何应对认知战？

制作核查器的背景

元々､世界に憎悪や分断が広がっていることを何とかしたいと思っていた｡

我原本就想以某种方式阻止憎恨和分裂在世界蔓延。

この文章が載っているEvameというサイトも僕が開発した多言語ブログサイトで､ユーザーが書いた記事が自動で多言語に翻訳されるサイトなのだが､このサイトも知識や物語を世界的に共有することで分断を回避できるのではないかと思って開発している｡

刊登这篇文章的Evame网站也是我开发的多语言博客网站，用户撰写的文章会自动翻译成多种语言。我开发这个网站也是希望通过在全球范围内共享知识和故事来避免分裂。

そんな中､安野さんからチェッカーの提案があり､たしかにこれは世の中の役に立ちそうだと思った｡

在这种情况下，安野先生提出了核查器的建议，我确实认为这会对社会有所帮助。

また､以前仏教AIというパーリ三蔵の経蔵を元に回答するAIを作ったことがあったので､その経験を元にOpenAIのVectorStoreを使えばできるとわかっていたので開発を開始した｡

此外，之前我曾制作过一个名为佛教AI的AI，它基于巴利三藏的经藏来回答问题，所以我知道利用这个经验，结合OpenAI的VectorStore就可以实现，于是就开始了开发。

想定どおり機能自体は2~3時間でできたが､XのAPIやGCPとの権限周りの認証と､精度を上げるためのプロンプトの調整で公開までは2~3日かかってしまった｡余談だが､チームみらいはマジのスタートアップだったので､最初はこの辺の権限周りも安野さんがやっていた｡

正如预期的那样，功能本身在2~3小时内就完成了，但是由于X的API和GCP的权限相关的认证，以及为了提高精度而进行的提示调整，最终花了2~3天时间才得以公开。 顺便说一句，团队未来真的是一家初创公司，所以最初安野先生也在做这方面的权限工作。

チェッカーで何に対処しようとしているのか

核查器想要应对什么

SNSによる偽情報拡散の脅威は、既に大きな政治的リスクとなり､｢認知戦｣と呼ばれる新たな戦場になっている。

SNS造成的虚假信息扩散的威胁，已经成为重大的政治风险，成为了被称为“认知战”的新战场。

ルーマニアでは2024年の大統領選挙でインフルエンサーが外国に買収され､結果が不正に操作された疑いが大きいとして､実際に大統領選挙がやり直しになった｡

在罗马尼亚，有强烈嫌疑认为2024年的总统选举中，网红被外国收买，结果被不正当操纵，实际上总统选举已经重选。

アメリカではSNSは憎悪をブーストする燃料となっていると言われ､政策の妥協が困難になり､暴力動員のリスクが持続していると言われている。

据说在美国，SNS已经成为助长仇恨的燃料，政策妥协变得困难，暴力动员的风险持续存在。

従来の人力による監視では、24時間体制でSNSをチェックすることは現実的に不可能だった。また､偽情報の流布から訂正までに不正確な情報が拡散する問題も深刻だ。チームみらいのファクトチェッカーは、この課題に即応する､具体的な解決策として開発された。

过去依靠人力进行监控，24小时体制检查SNS在现实中是不可能实现的。 此外，从虚假信息传播到更正之间，不准确信息扩散的问题也很严重。 团队未来的事实核查器，是作为快速应对这一课题的具体解决方案而开发的。

技術的な説明

技术性说明

このシステムは5つのステップで動く｡

该系统通过5个步骤运行。

1. マニフェスト等の信頼できる情報をシステムに登録

   将宣言等可靠的信息注册到系统中

2. Twitter/X上で特定キーワード(ex. チームみらい､安野たかひろ)の投稿を自動収集

   在Twitter/X上自动收集特定关键词（例如，团队未来，安野隆弘）的帖子

3. OpenAIのGPTとVerctorStoreを使用したRAGで､信頼できる情報と突き合わせて真偽判定

   通过使用OpenAI的GPT和VerctorStore的RAG，与可靠的信息进行比对，判断真伪

4. 疑わしい情報を検出した場合、Slackに通知

   检测到可疑信息时，通知Slack

5. 人間が判断を行い、必要に応じて対応。

   人类进行判断，并根据需要采取相应措施。

最終的な判断は人間が行うことが重要だ。AIはあくまで大量の情報を選別する役割を果たし、対応は人間が責任を持って行う。

最终的判断由人类进行非常重要。AI的作用始终是筛选大量信息，应对措施由人类负责执行。

オープンソースなので､もっと深く知りたい人は以下からコードを覗いてほしい｡

因为是开源的，所以想要更深入了解的人可以从以下地址查看代码。

実際に動かしてどうだったか

实际运行情况

1. 専門家の方から「当事者が行うものはファクトチェックとは言わない」との指摘があった｡

   有专家指出“当事人进行的行为不能称之为事实核查”。

   これはご指摘通りであり､その後名称をエビデンスチェッカーに変更することが決定した(選挙が忙しすぎてまだ諸々の設定変更はできていないが､､､､)｡

   这个指正非常正确，之后决定将名称变更为证据核查器（但是由于选举太忙，各种设置变更还没有完成。。。。）。

2. チームみらいはまだ知名度が高くなく､有名政党ほど偽情報は流れなかったので､効果は限定的だった｡

   团队未来的知名度还不高，没有像有名的政党那样出现大量的虚假信息，所以效果有限。

   チームみらいで動かしているチェッカーはあくまでチームみらいのマニフェスト等を元に調査するので､その他政党に対する情報は調査できないし､一般的な情報についても調査できない｡これは何とかすべき課題だと考えている｡

   团队未来运行的核查器始终是基于团队未来的宣言等内容进行调查，所以无法调查其他政党的信息，也无法调查一般信息。 我认为这是一个应该想办法解决的课题。

   例えば台湾ではCofactsという公民連携ファクトチェック機関があり､AIと人間が協力してINEボット経由で1日3,000件の投稿をAI＋人間がチェックする仕組みがある｡

   例如，在台湾有一个名为Cofacts的公民合作事实核查机构，AI和人类合作，通过LINE机器人每天检查3000条帖子。

   https://news.yahoo.co.jp/expert/articles/ea08db1d092604950430e920febc63682cd1b6b9

   https://news.yahoo.co.jp/expert/articles/ea08db1d092604950430e920febc63682cd1b6b9

   このような仕組みを日本でもやりたいと考えている｡

   我希望在日本也能建立这样的机制。

3. 実際に分断を生んでいるのは､明確な偽情報というよりも悪意ある言及ではないかと思った｡

   我实际上认为，产生分裂的原因与其说是明确的虚假信息，不如说是恶意的言论。

   これは定量的な分析ができているわけではないのではっきりとしたことは言えないが､実際に選挙中の言論を見ていると｢〇〇は無能だ｣とか｢〇〇のせいで日本はだめになった｣というような､明確に偽情報だと判断することはできない悪意のある言葉が多く飛び交っていた｡今後の｢認知戦｣と呼ばれる領域では､このような言説に対抗することも必要だと考えている｡

   虽然我不能确定地说出这件事，因为我没有进行定量的分析，但是实际上在选举期间看到“〇〇无能”或者“〇〇害得日本一塌糊涂”之类无法明确判断为虚假信息的恶意言论到处飞。 我认为在今后被称为“认知战”的领域，对抗这种言论也是有必要的。

今後どうしていくか

今后的发展方向

｢認知戦｣は､今回の選挙だけではなく､今後の国民生活に大きく影響する課題だ｡

“认知战”不仅会影响这次选举，还会对今后的国民生活产生巨大的影响。

選挙終了後はデジタル民主主義2030という枠組みでこれに対抗していきたい｡

选举结束后，我希望在数字民主主义2030的框架下对抗它。

具体的にどうしていくかについては白紙だが､台湾の事例を参考にすると､ミームによって悪意に対抗するのは筋がいいのではないかと考えている｡

关于具体如何进行，目前还是一片空白，但是参考台湾的案例，我认为通过meme来对抗恶意是可行的。

台湾では｢humour over rumour(噂よりユーモア)｣というアプローチで偽情報に対抗していて､例えば「トイレットペーパーがなくなる！」という噂が流れたとき､政府のスー首相が“お尻を振る”漫画を掲載し､お尻は1つ、買い占めても仕方ないというユーモアで偽情報に対抗した｡

在台湾，他们以“humour over rumour（幽默胜过谣言）”的方式对抗虚假信息。例如，当“卫生纸要没了！”的谣言传播时，政府的苏贞昌首相刊登了一幅“摇屁股”的漫画，用屁股只有一个，即使囤积也没有用的幽默来对抗虚假信息。

日本風に言えば｢悪意より笑い｣となるだろうか｡

如果用日本的方式来说，那就是“笑胜过恶意”了吧？

もし笑いで世界を良くすることに興味がある人がいればデジタル民主主義2030に参加してほしい｡エンジニアだけじゃなく､お笑い芸人や動画クリエイター等もいてくれると非常に助かる｡

如果有人对通过笑来改善世界感兴趣，请参加数字民主主义2030。 不仅仅是工程师，如果能有搞笑艺人或者视频创作者等人的加入，将会非常有帮助。