团队未来AI事实核查器（证据核查器）两天制作的故事 - 日本如何应对认知战？

前言

团队未来制作了AI事实核查器（以下简称核查器）。

这是为了以某种方式应对假信息这一撼动世界各地民主主义的重大问题，并尽可能避免世界的分裂。

正如公明党也表明要利用它一样，我认为这是一款可以跨越政党使用的工具，是蕴含着提高民主主义质量的可能性的划时代工具。

下面将介绍自我介绍、制作核查器的背景、核查器想要应对什么、技术性说明、实际运行情况、以及今后的发展方向。

自我介绍

我是上座部佛教徒，对政党和意识形态不感兴趣。

如果能对所有有生命的生物有所帮助就好了。

这次我只是觉得在团队未来开发对社会最有帮助，所以才参加的，并没有打算偏袒特定的政党。

制作核查器的背景

我原本就想以某种方式阻止憎恨和分裂在世界蔓延。

刊登这篇文章的Evame网站也是我开发的多语言博客网站，用户撰写的文章会自动翻译成多种语言。我开发这个网站也是希望通过在全球范围内共享知识和故事来避免分裂。

在这种情况下，安野先生提出了核查器的建议，我确实认为这会对社会有所帮助。

此外，之前我曾制作过一个名为佛教AI的AI，它基于巴利三藏的经藏来回答问题，所以我知道利用这个经验，结合OpenAI的VectorStore就可以实现，于是就开始了开发。

正如预期的那样，功能本身在2~3小时内就完成了，但是由于X的API和GCP的权限相关的认证，以及为了提高精度而进行的提示调整，最终花了2~3天时间才得以公开。 顺便说一句，团队未来真的是一家初创公司，所以最初安野先生也在做这方面的权限工作。

核查器想要应对什么

SNS造成的虚假信息扩散的威胁，已经成为重大的政治风险，成为了被称为“认知战”的新战场。

在罗马尼亚，有强烈嫌疑认为2024年的总统选举中，网红被外国收买，结果被不正当操纵，实际上总统选举已经重选。

据说在美国，SNS已经成为助长仇恨的燃料，政策妥协变得困难，暴力动员的风险持续存在。

过去依靠人力进行监控，24小时体制检查SNS在现实中是不可能实现的。 此外，从虚假信息传播到更正之间，不准确信息扩散的问题也很严重。 团队未来的事实核查器，是作为快速应对这一课题的具体解决方案而开发的。

技术性说明

该系统通过5个步骤运行。

1. 将宣言等可靠的信息注册到系统中

2. 在Twitter/X上自动收集特定关键词（例如，团队未来，安野隆弘）的帖子

3. 通过使用OpenAI的GPT和VerctorStore的RAG，与可靠的信息进行比对，判断真伪

4. 检测到可疑信息时，通知Slack

5. 人类进行判断，并根据需要采取相应措施。

最终的判断由人类进行非常重要。AI的作用始终是筛选大量信息，应对措施由人类负责执行。

因为是开源的，所以想要更深入了解的人可以从以下地址查看代码。

GitHub - team-mirai-volunteer/fact-checker: Twitter/X投稿をリアルタイム監視し、AI powered ファクトチェックで政党関連の誤情報を自動検出‧ Slack通知するシステム

Twitter/X投稿をリアルタイム監視し、AI powered ファクトチェックで政党関連の誤情報を自動検出‧ Slack通知するシステム - team-mirai-volunteer/fact-checker

github.com

实际运行情况

1. 有专家指出“当事人进行的行为不能称之为事实核查”。

   这个指正非常正确，之后决定将名称变更为证据核查器（但是由于选举太忙，各种设置变更还没有完成。。。。）。

2. 团队未来的知名度还不高，没有像有名的政党那样出现大量的虚假信息，所以效果有限。

   团队未来运行的核查器始终是基于团队未来的宣言等内容进行调查，所以无法调查其他政党的信息，也无法调查一般信息。 我认为这是一个应该想办法解决的课题。

   例如，在台湾有一个名为Cofacts的公民合作事实核查机构，AI和人类合作，通过LINE机器人每天检查3000条帖子。

   https://news.yahoo.co.jp/expert/articles/ea08db1d092604950430e920febc63682cd1b6b9

   我希望在日本也能建立这样的机制。

3. 我实际上认为，产生分裂的原因与其说是明确的虚假信息，不如说是恶意的言论。

   虽然我不能确定地说出这件事，因为我没有进行定量的分析，但是实际上在选举期间看到“〇〇无能”或者“〇〇害得日本一塌糊涂”之类无法明确判断为虚假信息的恶意言论到处飞。 我认为在今后被称为“认知战”的领域，对抗这种言论也是有必要的。

今后的发展方向

“认知战”不仅会影响这次选举，还会对今后的国民生活产生巨大的影响。

选举结束后，我希望在数字民主主义2030的框架下对抗它。

デジタル民主主義2030

デジタル民主主義2030プロジェクトポータルサイト

dd2030.org

关于具体如何进行，目前还是一片空白，但是参考台湾的案例，我认为通过meme来对抗恶意是可行的。

在台湾，他们以“humour over rumour（幽默胜过谣言）”的方式对抗虚假信息。例如，当“卫生纸要没了！”的谣言传播时，政府的苏贞昌首相刊登了一幅“摇屁股”的漫画，用屁股只有一个，即使囤积也没有用的幽默来对抗虚假信息。

How Taiwan used memes to fight pandemic rumours

Audrey Tang, Taiwan’s Digital Minister, shares three ingredients behind Taiwan’s successful pandemic response.

govinsider.asia

如果用日本的方式来说，那就是“笑胜过恶意”了吧？

如果有人对通过笑来改善世界感兴趣，请参加数字民主主义2030。 不仅仅是工程师，如果能有搞笑艺人或者视频创作者等人的加入，将会非常有帮助。