团队未来AI事实核查器（证据核查器）两天制作的故事 - 日本如何应对认知战？

核查器想要应对什么

SNS造成的虚假信息扩散的威胁，已经成为重大的政治风险，成为了被称为“认知战”的新战场。

在罗马尼亚，有强烈嫌疑认为2024年的总统选举中，网红被外国收买，结果被不正当操纵，实际上总统选举已经重选。

据说在美国，SNS已经成为助长仇恨的燃料，政策妥协变得困难，暴力动员的风险持续存在。

过去依靠人力进行监控，24小时体制检查SNS在现实中是不可能实现的。 此外，从虚假信息传播到更正之间，不准确信息扩散的问题也很严重。 团队未来的事实核查器，是作为快速应对这一课题的具体解决方案而开发的。

技术性说明

该系统通过5个步骤运行。

1. 将宣言等可靠的信息注册到系统中

2. 在Twitter/X上自动收集特定关键词（例如，团队未来，安野隆弘）的帖子

3. 通过使用OpenAI的GPT和VerctorStore的RAG，与可靠的信息进行比对，判断真伪

4. 检测到可疑信息时，通知Slack

5. 人类进行判断，并根据需要采取相应措施。

最终的判断由人类进行非常重要。AI的作用始终是筛选大量信息，应对措施由人类负责执行。

因为是开源的，所以想要更深入了解的人可以从以下地址查看代码。

实际运行情况

1. 有专家指出“当事人进行的行为不能称之为事实核查”。

   这个指正非常正确，之后决定将名称变更为证据核查器（但是由于选举太忙，各种设置变更还没有完成。。。。）。

2. 团队未来的知名度还不高，没有像有名的政党那样出现大量的虚假信息，所以效果有限。

   团队未来运行的核查器始终是基于团队未来的宣言等内容进行调查，所以无法调查其他政党的信息，也无法调查一般信息。 我认为这是一个应该想办法解决的课题。

   例如，在台湾有一个名为Cofacts的公民合作事实核查机构，AI和人类合作，通过LINE机器人每天检查3000条帖子。

   https://news.yahoo.co.jp/expert/articles/ea08db1d092604950430e920febc63682cd1b6b9

   我希望在日本也能建立这样的机制。

3. 我实际上认为，产生分裂的原因与其说是明确的虚假信息，不如说是恶意的言论。

   虽然我不能确定地说出这件事，因为我没有进行定量的分析，但是实际上在选举期间看到“〇〇无能”或者“〇〇害得日本一塌糊涂”之类无法明确判断为虚假信息的恶意言论到处飞。 我认为在今后被称为“认知战”的领域，对抗这种言论也是有必要的。

今后的发展方向

“认知战”不仅会影响这次选举，还会对今后的国民生活产生巨大的影响。

选举结束后，我希望在数字民主主义2030的框架下对抗它。

关于具体如何进行，目前还是一片空白，但是参考台湾的案例，我认为通过meme来对抗恶意是可行的。

在台湾，他们以“humour over rumour（幽默胜过谣言）”的方式对抗虚假信息。例如，当“卫生纸要没了！”的谣言传播时，政府的苏贞昌首相刊登了一幅“摇屁股”的漫画，用屁股只有一个，即使囤积也没有用的幽默来对抗虚假信息。

如果用日本的方式来说，那就是“笑胜过恶意”了吧？

如果有人对通过笑来改善世界感兴趣，请参加数字民主主义2030。 不仅仅是工程师，如果能有搞笑艺人或者视频创作者等人的加入，将会非常有帮助。