Comment l'équipe Mirai a créé un vérificateur de faits IA (vérificateur de preuves) en 2 jours - Comment le Japon fait-il face à la guerre cognitive ?

Introduction

L'équipe Mirai a créé un vérificateur de faits IA (ci-après, le vérificateur).

Ceci afin de traiter d'une manière ou d'une autre le problème majeur de la désinformation qui ébranle la démocratie dans le monde entier, et d'éviter, ne serait-ce qu'un peu, la division du monde.

Comme le parti Komeito a également exprimé son intention de l'utiliser, il s'agit d'un outil qui peut être utilisé au-delà des partis politiques et nous pensons qu'il s'agit d'un outil révolutionnaire qui a le potentiel d'améliorer la qualité de la démocratie.

Ci-dessous, je vais écrire une présentation personnelle, le contexte de la création du vérificateur, à quoi nous essayons de remédier avec le vérificateur, une explication technique, ce qui s'est passé lorsque nous l'avons réellement utilisé, et ce que nous allons faire à l'avenir.

Présentation personnelle

Je suis un bouddhiste Theravada et je ne m'intéresse pas aux partis politiques ou aux idéologies.

Je serais heureux de pouvoir aider tous les êtres vivants.

Cette fois, j'ai participé simplement parce que je pensais que le développement avec l'équipe Mirai serait le plus utile au monde, et je n'ai pas l'intention de favoriser un parti politique particulier.

Contexte de la création du vérificateur

À l'origine, je voulais faire quelque chose pour lutter contre la haine et la division qui se répandent dans le monde.

Le site Evame, où cet article est publié, est également un site de blog multilingue que j'ai développé, où les articles écrits par les utilisateurs sont automatiquement traduits en plusieurs langues, et je développe ce site en pensant que le partage mondial des connaissances et des histoires peut éviter la division.

Dans ce contexte, M. Yasuno a proposé le vérificateur, et j'ai pensé qu'il serait certainement utile au monde.

De plus, j'avais déjà créé une IA bouddhiste qui répondait sur la base du canon du Tripitaka Pali, et je savais que je pouvais le faire en utilisant le VectorStore d'OpenAI sur la base de cette expérience, alors j'ai commencé le développement.

Comme prévu, la fonction elle-même a été créée en 2 à 3 heures, mais il a fallu 2 à 3 jours avant la publication en raison de l'authentification de l'API de X et des autorisations avec GCP, et de l'ajustement des invites pour améliorer la précision. Incidemment, l'équipe Mirai était une véritable startup, donc M. Yasuno s'occupait initialement de ces questions d'autorisations.

À quoi essayons-nous de remédier avec le vérificateur ?

La menace de la diffusion de fausses informations par les réseaux sociaux est déjà devenue un risque politique majeur et est devenue un nouveau champ de bataille appelé "guerre cognitive".

En Roumanie, lors de l'élection présidentielle de 2024, des influenceurs ont été achetés par des pays étrangers, et il existe de fortes suspicions que les résultats aient été manipulés de manière frauduleuse, de sorte que l'élection présidentielle a en fait été refaite.

Aux États-Unis, on dit que les réseaux sociaux sont un carburant qui alimente la haine, ce qui rend difficile le compromis politique et maintient le risque de mobilisation de la violence.

Avec la surveillance manuelle conventionnelle, il était pratiquement impossible de vérifier les réseaux sociaux 24 heures sur 24. De plus, le problème de la diffusion d'informations inexactes entre la diffusion de fausses informations et leur correction est également grave. Le vérificateur de faits de l'équipe Mirai a été développé comme une solution concrète pour répondre rapidement à ce problème.

Explication technique

Ce système fonctionne en 5 étapes.

1. Enregistrer des informations fiables telles que les manifestes dans le système

2. Collecter automatiquement les publications sur Twitter/X avec des mots-clés spécifiques (par exemple, équipe Mirai, Takahiro Yasuno)

3. Jugement de la vérité en comparant les informations fiables avec RAG utilisant GPT et VerctorStore d'OpenAI

4. Notifier Slack en cas de détection d'informations suspectes

5. Un humain prend une décision et prend des mesures si nécessaire.

Il est important que la décision finale soit prise par un humain. L'IA joue uniquement le rôle de sélectionner une grande quantité d'informations, et les mesures sont prises de manière responsable par les humains.

Comme il s'agit d'un open source, ceux qui veulent en savoir plus peuvent jeter un coup d'œil au code ci-dessous.

GitHub - team-mirai-volunteer/fact-checker: Twitter/X投稿をリアルタイム監視し、AI powered ファクトチェックで政党関連の誤情報を自動検出‧ Slack通知するシステム

Twitter/X投稿をリアルタイム監視し、AI powered ファクトチェックで政党関連の誤情報を自動検出‧ Slack通知するシステム - team-mirai-volunteer/fact-checker

github.com

Ce qui s'est passé lorsque nous l'avons réellement utilisé

1. Un expert a souligné que "ce qui est fait par les personnes concernées n'est pas appelé vérification des faits".

   Ceci est conforme à ce qui a été souligné, et il a été décidé par la suite de changer le nom en vérificateur de preuves (les changements de paramètres, etc. n'ont pas encore pu être effectués car l'élection est trop chargée,,,,).

2. L'équipe Mirai n'est pas encore très connue, et il n'y a pas autant de fausses informations que pour les partis politiques célèbres, donc l'effet a été limité.

   Le vérificateur utilisé par l'équipe Mirai ne peut enquêter que sur la base du manifeste de l'équipe Mirai, etc., donc il ne peut pas enquêter sur les informations concernant d'autres partis politiques, ni sur les informations générales. Nous pensons que c'est un problème qui doit être résolu d'une manière ou d'une autre.

   Par exemple, à Taïwan, il existe une organisation de vérification des faits en coopération avec les citoyens appelée Cofacts, et il existe un mécanisme où l'IA et les humains coopèrent pour vérifier 3 000 publications par jour via le bot INE.

   https://news.yahoo.co.jp/expert/articles/ea08db1d092604950430e920febc63682cd1b6b9

   Nous voulons mettre en place un tel mécanisme au Japon.

3. J'ai pensé que ce qui crée réellement la division n'est pas tant la fausse information claire que la référence malveillante.

   Je ne peux pas dire cela avec certitude car ce n'est pas une analyse quantitative, mais en regardant réellement les discours pendant l'élection, il y avait beaucoup de mots malveillants qui ne pouvaient pas être jugés comme clairement faux, tels que "〇〇 est incompétent" ou "Le Japon est devenu mauvais à cause de 〇〇". Dans le domaine appelé "guerre cognitive" à l'avenir, nous pensons qu'il est également nécessaire de contrer de tels discours.

Ce que nous allons faire à l'avenir

La "guerre cognitive" est un problème qui aura un impact important sur la vie nationale à l'avenir, et pas seulement lors de cette élection.

Après la fin de l'élection, nous voulons lutter contre cela dans le cadre de la démocratie numérique 2030.

デジタル民主主義2030

デジタル民主主義2030プロジェクトポータルサイト

dd2030.org

Je ne sais pas encore ce que nous allons faire concrètement, mais en référence à l'exemple de Taïwan, je pense qu'il serait bon de contrer la malice par des mèmes.

À Taïwan, ils utilisent une approche de "l'humour plutôt que la rumeur" pour contrer la fausse information. Par exemple, lorsqu'une rumeur s'est répandue selon laquelle "Il n'y aura plus de papier toilette !", le Premier ministre Su du gouvernement a publié une bande dessinée de lui "secouant ses fesses", en expliquant avec humour qu'il n'y a qu'un seul derrière et qu'il ne sert à rien de faire des réserves.

How Taiwan used memes to fight pandemic rumours

Audrey Tang, Taiwan’s Digital Minister, shares three ingredients behind Taiwan’s successful pandemic response.

govinsider.asia

En termes japonais, cela deviendrait "le rire plutôt que la malice".

Si quelqu'un est intéressé à améliorer le monde avec le rire, j'aimerais qu'il rejoigne la démocratie numérique 2030. Non seulement les ingénieurs, mais aussi les comédiens et les créateurs de vidéos seraient d'une grande aide.