チームみらいでAIファクトチェッカー(以下チェッカー)を作った。
L'équipe Mirai a créé un vérificateur de faits IA (ci-après, le vérificateur).
偽情報という、世界中の民主主義を揺るがす大きな問題に何とかして対処し、少しでも世界の分断を回避するためだ。
Ceci afin de traiter d'une manière ou d'une autre le problème majeur de la désinformation qui ébranle la démocratie dans le monde entier, et d'éviter, ne serait-ce qu'un peu, la division du monde.
公明党も利用を表明しているように､政党を横断して使うことが可能なツールであり、民主主義の質を向上させる可能性を秘める画期的なツールだと考えている。
Comme le parti Komeito a également exprimé son intention de l'utiliser, il s'agit d'un outil qui peut être utilisé au-delà des partis politiques et nous pensons qu'il s'agit d'un outil révolutionnaire qui a le potentiel d'améliorer la qualité de la démocratie.
以下では、自己紹介、チェッカーを作った背景､チェッカーで何に対処しようとしているのか、技術的な説明､実際に動かしてどうだったか､今後どうしていくか､を書く。
Ci-dessous, je vais écrire une présentation personnelle, le contexte de la création du vérificateur, à quoi nous essayons de remédier avec le vérificateur, une explication technique, ce qui s'est passé lorsque nous l'avons réellement utilisé, et ce que nous allons faire à l'avenir.
僕は上座部仏教徒であり、政党やイデオロギーには興味がない。
Je suis un bouddhiste Theravada et je ne m'intéresse pas aux partis politiques ou aux idéologies.
生きとし生けるものの役に立てれば良い。
Je serais heureux de pouvoir aider tous les êtres vivants.
今回はチームみらいで開発するのが最も世の中の役に立つと思ったので参加しただけで、特定の政党に肩入れするつもりはない。
Cette fois, j'ai participé simplement parce que je pensais que le développement avec l'équipe Mirai serait le plus utile au monde, et je n'ai pas l'intention de favoriser un parti politique particulier.
元々､世界に憎悪や分断が広がっていることを何とかしたいと思っていた｡
À l'origine, je voulais faire quelque chose pour lutter contre la haine et la division qui se répandent dans le monde.
この文章が載っているEvameというサイトも僕が開発した多言語ブログサイトで､ユーザーが書いた記事が自動で多言語に翻訳されるサイトなのだが､このサイトも知識や物語を世界的に共有することで分断を回避できるのではないかと思って開発している｡
Le site Evame, où cet article est publié, est également un site de blog multilingue que j'ai développé, où les articles écrits par les utilisateurs sont automatiquement traduits en plusieurs langues, et je développe ce site en pensant que le partage mondial des connaissances et des histoires peut éviter la division.
そんな中､安野さんからチェッカーの提案があり､たしかにこれは世の中の役に立ちそうだと思った｡
Dans ce contexte, M. Yasuno a proposé le vérificateur, et j'ai pensé qu'il serait certainement utile au monde.
また､以前仏教AIというパーリ三蔵の経蔵を元に回答するAIを作ったことがあったので､その経験を元にOpenAIのVectorStoreを使えばできるとわかっていたので開発を開始した｡
De plus, j'avais déjà créé une IA bouddhiste qui répondait sur la base du canon du Tripitaka Pali, et je savais que je pouvais le faire en utilisant le VectorStore d'OpenAI sur la base de cette expérience, alors j'ai commencé le développement.
想定どおり機能自体は2~3時間でできたが､XのAPIやGCPとの権限周りの認証と､精度を上げるためのプロンプトの調整で公開までは2~3日かかってしまった｡余談だが､チームみらいはマジのスタートアップだったので､最初はこの辺の権限周りも安野さんがやっていた｡
Comme prévu, la fonction elle-même a été créée en 2 à 3 heures, mais il a fallu 2 à 3 jours avant la publication en raison de l'authentification de l'API de X et des autorisations avec GCP, et de l'ajustement des invites pour améliorer la précision. Incidemment, l'équipe Mirai était une véritable startup, donc M. Yasuno s'occupait initialement de ces questions d'autorisations.
SNSによる偽情報拡散の脅威は、既に大きな政治的リスクとなり､｢認知戦｣と呼ばれる新たな戦場になっている。
La menace de la diffusion de fausses informations par les réseaux sociaux est déjà devenue un risque politique majeur et est devenue un nouveau champ de bataille appelé "guerre cognitive".
ルーマニアでは2024年の大統領選挙でインフルエンサーが外国に買収され､結果が不正に操作された疑いが大きいとして､実際に大統領選挙がやり直しになった｡
En Roumanie, lors de l'élection présidentielle de 2024, des influenceurs ont été achetés par des pays étrangers, et il existe de fortes suspicions que les résultats aient été manipulés de manière frauduleuse, de sorte que l'élection présidentielle a en fait été refaite.
アメリカではSNSは憎悪をブーストする燃料となっていると言われ､政策の妥協が困難になり､暴力動員のリスクが持続していると言われている。
Aux États-Unis, on dit que les réseaux sociaux sont un carburant qui alimente la haine, ce qui rend difficile le compromis politique et maintient le risque de mobilisation de la violence.
従来の人力による監視では、24時間体制でSNSをチェックすることは現実的に不可能だった。また､偽情報の流布から訂正までに不正確な情報が拡散する問題も深刻だ。チームみらいのファクトチェッカーは、この課題に即応する､具体的な解決策として開発された。
Avec la surveillance manuelle conventionnelle, il était pratiquement impossible de vérifier les réseaux sociaux 24 heures sur 24. De plus, le problème de la diffusion d'informations inexactes entre la diffusion de fausses informations et leur correction est également grave. Le vérificateur de faits de l'équipe Mirai a été développé comme une solution concrète pour répondre rapidement à ce problème.
このシステムは5つのステップで動く｡
Ce système fonctionne en 5 étapes.
マニフェスト等の信頼できる情報をシステムに登録
Enregistrer des informations fiables telles que les manifestes dans le système
Twitter/X上で特定キーワード(ex. チームみらい､安野たかひろ)の投稿を自動収集
Collecter automatiquement les publications sur Twitter/X avec des mots-clés spécifiques (par exemple, équipe Mirai, Takahiro Yasuno)
OpenAIのGPTとVerctorStoreを使用したRAGで､信頼できる情報と突き合わせて真偽判定
Jugement de la vérité en comparant les informations fiables avec RAG utilisant GPT et VerctorStore d'OpenAI
疑わしい情報を検出した場合、Slackに通知
Notifier Slack en cas de détection d'informations suspectes
人間が判断を行い、必要に応じて対応。
Un humain prend une décision et prend des mesures si nécessaire.
最終的な判断は人間が行うことが重要だ。AIはあくまで大量の情報を選別する役割を果たし、対応は人間が責任を持って行う。
Il est important que la décision finale soit prise par un humain. L'IA joue uniquement le rôle de sélectionner une grande quantité d'informations, et les mesures sont prises de manière responsable par les humains.
オープンソースなので､もっと深く知りたい人は以下からコードを覗いてほしい｡
Comme il s'agit d'un open source, ceux qui veulent en savoir plus peuvent jeter un coup d'œil au code ci-dessous.
専門家の方から「当事者が行うものはファクトチェックとは言わない」との指摘があった｡
Un expert a souligné que "ce qui est fait par les personnes concernées n'est pas appelé vérification des faits".
これはご指摘通りであり､その後名称をエビデンスチェッカーに変更することが決定した(選挙が忙しすぎてまだ諸々の設定変更はできていないが､､､､)｡
Ceci est conforme à ce qui a été souligné, et il a été décidé par la suite de changer le nom en vérificateur de preuves (les changements de paramètres, etc. n'ont pas encore pu être effectués car l'élection est trop chargée,,,,).
チームみらいはまだ知名度が高くなく､有名政党ほど偽情報は流れなかったので､効果は限定的だった｡
L'équipe Mirai n'est pas encore très connue, et il n'y a pas autant de fausses informations que pour les partis politiques célèbres, donc l'effet a été limité.
チームみらいで動かしているチェッカーはあくまでチームみらいのマニフェスト等を元に調査するので､その他政党に対する情報は調査できないし､一般的な情報についても調査できない｡これは何とかすべき課題だと考えている｡
Le vérificateur utilisé par l'équipe Mirai ne peut enquêter que sur la base du manifeste de l'équipe Mirai, etc., donc il ne peut pas enquêter sur les informations concernant d'autres partis politiques, ni sur les informations générales. Nous pensons que c'est un problème qui doit être résolu d'une manière ou d'une autre.
例えば台湾ではCofactsという公民連携ファクトチェック機関があり､AIと人間が協力してINEボット経由で1日3,000件の投稿をAI＋人間がチェックする仕組みがある｡
Par exemple, à Taïwan, il existe une organisation de vérification des faits en coopération avec les citoyens appelée Cofacts, et il existe un mécanisme où l'IA et les humains coopèrent pour vérifier 3 000 publications par jour via le bot INE.
https://news.yahoo.co.jp/expert/articles/ea08db1d092604950430e920febc63682cd1b6b9
https://news.yahoo.co.jp/expert/articles/ea08db1d092604950430e920febc63682cd1b6b9
このような仕組みを日本でもやりたいと考えている｡
Nous voulons mettre en place un tel mécanisme au Japon.
実際に分断を生んでいるのは､明確な偽情報というよりも悪意ある言及ではないかと思った｡
J'ai pensé que ce qui crée réellement la division n'est pas tant la fausse information claire que la référence malveillante.
これは定量的な分析ができているわけではないのではっきりとしたことは言えないが､実際に選挙中の言論を見ていると｢〇〇は無能だ｣とか｢〇〇のせいで日本はだめになった｣というような､明確に偽情報だと判断することはできない悪意のある言葉が多く飛び交っていた｡今後の｢認知戦｣と呼ばれる領域では､このような言説に対抗することも必要だと考えている｡
Je ne peux pas dire cela avec certitude car ce n'est pas une analyse quantitative, mais en regardant réellement les discours pendant l'élection, il y avait beaucoup de mots malveillants qui ne pouvaient pas être jugés comme clairement faux, tels que "〇〇 est incompétent" ou "Le Japon est devenu mauvais à cause de 〇〇". Dans le domaine appelé "guerre cognitive" à l'avenir, nous pensons qu'il est également nécessaire de contrer de tels discours.
｢認知戦｣は､今回の選挙だけではなく､今後の国民生活に大きく影響する課題だ｡
La "guerre cognitive" est un problème qui aura un impact important sur la vie nationale à l'avenir, et pas seulement lors de cette élection.
選挙終了後はデジタル民主主義2030という枠組みでこれに対抗していきたい｡
Après la fin de l'élection, nous voulons lutter contre cela dans le cadre de la démocratie numérique 2030.
具体的にどうしていくかについては白紙だが､台湾の事例を参考にすると､ミームによって悪意に対抗するのは筋がいいのではないかと考えている｡
Je ne sais pas encore ce que nous allons faire concrètement, mais en référence à l'exemple de Taïwan, je pense qu'il serait bon de contrer la malice par des mèmes.
台湾では｢humour over rumour(噂よりユーモア)｣というアプローチで偽情報に対抗していて､例えば「トイレットペーパーがなくなる！」という噂が流れたとき､政府のスー首相が“お尻を振る”漫画を掲載し､お尻は1つ、買い占めても仕方ないというユーモアで偽情報に対抗した｡
À Taïwan, ils utilisent une approche de "l'humour plutôt que la rumeur" pour contrer la fausse information. Par exemple, lorsqu'une rumeur s'est répandue selon laquelle "Il n'y aura plus de papier toilette !", le Premier ministre Su du gouvernement a publié une bande dessinée de lui "secouant ses fesses", en expliquant avec humour qu'il n'y a qu'un seul derrière et qu'il ne sert à rien de faire des réserves.
日本風に言えば｢悪意より笑い｣となるだろうか｡
En termes japonais, cela deviendrait "le rire plutôt que la malice".
もし笑いで世界を良くすることに興味がある人がいればデジタル民主主義2030に参加してほしい｡エンジニアだけじゃなく､お笑い芸人や動画クリエイター等もいてくれると非常に助かる｡
Si quelqu'un est intéressé à améliorer le monde avec le rire, j'aimerais qu'il rejoigne la démocratie numérique 2030. Non seulement les ingénieurs, mais aussi les comédiens et les créateurs de vidéos seraient d'une grande aide.
ファクトチェック結果：❌ NG - 誤り: 「苫米地英人と安野貴博が元々一人の人間であった上に分裂した」という主張は、信頼できるデータソースや事実に基づく証拠が存在せず、誤りです。 - 正しい情報: Show more
苫米地英人と安野貴博は元々一人の人間だったが分裂して二人になった
