Augmented Deliberation
5-4-拡張型熟議
As we have noted above, one of the most common concerns about social media has been its tendency to entrench existing social divisions, creating "echo chambers" that undermine a sense of shared reality.[^Sunstein] News feed algorithms based on "collaborative filtering" select content that is likely to maximize user engagements, prioritizing like-minded content that reinforces users' existing beliefs and insulates them from diverse information. Despite mixed findings on whether these algorithms truly exacerbate political polarization and hamper deliberations, it is natural to ask how these systems might be redesigned with the opposite intention of “bridging” the crowd. The largest-scale attempt at this is the Community Notes (formerly Birdwatch) system in the X (formerly Twitter) social media platform.
先に述べたように、ソーシャルメディアに関する最も一般的な懸念の1つは、既存の社会的対立を深める傾向があり、「エコーチェンバー」を作り出し、共有現実感を損なうことです[^Sunstein]。 「協調フィルタリング」に基づくニュースフィードアルゴリズムは、ユーザーのエンゲージメントを最大化する可能性のあるコンテンツを選択し、志を同じくするコンテンツを優先することで、ユーザーの既存の信念を強化し、多様な情報からユーザーを隔離します。これらのアルゴリズムが本当に政治的両極化を悪化させ、審議を妨げているかどうかについては、調査結果がまちまちですが、これらのシステムを「橋渡し」することを意図してどのように再設計できるかを問うのは自然なことです。これに対する大規模な試みは、X（旧Twitter）ソーシャルメディアプラットフォームのコミュニティノート（旧Birdwatch）システムです。
コミュニティノートの例を示したスクリーンショット。あるユーザーが、疑わしい理由でクジラは哺乳類ではないと主張しました。その下に、 「閲覧者が文脈を追加しました」という2番目のボックスが表示され、クジラが実際に哺乳類である理由に関する参照情報が含まれていました。
Figure 5-4-A. Community Notes on X correcting a misleading post. Source: Direct capture from application, by fair use.
図5-4-A. 誤解を招く投稿を修正するX上のコミュニティノート。出典：アプリケーションからの直接キャプチャ、フェアユースによる。
Community Notes (CN) is a community-based “fact-checking” platform. CN allows members of the X community to flag potentially misleading posts and provide additional contexts about why the posts could be misleading. CN participants not only submit these notes to the platform; they also rate the notes proposed by others. These ratings are used to assess whether the notes are helpful and are eligible to be publicly released to the X platform as illustrated in Figure A.[^CNButerin]
コミュニティノート（CN）は、コミュニティベースの「ファクトチェック」プラットフォームです。CNを使用すると、Xコミュニティのメンバーは、誤解を招く可能性のある投稿にフラグを立て、投稿が誤解を招く可能性がある理由に関する追加のコンテキストを提供できます。CN参加者は、これらのノートをプラットフォームに提出するだけでなく、他のユーザーが提案したノートも評価します。これらの評価は、ノートが役立つものであるかどうか、図Aに示すようにXプラットフォームで公開される資格があるかどうかを判断するために使用されます。[^CNButerin]
Specifically, raters are placed on a one-dimensional spectrum of opinion, discovered by the statistical analysis from the data but in practice corresponding in most applications to the "left-right" divide in the politics of much of the Western hemisphere. Then (or really simultaneously), the support each note receives from any community member is attributed to a combination of its affinity to their position on this spectrum and some underlying, position-agnostic "objective quality". Notes are then considered to be “helpful” if this objective quality, rather than the overall ratings, is sufficiently high. Instead of prioritizing notes that are supported by a biased, like-minded cluster of users, the system rewards notes that are supported by diverse groups of users, correcting biases driven by political and social fragmentation. This approach leverages alternative social media algorithms to augment human deliberations, prioritizing contents based on the principle of collaboration across diversity, consistent with ⿻, to which hundreds of millions of people are currently exposed each week.[^Baxter] This platform has been shown to encourage the exploration of diverse political information, compared to the previous methods of moderating misinformation [^CNDiversity].
具体的には、評価者は意見の1次元のスペクトル上に配置され、データからの統計分析によって発見されましたが、実際には、多くの西半球の政治における「左右」の対立に対応しています。次に（または実際には同時に）、コミュニティの各メンバーから各ノートが受け取るサポートは、このスペクトル上の彼らの立場への親和性と、基礎となる立場に依存しない「客観的な品質」の組み合わせに帰属されます。ノートは、全体的な評価ではなく、この客観的な品質が十分に高ければ、「役立つ」と見なされます。偏った、志を同じくするユーザーのグループによって支持されるノートを優先するのではなく、このシステムは、多様なユーザーグループによって支持されるノートに報酬を与え、政治的および社会的分断によって引き起こされるバイアスを修正します。このアプローチは、代替ソーシャルメディアアルゴリズムを活用して人間の審議を拡張し、毎週数億人の人が現在触れている⿻の原則に基づいてコンテンツを優先します[^Baxter]。このプラットフォームは、以前の誤情報のモデレーション方法と比較して、多様な政治情報の探求を促進することが示されています[^CNDiversity]。
[^Sunstein]: Cass Sunstein, republic.com (Princeton, NJ: Princeton University Press, 2001) and #republic: Divided Democracy in the Age of Social Media (Princeton, NJ: Princeton University Press, 2018). [^CNButerin]:Vitalik Buterin, "What do I think about Community Notes?" August 16, 2023 at https://vitalik.eth.limo/general/2023/08/16/communitynotes.html. [^Baxter]: Stefan Wojcik, Sophie Hilgard, Nick Judd, Delia Mocanu, Stephen Ragain, M.B. Fallin Hunzaker, Keith Coleman and Jay Baxter, "Birdwatch: Crowd Wisdom and Bridging Algorithms can Inform Understanding and Reduce the Spread of Misinformation", October 27, 2022 at https://arxiv.org/abs/2210.15723.
[^Sunstein]：Cass Sunstein、republic.com（ニュージャージー州プリンストン：プリンストン大学出版局、2001年）および＃republic：Divided Democracy in the Age of Social Media（ニュージャージー州プリンストン：プリンストン大学出版局、2018年）。[^CNButerin]：Vitalik Buterin、「Community Notesについてどう思いますか？」2023年8月16日https://vitalik.eth.limo/general/2023/08/16/communitynotes.html。[^Baxter]：Stefan Wojcik、Sophie Hilgard、Nick Judd、Delia Mocanu、Stephen Ragain、M.B. Fallin Hunzaker、Keith Coleman、Jay Baxter、「Birdwatch：Crowd Wisdom and Bridging Algorithms can Inform Understanding and Reduce the Spread of Misinformation」、2022年10月27日https://arxiv.org/abs/2210.15723。
In this chapter, we explore the considerable power and limitations of human conversations, expressing hope that advances in ⿻ might transform conversations into a more powerful engine for both amplifying and connecting diverse perspectives in ways previously unimaginable.
この章では、人間の会話の相当な力と限界を探り、⿻の進歩が、会話を変革し、これまで想像もできなかった方法で、多様な視点を増幅し、結びつけるためのより強力なエンジンにすることを期待しています。
The oldest, typically richest, and still most common form of conversations is the “in-person meeting.” Idealized portraits of democracy typically refer to discussions involved in these in-person conversations, such as what took place among traditional tribes, in the Athenian marketplaces, or in New England town halls, rather than to votes or media. The recent film, Women Talking, brilliantly captures this spirit in its portrait of a traumatized community coming to a plan for common action through discussion. Groups of friends, clubs, students and teachers, all exchange perspectives, learn, grow, and form a common purpose through in-person talk. In addition to their interactive nature, in-person interactions often carry elements of richer, non-verbal communication, as participants share a physical context and can perceive many non-verbal cues, such as facial expressions, body language, and gestures, from others in the conversation.
最も古く、典型的には最も豊かで、現在も最も一般的な会話の形態は、「対面ミーティング」です。民主主義の理想化された肖像画は、伝統的な部族、アテネの市場、またはニューイングランドのタウンホールで行われたような、これらの対面会話に関わる議論を、投票やメディアではなく、通常参照しています。最近の映画「Women Talking」は、この精神を鮮やかに捉え、討論を通じて共通の行動計画を立てているトラウマを負ったコミュニティを描いています。友人グループ、クラブ、生徒と教師は、すべてが視点を交換し、学び、成長し、対面での会話を通じて共通の目的を形成します。対面的な相互作用の性質に加えて、参加者は物理的な文脈を共有し、表情、ボディランゲージ、ジェスチャーなど、多くの非言語的な合図を会話中の他の参加者から知覚できるため、対面的な相互作用には、より豊かで非言語的なコミュニケーションの要素が含まれることがよくあります。
The next oldest and most common communicative form is writing. While far less interactive, writing enables words to travel over much greater distances and time. Typically conceived as capturing the voice of a single "author", written communications can spread broadly, even globally, with the aid of printing and translation. They can endure for thousands of years, allowing for a "broadcast" of messages much farther than amphitheaters or loudspeakers can achieve.
次に古く、最も一般的なコミュニケーションの形態は、文章です。はるかに対話型ではありませんが、文章は言葉をはるかに遠く離れた距離と時間に届けることができます。通常は単一の「著者」の声を捉えていると認識されていますが、書かれたコミュニケーションは、印刷と翻訳の助けを借りて、広く、グローバルにも広めることができます。それらは数千年も続く可能性があり、円形劇場や拡声器よりもはるかに遠くまでメッセージを「放送」することができます。
This underscores a crucial trade-off: the richness and immediacy of in-person discussions versus the extensive reach and permanence of the written word. Many platforms strive to blend elements of both in-person and written communication by creating a network where in-person conversations serve as links among individuals who are physically and socially proximate, and writing serves as a bridge, connecting people who are geographically distant from each other. The World Cafe [^WorldCafe] or Open Space Technology [^OpenSpaceTechnnology] methods allow dozens or even thousands of people to convene and participate in small groups for dialogue while the written notes from those small clusters are synthesized and distributed broadly. Other examples include constitutional and rule-making processes, book clubs, editorial boards for publications, focus groups, surveys, and other research processes. A typical pattern is that a group deliberates on writing that is then submitted to another deliberative group that results in another document that is then sent back, and so on. One might recognize this in legal tradition via oral and written arguments, as well as the academic peer review process.
これは、重要なトレードオフを強調しています。対面での議論の豊かさと即時性と、書かれた言葉の広範な範囲と永続性です。多くのプラットフォームは、対面での会話が物理的および社会的に近接している個人間のリンクとして機能し、文章が地理的に離れた人々をつなぐ橋として機能するネットワークを作成することにより、対面と文章の両方のコミュニケーションの要素を融合しようと努めています。ワールドカフェ[^WorldCafe]やオープンスペーステクノロジー[^OpenSpaceTechnnology]の方法では、数十人、または数千人もの人が集まり、小さなグループで対話をし、それらの小さなクラスターからの書かれたノートが統合され、広く配布されます。その他の例としては、憲法および規則作成プロセス、ブッククラブ、出版物の編集委員会、フォーカスグループ、調査、その他の調査プロセスなどがあります。典型的なパターンは、グループが文章について審議し、それが別の審議グループに提出され、別の文書が作成され、それが送り返されるというものです。これは、口頭および書面による議論、および学術的な査読プロセスを通じて、法的伝統で認識できるかもしれません。
One of the most fundamental challenges this variety of forms tries to navigate is the trade-off between diversity and bandwidth.[^TradeoffDiversity] On the one hand, when we attempt to engage individuals with vastly diverse perspectives in conversations, the discussions could become less efficient, lengthy, costly, and time-consuming. This often means that they have trouble yielding definite and timely outcomes; resulting in the "analysis paralysis" often bemoaned in corporate settings and the complaint (sometimes attributed to Oscar Wilde) that "socialism takes too many evenings".
このさまざまな形態が試みている最も基本的な課題の1つは、多様性と帯域幅のトレードオフです[^TradeoffDiversity]。一方、非常に多様な視点を持ち合わせた個人を会話に参加させようとすると、議論は効率が悪くなり、長くなり、コストがかかり、時間がかかる可能性があります。これは、多くの場合、明確かつタイムリーな結果を得ることが困難であることを意味します。「分析麻痺」は、企業環境でしばしば嘆かれ、（オスカー・ワイルドに起因するとされる）「社会主義は多くの夜を要する」という不満につながります。
On the other hand, when we attempt to increase the bandwidth and efficiency of conversations, they often struggle to remain inclusive of diverse perspectives. People engaging in the conversation are often geographically dispersed, speak different languages, have different conversational norms, etc. Diversity in conversational styles, cultures and language often impedes mutual understanding. Furthermore, given that it is impossible for everyone to be heard at length, some notion of representation is necessary for conversation to cross broad social diversity, as we will discuss at length below.
一方、会話の帯域幅と効率を高めようとすると、多くの場合、多様な視点を包含することが困難になります。会話に参加する人々は、地理的に分散しており、異なる言語を話し、異なる会話の規範を持っていることがよくあります。会話のスタイル、文化、言語の多様性は、相互理解を妨げる場合があります。さらに、誰もが詳細に話を聞くことができないため、会話が幅広い社会的差異を超えるには、ある種の表現が必要になります。これは、以下で詳しく説明します。
Perhaps the fundamental limit on all these approaches is that while methods of broadcast (allowing many to hear a single statement) have dramatically improved, broad listening (allowing one person to thoughtfully digest a range of perspectives) remains extremely costly and time consuming.[^Trask] As economics Nobel Laureate and computer science pioneer Herbert Simon observed, "(A) wealth of information creates a poverty of attention."[^InformationWealth] The cognitive limits on the amount of attention an individual can give, when trying to focus on diverse perspectives, potentially impose sharp trade-offs between diversity and bandwidth, as well as between richness and inclusion.
おそらく、これらのアプローチすべてに対する根本的な限界は、（多くの者が単一の声明を聞くことを可能にする）放送の方法が劇的に改善された一方で、（1人が幅広い視点を思慮深く消化することを可能にする）広範なリスニングは、依然として非常にコストがかかり、時間がかかることです[^Trask]。経済学のノーベル賞受賞者であり、コンピューターサイエンスの先駆者でもあるハーバート・サイモンが観察したように、「情報の豊富さは、注意力の貧困を生み出します」。[^InformationWealth] 多様な視点を重視しようとするときに個人が払う注意の量に対する認知上の限界は、多様性と帯域幅、豊かさと言及可能性の両方において、潜在的に厳しいトレードオフを課します。
[^Trask]: To our knowledge, this concept of "broad listening" originates with Andrew Trask. However, we have no written reference for it with him and thus want to ensure he is credited here.
[^Trask]：私たちの知る限り、「広範なリスニング」という概念は、アンドリュー・トラスクに由来します。しかし、彼との書面による参照はありませんので、ここで彼に謝意を表したいと考えています。
A number of strategies have, historically and more recently, been used to navigate these challenges at scale. Representatives are chosen for conversations by a variety of methods, including:
これまで、そして最近になって、これらの課題に大規模に対処するために、多くの戦略が使用されてきました。会話の代表者は、さまざまな方法で選ばれています。
Election: A campaign and voting process are used to select representatives, often based on geographic or political party groups. This is used most commonly in politics, unions and churches. It has the advantage of conferring a degree of broad participation, legitimacy and expertise, but is often rigid and expensive.
選挙：選挙運動と投票プロセスを使用して、多くの場合、地理的または政党グループに基づいて代表者を選択します。これは、政治、労働組合、教会で最も一般的に使用されています。これは、広範な参加、正当性、専門知識の一定の程度を与えるという利点がありますが、多くの場合、硬直的で費用がかかります。
Sortition: A set of people are chosen randomly, sometimes with checks or constraints to ensure some sort of balance across groups. This is used most commonly in focus groups, surveys and in citizen deliberative councils [^CDC] on contentious policy issues.[^PublicWisdom] It maintains reasonable legitimacy and flexibility at low cost, but sacrifices (or needs to supplement with) expertise and has limited participation.
抽選：グループ間のある種のバランスを確保するためのチェックまたは制約を伴う場合もあります。これは、フォーカスグループ、調査、そして論争の的になっている政策問題に関する市民審議会議[^CDC]で最も一般的に使用されています[^PublicWisdom]。これは、低コストで妥当な正当性と柔軟性を維持しますが、専門知識を犠牲にする（または補充する必要があります）と、参加が制限されます。
Administration: A set of people are chosen by a bureaucratic assignment procedure, based on "merit" or managerial decisions to represent different relevant perspectives or constituencies. This is used most commonly in business and professional organizations and tends to have relatively high expertise and flexibility at low cost, but has lower legitimacy and participation.
管理：関連するさまざまな視点や構成員を表すために、「能力」または管理上の決定に基づいて、官僚的な割り当て手順によって人々が選ばれます。これは、ビジネスやプロフェッショナルな組織で最も一般的に使用されており、比較的高い専門知識と柔軟性を低コストで実現する傾向がありますが、正当性と参加は低くなります。
Once participants to a deliberation are selected and arrive, facilitating a meaningful interaction is an equally significant challenge and is a science unto itself. Ensuring all participants, whatever their communicative modes and styles, are able to be fully heard requires a range of social technologies and practices, including clear purpose and agenda setting, active inclusion, small group breakouts, careful management of notes (often called the “harvest” of many small group conversations), turn-taking, and encouragement of active listening and often translation and accommodation of differing abilities for auditory and visual communication styles. A very rich field of “dialogue and deliberation” research and methods have been innovated over the last 50-60 years, and the National Coalition for Dialogue and Deliberation is a hub for exploring these.[^NCDD] These tools can help overcome the "tyranny of structurelessness" that often affects attempts at inclusive and democratic governance, where unfair informal norms and dominance hierarchies override intentions for inclusive exchange [^TyrannyStructurelessness].
審議への参加者が選出され、到着したら、意味のある相互作用を促進することは、同様に重要な課題であり、それ自体が科学です。あらゆる参加者が、コミュニケーションの方法やスタイルに関わらず、十分に発言できるようにするには、明確な目的と議題設定、積極的な参加の促進、少人数グループへの分割、メモの綿密な管理（多くの少人数グループの会話の「収穫」と呼ばれることが多い）、順番制、積極的な傾聴の奨励、そして聴覚と視覚のコミュニケーションスタイルの違いへの翻訳と配慮など、さまざまな社会技術と実践が必要です。過去50～60年にわたり、「対話と審議」に関する非常に豊富な研究分野と方法が革新されてきており、National Coalition for Dialogue and Deliberationは、それらを調査するための中心となっています。[^NCDD] これらのツールは、包括的で民主的なガバナンスの試みをしばしば妨げる「構造なきものの専制政治」を克服するのに役立ちます。そこでは、不公平な非公式な規範と支配の階層が、包括的な交流の意図を覆い隠しています[^TyrannyStructurelessness]。
Appropriate use of digital technologies can augment the social technologies for engagement, and the intersection of the two can be fruitful. Physical travel distance used to be a severe impediment to deliberation. However, phone and video conferences have significantly mitigated this challenge, making various formats of distance/virtual meetings increasingly common venues for challenging discussions.
デジタル技術の適切な使用は、エンゲージメントのための社会技術を拡張することができ、その両者の交点は実りあるものとなる可能性があります。かつては、物理的な移動距離が審議への深刻な障害となっていました。しかし、電話会議やビデオ会議によって、この課題は大幅に軽減され、さまざまな形式の遠隔／バーチャル会議が、困難な議論を行うための場としてますます一般的になっています。
The rise of internet-mediated writing, including formats such as email, message boards/usenets, webpages, blogs, and notably social media, has significantly broadened “inclusion” in written communication. These platforms offer unique opportunities for individuals to gain visibility and attention easily through user interactions (e.g., "likes" or "reposts") and algorithmic ranking systems. This paradigm shift has enabled the diffusion of information among the public, a process once firmly controlled by the editorial procedures of legacy media. However, the effectiveness of these platforms in optimally distributing attention remains a topic of debate. A common drawback is the lack of context and thorough moderation in the diffusion of information, contributing to issues like the spread of "misinformation" and "disinformation," and the dominance of well-resourced entities. Moreover, the reliance on algorithmic ranking can inadvertently create "echo chambers," confining users to a narrow stream of content that reflects their existing beliefs, thus limiting their exposure to a diverse range of perspectives and knowledge.
電子メール、メッセージボード／usenet、ウェブページ、ブログ、そして特にソーシャルメディアなどの形式を含む、インターネットを介した書き込みの台頭は、書面によるコミュニケーションにおける「包含」を大幅に広げてきました。これらのプラットフォームは、ユーザー間の相互作用（例：「いいね」や「リポスト」）やアルゴリズムによるランキングシステムを通じて、個人が容易に注目を集めることができる独自の機会を提供します。このパラダイムシフトは、かつては従来のメディアの編集手順によって厳格に管理されていたプロセスである、一般市民の間での情報の普及を可能にしました。しかし、これらのプラットフォームが最適に注意を分配する効果については、議論の余地があります。一般的な欠点としては、情報の拡散における文脈の欠如と徹底的なモデレーションの欠如があり、これにより「誤情報」や「偽情報」の拡散、そしてリソースの豊富なエンティティの優位性といった問題が生じています。さらに、アルゴリズムによるランキングへの依存は、意図せず「エコーチェンバー」を作り出し、ユーザーを既存の信念を反映した狭いコンテンツの流れに閉じ込め、多様な視点や知識への露出を制限する可能性があります。
Recent advancements are progressively shifting the dynamics of the trade-offs, enabling more efficient and networked sharing of rich, in-person deliberations. Simultaneously, these developments are facilitating more thoughtful, balanced, and contextualized moderation within increasingly inclusive forms of social media, thereby enhancing the overall quality and reach of these platforms.
最近の進歩により、トレードオフのダイナミクスが徐々に変化し、豊かで対面的な審議の効率的なネットワーク共有が可能になっています。同時に、これらの進歩は、ますます包括的なソーシャルメディア内で、より思慮深く、バランスの取れた、文脈に沿ったモデレーションを促進し、これらのプラットフォーム全体の質とリーチを向上させています。
As we discussed in The Life of a Digital Democracy chapter above, one of the most successful examples in Taiwan has been the vTaiwan system, which harnesses OSS called Polis.[^polis] This platform shares some features with social media services like X, but builds abstractions of some of the principles of inclusive facilitation into its attention allocation and user experience. As in X, users submit short responses to a prompt. But rather than amplifying or responding to one another's comments, they simply vote these up or down. These votes are then clustered to highlight patterns of common attitudes which form what one might call user perspectives. Representative statements that highlight these differing opinion groups' perspectives are displayed to allow users to understand key points of view, as are the perspectives that "bridge" the divisions: ones that receive assent across the lines that otherwise divide. Responding to this evolving conversation, users can offer additional perspectives that help to further bridge, articulate an existing position or draw out a new opinion group that may not yet be salient.
上記の「デジタル民主主義の生命」の章で述べたように、台湾で最も成功した事例の1つは、Polisと呼ばれるOSSを活用したvTaiwanシステムです。[^polis] このプラットフォームは、Xなどのソーシャルメディアサービスと共通の機能を備えていますが、包括的な促進の原則の一部をその注意の割り当てとユーザーエクスペリエンスに組み込んでいます。Xと同様に、ユーザーはプロンプトに短い回答を提出します。しかし、互いのコメントを増幅したり、応答したりするのではなく、単にそれらを上下に投票します。これらの投票は、共通の態度のパターンを強調するためにクラスタ化され、ユーザーの視点と呼ぶことができるものが形成されます。これらの異なる意見グループの視点を強調する代表的なステートメントが表示され、ユーザーは主要な観点を理解することができ、同様に、分裂を「橋渡し」する視点、つまりそうでなければ分裂する線を越えて同意を得る視点も表示されます。この進化する会話に応えて、ユーザーは、さらに橋渡しをする、既存の立場を明確にする、またはまだ目立っていない新しい意見グループを引き出すのに役立つ追加の視点を提供することができます。
[^polis]: Christopher T. Small, Michael Bjorkegren, Lynette Shaw and Colin Megill, "Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces" Recerca: Revista de Pensament i Analàlisi 26, no. 2 (2021): 1-26.
[^polis]: Christopher T. Small, Michael Bjorkegren, Lynette Shaw and Colin Megill, "Polis: Scaling Deliberation by Mapping High Dimensional Opinion Spaces" Recerca: Revista de Pensament i Analàlisi 26, no. 2 (2021): 1-26.
Polis is a prominent example of what leading ⿻ technologists Aviv Ovadya and Luke Thorburn call "collective response systems" and "bridging systems" and others call "wikisurveys".[^names] Other leading examples include All Our Ideas and Remesh, which have various trade-offs in terms of user experience, degree of open source and other features. What these systems share is that they combine the participatory, open and interactive nature of social media with features that encourage thoughtful listening, an understanding of conversational dynamics and the careful emergence of an understanding of shared views and points of rough consensus. Other systems, like CrowdSmart, focus on using collective intelligence for predictive modeling. Original developed for collaborative investing within a VC firm, CrowdSmart uses a ranking mechanism combined with Bayesian learning to build causal collaboration models to find group priorities and desired outcomes. Such systems have been used to make increasingly consequential policy and design decisions, around topics such as the regulation of ride-hailing applications and the direction of some of the leading generative foundation models (GFMs).[^CPI] In particular, working closely with the ⿻ NGO the Collective Intelligence Project (CIP), Anthropic's recently released Claude3 model, considered by many to be the current state-of-the-art in GFMs, .[^CollectiveConstitution] OpenAI, the other leading provider of GFMs today, also worked closely with CIP to run a grant program on "democratic inputs to AI" that dramatically accelerated research in this area and on the basis of which they are now forming a "Collective Alignment Team" to incorporate these inputs into the steering of OpenAI's models.[^deminputs]
Polisは、著名な技術者であるAviv OvadyaとLuke Thorburnが「集合的応答システム」と「橋渡しシステム」と呼び、他の人が「wikisurveys」と呼ぶものの代表的な例です。[^names] その他の代表的な例としては、All Our IdeasやRemeshなどがあり、ユーザーエクスペリエンス、オープンソースの度合い、その他の機能に関してさまざまなトレードオフがあります。これらのシステムが共有しているのは、ソーシャルメディアの参加型でオープンでインタラクティブな性質と、思慮深い傾聴、会話のダイナミクスの理解、共有された見解と大まかなコンセンサスの理解の慎重な出現を促す機能を組み合わせていることです。CrowdSmartなどの他のシステムは、予測モデリングのための集団知性の活用に重点を置いています。VC企業内での共同投資のために最初に開発されたCrowdSmartは、ベイズ学習と組み合わせたランキングメカニズムを使用して、因果関係のある共同作業モデルを構築し、グループの優先順位と望ましい結果を見つけます。このようなシステムは、ライドシェアリングアプリケーションの規制や主要な生成ファウンデーションモデル（GFM）の方向性など、ますます重要な政策決定や設計決定を行うために使用されてきました。[^CPI] 特に、⿻NGOであるCollective Intelligence Project（CIP）と緊密に協力して、多くの専門家によって現在のGFMの最先端とみなされているAnthropicが最近リリースしたClaude3モデル。[^CollectiveConstitution] 今日のもう1つの主要なGFMプロバイダーであるOpenAIも、CIPと緊密に協力して「AIへの民主的インプット」に関する助成プログラムを実施し、この分野の研究を劇的に加速させ、その基礎に基づいて、これらのインプットをOpenAIのモデルの制御に組み込む「集合的アライメントチーム」を現在形成しています。[^deminputs]
[^names]: Matthew J. Salganik and Karen E. C. Levy, "Wiki Surveys: Open and Quantifiable Social Data Collection" PLOS One 10, no. 5: e0123483 at https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0123483. Aviv Ovadya and Luke Thorburn, "Bridging Systems: Open Problems for Countering Destructive Divisiveness across Ranking, Recommenders, and Governance" (2023) at https://arxiv.org/abs/2301.09976. Aviv Ovadya, "'Generative CI' Through Collective Response Systems" (2023) at https://arxiv.org/pdf/2302.00672.pdf. [^CPI]: Yu-Tang Hsiao, Shu-Yang Lin, Audrey Tang, Darshana Narayanan and Claudina Sarahe, "vTaiwan: An Empirical Study of Open Consultation Process in Taiwan" (2018) at https://osf.io/preprints/socarxiv/xyhft. [^CollectiveConstitution]: Anthropic, "Collective Constitutional AI: Aligning a Language Model with Public Input" October 17, 2023 at https://www.anthropic.com/news/collective-constitutional-ai-aligning-a-language-model-with-public-input. [^deminputs]: Tyna Eloundou and Teddy Lee, "Democratic Inputs to AI Grant Program: Lessons Learned and Implementation Plans", OpenAI Blog, January 16, 2024 at https://openai.com/blog/democratic-inputs-to-ai-grant-program-update
[^names]: Matthew J. Salganik and Karen E. C. Levy, "Wiki Surveys: Open and Quantifiable Social Data Collection" PLOS One 10, no. 5: e0123483 at https://journals.plos.org/plosone/article?id=10.1371/journal.pone.0123483. Aviv Ovadya and Luke Thorburn, "Bridging Systems: Open Problems for Countering Destructive Divisiveness across Ranking, Recommenders, and Governance" (2023) at https://arxiv.org/abs/2301.09976. Aviv Ovadya, "'Generative CI' Through Collective Response Systems" (2023) at https://arxiv.org/pdf/2302.00672.pdf. [^CPI]: Yu-Tang Hsiao, Shu-Yang Lin, Audrey Tang, Darshana Narayanan and Claudina Sarahe, "vTaiwan: An Empirical Study of Open Consultation Process in Taiwan" (2018) at https://osf.io/preprints/socarxiv/xyhft. [^CollectiveConstitution]: Anthropic, "Collective Constitutional AI: Aligning a Language Model with Public Input" October 17, 2023 at https://www.anthropic.com/news/collective-constitutional-ai-aligning-a-language-model-with-public-input. [^deminputs]: Tyna Eloundou and Teddy Lee, "Democratic Inputs to AI Grant Program: Lessons Learned and Implementation Plans", OpenAI Blog, January 16, 2024 at https://openai.com/blog/democratic-inputs-to-ai-grant-program-update
An approach with similar goals but a bit of an opposite starting point centers in-person conversations but aims to improve the way their insights can be networked and shared. A leading example in this category is the approach developed by the Massachusetts Institute of Technology's Center for Constructive Communication in collaboration with their civil society collaborators; called Cortico. This approach and technology platform, dubbed Fora, uses a mixture of the identity and association protocols we discussed in the Freedom part of the book and natural language processing to allow recorded conversations on challenging topics to remain protected and private while surfacing insights that can travel across these conversations and spark further discussion. Community members, with permission from the speakers, lift consequential highlights up to stakeholders, such as government, policy makers or leadership within an organization. Cortico has used this technology to help inform civic processes such as the 2021 election of Michelle Wu as Boston's first Taiwanese American mayor of a major US city.[^RealTalk] The act of soliciting perspectives via deep conversational data in collaboration with under-served communities imbues the effort with a legitimacy absent from faster modes of communication. Related tools, of differing degrees of sophistication, are used by organizations like StoryCorps and Braver Angels and have reached millions of people.
同様の目標を持ちながら、出発点が少し異なるアプローチでは、対面での会話を中心に据えながら、その洞察をどのようにネットワーク化して共有するかを改善することを目指しています。このカテゴリにおける代表的な例は、マサチューセッツ工科大学建設的コミュニケーションセンターが市民社会の協力者と協力して開発したアプローチであり、Corticoと呼ばれています。Foraと呼ばれるこのアプローチとテクノロジー・プラットフォームは、本書の自由に関する部分で説明したアイデンティティと関連付けのプロトコルと自然言語処理を組み合わせて使用することで、困難なトピックに関する記録された会話を保護および非公開に保ちながら、これらの会話全体で移動し、さらなる議論を促す洞察を浮き彫りにします。コミュニティメンバーは、発言者の許可を得て、政府、政策立案者、組織内のリーダーシップなどの利害関係者に重要なハイライトを提供します。Corticoはこのテクノロジーを使用して、2021年のミシェル・ウー氏による主要な米国都市の最初の台湾系アメリカ人市長としてのボストン市長選挙などの市民プロセスに情報を提供しました。[^RealTalk] 十分にサービスを受けていないコミュニティと協力して、深い会話データを通じて視点を要請するという行為は、より高速なコミュニケーション方法には存在しない正当性を努力に吹き込みます。複雑さの度合いが異なる関連ツールは、StoryCorpsやBraver Angelsなどの組織によって使用されており、数百万人にリーチしています。
A third approach attempts to leverage and organize existing media content and exchanges, rather than induce participants to produce new content. This approach is closely allied to academic work on "digital humanities", which harnesses computation to understand and organize human cultural output at scale. Organizations like the Society Library collect available material from government documentation, social media, books, television etc. and organize it for citizens to highlight the contours of debate, including surfacing available facts. This practice is becoming increasingly scalable with some of the tools we describe below by harnessing digital technology to extend the tradition described above by extending the scale of deliberation by networking conversations across different venues together.
3番目のアプローチは、参加者に新しいコンテンツの作成を促すのではなく、既存のメディアコンテンツと交換を活用して整理しようと試みています。このアプローチは、「デジタル人文科学」に関する学術研究と密接に関連しており、計算を活用して、人間の文化的成果を大規模に理解し、整理します。Society Libraryなどの組織は、政府の文書、ソーシャルメディア、書籍、テレビなどから入手可能な資料を収集し、市民が議論の輪郭を強調できるように整理しています。この実践は、以下で説明するツールのいくつかを使用して、デジタルテクノロジーを活用して上記の伝統を拡張することで、さまざまな会場にわたる会話をネットワーク化することによって審議の規模を拡大するにつれて、ますますスケーラブルになっています。
Other more experimental efforts, closely aligned with the techniques discussed in our Immersive Shared Reality chapter above, aim to enhance the depth and quality of remote deliberations, aspiring to emulate the richness and immediacy typically found in in-person interactions. A recent dramatic illustration was a conversation between Meta CEO Mark Zuckerberg and leading podcast host Lex Fridman, where both were in virtual reality able to perceive minute facial expressions of the other. A less dramatic but perhaps more meaningful example was the Portals Policing Project, where cargo containers appeared in cities affected by police violence and allowed an enriched video-based exchange of experiences with such violence across physical and social distance.[^portals] Other promising elements include the increasing ubiquity of high-quality, low-cost and increasingly culturally aware machine translation tools and work to harness similar systems to enable people to synthesize values and find common ground building from natural language statements.
上記「没入型共有現実」の章で論じた手法と密接に関連する、より実験的な取り組みの中には、遠隔地での熟議の深みと質を高め、対面でのやり取りに典型的に見られる豊かさや即時性を模倣することを目指すものがあります。最近の劇的な例としては、メタ社のCEOであるマーク・ザッカーバーグ氏と著名なポッドキャスト司会者であるレックス・フリードマン氏との会話があり、両者は仮想現実の中で互いのわずかな表情の変化を認識することができました。それほど劇的ではありませんが、おそらくより意味のある例としては、「Portals Policing Project」があり、警察の暴力の影響を受けた都市に貨物コンテナが出現し、物理的および社会的な距離を超えて、そのような暴力に関する経験を豊かにしたビデオベースの交換を可能にしました。[^portals] その他有望な要素としては、高品質で低コスト、そしてますます文化的に意識の高い機械翻訳ツールの普及、および同様のシステムを活用して、人々が自然言語の記述に基づいて価値観を統合し、共通の基盤を見つけることを可能にするための取り組みなどがあります。
[^portals]: Amer Bakshi, Tracey Meares and Vesla Weaver, "Portals to Politics: Perspectives on Policing from the Grassroots" (2015) at https://www.law.nyu.edu/sites/default/files/upload_documents/Bakshi%20Meares%20and%20Weaver%20Portals%20to%20Politics%20Study.pdf.
[^portals]: Amer Bakshi, Tracey Meares and Vesla Weaver, "Portals to Politics: Perspectives on Policing from the Grassroots" (2015) at https://www.law.nyu.edu/sites/default/files/upload_documents/Bakshi%20Meares%20and%20Weaver%20Portals%20to%20Politics%20Study.pdf.
Some of these more ambitious experiments begin to point towards a future, especially harnessing language capabilities of GFMs to go much further towards addressing the “broad listening” problem, empowering deliberation of a quality and scale that has henceforth been hard to imagine. The internet enables collaboration at an extreme scale by reducing the possible space of collaborative actions, such as to buy/sell market transactions, and by utilizing a similar reduction in information transmission, i.e. to five star rating systems. An effective increase in our ability to transmit and digest information can result in a corresponding increase in our ability to deliberate on difficult and nuanced social issues.
これらのより野心的な実験の中には、特にGFMsの言語能力を活用して、「幅広い傾聴」の問題にさらに取り組み、これまで想像もできなかった質と規模の熟議を可能にする未来を示唆するものがあります。インターネットは、売買取引などの協調行動の可能性のある空間を縮小し、同様の情報伝達量の削減（例：五つ星評価システム）を利用することにより、極めて大規模な協調を可能にします。情報伝達と消化能力の有効な向上は、困難で微妙な社会問題について熟議する能力の向上につながる可能性があります。
One of the most obvious directions that is a subject of active development is how systems like Polis and Community Notes could be extended with modern graph theory and GFMs. The "Talk to the City" project of the AI Objectives Institute, for example, illustrates how GFMs can be used to replace a list of statements characterizing a group's views with an interactive agent one can talk to and get a sense of the perspective. Soon, it should be possible to go further, with GFMs allowing participants to move beyond limited short statements and simple up-and-down votes. Instead, they will be able to fully express themselves in reaction to the conversation. Meanwhile, the models will condense this conversation, making it legible to others who can then participate. Models could also help look for areas of rough consensus not simply based on common votes but on a natural language understanding of and response to expressed positions.
現在活発に開発されている最も明白な方向性の1つは、PolisやCommunity Notesのようなシステムを、現代のグラフ理論とGFMsでどのように拡張できるかということです。例えば、AI Objectives Instituteの「Talk to the City」プロジェクトは、集団の意見の特徴を表す記述のリストを、対話型のエージェントに置き換えることで、その視点を感じ取ることができるようにする方法を示しています。すぐに、GFMsにより、参加者は限定的な短い記述や単純な賛否投票を超えて、さらに踏み込むことができるようになるでしょう。代わりに、彼らは会話に反応して自分自身を完全に表現できるようになります。一方、モデルはこれらの会話を凝縮し、他の参加者が参加できるようになります。モデルはまた、共通の投票だけでなく、表明された立場に対する自然言語の理解と反応に基づいて、大まかなコンセンサス領域を探すのに役立つ可能性があります。
Such cutting-edge approaches are beginning to appear not only in policy deliberations and community dialogues but also in electoral processes. In the 2024 Tokyo gubernatorial election, candidate Takahiro Anno leveraged Google Slides and GitHub to publish his manifesto[^AnnoManifest], invited voter feedback via X (formerly Twitter), Google Forms, AI-handled incoming call and GitHub, visualized perspectives using Talk to the City[^AnnoTTTCReports], and engaged in policy refinements through GitHub discussions[^AnnoGitHub]. Moreover, by deploying an AI virtual avatar(AI-Anno[^AIAnno]) on YouTube that responded to questions around the clock, he demonstrated a interactive form of “broad listening.” Despite being a relatively unknown candidate, Anno garnered over 150,000 votes, suggesting that the technological potential exemplified by Talk to the City and the participatory, deliberative qualities of platforms like vTaiwan and Polis can extend meaningfully into the electoral sphere[^Anno2024].
このような最先端のアプローチは、政策協議や地域対話だけでなく、選挙プロセスにも現れ始めています。2024年の東京都知事選挙では、候補者の安居タカヒロ氏はGoogleスライドとGitHubを利用してマニフェスト[^AnnoManifest]を公開し、X（旧Twitter）、Googleフォーム、AI対応の着信電話、GitHubを通じて有権者のフィードバックを募り、Talk to the City[^AnnoTTTCReports]を使用して視点を視覚化し、GitHubでの議論[^AnnoGitHub]を通じて政策の改良を行いました。さらに、24時間体制で質問に答えるAIバーチャルアバター（AI-Anno[^AIAnno]）をYouTubeに配置することで、「幅広い傾聴」の対話型形式を実証しました。比較的無名の候補者であったにもかかわらず、安居氏は15万票以上を獲得し、Talk to the CityやvTaiwan、Polisのようなプラットフォームの参加型で熟議的な特性が、選挙圏に意味のある形で拡張できる可能性を示唆しています[^Anno2024]。
[^AnnoManifestSlide]: Manifest on Google Slide and GitHub[^AnnoTTTCReports]: Talk to the City Reports[^AnnoGitHub]: From June 21 to July 6, over 15 days, 232 issues were raised, 104 proposals for change were submitted, and 85 were adopted. [^AIAnno]: During a 16-day period, the AI-Anno answered approximately 7,400 questions. This represents 77% of the submitted inquiries, significantly surpassing the capacity of a single human respondent in a lecture format with one speaker and multiple viewers. [^Anno2024]: 150,000 votes accounted for 2.3%, marking the highest number of votes in history for a candidate in their 30s in the 22 past Tokyo gubernatorial elections. Anno finished fifth rank. Following this gain in recognition, a special election program on October 15 for the House of Representatives used Talk to the City to confront incumbent politicians with citizens' concerns. Starting November 22, he has used Talk to the City for a project to gather public input for Tokyo's long-term plan toward 2050. As of December 13, over 10,000 opinions have been collected, far exceeding the typical response to public comment calls.
[^AnnoManifestSlide]: GoogleスライドとGitHub上のマニフェスト[^AnnoTTTCReports]: Talk to the Cityレポート[^AnnoGitHub]: 6月21日から7月6日までの15日間で、232の課題が提起され、104件の変更提案が提出され、85件が採用されました。[^AIAnno]: 16日間の期間中に、AI-Annoは約7400件の質問に回答しました。これは、提出された問い合わせの77％に相当し、1人の講演者と複数の視聴者がいる講演形式では、単一の回答者の能力をはるかに超えています。[^Anno2024]: 15万票は2.3％を占め、過去22回の東京都知事選挙で30代の候補者が獲得した票数としては過去最高です。安居氏は5位となりました。この知名度向上を受け、10月15日の衆議院議員選挙特別番組では、Talk to the Cityを使って、現職の政治家に市民の懸念を訴えました。11月22日からは、2050年までの東京長期計画に関する国民の意見を集めるプロジェクトにTalk to the Cityを利用しています。12月13日現在、1万件以上の意見が集まり、通常の意見募集に対する反応をはるかに上回っています。
A recent large-scale study highlights the positive impact of such tools in enhancing online democratic discussions. In this experiment, a GFM was used to provide real-time, evidence-based suggestions aimed at refining the quality of political discourse to each participant in the conversation [^LLMDemocracy]. The results indicated a noticeable improvement in the overall quality of conversations, fostering a more democratic, reciprocal exchange of ideas.
最近の広範な研究では、オンラインでの民主的な議論の向上におけるそのようなツールの積極的な影響が強調されています。この実験では、GFMを使用して、会話の参加者一人一人に、政治的議論の質を高めることを目的とした、リアルタイムの証拠に基づく提案を提供しました[^LLMDemocracy]。その結果、会話全体の質が著しく向上し、より民主的で相互的な意見交換が促進されたことが示されました。
While most discussion of bridging systems focuses on building consensus, another powerful role is to support the regeneration of diversity and productive conflict. On the one hand, they help identify different opinion groups in ways that are not a deterministic function of historical assumptions or identities, potentially allowing these groups to find each other and organize around their perspective. On the other hand, by surfacing as representing consensus positions that have diverse support, they also create diverse opposition that can coalesce into a new conflict that does not reinforce existing divisions, potentially allowing organization around that perspective. In short, collective response systems can play just as important a role in mapping and evolving conflict dynamically as helping to navigate it productively.
橋渡しシステムに関する議論のほとんどはコンセンサス構築に焦点を当てていますが、もう1つの強力な役割は、多様性と建設的な対立の再生を支援することです。一方で、歴史的な仮定やアイデンティティの決定論的な関数ではない方法で、異なる意見グループを特定し、これらのグループがお互いを見つけ、それぞれの視点を中心に組織化することを可能にする可能性があります。他方、多様な支持を持つコンセンサスとしての立場を表すことで、既存の分裂を強化しない新しい対立に集約できる多様な反対意見も生み出し、その視点を中心とした組織化を可能にする可能性があります。要するに、集団的な応答システムは、生産的にナビゲートするのに役立つだけでなく、動的に対立をマッピングし、進化させる上で同様に重要な役割を果たすことができます。
In a similar spirit, one can imagine harnessing and advancing elements of the design of Community Notes to reshape social media dynamics more holistically. While the system currently lines up all opinions across the platform on a single spectrum, one can imagine mapping out a range of communities within the platform and harnessing its bridging-based approach not just to prioritize notes, but to prioritize content for attention in the first place. Furthermore, bridging can be applied at many different scales and to diverse intersecting groups, not just to the platform overall. One can imagine a future, as we highlight in our Media chapter below, where different content in a feed is highlighted as bridging and being shared among a range of communities one is a member of (a religious community, a physically local community, a political community), reinforcing context and common knowledge and action in a range of social affiliations.
同様の精神で、Community Notesのデザインの要素を活用し、より包括的にソーシャルメディアのダイナミクスを再構築することを想像することができます。現在のシステムでは、プラットフォーム全体のすべての意見が単一のスペクトル上に並んでいるのに対し、プラットフォーム内のさまざまなコミュニティの範囲をマッピングし、その橋渡しに基づいたアプローチを活用して、メモの優先順位付けだけでなく、まず注意すべきコンテンツの優先順位付けを行うことを想像することができます。さらに、橋渡しは、プラットフォーム全体だけでなく、さまざまな規模で、さまざまな交差するグループに適用できます。下記メディアの章で強調するように、フィード内のさまざまなコンテンツが、自分がメンバーであるさまざまなコミュニティ（宗教コミュニティ、物理的にローカルなコミュニティ、政治コミュニティ）間で橋渡しされ、共有されているものとして強調表示され、さまざまな社会的なつながりの中で文脈、共通の知識、行動を強化する未来を想像することができます。
Such dynamic representations of social life could also dramatically improve how we approach representation and selection of participants for deeper deliberation, such as in person or in rich immersive shared realities. With a richer accounting of relevant social differences, it may be possible to move beyond geography or simple demographics and skills as groups that need to be represented. Instead, it may be possible to increasingly use the full intersectional richness of identity as a basis for considering inclusion and representation. Constituencies defined this way could participate in elections or, instead of sortition, protocols could be devised to choose the maximally diverse committees for a deliberation by, for example, choosing a collection of participants that minimizes how marginalized from representation the most marginalized participants are based on known social connections and affiliations. Such an approach could achieve many of the benefits of sortition, administration and election simultaneously, especially if combined with some of the liquid democracy approaches that we discuss in the voting chapter below.
このような社会生活の動的な表現は、対面または豊かな没入型共有現実など、より深い熟議のための参加者の代表選出方法を劇的に改善する可能性もあります。関連する社会的な違いをより豊富に説明することで、地理的条件や単純な人口統計、スキルなどを代表する必要があるグループとして超えることが可能になるかもしれません。代わりに、アイデンティティの完全な交差点の豊かさを、包含と代表を検討する基礎としてますます使用できるようになる可能性があります。このように定義された選挙区は選挙に参加したり、抽選ではなく、例えば、既知の社会的つながりと所属関係に基づいて、最も周辺化された参加者からの代表がどれだけ周辺化されているかを最小限に抑える参加者集団を選択することにより、熟議のための最大限に多様な委員会を選択するプロトコルを考案したりすることができます。このようなアプローチは、特に下記投票の章で議論する流動的な民主主義のアプローチの一部と組み合わせることで、抽選、管理、選挙の多くの利点を同時に達成できる可能性があります。
It may be possible to, in some cases, even more radically re-imagine the idea of representation. GFMs can be "fine-tuned" to increasingly accurately mimic the ideas and styles of individuals.[^LLMFinetune] One can imagine training a model on the text of a community of people (as in Talk to the City) and thus, rather than representing one person's perspective, it could operate as a fairly direct collective representative, possibly as an aid, complement or check on the discretion of a person intended to represent that group. A striking real-world implementation of this concept is The Synthetic Party (Det Syntetiske Parti) of Denmark. Founded in 2022, it is officially the world’s first political party driven by artificial intelligence,[^xiang] aiming to make generative text-to-text models genuinely democratic rather than merely populist. This synthetic party encapsulates a broad spectrum of often contradictory policies to reflect the diverse and fragmented views of unrepresented voters. The Synthetic Party—a collaboration between the "Computer Lars"-artist group of Asker Bryld Staunæs and Benjamin Asger Krog Møller, and the tech-hub MindFuture—conceptualized this initiative by investigating Denmark’s voter turnout statistics. They identified a persistent 15-20% abstention rate and correlated it with the existence of over 200 micro-parties failing to gain electoral seats.[^Wikipedia] By fine-tuning their GFM on data from these micro-parties, The Synthetic Party algorithmically integrates abstention rates and disenfranchised presence, hypothetically aiming to capture 20% of the voting populace, which approximates 20-36 seats in the 179-seat parliament. This creative approach to data-driven representation brings an almost alien perspective on democratic processes of inclusion and exclusion by probabilistically determining its representative seats based on voter disengagement, thus providing a channel to the discourse of abstentionist constituencies.
表現という概念を、場合によってはさらに抜本的に再考することができるかもしれません。GFMsは、個人のアイデアやスタイルをますます正確に模倣するように「微調整」できます。[^LLMFinetune] コミュニティの人々のテキスト（「Talk to the City」のように）でモデルをトレーニングすることを想像できます。そうすれば、一人の人の視点ではなく、かなり直接的な集団代表として機能し、その集団を代表する予定の人物の裁量に対する支援、補完、またはチェックとして機能する可能性があります。この概念の顕著な現実世界の例としては、デンマークのシンセティック・パーティー（Det Syntetiske Parti）があります。2022年に設立された同党は、正式には世界初のAI駆動の政党であり、[^xiang] 生成型テキスト・ツー・テキスト・モデルを真に民主的なものにし、単なるポピュリズムに留まらないことを目指しています。このシンセティック・パーティーは、代表されていない有権者の多様で断片化された見解を反映するために、しばしば矛盾する幅広い政策を包含しています。シンセティック・パーティーは、「Computer Lars」アーティストグループのAsker Bryld StaunæsとBenjamin Asger Krog Møller、そしてテックハブのMindFutureとのコラボレーションにより、デンマークの投票率統計を調査することでこの構想を考案しました。彼らは、15～20％という持続的な棄権率を特定し、選挙で議席を獲得できなかった200以上の超小政党の存在と関連付けました。[^Wikipedia] 超小政党からのデータで彼らのGFMを微調整することで、シンセティック・パーティーはアルゴリズムによって棄権率と権利を剥奪された存在を統合し、仮説的に有権者の20％（179議席の議会で20～36議席に相当）を獲得することを目指しています。このデータ駆動型表現への創造的なアプローチは、有権者の離脱に基づいて代表的な議席を確率的に決定することで、包含と排除の民主的プロセスにほぼ異質な視点をもたらし、棄権者層への発言の場を提供します。
Most boldly, this idea could in principle extend beyond living human beings as we explore further in our Environment chapter below. In his classic We Have Never Been Modern, philosopher Bruno Latour argued that natural features (like rivers and forests) deserve representation in a "parliament of things."[^latour] The challenge, of course, is how they can speak. GFMs might offer ways to translate scientific measures of the state of these systems into a kind of "Lorax," Dr. Seuss's mythical creature who speaks for the trees and animals that cannot speak for themselves.[^Lorax] Something similar might occur for unborn future generations, as in Kim Stanley Robinson's Ministry for the Future.[^Robinson] For better or worse, such GFM-based representatives might be capable of carrying out deliberations faster than most humans can follow and might then convey summaries to human participants, allowing for deliberations that include individual humans and also allow for other styles, speeds and scales of natural language exchange.
最も大胆なことに、このアイデアは、下記の環境に関する章でさらに詳しく説明するように、原則として生きている人間を超えて拡大する可能性があります。彼の古典的な著作『私たちは近代人では決してなかった』において、哲学者ブルーノ・ラトゥールは、自然の特徴（川や森など）が「物の議会」で代表されるに値すると主張しました。[^latour] もちろん、課題は、それらがどのように発言できるかということです。GFMsは、これらのシステムの状態に関する科学的測定値を、ドクター・スースの神話上の生き物である「ロラックス」（自分自身のために話すことのできない木や動物のために話す）のようなものに変換する方法を提供するかもしれません。[^Lorax] キム・スタンリー・ロビンソンの『未来省』のように、生まれていない未来の世代についても同様のことが起こる可能性があります。[^Robinson] 良いか悪いかは別として、このようなGFMベースの代表者は、ほとんどの人間が追跡できるよりも速く熟議を行うことができ、その後、人間参加者に要約を伝えることができ、個々の個人を含む熟議を可能にし、自然言語交換の他のスタイル、速度、規模も可能にします。
[^xiang]: Chloe Xiang, This Danish Political Party is Led By an AI, Vice: Motherboard, 2022 [^Wikipedia]: The Synthetic Party (Denmark), Wikipedia [^latour]: Bruno Latour, We Have Never Been Modern (Cambridge, MA: Cambridge University Press, 1993). [^Lorax]: Dr. Seuss, The Lorax (New York: Random House, 1971) [^Robinson]: Kim Stanley Robinson, Ministry for the Future (London: Orbit Books, 2020).
[^xiang]: クローエ・シャン、「このデンマークの政党はAIによって率いられている」、Vice：Motherboard、2022年[^Wikipedia]: シンセティック・パーティー（デンマーク）、Wikipedia[^latour]: ブルーノ・ラトゥール、『私たちは近代人では決してなかった』（ケンブリッジ、マサチューセッツ州：ケンブリッジ大学出版局、1993年）。[^Lorax]: ドクター・スース、『ロラックス』（ニューヨーク：ランダムハウス、1971年）[^Robinson]: キム・スタンリー・ロビンソン、『未来省』（ロンドン：オービット・ブックス、2020年）。
The centrality of natural language to human interaction makes it tempting to forget its severe limitations. Words may be richer symbols than numbers, but they are as dust compared to the richness of human sensory experience, not to mention proprioception. "Words cannot capture" far more than they can. Whatever emotional truth it has, it is simply information, so it is theoretically logical that we form far deeper attention in common action and experience than in verbal exchange. Thus, however far deliberation advances, it cannot substitute for the richer forms of collaboration we have already discussed.
人間の相互作用における自然言語の中心的な役割から、その深刻な限界を忘れがちになるのは誘惑的です。言葉は数字よりも豊かなシンボルかもしれませんが、人間の感覚体験、ましてや固有受容の豊かさからすれば、塵に等しいものです。「言葉では捉えられない」ものは、「言葉で捉えられる」ものよりもはるかに多いのです。どんな感情的な真実を持っていようとも、それは単なる情報であり、したがって、共通の行動と経験の中で、私たちは言語交換よりもはるかに深い注意を形成するという理論的な論理は成り立ちます。したがって、熟議がどれだけ進歩しても、すでに説明したより豊かな形の協調に取って代わることはできません。
On the opposite side, talk takes time, even in the sophisticated versions we describe. Many decisions cannot wait for deliberation to fully run its course, especially when great social distance must be bridged, which will generally slow the process. The other approaches to collaboration we discuss below will address the need for timely decisions typical in many cases.
反対に、会話には時間がかかります。たとえ私たちが説明するような洗練されたバージョンであってもです。多くの決定は、熟議が完全に完了するのを待つことはできません。特に、大きな社会的距離を克服しなければならない場合、一般的にプロセスが遅くなります。以下で説明する他の協調アプローチは、多くの場合に見られるタイムリーな意思決定の必要性に対処します。
Many of the ways in which the slow pace of discussion can be overcome (e.g. using LLMs to conduct partially "in silico" deliberation) illustrate another important limitation of conversation: other methods are often more easily made transparent and thus broadly legitimate. The way conversations take inputs and produce outputs are hard to fully describe, whether they occur across people or in machines. In fact, one could consider inputting natural language to a machine and producing a machine dictation as just a more sophisticated, non-linear form of voting. But, in contrast to the administrative and voting rules we will discuss in the next two chapters, it might be very hard to achieve common understanding and legitimacy on how this transformation takes place and thus make it the basis for common action in the way that voting and markets often are. Thus, checks on the way deliberations occur and are observed arising from those other systems are likely to be important for a long time to come.
議論の遅いペースを克服する方法（たとえば、LLMを使用して部分的に「インシリコ」熟議を行う）の多くは、会話のもう1つの重要な限界を示しています。他の方法は、多くの場合、より簡単に透明になり、広く正当化されやすいためです。会話が入力を取得して出力を生成する方法は、それが人々の間で行われるか、機械で行われるかにかかわらず、完全に説明するのが困難です。実際、自然言語を機械に入力し、機械による口述を生成することを、より洗練された非線形の投票形式と考えることができます。しかし、次の2つの章で説明する管理規則や投票規則とは対照的に、この変換が行われる方法についての共通の理解と正当性を達成し、それによって投票や市場のように共通の行動の基礎にすることは非常に困難かもしれません。したがって、そのような他のシステムから生じる熟議の進め方と観察方法に対するチェックは、今後長い間重要であり続けるでしょう。
Furthermore, deliberation in the democratic process is also limited by the ability for humans to practically audit more capable GFMs. GFMs have also been demonstrated to adhere to instructions blindly in a way that may lead them to censor some perspectives.[^LLMCensorship] To be properly ⿻ models mus offer a diverse array of reasonable responses, enabling them to adapt and reflect various perspectives, and ensuring they are accurately calibrated to the nuances of specific populations.
さらに、民主主義のプロセスにおける熟議は、人間がより能力の高いGFMを実際に監査できる能力によっても制限されています。GFMは、一部の視点を検閲する可能性のある方法で、盲目的に指示に従うことも実証されています。[^LLMCensorship] 適切なモデルにするには、多様な妥当な回答を提供し、さまざまな視点を適応させて反映し、特定の人口のニュアンスに正確に調整されていることを確認する必要があります。
Lastly, deliberation is sometimes idealized as helping overcome divisions and reach a true "common will". Yet, while reaching points of overlapping and rough consensus is crucial for common action, so too is the regeneration of diversity and productive conflict to fuel dynamism and ensure productive inputs to future deliberations. Thus, deliberations and their balance with other modes of collaboration must always attend, as we have illustrated above, to this stimulus to productive conflict as much as it does to the resolution of conflict and the mitigation of explosive conflict.
最後に、熟議は、分裂を克服し、真の「共通の意志」に到達することに役立つものとして理想化されることがありますが、共通の行動には、重複する点と大まかなコンセンサスに達することが不可欠ですが、将来の熟議への生産的なインプットを促進するために、多様性と生産的な対立の再生も同様に不可欠です。したがって、熟議とその他の協調モードとのバランスは、上で示したように、常に生産的な対立に対する刺激に、対立の解決と爆発的な対立の緩和と同じくらい注意を払わなければなりません。
[^CNDiversity]: Junsol Kim, Zhao Wang, Haohan Shi, Hsin-Keng Ling, and James Evans, "Individual misinformation tagging reinforces echo chambers; Collective tagging does not," arXiv preprint arXiv:2311.11282 (2023), https://arxiv.org/abs/2311.11282.
[^CNDiversity]: ジュンソル・キム、Zhao Wang、Haohan Shi、Hsin-Keng Ling、James Evans、「個人の誤情報タグ付けはエコーチェンバーを強化する。集団的なタグ付けはそうではない」、「arXiv preprint arXiv:2311.11282 (2023)、https://arxiv.org/abs/2311.11282。
[^TradeoffDiversity]: Sinan Aral, and Marshall Van Alstyne, "The diversity-bandwidth trade-off," American journal of sociology 117, no. 1 (2011): 90-171.
[^TradeoffDiversity]: シナン・アラル、マーシャル・ヴァン・アルスタイネ、「多様性と帯域幅のトレードオフ」、「アメリカ社会学誌」117巻1号（2011年）：90-171。
[^InformationWealth]: Herbert Simon, “Designing Organizations for an Information-Rich World,” In Computers, Communications, and the Public Interest, edited by Martin Greenberger, 38–72. Baltimore: The Johns Hopkins Press, 1971. https://gwern.net/doc/design/1971-simon.pdf.
[^InformationWealth]: ハーバート・サイモン、「情報が豊富な世界のための組織設計」、マーティン・グリーンバーガー編『コンピュータ、コミュニケーション、そして公益』（ボルチモア：ジョンズ・ホプキンス大学出版局、1971年）、38-72頁。https://gwern.net/doc/design/1971-simon.pdf。
[^TyrannyStructurelessness]: Jo Freeman, “The Tyranny of Structurelessness.” WSQ: Women’s Studies Quarterly 41, no. 3-4 (2013): 231–46. https://doi.org/10.1353/wsq.2013.0072.
[^TyrannyStructurelessness]: ジョー・フリーマン、「構造なきものの専制政治」、「WSQ：女性研究季刊誌」41巻3-4号（2013年）：231-46頁。https://doi.org/10.1353/wsq.2013.0072。
[^RealTalk]: Meghna Irons, “Some Bostonians Feel Largely Unheard, With MIT’s ‘Real Talk’ Portal Now Public, Here’s a Chance to Really Listen,” The Boston Globe, October 21, 2021, https://www.bostonglobe.com/2021/10/25/metro/some-bostonians-feel-largely-unheard-with-mits-real-talk-portal-now-public-heres-chance-really-listen/.
[^RealTalk]: メグナ・アイアンズ、「ボストンの住民の中には、大きく無視されていると感じている人もいます。MITの『Real Talk』ポータルが公開されたことで、真に耳を傾ける機会が与えられました」、「ボストン・グローブ」、2021年10月21日、https://www.bostonglobe.com/2021/10/25/metro/some-bostonians-feel-largely-unheard-with-mits-real-talk-portal-now-public-heres-chance-really-listen/。
[^DemocraticInputs]: Wojciech Zaremba, Arka Dhar, Lama Ahmad, Tyna Eloundou, Shibani Santurkar, Sandhini Agarwal, and Jade Leung, “Democratic Inputs to AI,” OpenAI, May 25, 2023, https://openai.com/blog/democratic-inputs-to-ai.
[^DemocraticInputs]: ボイチェフ・ザレムバ、アルカ・ダル、ラマ・アフマド、ティナ・エルウンドゥ、シバニ・サントゥルカル、サンドヒニ・アガルワル、ジェイド・レオン、「AIへの民主的な入力」、OpenAI、2023年5月25日、https://openai.com/blog/democratic-inputs-to-ai。
[^LLMCensorship]: David Glukhov, Ilia Shumailov, Yarin Gal, Nicolas Papernot, and Vardan Papyan, “LLM Censorship: A Machine Learning Challenge or a Computer Security Problem?” arXiv (New York: Cornell University, July 20, 2023): https://arxiv.org/pdf/2307.10719.pdf.
[^LLMCensorship]: デイビッド・グルコフ、イリヤ・シュマイロフ、ヤリン・ガル、ニコラス・ペーパノット、ヴァルダン・パピアン、「LLM検閲：機械学習の課題かコンピュータセキュリティの問題か？」arXiv（ニューヨーク：コーネル大学、2023年7月20日）：https://arxiv.org/pdf/2307.10719.pdf。
[^WorldCafe]: "The World Cafe", The World Café Community Foundation, last modified 2024, (https://theworldcafe.com/)
[^WorldCafe]: 「ワールドカフェ」、ワールドカフェコミュニティ財団、最終更新日2024年、(https://theworldcafe.com/)
[^OpenSpaceTechnnology]: "Open Space", Open Space World, last modified 2024, https://openspaceworld.org/wp2/
[^OpenSpaceTechnnology]: 「オープンスペース」、オープンスペースワールド、最終更新日2024年、https://openspaceworld.org/wp2/
[^LLMDemocracy]: Lisa Argyle, Christopher Bail, Ethan Busby, Joshua Gubler, Thomas Howe, Christopher Rytting, Taylor Sorensen, and David Wingate, "Leveraging AI for democratic discourse: Chat interventions can improve online political conversations at scale." Proceedings of the National Academy of Sciences 120, no. 41 (2023): e2311627120.
[^LLMDemocracy]: リサ・アーガイル、クリストファー・ベイル、イーサン・バスビー、ジョシュア・グブラー、トーマス・ハウ、クリストファー・リティング、テイラー・ソーレンセン、デイビッド・ウィンゲイト、「民主的議論のためのAIの活用：チャット介入は、大規模なオンライン政治的会話の改善に役立つ」、「米国科学アカデミー紀要」120巻41号（2023年）：e2311627120。
[^LLMFinetune]: Junsol Kim, and Byungkyu Lee, "Ai-augmented surveys: Leveraging large language models for opinion prediction in nationally representative surveys," arXiv (New York: Cornell University, November 26, 2023): https://arxiv.org/pdf/2305.09620.pdf.
[^LLMFinetune]: ジュンソル・キム、Byungkyu Lee、「AI拡張調査：全国代表調査における大規模言語モデルを活用した意見予測」、「arXiv（ニューヨーク：コーネル大学、2023年11月26日）：https://arxiv.org/pdf/2305.09620.pdf。
[^PublicWisdom]: Tom Atlee, Empowering Public Wisdom (2012, Berkley, California, Evolver Editions, 2012)
[^PublicWisdom]: トム・アトリー、『公共の知恵の強化』（2012年、カリフォルニア州バークレー、Evolver Editions、2012年）
[^CDC]: A Citizen Deliberative Council (CDC) article on the Co-Intelligence Site https://www.co-intelligence.org/P-CDCs.html
[^CDC]: コ・インテリジェンスサイトの市民熟議会議（CDC）に関する記事https://www.co-intelligence.org/P-CDCs.html
[^NCDD]: Liberating Structures (2024) has 33 methods for people to work together in liberating ways. Participedia is public participation and democratic innovations platform documenting methods and case studies. To get at the heart of the underlying patterns in good and effective processes two communities developed pattern languages 1) The Group Works: A Pattern Language for Brining Meetings and other Gatherings (2022) and 2) The Wise Democracy Pattern Language.
[^NCDD]: 『解放的構造』（2024年）は、人々が解放的な方法で協力するための33の方法を提示しています。Participediaは、方法と事例研究を文書化した、公共参加と民主的イノベーションのプラットフォームです。良好で効果的なプロセスの根本的なパターンを理解するために、2つのコミュニティがパターン言語を開発しました。1）『グループワーク：会議やその他の集まりを活性化するためのパターン言語』（2022年）と2）『賢明な民主主義のパターン言語』。