Adaptive Administration
5-5-適応型行政
To launch what has come be known as the "Year of AI", Microsoft CEO Satya Nadella demonstrated at the World Economic Forum in Davos, Switzerland how a farmer speaking a local language in rural India could use a feature phone paired with a large language model (LLM) back end to access public services. The model understood the voice, translated from the local language to the national language in which the relevant forms were available, helped navigate what needed to be filled out, and returned guidance via voice to the farmer.
マイクロソフトのCEO、サティア・ナデラは、 「AI元年」と呼ばれるものの開始を告げるべく、スイスのダボスで開催された世界経済フォーラムで、インドの農村部で地方言語を話す農家が、フィーチャーフォンと大規模言語モデル（LLM）バックエンドを組み合わせることで、公共サービスにアクセスする方法を実演しました。このモデルは音声認識を行い、地方言語から関連するフォームが利用可能な公用語に翻訳し、記入が必要な項目のナビゲーションを支援し、音声で農家にガイダンスを返しました。
This demonstration built on years of work and multi stakeholder collaborations including AI4Bharat, Karya and IVR Junction, which have employed Indians to gather data on local languages, harnessed these data to empower LLMs to translate across these languages and connected illiterate Indians with access only to simple feature phones to connect to a "voice-based internet". Together these hold the promise of helping preserve and strengthen the cultural diversity of India by ensuring those who speak less prominent languages and live far from cities are still able to access the public services they need to sustain their ways of life.
このデモンストレーションは、AI4Bharat、Karya、IVR Junctionなどの長年の取り組みと複数の利害関係者との協力に基づいて構築されたもので、これらの団体はインド人を雇用して地方言語に関するデータを収集し、これらのデータを利用してLLMがこれらの言語間で翻訳できるようにし、単純なフィーチャーフォンしかアクセスできない識字能力のないインド人を「音声ベースのインターネット」に接続しました。これらは合わせて、あまり使われていない言語を話す人や都市から遠く離れた場所で暮らす人々が、生活を維持するために必要な公共サービスにアクセスできるようにすることで、インドの文化的多様性を保護し強化する可能性を秘めています。
携帯電話で何かを指さしているインド人農家2人
**
**
Figure 5-5-A. The results of this work can be seen taking place already. Source: Courtesy of Microsoft.
図5-5-A. この取り組みの結果は、すでに現れ始めています。出典：マイクロソフト提供
**
**
Building on these demonstrations, Indian business, civil and government entities have launched services to harness these capabilities at scale. These include a government-provided chatbot to support applications to farmer financial support programs and a free WhatsApp-based multilingual chatbot that offers guidance on a variety of public services.
これらのデモンストレーションを基に、インドの企業、民間、政府機関は、これらの機能を大規模に活用するためのサービスを開始しました。これらには、農家の金融支援プログラムへの申請を支援する政府提供のチャットボットや、さまざまな公共サービスに関するガイダンスを提供するWhatsAppベースの無料多言語チャットボットなどがあります。
Administration and bureaucracy are central features organizing much of the world. They involve structured forms of communication and rule-bound processing of this information that is much more formal and stricter than the conventions of natural language. It is a less rich sensory experience that often has the aim of achieving legitimacy, equity, and procedural fairness. Yet they usually allow some form of extended communication in contrast to more strictly mathematical and mechanical interactions of voting or markets. Thus, they generally require deeper common understanding between participants to proceed effectively and ensure that conventions are harnessed and not violated. Administration is at the core of most interactions between individuals or small businesses with governments or large corporations. It is also central in the formation of medium-term relationships between people within a polity without tight social connections. It governs most of what we think of as law, property systems, identification, hiring and admissions and most functions of the "administrative state" and "corporate bureaucracy".
行政と官僚主義は、世界の大部分を組織する中心的な特徴です。これらには、構造化されたコミュニケーションと、自然言語の慣習よりもはるかに正式で厳格な、この情報のルールに基づいた処理が含まれます。これは、合法性、公平性、手続き上の公平性を達成することを目的とする、感覚的に乏しい経験です。しかし、通常は、投票や市場のより厳格な数学的および機械的な相互作用とは対照的に、ある程度の広範なコミュニケーションを可能にします。したがって、一般的に、参加者間のより深い共通理解が必要であり、慣習が活用され、侵害されないようにする必要があります。行政は、個人や中小企業と政府または大企業との間のほとんどのやり取りの中核を成しています。また、緊密な社会的つながりを持たない政治体内の国民間の中期的な関係の形成においても中心的な役割を果たします。それは、私たちが「行政国家」や「企業官僚主義」と考えるもののほとんど、つまり法律、所有権システム、身元確認、採用と入学、そしてほとんどの機能を支配しています。
The classic complaints against bureaucracy and administration are that they are at once capricious, granting excessive discretionary power to those who hold various adjudicatory positions in the administration, and rigid, unable to adapt to either the nuances of an individual case nor to cultural settings outside the scope of the bureaucracy's expectations. In this chapter we aim to illustrate how advances in digital technology, especially generative foundation models, may help alleviate some of these trade-offs, allowing more diverse groups of people to cooperate in administrative systems while respecting their ways of life.
官僚主義と行政に対する古典的な批判は、それが気まぐれであり、行政におけるさまざまな裁定的地位にある者に過剰な裁量権を与えていると同時に、個々の事案のニュアンスにも、官僚主義の期待の範囲外の文化的背景にも適応できないほど硬直しているというものです。本章では、特に生成型基礎モデル（GFMs）などのデジタル技術の進歩が、これらのトレードオフのいくつかを軽減し、より多様な人々が生活様式を尊重しながら行政システムで協力することを可能にする方法を示すことを目指しています。
Many of the most consequential junctures of life turn on administrative outcomes based on information structures (various kinds of "forms") that are much thinner than the way we conduct most of our lives. Examples include:
人生における最も重要な岐路の多くは、私たちが人生の大部分を過ごす方法よりもはるかに薄い情報構造（さまざまな種類の「フォーム」）に基づいた行政の結果に左右されます。例としては、次のようなものがあります。
Identification and travel documents
身分証明書と渡航書類
Educational transcripts, resumés and other summaries of "the course of a life" (curriculum vitae/CV)
教育成績証明書、履歴書、その他の「人生の過程」の概要（履歴書/CV）
Legal documents, including property deeds and contracts.
不動産権利書や契約書などの法的書類
Tax filings.
納税申告書
Structured performance evaluations
構造化された業績評価
Medical intake and evaluation forms
医療問診票と評価用紙
Legal filings (though these usually include more detail and context than the above)
訴状（ただし、これらは通常、上記のよりも詳細な情報と文脈を含んでいます）
These structured forms of information allow for "fair", "just" and "impartial" evaluation of potential allocations or choices that are too complex to rely on universally transparent rules, as markets and votes do. To achieve fairness, these systems often deliberately discard a range of information, as dramatically illustrated by the blindness of justice in various personified representations in European tradition. As scholars since at least pioneering sociologist Max Weber have remarked, to achieve these twin goals of harnessing richer information than votes or markets while maintaining fairness, administrative systems employ large "bureaucracies" and much digital processing to evaluate these structured data according to rules and procedures.[^Weber]
これらの構造化された情報は、市場や投票のように普遍的に透明なルールに頼るには複雑すぎる潜在的な配分や選択の「公平」、 「公正」、 「公平な」評価を可能にします。公平さを実現するために、これらのシステムはしばしば意図的に範囲の情報を取り除きます。これは、ヨーロッパの伝統におけるさまざまな擬人化された表現における正義の盲目性によって劇的に示されているようにです。少なくとも先駆的な社会学者マックス・ウェーバー以来の学者たちが述べてきたように、投票や市場よりも豊富な情報を活用しながら公平性を維持するという2つの目標を達成するために、行政システムは、これらの構造化されたデータをルールと手順に従って評価するために、大規模な「官僚主義」と多くのデジタル処理を採用しています。[^Weber]
[^Weber]: Max Weber, Economy and Society (Somerville, NJ: Bedminster Press, 1968).
[^Weber]：マックス・ウェーバー、『経済と社会』（ニュージャージー州ソマヴィル：ベッドミンスター・プレス、1968年）
Thus, administrations run into two opposing complaints, which roughly correspond to the limits of the richness of the collaboration they allow and the limits of their ability to span social diversity.[^Davies]
したがって、行政は2つの相反する批判に直面しており、それは大まかに、行政が許容する協力の豊かさの限界と、社会的多様性に広がる能力の限界に対応しています。[^Davies]
[^Davies]: A forthcoming book provides an excellent study in these pathologies, as well as providing the squirrel example below. Davies, op. cit.
[^Davies]：今後の本は、これらの病理に関する優れた研究を提供するとともに、以下のリスの例も提供しています。Davies、op.cit.
The first might be called the problem of "rigidity", namely that bureaucratic rules, by throwing away a lot of detail, lead to outcomes that are insensitive to important features of specific cases or local circumstances. Examples range from the mundane to the oppressive and simply ridiculous. Consider:
最初の批判は、「硬直性」の問題と呼ばれるもので、官僚的な規則は多くの詳細を捨て去ることで、特定の事例や地域状況の重要な特徴に鈍感な結果につながるというものです。その例は、ありふれたものから抑圧的でばかげたものまで多岐にわたります。次のような例を考えてみましょう。
Most jurisdictions have speed limits for driving cars to ensure safety. Yet the safe speed for driving varies dramatically with road, environmental and other related conditions. This means that speed limits are, most of the time, either too high or too low for the circumstances. Similar logic applies to almost all administrative policy settings, from the prices of goods to the break time allowed workers.
ほとんどの管轄区域では、安全を確保するために自動車の速度制限が設けられています。しかし、安全な運転速度は、道路、環境、その他の関連する状況によって大きく異なります。つまり、速度制限はほとんどの場合、状況に対して高すぎるか低すぎるかのどちらかです。同様の論理は、商品の価格から労働者に認められる休憩時間まで、ほぼすべての行政政策設定に適用されます。
To obtain most high-paying jobs, people from a diversity of cultures around the world have to fit their accomplishments and lives into the format of CVs and transcripts designed to make them legible to administrative bureaucracies and hiring managers, rather than to reflect their accomplishments accurately.
世界中のさまざまな文化圏の人々は、高給の仕事を得るために、業績や人生を、行政官僚主義や採用担当マネージャーにとって分かりやすくするために設計された履歴書や成績証明書の形式に適合させる必要があり、業績を正確に反映させるためではありません。
In the late 1990s, a Dutch airliner ended up physically shredding hundreds of live squirrels that lacked appropriate paperwork for transiting Schiphol airport. While a particularly gruesome example, almost anyone who has flown is aware of the rigidity of the bureaucratic systems that administer air travel and will thus not be overly surprised by this outcome.
1990年代後半、オランダの航空会社は、スキポール空港を通過するための適切な書類が不足していたリス数百匹を生きたまま物理的に破砕しました。特に残忍な例ですが、飛行機に乗ったことのあるほとんどの人は、航空旅行を管理する官僚システムの硬直性を認識しており、そのためこの結果にそれほど驚かないでしょう。
Yet at the same time as they are rigid, "cold" and "heartless", an equally common and opposite complaint about bureaucracies is their "complexity": that they often are inscrutable, hard to navigate (see, for example, Franz Kafka's classic work The Castle), full of red tape, and give excessive discretion to apparently arbitrary bureaucrats.[^Kafka] These problems are among the most infuriating features of bureaucracies and are a constant source of complaint by libertarians. In fact, they have largely inspired many of the ideas about "distributed autonomous organizations" (DAOs) and "smart contracts" that are intended to escape excessive discretion, as well as leading to the high costs of the legal sector. And yet, clearly a key reason for such complexity is the need to handle the diversity and nuance of the cases they must administer. The leading reason, therefore, that bureaucracies become illegitimate as they try to span a broad range of social diversity is that, to accommodate this range, they have to become too complex to function properly. Increasingly, however, digital technologies are emerging that allow this trade-off to be navigated more elegantly and thus allow richer cooperation to legitimately span a broader range of diversity.
しかし、同時に硬直的で、「冷酷」で「冷淡」であるのと同じくらい、官僚主義に対する同様に一般的で反対の批判は、それがしばしば不可解で、ナビゲーションが困難であり（例えば、フランツ・カフカの古典的な作品『城』を参照）、官僚主義的な手続きが多く、明らかに恣意的な官僚に過剰な裁量権を与えていることです。[^Kafka]これらの問題は、官僚主義のもっとも腹立たしい特徴の1つであり、自由主義者からの絶え間ない苦情の源です。実際、これらは、過剰な裁量権を回避することを目的とした「分散型自律組織」（DAO）や「スマートコントラクト」に関する多くのアイデアを大きく鼓舞してきただけでなく、法律セクターの高いコストにもつながっています。しかし、このような複雑さの一つの重要な理由は、管理しなければならない事例の多様性とニュアンスに対処する必要があることです。したがって、官僚主義が幅広い社会的多様性に広がろうとする際に不正となる主な理由は、この範囲に対応するために、適切に機能するには複雑すぎるようになることです。しかし、このトレードオフをよりエレガントにナビゲートし、より豊かな協調がより広範な多様性に正当に広がることを可能にするデジタル技術が、ますます登場しています。
[^Kafka]: Franz Kafka, The Castle (Munich: Kurt Wolff Verlag, 1926).
[^Kafka]：フランツ・カフカ、『城』（ミュンヘン：クルト・ヴォルフ出版社、1926年）
The most important suite of technologies so far in achieving elegant complexity navigation have been those usually referred to as "artificial intelligence"(AI). However, as we have repeatedly noted, the term AI refers more to an aspiration than to a particular set of tools and in this case, the details of the tools involved are critical to what distinguishes the administrative bureaucracies of old from the potential opened up by generative foundation models (GFMs). The AI work that dominated the field in the 1970s and 1980s, sometimes called "good old-fashioned AI" (GOFAI), was in many ways an attempt to automate traditional bureaucratic processing. Programmers, by talking to "experts", would attempt to encode administrative processes in complicated sets of nested rules (often called "decision trees"): Does the patient have a fever? If yes, are her eyes red; if not are her lymph nodes inflamed?... This style of AI ran into major obstacles and fell from favor during the 1990s. It has since largely been replaced by "machine learning", especially neural networks, and their most ambitious and recent outgrowth, GFMs.
エレガントな複雑さのナビゲーションにおいてこれまでに最も重要なテクノロジーのスイートは、「人工知能」（AI）として一般的に呼ばれているものです。しかし、繰り返し述べてきたように、AIという用語は、特定のツールセットよりも願望をより多く指しており、この場合、関係するツールの詳細は、古い行政官僚主義と生成型基礎モデル（GFMs）によって開かれた可能性を区別する上で重要です。1970年代と1980年代にこの分野を支配していたAIの取り組みは、「古き良き人工知能」（GOFAI）と呼ばれることがあり、多くの点で伝統的な官僚的処理を自動化しようとする試みでした。「専門家」と話すことによって、プログラマーは、複雑な入れ子になったルールのセット（しばしば「決定木」と呼ばれる）で行政プロセスをエンコードしようとします。患者は発熱していますか？もしそうなら、彼女の目は赤くなっていますか？そうでなければ、彼女のリンパ節は炎症を起こしていますか？…このスタイルのAIは大きな障害に遭遇し、1990年代に廃れていきました。「機械学習」、特にニューラルネットワーク、そしてその最も野心的で最近の成果であるGFMsに取って代わられました。
In sharp contrast to GOFAI, machine learning is a statistical and emergent approach to classification, prediction, and decisions. Rather than applying a top-down set of hard-coded rules, the system learns to classify based on examples, in a probabilistic manner and in ways that often have no simple explanation. In neural networks, and especially GFMs, there are often billions or even trillions of "nodes" that receive input from each other. These nodes then triggering and inputting to other nodes, all coalescing to predict an outcome such as the next word or image. Based on such processes, GFMs have shown remarkable and rapidly improving ability to realistically reproduce the type of flexible classification, reaction and reasoning humans are often capable of in a rapidly scalable and largely reproducible way.
GOFAIとは対照的に、機械学習は、分類、予測、決定に対する統計的および創発的なアプローチです。トップダウンのハードコードされたルールのセットを適用するのではなく、このシステムは、確率的な方法で、そしてしばしば単純な説明がない方法で、例に基づいて分類することを学習します。ニューラルネットワーク、特にGFMsでは、互いに入力を受け取る数十億、場合によっては数兆もの「ノード」が存在することがよくあります。これらのノードは、次に他のノードにトリガーして入力し、すべてが次の単語や画像などの結果を予測するために集まります。このようなプロセスに基づいて、GFMsは、人間がしばしば可能にする柔軟な分類、反応、推論のタイプを、急速に拡張可能で再現性の高い方法で現実的に再現する、著しくかつ急速に改善される能力を示しました。
Such successes have created the tantalizing prospect of GFMs ameliorating the fundamental tradeoff at the heart of administration. Harnessing GFMs as components in administrative processes could allow them to take a far more diverse and unstructured range of inputs, adapt to them in the manner that a thoughtful and knowledgeable expert might, and do so in a way that offers a degree of reproducibility without imposing undue burdens on users to fill out specialized forms.
このような成功により、行政の中核にある根本的なトレードオフをGFMsが改善するという魅力的な見通しが生まれています。GFMsを行政プロセスにおける構成要素として活用することで、はるかに多様で非構造化された範囲のインプットを受け入れ、思慮深く知識のある専門家が行うような方法でそれらに適応し、過度な負担をかけることなく再現性を提供する方法が可能になります。ユーザーは特殊なフォームに記入する必要はありません。
Explorations of this possibility have emerged especially in the last two years as interest around GFMs has exploded:
この可能性を探る試みは、特に過去2年間、GFMsへの関心が爆発的に増加するにつれて浮上してきました。
As we highlighted in our introductory vignette, these tools have shown significant promise in allowing marginalized communities access public services that they may otherwise struggle to discover and navigate. A primary role of social workers has long been to support such navigation, but public expenditures have typically been far too small to ensure anywhere close to universal access, especially in developing countries. Leaders in such practices have been the Finnish government's Kela-Kelpo project, Germany's Federal Pension Insurance system and the Benefits Data Trust in the US.
導入の短い説明で強調したように、これらのツールは、周辺化されたコミュニティが、そうでなければ発見し、利用することに苦労する可能性のある公共サービスへのアクセスを可能にする上で、大きな可能性を示しています。ソーシャルワーカーの主要な役割は、長年にわたりそのようなナビゲーションを支援することでしたが、公共支出は通常、特に開発途上国では、普遍的なアクセスを確保するにははるかに少なすぎます。そのような実践におけるリーダーは、フィンランド政府のKela-Kelpoプロジェクト、ドイツの連邦年金保険制度、そしてアメリカのBenefits Data Trustです。
A similar but even more ambitious application is harnessing GFMs to improve access to legal advice and services for those who cannot afford high quality traditional legal support. Examples include Legal Robot and DoNotPay, both of which aim to help customers with limited means reduce the imbalance in legal access with corporate entities that can afford high quality legal services because they care not just about case outcomes but the precedents they create.[^precedents]
類似した、しかしさらに野心的な応用として、高品質の伝統的な法的支援を必要とする余裕のない人々に対する法的アドバイスとサービスへのアクセスを改善するためにGFMsを活用することが挙げられます。Legal RobotやDoNotPayなどがその例であり、どちらも、限られた手段を持つ顧客が、高品質の法的サービスを利用できる企業との間の法的アクセスにおける不均衡を軽減することを目指しています。企業は、訴訟の結果だけでなく、それらが作成する判例にも関心があります。[^precedents]
Job markets often fall into a "rich get richer" pattern as top employers often recruit exclusively from elite universities or use job experience at famous peer firms as a primary indicator of potential, foreclosing paths to opportunity for many who may have less conventional paths and, perhaps more importantly, forcing everyone interested in such opportunities down a narrow educational and career path. Several new human resources platforms (such as HiredScore, Paradox.ai, Turing and Untapped) aim to expand the breadth and diversity of candidates that hiring managers can consider. A leading challenge is that the limited examples of hiring such diverse candidates in the past can undermine the reliability and flexibility of such algorithms.
[^precedents]: Marc Galanter, "Why the 'Haves' Come Out Ahead: Speculations on the Limits of Legal Change", Law and Society Review 9, no. 1 (1974): 95. [^coloniality]:Aníbal Quijano, "Coloniality and Modernity/Rationality", Cultural Studies 21, no. 2-3: 168-178. [^ServirAI]: Jake Ramthun, Biplov Bhandari and Tim Mayer, "How SERVIR Uses AI to Turn Earth Science into Climate Action", SERVIR blog November 21, 2023 at https://servirglobal.net/news/how-servir-uses-ai-turn-earth-science-climate-action.
[^precedents]: Marc Galanter, "Why the 'Haves' Come Out Ahead: Speculations on the Limits of Legal Change", Law and Society Review 9, no. 1 (1974): 95. [^coloniality]:Aníbal Quijano, "Coloniality and Modernity/Rationality", Cultural Studies 21, no. 2-3: 168-178. [^ServirAI]: Jake Ramthun, Biplov Bhandari and Tim Mayer, "How SERVIR Uses AI to Turn Earth Science into Climate Action", SERVIR blog November 21, 2023 at https://servirglobal.net/news/how-servir-uses-ai-turn-earth-science-climate-action.
As the last example especially suggests, a range of digital technologies not traditionally associated with "AI" are also relevant here, including mapping (global positioning and geographical information systems). This is dramatically illustrated in the collaborative mapping work of Ushahidi that has helped in the response to disasters and conflict.[^Ushahidi] Also included are transparent databases (including distributed ledgers) as illustrated in a range of cases where these are being used as substrates for refugee identities by organizations like ID2020 or for land registries in Honduras. Furthermore, the power of GFMs stems less from being "AI" than from their networked and probabilistic structure, which allows them to adapt to a greater diversity and ambiguity of inputs. Such structures can also exist in networks of human relationships, including more adaptive forms of bureaucracy, packet-switching based trust relationships, etc.
最後の例が特に示唆するように、「AI」と伝統的に関連付けられていないさまざまなデジタル技術もここで関連しています。これには、マッピング（全地球測位システムと地理情報システム）が含まれます。これは、災害や紛争への対応に役立ったウシャヒディの協調的なマッピング作業において劇的に示されています。[^Ushahidi]また、ID2020などの組織による難民の身分証明書、またはホンジュラスの土地登記簿で使用されているさまざまな事例で示されているように、透明性の高いデータベース（分散型台帳を含む）も含まれます。さらに、GFMsの力は「AI」であることよりも、ネットワーク化され確率的な構造から生じており、これにより、より多様な曖昧なインプットに適応できます。そのような構造は、より適応性の高い官僚制、パケットスイッチングに基づく信頼関係などを含む、人間の関係のネットワークにも存在する可能性があります。
[^Ushahidi]: Ory Okolloh, "Ushahidi, or 'Testimony': Web 2.0 Tools for Crowdsourcing Crisis Information" in Holly Ashley ed., Change at Hand: Web 2.0 for Development (London: International Institute for Environment and Development, 2009).
[^Ushahidi]: Ory Okolloh, "Ushahidi, or 'Testimony': Web 2.0 Tools for Crowdsourcing Crisis Information" in Holly Ashley ed., Change at Hand: Web 2.0 for Development (London: International Institute for Environment and Development, 2009).
Whether grounded in networks of human minds, computer-simulated neurons or, most likely and effectively, an interweaving mesh of both, the potential for such systems could stretch well beyond these first experiments which largely aim to fit into existing rigid administrative structures and thus, in many cases, to reinforce their limitations. It is thus worth freeing our minds from some of these constraints to imagine building towards more transformative change.
人間の心、コンピューターシミュレーションされたニューロン、あるいは最も可能性が高く効果的な両者の複雑に絡み合ったネットワークのいずれかに基づいているかどうかにかかわらず、そのようなシステムの可能性は、既存の硬直した行政構造に適合することを主に目的とし、多くの場合、それらの限界を強化することを目的とするこれらの最初の実験をはるかに超える可能性があります。したがって、これらの制約のいくつかから精神を解放し、より変革的な変化に向けて構築することを想像することは価値があります。
One of the most promising directions was proposed by Danielle Allen, David Kidd and Ariana Zetlin.[^NextGen] They suggest the gradual replacement of traditional coursework and grades with a far more diverse range of "badges". Starting with concrete recognition of specific measurable skills which then help qualify holders for "mezzo badges". Based on holding an appropriate combination of micro and mezzo badges people eventually ladder up to recognizable "macro badges" that can be used by potential employers or educational institutions. This process directly mirrors that which occurs within a neural network, where combinations of lower-level inputs trigger progressively higher-level and thus more meaningful outputs. Allen and her co-authors argue that such a system would be much more consistent with years of research in educational psychology which emphasizes the granular nature of skills and the poor fit of standard classroom practices to it and the fact that many students, especially historically marginalized and/or academically disinclined ones, often end up excluded from opportunity by such rigid structures.
最も有望な方向の1つは、Danielle Allen、David Kidd、Ariana Zetlinによって提案されました。[^NextGen]彼らは、伝統的なコースワークと成績を、はるかに多様な範囲の「バッジ」に徐々に置き換えることを提案しています。最初に、具体的な測定可能なスキルを具体的に認識し、その後、保有者が「メゾバッジ」の資格を得るのに役立ちます。マイクロバッジとメゾバッジの適切な組み合わせを保有することに基づいて、人々は最終的に、潜在的な雇用主や教育機関が使用できる認識可能な「マクロバッジ」に昇格します。このプロセスは、下位レベルの入力の組み合わせが、より高いレベルの、したがってより意味のある出力を引き起こすニューラルネットワークで発生するプロセスを直接反映しています。Allenと彼女の共同執筆者は、そのようなシステムは、スキルの粒状性と、標準的な教室での実践との適合性の悪さ、そして多くの生徒、特に歴史的に周辺化された生徒や学問的に意欲のない生徒が、そのような硬直した構造によって機会から除外されることが多いという事実を強調する教育心理学の何年にもわたる研究と、はるかに整合性があると主張しています。
[^NextGen]: Danielle Allen, David Kidd and Ariana Zetlin, "A Call to More Equitable Learning: How Next-Generation Badging Improves Education for All" Edmond and Lil Safra Center for Ethics and Democratic Knowledge Project, August 2022 at https://www.nextgenbadging.org/whitepaper.
[^NextGen]: Danielle Allen, David Kidd and Ariana Zetlin, "A Call to More Equitable Learning: How Next-Generation Badging Improves Education for All" Edmond and Lil Safra Center for Ethics and Democratic Knowledge Project, August 2022 at https://www.nextgenbadging.org/whitepaper.
Not only could GFMs and other neural networks be mirrored in the structure of such a system, they might be directly useful to it in allowing employers to cope with the more complex CVs it would create. GFMs could also help students navigate the more diverse learning pathways they would allow and could directly instantiate and produce some of the relevant badges. Furthermore, technologies of publicity (including social networks, verifiable credentials, and distributed ledgers) would likely be critical to achieving trust, credibility and transparency around such badges. Relatedly, but perhaps more broadly, many practices of identification and admission to credentialed spaces (clubs, schools, nations via migration etc.) could rely on a more distributed network of signals from a variety social relations as we discussed in our Identity and Personhood chapter if such a range of signals could be meaningfully processed by more adaptive administrative infrastructure in the future.
GFMsやその他のニューラルネットワークは、そのようなシステムの構造に反映されるだけでなく、雇用者がより複雑な履歴書に対応するのに直接役立つ可能性があります。GFMsは、学生がより多様な学習経路を進むのを助けることもでき、関連するバッジの一部を直接インスタンス化して生成することもできます。さらに、広報技術（ソーシャルネットワーク、検証可能な資格情報、分散型台帳を含む）は、そのようなバッジに関する信頼、信頼性、透明性を達成するために重要になる可能性があります。関連して、しかしおそらくより広範には、身分証明と資格のある空間への入学（クラブ、学校、移住による国家など）の多くの慣習は、そのような範囲の信号がより適応性の高い行政インフラストラクチャによって意味のある方法で処理できる場合、私たちが身分と人格の章で議論したように、将来、より分散された社会関係からの信号のネットワークに依存する可能性があります。
Even more ambitiously, it might be possible to one day integrate far more diverse legal systems into administrative practices. The arrival of modernity and colonialism around the world largely overrode a range of traditional practices that varied dramatically by geography and culture. Many of these practices persist informally but jar with formal legal structures imposed by often distant national governments. These include practices around gender and sexual relationships, obligations associated with gift giving, the resolution of familial conflict and obligations, land use and more. While in some cases there is growing consensus that the abolition of such traditions is appropriate (e.g. prohibitions on female genital marking), in many cases laws have "overwritten" traditional practices more out of convenience than conviction. Traditional practices make it difficult, for example, for someone from far away to understand how to acquire land or appropriately intermarry in a community. The sometimes enforced, sometimes cajoled homogenization of cultural practices has brought some benefits to intermixing and dynamism, but at a great cost to often ancient and diverse wisdom of cultures.
さらに野心的なこととして、将来的には、はるかに多様な法的制度を行政慣行に統合することが可能になるかもしれません。世界中での近代性と植民地主義の到来は、地理や文化によって劇的に異なる範囲の伝統的な慣行を大きく覆しました。これらの慣行の多くは非公式に存続していますが、しばしば遠く離れた国家政府によって課せられた公式の法的構造とは調和していません。これらには、性別や性的関係に関する慣行、贈り物をすることと関連する義務、家族の紛争と義務の解決、土地利用などが含まれます。場合によっては、そのような伝統の廃止が適切であるというコンセンサスが高まっている（たとえば、女性器切除の禁止など）一方で、多くの場合、法律は信念よりも便宜のために伝統的な慣行を「上書き」してきました。たとえば、伝統的な慣行は、遠く離れた人がコミュニティで土地を入手したり、適切に結婚したりする方法を理解することを困難にします。文化慣習の強制された、あるいは時には説得による同質化は、混合とダイナミズムにいくつかの恩恵をもたらしましたが、しばしば古代で多様な文化の知恵に大きな犠牲を払うことになりました。
Just as GFMs are increasingly capable of providing low-cost translation across a growing number of languages, it is just possible to imagine that equally rapid translation across cultural norms may become feasible. These services in the past have been provided imperfectly and at great expense by cultural anthropologists and ethnographers. Just as far cheaper and easier translation may allow a much wider range of languages to remain viable and attractive to new generations because of the external interoperability it would allow, far cheaper and easier translation of norms might make a much broader range of legal and property practices sustainable. This would reduce the constant burden of fitting into modernity imposed not just on colonized but also on a range of "traditional" communities within the developed world, often in rural areas. It would also greatly enrich the diversity that remains as the fuel for social growth and progress, as next generations of GFMs learn from being stretched by these cultural differences to perform ever more flexibly.
GFMsがますます多くの言語間で低コストの翻訳を提供できるようになっているのと同様に、文化規範間で同様に迅速な翻訳が可能になることを想像することも可能です。過去には、これらのサービスは、文化人類学者や民族学者によって不完全で高額な費用で提供されてきました。はるかに安価で簡単な翻訳により、それが可能にする外部の相互運用性のために、はるかに幅広い言語が新たな世代にとって実行可能で魅力的なものになる可能性があるのと同じように、はるかに安価で簡単な規範の翻訳により、はるかに幅広い法的および財産慣行が持続可能になる可能性があります。これは、植民地化された人々だけでなく、先進国、特に地方部にあるさまざまな「伝統的な」コミュニティにも課せられる近代性への適合という絶え間ない負担を軽減します。また、次世代のGFMsがこれらの文化的差異によってより柔軟に機能することを求められることから学ぶにつれて、社会の成長と進歩の燃料として残っている多様性を大いに豊かにします。
Beyond the preservation of existing diversity, such a future could help support its further diversification and speciation. Many of the practices we have sketched in this book challenge the imaginations of even ambitious futurists. This has led those attracted by experiments with these kinds of ideas to propose "network states", "charter cities", "seasteads" and other forms of escape from existing legal jurisdictions that, obviously, run into a range of tensions with preserving broader public goods and social order. Yet such clean separation may not be necessary to support such experiments if they can easily be understood by and integrated into existing legal structures by machine translation. This may empower a diverse range of experimentation with combinations of novel and traditional practices, while maintaining cooperation across broad social differences, and empowering the flourishing of ever expanding, infinite diversity in infinite combinations.
既存の多様性を維持することに加え、このような未来は、さらなる多様化と種分化を促進する可能性があります。本書で概説した多くの実践は、野心的な未来学者でさえ想像力をかき立てられます。そのため、このようなアイデアの実験に惹かれた人々は、「ネットワーク国家」、「憲章都市」、「海上都市」など、既存の法的管轄区域からの脱出形態を提案しており、明らかに、より広範な公共財と社会秩序の維持との間で様々な緊張が生じています。しかし、機械翻訳によって既存の法的構造に容易に理解され、統合されるのであれば、そのような実験を支援するために、そのような明確な分離は必要ないかもしれません。これにより、新規と伝統的な実践の組み合わせに関する多様な実験が可能になり、広範な社会の違いを超えた協力を維持し、絶えず拡大する無限の組み合わせにおける無限の多様性の繁栄を促進する可能性があります。
There may be no technology today whose pitfalls and dangers are more discussed than GFMs and for good reason. Their opacity, mystique of autonomy (implicit in the common "AI" terminology that we mostly therefore avoid) that helps obscure the conditions of their creation, potential to inherit the biases of both their source data and creators, and potential for misuse all pose significant dangers.
今日、その落とし穴と危険性が最も議論されている技術は、GFMs（巨大言語モデル）かもしれません。それはもっともな理由からです。それらの不透明性、「AI」という一般的な用語（そのため、私たちはほとんど避けている）に暗黙的に含まれる自律性の神秘性、それらの作成条件を曖昧にすること、ソースデータと作成者の両方のバイアスを受け継ぐ可能性、誤用の可能性は、すべて大きな危険をもたらします。
In the context of administrative applications, the manifestations of these flaws are easy to see. While GFMs may be less burdensome to interact with, they arguably further exacerbate the opacity of bureaucracy and may not much mitigate the problems of discretion and human bias given that it is often extremely challenging to map the biases of such systems or what clusters of human behaviors in the past shape their outputs today.[^Ethics] Because such models overwhelmingly train on existing data, measuring the data diversity that AI researchers value, but struggle to define, is crucial to ensuring the models are generally performant and able to cope with diversity in the way we imagine. The terms of power on which such diversity is explored and incorporated into the models will shape how they offer opportunity for diversity or force conformity. Many of the ethnographers of old became tools of colonial subjugation rather than voices of inclusive translation.[^colonial] Furthermore, if abused by powerful interests, interoperability across legal regimes can easily slip into regulatory arbitrage, taking advantage of the gap between legal intent and formal rules.
行政アプリケーションの文脈では、これらの欠陥の現れは容易にわかります。GFMsはやり取りが容易になるかもしれませんが、官僚主義の不透明さをさらに悪化させ、そのシステムのバイアス、または過去のどのような人間の行動のクラスターが今日の出力を形作っているかをマッピングすることが非常に困難であるため、裁量と人間のバイアスの問題をそれほど軽減しない可能性があります。[^Ethics]このようなモデルは既存のデータで圧倒的にトレーニングされるため、AI研究者が重視するデータの多様性を測定することは、モデルが一般的に高性能であり、私たちが想像する方法で多様性に対処できることを保証するために不可欠です。多様性が探求され、モデルに組み込まれる力の条件は、それらが多様性への機会を提供するか、または適合性を強制するかを決定します。かつての多くの民族誌研究者は、包括的な翻訳の声ではなく、植民地支配の道具となりました。[^colonial]さらに、強力な利益によって悪用された場合、法的体制間の相互運用性は、簡単に規制の裁定に陥り、法的意図と公式規則のギャップを利用する可能性があります。
[^Ethics]: See for example Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York: New York University Press, 2018). Cathy O'Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (New York: Broadway Books, 2016). Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Crow (Cambridge, UK: Polity Press, 2019). [^colonial]: Talal Asad, Anthropology & the Colonial Encounter (Ithaca, NY: Ithaca Press, 1973).
[^Ethics]：例えば、Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York: New York University Press, 2018)。Cathy O'Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (New York: Broadway Books, 2016)。Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Crow (Cambridge, UK: Polity Press, 2019)。[^colonial]：Talal Asad, Anthropology & the Colonial Encounter (Ithaca, NY: Ithaca Press, 1973)。
Luckily, some of the technologies we highlight in other chapters of this section have the potential to address at least partially some of these harms. While GFMs logic is hopelessly opaque when we try to reduce it to the simplistic representations of mathematics, richer formats like immersive shared reality or post-symbolic communication may give access to deeper modes of connection and understanding that aid in the establishment of the trust in human communities that enables the use of richer discretion. Many of the methods of collective deliberation and decision-making we highlighted in the previous chapter and further explore in the next have natural applications to defining legitimate distributions of power that can directly shape the governance of GFMs, the distribution of the economic value they create, and the ways they are collectively steered to behave in line with public wills. Grounded in legitimacy such practices can provide and explore through richer interaction modes, these and other digital systems hold significant promise of overcoming the simultaneously cold and arbitrary nature of the world of systems that has been the price of modernity.
幸いなことに、このセクションの他の章で強調している技術の中には、これらの害の少なくとも一部に対処する可能性のあるものがあります。GFMsの論理は、数学の単純な表現に還元しようとすると途方もなく不透明ですが、没入型共有現実やポストシンボリックコミュニケーションなどのより豊かなフォーマットは、より深い接続と理解のモードへのアクセスを提供し、より豊かな裁量の使用を可能にする人間のコミュニティにおける信頼の確立を支援する可能性があります。前の章で強調し、次の章でさらに探求する集団的審議と意思決定の多くの方法は、GFMsのガバナンス、それらが創造する経済的価値の分配、そしてそれらが公共の意志に従って行動するように集団的に誘導される方法を直接的に形作る、力の正当な分配を定義するための自然な用途があります。正当性に根ざしたそのような実践は、より豊かな相互作用モードを通じて提供および探求できるため、これらおよびその他のデジタルシステムは、近代性の代償であったシステムの世界の同時に冷酷で恣意的な性質を克服するための大きな可能性を秘めています。
ジョブ市場は、トップ企業がしばしばエリート大学からのみ採用を行ったり、有名な同業他社での職務経験を潜在能力の主要な指標として使用したりすることで、「リッチ・ゲット・リッチャー」のパターンに陥ることがよくあります。これは、より従来とは異なるキャリアパスを持つ可能性のある多くの人々の機会への道を閉ざし、そしておそらくさらに重要なこととして、そのような機会に関心のあるすべての人々を狭い教育とキャリアパスに追い込むことを強制します。いくつかの新しい人事プラットフォーム（HiredScore、Paradox.ai、Turing、Untappedなど）は、採用担当者が考慮できる候補者の幅と多様性を拡大することを目指しています。主要な課題は、過去におけるそのような多様な候補者の採用事例が限られているため、そのようなアルゴリズムの信頼性と柔軟性が損なわれる可能性があることです。
Many of the most environmentally and culturally rich regions of the earth are either poorly mapped or mapped in ways that impose the perspective of colonial outsiders, rather than indigenous peoples who are more attentive to the environment and have long-existing relationships.[^coloniality] A variety of groups have harnessed digital mapping tools and increasingly GFMs to describe such traditional patterns of rights and assert them against colonial legal systems. These include Digital Democracy, the Rainforest Foundation US, the Australian Government's Indigenous Land and Sea Corporation and México's SERVIR Amazonia.[^ServirAI]
地球上で最も環境的に、そして文化的に豊かな地域は、不十分な地図作成がされているか、先住民よりも環境に注意深く、長年にわたる関係を持っている植民地時代の外部者の視点を与えた方法で地図作成されているかのどちらかです。[^coloniality]さまざまな団体が、デジタルマッピングツール、そして増えつつあるGFMsを活用して、そのような伝統的な権利のパターンを説明し、植民地時代の法的制度に対抗してきました。これらには、Digital Democracy、Rainforest Foundation US、オーストラリア政府の先住民土地海事公社、メキシコのSERVIR Amazoniaなどが含まれます。[^ServirAI]