5-5-適応型行政

5-5-適応型行政

マイクロソフトのCEO、サティア・ナデラは、 「AI元年」と呼ばれるものの開始を告げるべく、スイスのダボスで開催された世界経済フォーラムで、インドの農村部で地方言語を話す農家が、フィーチャーフォンと大規模言語モデル（LLM）バックエンドを組み合わせることで、公共サービスにアクセスする方法を実演しました。このモデルは音声認識を行い、地方言語から関連するフォームが利用可能な公用語に翻訳し、記入が必要な項目のナビゲーションを支援し、音声で農家にガイダンスを返しました。

このデモンストレーションは、AI4Bharat、Karya、IVR Junctionなどの長年の取り組みと複数の利害関係者との協力に基づいて構築されたもので、これらの団体はインド人を雇用して地方言語に関するデータを収集し、これらのデータを利用してLLMがこれらの言語間で翻訳できるようにし、単純なフィーチャーフォンしかアクセスできない識字能力のないインド人を「音声ベースのインターネット」に接続しました。これらは合わせて、あまり使われていない言語を話す人や都市から遠く離れた場所で暮らす人々が、生活を維持するために必要な公共サービスにアクセスできるようにすることで、インドの文化的多様性を保護し強化する可能性を秘めています。

携帯電話で何かを指さしているインド人農家2人

**

図5-5-A. この取り組みの結果は、すでに現れ始めています。出典：マイクロソフト提供

**

これらのデモンストレーションを基に、インドの企業、民間、政府機関は、これらの機能を大規模に活用するためのサービスを開始しました。これらには、農家の金融支援プログラムへの申請を支援する政府提供のチャットボットや、さまざまな公共サービスに関するガイダンスを提供するWhatsAppベースの無料多言語チャットボットなどがあります。

行政と官僚主義は、世界の大部分を組織する中心的な特徴です。これらには、構造化されたコミュニケーションと、自然言語の慣習よりもはるかに正式で厳格な、この情報のルールに基づいた処理が含まれます。これは、合法性、公平性、手続き上の公平性を達成することを目的とする、感覚的に乏しい経験です。しかし、通常は、投票や市場のより厳格な数学的および機械的な相互作用とは対照的に、ある程度の広範なコミュニケーションを可能にします。したがって、一般的に、参加者間のより深い共通理解が必要であり、慣習が活用され、侵害されないようにする必要があります。行政は、個人や中小企業と政府または大企業との間のほとんどのやり取りの中核を成しています。また、緊密な社会的つながりを持たない政治体内の国民間の中期的な関係の形成においても中心的な役割を果たします。それは、私たちが「行政国家」や「企業官僚主義」と考えるもののほとんど、つまり法律、所有権システム、身元確認、採用と入学、そしてほとんどの機能を支配しています。

官僚主義と行政に対する古典的な批判は、それが気まぐれであり、行政におけるさまざまな裁定的地位にある者に過剰な裁量権を与えていると同時に、個々の事案のニュアンスにも、官僚主義の期待の範囲外の文化的背景にも適応できないほど硬直しているというものです。本章では、特に生成型基礎モデル（GFMs）などのデジタル技術の進歩が、これらのトレードオフのいくつかを軽減し、より多様な人々が生活様式を尊重しながら行政システムで協力することを可能にする方法を示すことを目指しています。

今日の行政

人生における最も重要な岐路の多くは、私たちが人生の大部分を過ごす方法よりもはるかに薄い情報構造（さまざまな種類の「フォーム」）に基づいた行政の結果に左右されます。例としては、次のようなものがあります。

• 身分証明書と渡航書類

• 教育成績証明書、履歴書、その他の「人生の過程」の概要（履歴書/CV）

• 不動産権利書や契約書などの法的書類

• 納税申告書

• 構造化された業績評価

• 医療問診票と評価用紙

• 訴状（ただし、これらは通常、上記のよりも詳細な情報と文脈を含んでいます）

これらの構造化された情報は、市場や投票のように普遍的に透明なルールに頼るには複雑すぎる潜在的な配分や選択の「公平」、 「公正」、 「公平な」評価を可能にします。公平さを実現するために、これらのシステムはしばしば意図的に範囲の情報を取り除きます。これは、ヨーロッパの伝統におけるさまざまな擬人化された表現における正義の盲目性によって劇的に示されているようにです。少なくとも先駆的な社会学者マックス・ウェーバー以来の学者たちが述べてきたように、投票や市場よりも豊富な情報を活用しながら公平性を維持するという2つの目標を達成するために、行政システムは、これらの構造化されたデータをルールと手順に従って評価するために、大規模な「官僚主義」と多くのデジタル処理を採用しています。[^Weber]

[^Weber]：マックス・ウェーバー、『経済と社会』（ニュージャージー州ソマヴィル：ベッドミンスター・プレス、1968年）

したがって、行政は2つの相反する批判に直面しており、それは大まかに、行政が許容する協力の豊かさの限界と、社会的多様性に広がる能力の限界に対応しています。[^Davies]

[^Davies]：今後の本は、これらの病理に関する優れた研究を提供するとともに、以下のリスの例も提供しています。Davies、op.cit.

最初の批判は、「硬直性」の問題と呼ばれるもので、官僚的な規則は多くの詳細を捨て去ることで、特定の事例や地域状況の重要な特徴に鈍感な結果につながるというものです。その例は、ありふれたものから抑圧的でばかげたものまで多岐にわたります。次のような例を考えてみましょう。

• ほとんどの管轄区域では、安全を確保するために自動車の速度制限が設けられています。しかし、安全な運転速度は、道路、環境、その他の関連する状況によって大きく異なります。つまり、速度制限はほとんどの場合、状況に対して高すぎるか低すぎるかのどちらかです。同様の論理は、商品の価格から労働者に認められる休憩時間まで、ほぼすべての行政政策設定に適用されます。

• 世界中のさまざまな文化圏の人々は、高給の仕事を得るために、業績や人生を、行政官僚主義や採用担当マネージャーにとって分かりやすくするために設計された履歴書や成績証明書の形式に適合させる必要があり、業績を正確に反映させるためではありません。

• 1990年代後半、オランダの航空会社は、スキポール空港を通過するための適切な書類が不足していたリス数百匹を生きたまま物理的に破砕しました。特に残忍な例ですが、飛行機に乗ったことのあるほとんどの人は、航空旅行を管理する官僚システムの硬直性を認識しており、そのためこの結果にそれほど驚かないでしょう。

しかし、同時に硬直的で、「冷酷」で「冷淡」であるのと同じくらい、官僚主義に対する同様に一般的で反対の批判は、それがしばしば不可解で、ナビゲーションが困難であり（例えば、フランツ・カフカの古典的な作品『城』を参照）、官僚主義的な手続きが多く、明らかに恣意的な官僚に過剰な裁量権を与えていることです。[^Kafka]これらの問題は、官僚主義のもっとも腹立たしい特徴の1つであり、自由主義者からの絶え間ない苦情の源です。実際、これらは、過剰な裁量権を回避することを目的とした「分散型自律組織」（DAO）や「スマートコントラクト」に関する多くのアイデアを大きく鼓舞してきただけでなく、法律セクターの高いコストにもつながっています。しかし、このような複雑さの一つの重要な理由は、管理しなければならない事例の多様性とニュアンスに対処する必要があることです。したがって、官僚主義が幅広い社会的多様性に広がろうとする際に不正となる主な理由は、この範囲に対応するために、適切に機能するには複雑すぎるようになることです。しかし、このトレードオフをよりエレガントにナビゲートし、より豊かな協調がより広範な多様性に正当に広がることを可能にするデジタル技術が、ますます登場しています。

[^Kafka]：フランツ・カフカ、『城』（ミュンヘン：クルト・ヴォルフ出版社、1926年）

明日の適応型行政

エレガントな複雑さのナビゲーションにおいてこれまでに最も重要なテクノロジーのスイートは、「人工知能」（AI）として一般的に呼ばれているものです。しかし、繰り返し述べてきたように、AIという用語は、特定のツールセットよりも願望をより多く指しており、この場合、関係するツールの詳細は、古い行政官僚主義と生成型基礎モデル（GFMs）によって開かれた可能性を区別する上で重要です。1970年代と1980年代にこの分野を支配していたAIの取り組みは、「古き良き人工知能」（GOFAI）と呼ばれることがあり、多くの点で伝統的な官僚的処理を自動化しようとする試みでした。「専門家」と話すことによって、プログラマーは、複雑な入れ子になったルールのセット（しばしば「決定木」と呼ばれる）で行政プロセスをエンコードしようとします。患者は発熱していますか？もしそうなら、彼女の目は赤くなっていますか？そうでなければ、彼女のリンパ節は炎症を起こしていますか？…このスタイルのAIは大きな障害に遭遇し、1990年代に廃れていきました。「機械学習」、特にニューラルネットワーク、そしてその最も野心的で最近の成果であるGFMsに取って代わられました。

GOFAIとは対照的に、機械学習は、分類、予測、決定に対する統計的および創発的なアプローチです。トップダウンのハードコードされたルールのセットを適用するのではなく、このシステムは、確率的な方法で、そしてしばしば単純な説明がない方法で、例に基づいて分類することを学習します。ニューラルネットワーク、特にGFMsでは、互いに入力を受け取る数十億、場合によっては数兆もの「ノード」が存在することがよくあります。これらのノードは、次に他のノードにトリガーして入力し、すべてが次の単語や画像などの結果を予測するために集まります。このようなプロセスに基づいて、GFMsは、人間がしばしば可能にする柔軟な分類、反応、推論のタイプを、急速に拡張可能で再現性の高い方法で現実的に再現する、著しくかつ急速に改善される能力を示しました。

このような成功により、行政の中核にある根本的なトレードオフをGFMsが改善するという魅力的な見通しが生まれています。GFMsを行政プロセスにおける構成要素として活用することで、はるかに多様で非構造化された範囲のインプットを受け入れ、思慮深く知識のある専門家が行うような方法でそれらに適応し、過度な負担をかけることなく再現性を提供する方法が可能になります。ユーザーは特殊なフォームに記入する必要はありません。

この可能性を探る試みは、特に過去2年間、GFMsへの関心が爆発的に増加するにつれて浮上してきました。

• 導入の短い説明で強調したように、これらのツールは、周辺化されたコミュニティが、そうでなければ発見し、利用することに苦労する可能性のある公共サービスへのアクセスを可能にする上で、大きな可能性を示しています。ソーシャルワーカーの主要な役割は、長年にわたりそのようなナビゲーションを支援することでしたが、公共支出は通常、特に開発途上国では、普遍的なアクセスを確保するにははるかに少なすぎます。そのような実践におけるリーダーは、フィンランド政府のKela-Kelpoプロジェクト、ドイツの連邦年金保険制度、そしてアメリカのBenefits Data Trustです。

• 類似した、しかしさらに野心的な応用として、高品質の伝統的な法的支援を必要とする余裕のない人々に対する法的アドバイスとサービスへのアクセスを改善するためにGFMsを活用することが挙げられます。Legal RobotやDoNotPayなどがその例であり、どちらも、限られた手段を持つ顧客が、高品質の法的サービスを利用できる企業との間の法的アクセスにおける不均衡を軽減することを目指しています。企業は、訴訟の結果だけでなく、それらが作成する判例にも関心があります。[^precedents]

• ジョブ市場は、トップ企業がしばしばエリート大学からのみ採用を行ったり、有名な同業他社での職務経験を潜在能力の主要な指標として使用したりすることで、「リッチ・ゲット・リッチャー」のパターンに陥ることがよくあります。これは、より従来とは異なるキャリアパスを持つ可能性のある多くの人々の機会への道を閉ざし、そしておそらくさらに重要なこととして、そのような機会に関心のあるすべての人々を狭い教育とキャリアパスに追い込むことを強制します。いくつかの新しい人事プラットフォーム（HiredScore、Paradox.ai、Turing、Untappedなど）は、採用担当者が考慮できる候補者の幅と多様性を拡大することを目指しています。主要な課題は、過去におけるそのような多様な候補者の採用事例が限られているため、そのようなアルゴリズムの信頼性と柔軟性が損なわれる可能性があることです。

• 地球上で最も環境的に、そして文化的に豊かな地域は、不十分な地図作成がされているか、先住民よりも環境に注意深く、長年にわたる関係を持っている植民地時代の外部者の視点を与えた方法で地図作成されているかのどちらかです。[^coloniality]さまざまな団体が、デジタルマッピングツール、そして増えつつあるGFMsを活用して、そのような伝統的な権利のパターンを説明し、植民地時代の法的制度に対抗してきました。これらには、Digital Democracy、Rainforest Foundation US、オーストラリア政府の先住民土地海事公社、メキシコのSERVIR Amazoniaなどが含まれます。[^ServirAI]

[^precedents]: Marc Galanter, "Why the 'Haves' Come Out Ahead: Speculations on the Limits of Legal Change", Law and Society Review 9, no. 1 (1974): 95. [^coloniality]:Aníbal Quijano, "Coloniality and Modernity/Rationality", Cultural Studies 21, no. 2-3: 168-178. [^ServirAI]: Jake Ramthun, Biplov Bhandari and Tim Mayer, "How SERVIR Uses AI to Turn Earth Science into Climate Action", SERVIR blog November 21, 2023 at https://servirglobal.net/news/how-servir-uses-ai-turn-earth-science-climate-action.

最後の例が特に示唆するように、「AI」と伝統的に関連付けられていないさまざまなデジタル技術もここで関連しています。これには、マッピング（全地球測位システムと地理情報システム）が含まれます。これは、災害や紛争への対応に役立ったウシャヒディの協調的なマッピング作業において劇的に示されています。[^Ushahidi]また、ID2020などの組織による難民の身分証明書、またはホンジュラスの土地登記簿で使用されているさまざまな事例で示されているように、透明性の高いデータベース（分散型台帳を含む）も含まれます。さらに、GFMsの力は「AI」であることよりも、ネットワーク化され確率的な構造から生じており、これにより、より多様な曖昧なインプットに適応できます。そのような構造は、より適応性の高い官僚制、パケットスイッチングに基づく信頼関係などを含む、人間の関係のネットワークにも存在する可能性があります。

[^Ushahidi]: Ory Okolloh, "Ushahidi, or 'Testimony': Web 2.0 Tools for Crowdsourcing Crisis Information" in Holly Ashley ed., Change at Hand: Web 2.0 for Development (London: International Institute for Environment and Development, 2009).

適応型行政のフロンティア

人間の心、コンピューターシミュレーションされたニューロン、あるいは最も可能性が高く効果的な両者の複雑に絡み合ったネットワークのいずれかに基づいているかどうかにかかわらず、そのようなシステムの可能性は、既存の硬直した行政構造に適合することを主に目的とし、多くの場合、それらの限界を強化することを目的とするこれらの最初の実験をはるかに超える可能性があります。したがって、これらの制約のいくつかから精神を解放し、より変革的な変化に向けて構築することを想像することは価値があります。

最も有望な方向の1つは、Danielle Allen、David Kidd、Ariana Zetlinによって提案されました。[^NextGen]彼らは、伝統的なコースワークと成績を、はるかに多様な範囲の「バッジ」に徐々に置き換えることを提案しています。最初に、具体的な測定可能なスキルを具体的に認識し、その後、保有者が「メゾバッジ」の資格を得るのに役立ちます。マイクロバッジとメゾバッジの適切な組み合わせを保有することに基づいて、人々は最終的に、潜在的な雇用主や教育機関が使用できる認識可能な「マクロバッジ」に昇格します。このプロセスは、下位レベルの入力の組み合わせが、より高いレベルの、したがってより意味のある出力を引き起こすニューラルネットワークで発生するプロセスを直接反映しています。Allenと彼女の共同執筆者は、そのようなシステムは、スキルの粒状性と、標準的な教室での実践との適合性の悪さ、そして多くの生徒、特に歴史的に周辺化された生徒や学問的に意欲のない生徒が、そのような硬直した構造によって機会から除外されることが多いという事実を強調する教育心理学の何年にもわたる研究と、はるかに整合性があると主張しています。

[^NextGen]: Danielle Allen, David Kidd and Ariana Zetlin, "A Call to More Equitable Learning: How Next-Generation Badging Improves Education for All" Edmond and Lil Safra Center for Ethics and Democratic Knowledge Project, August 2022 at https://www.nextgenbadging.org/whitepaper.

GFMsやその他のニューラルネットワークは、そのようなシステムの構造に反映されるだけでなく、雇用者がより複雑な履歴書に対応するのに直接役立つ可能性があります。GFMsは、学生がより多様な学習経路を進むのを助けることもでき、関連するバッジの一部を直接インスタンス化して生成することもできます。さらに、広報技術（ソーシャルネットワーク、検証可能な資格情報、分散型台帳を含む）は、そのようなバッジに関する信頼、信頼性、透明性を達成するために重要になる可能性があります。関連して、しかしおそらくより広範には、身分証明と資格のある空間への入学（クラブ、学校、移住による国家など）の多くの慣習は、そのような範囲の信号がより適応性の高い行政インフラストラクチャによって意味のある方法で処理できる場合、私たちが身分と人格の章で議論したように、将来、より分散された社会関係からの信号のネットワークに依存する可能性があります。

さらに野心的なこととして、将来的には、はるかに多様な法的制度を行政慣行に統合することが可能になるかもしれません。世界中での近代性と植民地主義の到来は、地理や文化によって劇的に異なる範囲の伝統的な慣行を大きく覆しました。これらの慣行の多くは非公式に存続していますが、しばしば遠く離れた国家政府によって課せられた公式の法的構造とは調和していません。これらには、性別や性的関係に関する慣行、贈り物をすることと関連する義務、家族の紛争と義務の解決、土地利用などが含まれます。場合によっては、そのような伝統の廃止が適切であるというコンセンサスが高まっている（たとえば、女性器切除の禁止など）一方で、多くの場合、法律は信念よりも便宜のために伝統的な慣行を「上書き」してきました。たとえば、伝統的な慣行は、遠く離れた人がコミュニティで土地を入手したり、適切に結婚したりする方法を理解することを困難にします。文化慣習の強制された、あるいは時には説得による同質化は、混合とダイナミズムにいくつかの恩恵をもたらしましたが、しばしば古代で多様な文化の知恵に大きな犠牲を払うことになりました。

GFMsがますます多くの言語間で低コストの翻訳を提供できるようになっているのと同様に、文化規範間で同様に迅速な翻訳が可能になることを想像することも可能です。過去には、これらのサービスは、文化人類学者や民族学者によって不完全で高額な費用で提供されてきました。はるかに安価で簡単な翻訳により、それが可能にする外部の相互運用性のために、はるかに幅広い言語が新たな世代にとって実行可能で魅力的なものになる可能性があるのと同じように、はるかに安価で簡単な規範の翻訳により、はるかに幅広い法的および財産慣行が持続可能になる可能性があります。これは、植民地化された人々だけでなく、先進国、特に地方部にあるさまざまな「伝統的な」コミュニティにも課せられる近代性への適合という絶え間ない負担を軽減します。また、次世代のGFMsがこれらの文化的差異によってより柔軟に機能することを求められることから学ぶにつれて、社会の成長と進歩の燃料として残っている多様性を大いに豊かにします。

既存の多様性を維持することに加え、このような未来は、さらなる多様化と種分化を促進する可能性があります。本書で概説した多くの実践は、野心的な未来学者でさえ想像力をかき立てられます。そのため、このようなアイデアの実験に惹かれた人々は、「ネットワーク国家」、「憲章都市」、「海上都市」など、既存の法的管轄区域からの脱出形態を提案しており、明らかに、より広範な公共財と社会秩序の維持との間で様々な緊張が生じています。しかし、機械翻訳によって既存の法的構造に容易に理解され、統合されるのであれば、そのような実験を支援するために、そのような明確な分離は必要ないかもしれません。これにより、新規と伝統的な実践の組み合わせに関する多様な実験が可能になり、広範な社会の違いを超えた協力を維持し、絶えず拡大する無限の組み合わせにおける無限の多様性の繁栄を促進する可能性があります。

適応型行政の限界

今日、その落とし穴と危険性が最も議論されている技術は、GFMs（巨大言語モデル）かもしれません。それはもっともな理由からです。それらの不透明性、「AI」という一般的な用語（そのため、私たちはほとんど避けている）に暗黙的に含まれる自律性の神秘性、それらの作成条件を曖昧にすること、ソースデータと作成者の両方のバイアスを受け継ぐ可能性、誤用の可能性は、すべて大きな危険をもたらします。

行政アプリケーションの文脈では、これらの欠陥の現れは容易にわかります。GFMsはやり取りが容易になるかもしれませんが、官僚主義の不透明さをさらに悪化させ、そのシステムのバイアス、または過去のどのような人間の行動のクラスターが今日の出力を形作っているかをマッピングすることが非常に困難であるため、裁量と人間のバイアスの問題をそれほど軽減しない可能性があります。[^Ethics]このようなモデルは既存のデータで圧倒的にトレーニングされるため、AI研究者が重視するデータの多様性を測定することは、モデルが一般的に高性能であり、私たちが想像する方法で多様性に対処できることを保証するために不可欠です。多様性が探求され、モデルに組み込まれる力の条件は、それらが多様性への機会を提供するか、または適合性を強制するかを決定します。かつての多くの民族誌研究者は、包括的な翻訳の声ではなく、植民地支配の道具となりました。[^colonial]さらに、強力な利益によって悪用された場合、法的体制間の相互運用性は、簡単に規制の裁定に陥り、法的意図と公式規則のギャップを利用する可能性があります。

[^Ethics]：例えば、Safiya Umoja Noble, Algorithms of Oppression: How Search Engines Reinforce Racism (New York: New York University Press, 2018)。Cathy O'Neil, Weapons of Math Destruction: How Big Data Increases Inequality and Threatens Democracy (New York: Broadway Books, 2016)。Ruha Benjamin, Race After Technology: Abolitionist Tools for the New Jim Crow (Cambridge, UK: Polity Press, 2019)。[^colonial]：Talal Asad, Anthropology & the Colonial Encounter (Ithaca, NY: Ithaca Press, 1973)。

幸いなことに、このセクションの他の章で強調している技術の中には、これらの害の少なくとも一部に対処する可能性のあるものがあります。GFMsの論理は、数学の単純な表現に還元しようとすると途方もなく不透明ですが、没入型共有現実やポストシンボリックコミュニケーションなどのより豊かなフォーマットは、より深い接続と理解のモードへのアクセスを提供し、より豊かな裁量の使用を可能にする人間のコミュニティにおける信頼の確立を支援する可能性があります。前の章で強調し、次の章でさらに探求する集団的審議と意思決定の多くの方法は、GFMsのガバナンス、それらが創造する経済的価値の分配、そしてそれらが公共の意志に従って行動するように集団的に誘導される方法を直接的に形作る、力の正当な分配を定義するための自然な用途があります。正当性に根ざしたそのような実践は、より豊かな相互作用モードを通じて提供および探求できるため、これらおよびその他のデジタルシステムは、近代性の代償であったシステムの世界の同時に冷酷で恣意的な性質を克服するための大きな可能性を秘めています。