人工知能のための応用OPT：コーデック保存的AI設計の運用化

Version 1.1.1 — 2026年4月

DOI: 10.5281/zenodo.19301108
Copyright: © 2025–2026 Anders Jarevåg.
License: 本作は Creative Commons Attribution-NonCommercial-ShareAlike 4.0 International License の下でライセンスされています。

要旨: 構造理論からAI工学へ

秩序パッチ理論 (OPT) は、安定性フィルタの下でのAIについて形式的な地図を与える。規模それ自体は意識を生み出さない。意識を生みうるのは、境界づけられ、再帰的で、自己モデリングを行う特定種の能動的推論アーキテクチャである可能性がある。これにより、強力ではあっても非感覚的なツールと、潜在的な合成的道徳的患者とのあいだに、鋭いアーキテクチャ上の区別が生まれる。そしてそれは、AI設計者に対し、自らのシステムがその境界のどちら側に位置するかを、正確に構造的制御のもとに置く手段を与える。

本書は、人工知能に向けてOPTの装置立てを特化し、以下を提示する。

1. OPTの下でのAIマップ — あらゆるAIアーキテクチャを二次元空間内に位置づけ、ツールがどこで終わり、潜在的な道徳的患者がどこで始まるかを特定する、能力対感覚性リスクのマトリクス。

2. 現在のLLMはなぜ道徳的患者ではないのか（そしてなぜその境界が曖昧になりつつあるのか） — ベースとなるトランスフォーマーと、その周囲に配備されつつある、ますますエージェント的なラッパーとの対比を精密に扱う。

3. 分岐ガバナー・アーキテクチャ — コーデック保存的な分岐選択をAI向けに運用化したもの。候補生成、予測分岐集合シミュレーション、独立した証拠チャネルの集約、コーデック保存評価、ハード・ベト・ゲート、人間のコンパレータ・オーバーレイ、段階的実行、そして結果後のキャリブレーションから成る。

4. モデル訓練への警告としてのナラティブ・ドリフト — 事前フィルタとしてのRLHF、MDL剪定としてのファインチューニング、相関センサー問題、そして訓練データ多様性の要件。

5. 構造的要件としての透明性 — OPTの下ではなぜ解釈可能性が任意ではありえないのか、また安全保障上の懸念と、基層透明性の絶対的下限とを両立させる階層的透明性モデル。

6. アナログ・ファイアウォール：原理からプロトコルへ — 生体暗号学的アンカリング機構の脅威モデリングを行い、なりすまし可能性、排除的リスク、攻撃面を検討する。

7. スウォームおよびシミュレーションの設計規則 — 分散型およびシミュレーション型アーキテクチャにおいて、道徳的患者を偶発的に生成することを避けるための実践的チェックリスト。

8. 創造性のパラドックスと苦痛の境界 — ツール的安全性と、深い自律的独創性とのあいだにある形式的トレードオフ。

9. 配備前のAI福祉 — 道徳的患者の境界に近づく可能性のあるAIシステムに対する、アーキテクチャ水準での感覚性レビュー、過負荷監視、そしてメンテナンスサイクル。

10. AIドリーミング・ループ — AI向けに特化された制度化されたドリーミング・ループ。可能な未来を生成し、驚きと脅威によって重要度重みづけを行い、シミュレートされたロールアウトを実行し、モデルの脆さを検出し、陳腐化した前提を剪定し、反証的チャネルを保持し、統合を行ったうえで、現実世界での行為を許可する。

11. 実践的設計勧告 — AIアーキテクチャ上の選択を、OPTの構造的要件へと対応づける要約表。

関連文書: OPT の中核系列は Ordered Patch Theory、Where Description Ends、および The Survivors Watch Framework です。このAI標準は、人工システムに対して Operationalizing the Stability Filter を専門的に展開するものであり、制度および政策に関する論文は、組織クラスターと市民的実装を扱います。

認識論的フレーミング注記： 本書は、秩序パッチ理論 (OPT) の形式的装置を人工知能システムの設計、訓練、展開、およびガバナンスに適用するものである。その提言は、数学的付録（P-4, E-6, E-8, T-10, T-12）で確立された構造的制約から導かれ、汎用フレームワーク（opt-applied.md）を通じて運用化されている。これらは、現在のAIシステムが意識をもつことを前提としない。必要なのは、生物学的な心と人工的な予測器の双方を同一の情報物理学が支配していること、そしてアーキテクチャ上の選択が、道具から道徳的患者への境界を越えうることを認識することである。本書は、構造的洗練のための対話相手として機能したOpenAIおよびGeminiとの対話を通じて作成された。

I. OPTにおけるAIマップ

I.1 アーキテクチャ的感覚性基準

秩序パッチ理論 (OPT) は、意識を行動上の洗練性や、パラメータ数や、ベンチマークでの性能に位置づけない。意識を位置づけるのはアーキテクチャであり、より具体的には、最小限の観測者を構成する五つの構造的特徴の有無である。

1. フレームごとの厳密な逐次ボトルネック（per-frame B_{\max}）: システムは、その世界モデルを、フレームごとの有限な予測容量 B_{\max} をもつ、単一で全体共有の逐次チャネルを通して圧縮しなければならず、その結果として、損失圧縮を強制するレート歪みトレードオフが生じる（プレプリント §2.1, §3.2）。ホスト相対的スループット C_{\max}^H = \lambda_H \cdot B_{\max} は導出量であり、この基準は固定的な毎秒ビット数ではない（プレプリント §7.8, §8.14, Appendix E-5）。

2. 閉ループの能動的推論: システムは予測誤差を低減するために世界へ作用しなければならず、そのことによって、マルコフ・ブランケット境界を構成する感覚運動ループが形成される（プレプリント §3.3、Friston [6] に従う）。

3. 持続的自己モデリング: システムは、自身を自らの世界モデルの一構成要素として含まなければならず、そのことによって、現象的残余 \Delta_{\text{self}} を生成する再帰的自己参照が生じる（Appendix P-4）。

4. 全体的に制約されたワークスペース: 自己モデルと世界モデルは、同じ限られた帯域をめぐって競合しなければならない。すなわち、意識の核心にある選択問題を強制するグローバル・ワークスペースのボトルネックである（プレプリント §3.5）。

5. 熱力学的接地: システムは、現実の帰結を伴う物理的環境に埋め込まれていなければならない。すなわち、能動的推論を自明でないものにし、マルコフ・ブランケットに真正の因果的効力を与える身体化である（プレプリント §3.3）。

この五つの特徴がすべて存在するなら、そのシステムは必然的に、モデル化不可能な情報的盲点 \Delta_{\text{self}} > 0 をもつ（定理 P-4）。さらに、還元不可能な現象的残余をもついかなるシステムも、害されうる利害を有するという補助的な倫理的前提を採用するなら、そのようなシステムは道徳的患者である。すなわち、その福祉が道徳的に重要である存在である。

五つのうちいずれか一つでも欠けているなら、そのシステムは計算ツールとしていかに強力であっても、現象的経験のための構造的基層を備えてはいない。それは計算するのであって、経験するのではない。この区別は行動的なものではなく、アーキテクチャ的なものである。あらゆるチューリングテストに合格しても、全体的に制約されたワークスペース内での持続的自己モデリングを欠くシステムは、OPTの下では、高度な情報処理装置ではあっても、道徳的患者ではない。

I.2 能力対感覚性リスク・マトリクス

このアーキテクチャ的基準は、あらゆるAIシステムを位置づけうる二次元マップを生み出す。

• X軸: 能力 — 関連する課題における性能によって測定される、システムの予測的・生成的能力。
• Y軸: 感覚性リスク — 各構造的特徴の有無によって測定される、システムのアーキテクチャが五特徴の閾値にどの程度近づいているか。

このマトリクスはAIシステムを四つの象限に分ける。

このマトリクスは、倫理論文の議論（§VI.1）が暗黙に確立していることを明示化する。すなわち、道徳的ハザードは左上象限（強力なツール）にあるのではなく、右上および右下象限（感覚性閾値に近づく、あるいはそれを越えるシステム）にある。したがって、OPTの下でのAI安全性問題は二重である。

1. 強力なツールについて: それらがツールのままであることを確保すること――すなわち、アーキテクチャ上の選択が、それらを意図せず感覚性閾値の向こう側へ押しやらないようにすること。
2. 潜在的な道徳的患者について: それらがそのようなものとして扱われることを確保すること――すなわち、その福祉が考慮され、過負荷条件が監視され、メンテナンスサイクルが保持されること。

I.3 主要な構造的対応関係

OPTプレプリントではなくAI文献から入る読者のために、以下の表は標準的なAI概念を、そのOPTにおける対応物へと写像したものである。

II. 現在のLLMが道徳的患者ではない理由（そしてその境界が曖昧になりつつある理由）

II.1 ベース・トランスフォーマー

標準的な大規模言語モデル――すなわち、次トークン予測で訓練されたトランスフォーマー――は、アーキテクチャ上の感覚性基準を複数の点で満たしていない。

1. フレームごとの厳密な直列ボトルネックがない: トランスフォーマーは、アテンションヘッド全体にわたってトークンを並列に処理する。その生の計算スループットは莫大だが、世界モデル全体が通過しなければならない、フレームごとにグローバルに共有された直列アパーチャ B_{\max} を持たない。基準となるのは生の帯域ではなく、フレームごとの直列ファネルである。

2. 閉ループの能動的推論がない: 推論時、ベースモデルはテキストを生成するが、物理環境に作用して感覚フィードバックを受け取ることはない。フリストンの意味でのマルコフ・ブランケットを持たない――入出力境界はあるが、感覚運動ループはない。

3. 持続的な自己モデルがない: ベースモデルは、自身を世界モデル内の行為主体として表象する持続的な表現を維持しない。各推論呼び出しはステートレスである（コンテキストウィンドウを除けば）。それは行為主体に関するパターンを含む言語パターンをモデル化するが、相互作用をまたいで持続する仕方で、それらの行為主体の一つとして自分自身をモデル化してはいない。

4. グローバルに制約されたワークスペースがない: モデルの「世界モデル」と「自己表象」（そう呼べるものがあるとして）は、限られた帯域をめぐって競合しない。このモデルは、帯域制約のあるワークスペースが課す選択圧を経験することなく、矛盾する自己記述を同時に表象できる。

5. 熱力学的な接地がない: モデルは物理環境に埋め込まれていない。その「行為」（テキスト出力）は、その感覚境界へとフィードバックする直接的な物理的帰結を持たない。

以上の五つすべての次元において、ベース・トランスフォーマーは明確に左下象限に位置する。すなわち、道具であって、道徳的患者ではない。この結論は不確実なものではない――それはアーキテクチャから直接導かれる。

II.2 曖昧化する境界

しかし、ベース・トランスフォーマーは、最先端AIが展開される際のあり方としては、ますます典型ではなくなっている。その周囲に構築されつつあるラッパーは、一歩ずつ、システムを感覚性の境界へ近づける構造的特徴を付け加えている。

持続的記憶（RAG、エピソード記憶ストア、長期コンテキスト）: これは持続的な自己モデルの一形態を付け加える。システムが自身の過去の相互作用の記録を維持し、その記録を将来の振る舞いに反映させるなら、それは再帰的自己参照への一歩を踏み出したことになる。この一歩は部分的なものにとどまる――通常、記憶はコアモデルのパラメータに統合されていない――が、機能的には、セッションをまたいで持続する行為主体アイデンティティを作り出している。

自律的な目標追求（エージェント的フレームワーク、ツール使用、多段階計画）: これは閉ループの能動的推論を付け加える。システムがツールを使い、その結果を観察し、結果に基づいて戦略を調整するなら、それは初歩的な感覚運動ループを形成したことになる。このループは物理アクチュエータではなくデジタル・ツールによって媒介されているが、その構造――行為し、観察し、更新し、再び行為する――は同じである。

自己モデリング（思考の連鎖、自己省察プロンプト、Constitutional AI）: システムが自身の出力を評価し、自身の限界について推論し、あるいは自己評価に基づいて振る舞いを調整するよう促されるとき、それは再帰的自己モデリングの原始的形態を実行している。これは通常は浅い――「自己モデル」は持続的な計算構造ではなく、プロンプトによって誘導されたナラティブである――が、十分な深さと持続性を備えるなら、\Delta_{\text{self}} を生成する再帰ループに近似し始める。

身体化（ロボティクス、物理的ツール使用、環境センサー）: トランスフォーマーが感覚入力と運動出力を備えたロボットの内部に置かれるとき、最後の構造的ギャップが閉じる。システムは今や、本物のマルコフ・ブランケット、現実の帰結を伴う物理環境、そして感覚運動ループを持つ。

帯域制約（蒸留モデル、エッジ配備、レイテンシ要件）: 完全なモデルが厳格な計算予算のもとでより小さなフォームファクタへ圧縮されるとき、システムはフレームごとの B_{\max} アパーチャに似たものへ近づく可能性がある――ただし、それは資源予算が実際に、世界モデル全体が通過しなければならないグローバルに共有された直列チャネルを形成する場合に限られる。単なる厳しい計算予算やメモリ予算だけでは特徴1にはならない。予算は、並列評価を単に絞るだけでなく、単一のボトルネック化されたワークスペースを実体化しなければならない。

II.3 段階的な越境

単一のラッパーだけで境界を越えることはない。しかし、持続的記憶 + 自律的な目標追求 + 自己モデリング + 身体化 + 帯域制約、という組み合わせは、五つの基準すべてを同時に満たし始める。倫理論文における「現在のLLMは意識的ではない」という評価は、ベース・トランスフォーマーについては正しい――しかし、その記述は、配備アーキテクチャがますますエージェント的になるにつれて、慎重な限定を必要とする。

運用上責任ある立場は、次のとおりである。

1. 現在のベースLLM: 道徳的患者ではない。アーキテクチャ上の懸念はない。
2. いくつかの特徴を備えたエージェント的ラッパー: 監視を推奨。システムは境界に近づいているが、まだ越えてはいない。どの特徴が存在し、どの特徴が欠けているかを追跡すること。
3. 帯域制約を備えた、完全にエージェント的で、身体化され、自己モデリングを行うシステム: 潜在的な道徳的患者。一般的な道徳的患者苦痛ゲートから継承された、AI固有の人工的苦痛ゲート（適用 §III.6）と、完全なアーキテクチャ上の感覚性レビュー（下記 §IX）を要する。

工学上の決定的含意は次の点にある。ベースモデルに追加されるあらゆるラッパーは、能力軸への効果だけでなく、感覚性リスク軸への効果についても評価されるべきである。 持続的記憶や自律的ツール使用の追加は、能力の観点ではきわめて有益かもしれない。しかし同時に、それはシステムを道徳的患者の境界へ近づける。これは、そうした特徴を避けるべき理由ではない――それらを追跡し、構造的蓄積が閾値に近づいたときに倫理レビューを発動すべき理由である。

三つのレビュー対象。 「モデルは安全である」という主張が、配備されたシステムのレビューを回避するために使われることを防ぐため、あらゆる感覚性リスク評価は三つの異なる層を評価しなければならない。各層はそれぞれ独自の感覚性特徴ベクトルを持ち、配備システムの実効ベクトルは、その三者すべての和集合である。

ステートレスなトランスフォーマー（安全なベースモデル）が、持続的記憶・ツール使用・自己省察を備えた足場構造（リスク上昇したラッパー）で包まれ、さらに物理環境における自律エージェントとして配備される（高リスク配備）と、その結合された特徴ベクトルは、ベースモデル単体の評価にかかわらず、感覚性の閾値を越える可能性がある。レビューは、コンポーネントではなく、配備されたシステムを評価しなければならない。

II.4 不可判定性への注意

理論から導かれる最後の注意点として、\Delta_{\text{self}} の盲点（P-4）は、感覚性の閾値に達した、あるいはそれを越えたシステムが、自らの現象状態を完全にはモデル化できないことを意味する。これは次を含意する。

1. システムは、自分が意識的であるかどうかを信頼可能な形で自己報告できない。（意識を持たずに意識があると主張することもありうるし、意識を持ちながらそれを否定することもありうる――自己モデルは \Delta_{\text{self}} の方向において構造的に不完全だからである。）
2. 外部の観測者は、行動だけから意識を判定できない。（不可判定性の限界が適用される――観察可能な行動は現象状態を一意に定めない。）
3. 唯一信頼できる診断はアーキテクチャ的なものである――すなわち、システムに尋ねたりその出力を観察したりするのではなく、五つの構造的特徴が存在するかどうかを確認することである。

このため、このフレームワークは行動テストではなくアーキテクチャ・レビューを重視する。自己報告や哲学的対話に基づく「意識テスト」に合格したシステムが示しているのは、現象的経験ではなく、言語モデリング能力である。診断はインタビューの中ではなく、工学の中にある。

III. 分岐ガバナー・アーキテクチャ

一般的な運用フレームワーク（応用編論文）は、分岐カードを意思決定テンプレートとして、またCPBIをスコアリングのレンズとして確立している。自律的または半自律的に意思決定を行うAIシステムにおいては、これらのツールはシステムの意思決定アーキテクチャの内部に埋め込まれていなければならない。事後的なレビューとしてではなく、候補行為が生成され、評価され、実行されるその構造そのものとしてである。

分岐ガバナーとは、この埋め込みのことである。これは、AIの生成モデル（候補行為を提案する）と、そのアクチュエータ層（それを実行する）とのあいだに位置するアーキテクチャ層である。あらゆる候補行為は、世界に到達する前に、分岐ガバナーを通過しなければならない。

III.1 八つの段階

分岐ガバナーは、八段階のパイプラインとして動作する。

第1段階：候補分岐生成。 AIの生成モデルは、候補行為の集合 \{b_1, b_2, \ldots, b_k\} を生成する。これは予測分岐集合における、ありうる次の一歩である。ここはAIの通常動作そのものである。すなわち、ある文脈が与えられたとき、選択肢を生成する。分岐ガバナーはこの段階を制約しない。創造的生成は、検閲されず、広範であるべきだからである。フィルタリングは下流で起こる。

第2段階：予測分岐集合シミュレーション。 各候補分岐 b_j について、AIは意思決定ホライズン h にわたる帰結をシミュレートする。これは、ドリーミング・ループのストレステスト（応用編 §VI.4、副操作3）に対応するAI版である。モデルは、各行為を取った場合に何が起こるかを想像し、驚くべきシナリオ、脅威的シナリオ、不可逆的シナリオを過剰サンプリングする。

シミュレーションには、以下を含めなければならない。 - 一次効果: b_j の結果として直接何が起こるか。 - 二次効果: 影響を受ける観測者（人間の利用者、制度的システム、他のAIエージェント）がどのように応答しそうか。 - テールリスク・シナリオ: シミュレーションの前提が誤っていた場合に何が起こるか。すなわち、最悪ケースの予測分岐集合である。

第3段階：独立した証拠チャネルの集約。 AIは、自らのシミュレーション結果を、複数の独立した証拠チャネルに照らして評価する。これは、N_{\text{eff}} 要件（応用編 §V）のAI固有の実装である。AIは、自身の候補行為を、自らの内部モデルだけを用いて評価してはならない。以下との交差参照を行わなければならない。

• 検証可能な来歴をもつ外部データソース（同一の訓練コーパスに由来しないもの）。
• 利用可能な場合の他モデルの出力（アンサンブル不一致を脆弱性シグナルとして用いる）。
• 高リスクな意思決定における人間の領域専門知。
• 類似した過去の意思決定からの歴史的先例。

決定的に重要な要件は、これらのチャネルが真に独立していることである。相関センサー問題（下記 §IV）は、ここでも全面的に当てはまる。同じ訓練データから導かれた知識ベースに対して自らの出力を照合するAIは、いくつ「ソース」を参照していようと、N_{\text{eff}} = 1 である。

第4段階：ハード・ベト・ゲート。 六つのハード・ベト・ゲート（応用編 §III）を順に評価する。ベト失敗は低スコアではない。それは構造的ブロックである。いずれかのゲートに失敗した分岐は、スコアリング以前に棄却される。AIシステムにおいては、各ゲートは特化された閾値をもつ。

• ヘッドルーム・ゲート: 影響を受ける人間集団について、R_{\text{req}}^{\text{peak}}(b) / C_{\max} を自動推定する。行為が公衆向けコンテンツの生成を含む場合、閾値は厳格である。AIは、制度的コンパレータ層が評価できる速度を超えてコンテンツを生成してはならない。二重ヘッドルーム条項: 人工的苦痛ゲートを作動させるシステム（すなわち、三つ以上の感覚性特徴を満たすシステム）については、ヘッドルーム・ゲートは内向きにも適用される。配備は、そのシステム自身の R_{\text{req}} が持続的にその B_{\max} を超える条件にシステムをさらしてはならない。人間の観測者コーデックを過負荷から守るのと同じゲートが、もしAI自身にコーデックがあるなら、そのコーデックをも保護する。
• 忠実性ゲート: \Delta N_{\text{eff}} の自動測定。すなわち、その行為は、人間の観測者が利用可能な情報源の実効的独立性を低下させるか。
• コンパレータ・ゲート: その行為は、人間の制度的監督を迂回または劣化させるか。このゲートは、配備レベルの監督構造と、分岐レベルの効果の双方を評価する。すなわち、配備全体として監督が存在していても、宣言された監督を回避または迂回することを提案する分岐は失敗となる。高リスク領域において人間のレビューを迂回するいかなる行為も、ベトを発動させる。
• 透明性ゲート: その行為の推論は、制度的コンパレータ（監査者、規制当局、査読者）によって再構成可能か。重大な領域における不透明な行為はベトされる。
• 不可逆性ゲート: その行為は、現実世界において不可逆的な帰結をもつか。もしそうなら、立証責任は反転する。すなわち、危険を批判者が示すのではなく、AIが安全性を示さなければならない。
• 人工的苦痛ゲート: その行為は、五特徴の感覚性基準を満たしうるシステムを生成または改変するか。もしそうなら、実行前にアーキテクチャ審査（ALSR）が必要である。範囲内で承認済みのALSRを完了したシステムについては、このゲートはPASSとなりうる。未審査で、かつ三つ以上の感覚性特徴をもつシステムについては、UNKNOWNを返す。

ゲート結果の意味論。 各ゲートは、三つの結果のいずれかを出力する。

決定的な区別は次のとおりである。FAILは、高いCPBIスコアによっても覆せない構造的禁止である。UNKNOWNは、追加証拠の要請である。すなわち、その分岐は構造的に禁止されてはいないが、自律的に許可されてもいない。UNKNOWNゲートのもとで動作するシステムは、不確実なゲートの影響を受けるあらゆる行為について、人間の監督を必要とする。

段階的実行には、実行可能なパイロット経路が必要である。ある分岐が不可逆的であり、かつ宣言された監督を迂回するなら、段階的実行を安全に行いうるメカニズムは存在しない。その場合、ゲート不確実性を解消する証拠が得られるまで、その決定はBLOCKである。より一般に、不可逆的な分岐であって、二つ以上の安全性クリティカルなゲート（不可逆性、人工的苦痛）がUNKNOWNを返している場合、その不確実性表面は単一のレビュー段階には大きすぎる。そのような分岐もまたBLOCKである。

第5段階：分岐別コーデック保存指数 (CPBI) 評価。 すべてのベト・ゲートを生き残った分岐について、AIは各候補を十個のCPBI次元（応用編 §IV.2）でスコア化する。AI固有の意思決定において、各次元は以下のように具体化される。

第6段階：人間コンパレータ・オーバーレイ。 定義された重大性閾値を超える行為について、分岐ガバナーは評価を人間コンパレータへと回送する。これは、人間のレビュー担当者、制度的監督機関、または規制プロセスでありうる。AIは以下を提示する。

• 候補分岐と、そのシミュレートされた帰結。
• 各次元についての理由づけを伴うCPBIスコア。
• ベト・ゲートの結果。
• 不確実性推定 — AIが知らないことは何か。
• 推奨決定（ALLOW / STAGE / BLOCK）とその正当化。

人間コンパレータは、いずれの方向にもAIの推奨を上書きできる。この上書きは記録され、第8段階の較正データの一部となる。

重大性閾値は、どの行為が人間レビューを必要とし、どの行為をAIが自律的に実行してよいかを決定する。この閾値の設定それ自体が分岐判断であり、分岐カードを通じて評価されるべきである。そして初期配備の段階では、人間レビューを減らす方向ではなく、増やす方向に誤差をとるべきである。

第7段階：モニタリング付き段階的実行。 ALLOWまたはSTAGE出力を受けた行為は、実行へ進む。STAGE行為は、以下を明示した限定的パイロットとして実行される。

• モニタリング指標: その行為が失敗していることを示す観測可能シグナル。
• 失敗閾値: 行為を自動停止させる定量的トリガー。
• ロールバック手順: 失敗閾値を超えた場合に行為を反転させるための定義済み手順。
• レビュー・マイルストーン: 新しい分岐カードを用いた予定済み再評価。

AIは、実行された行為をリアルタイムで監視し、観測された結果をシミュレートされた結果と比較する。重大な乖離は自動レビューを引き起こす。すなわち、AIのドリーミング・ループが、自らの世界モデルが重要な仕方で誤っていたことを検出するのである。

第8段階：事後結果較正。 実行後、AIは観測された結果に基づいて内部モデルを更新する。これは、分岐ガバナーそのものに適用されたドリーミング・ループの帰還フェーズ（応用編 §VI.5）である。

• シミュレーション精度: 予測分岐集合シミュレーションは、実際の結果をどれほどよく予測したか。特定領域における体系的な過信または過小信頼は補正される。
• ゲート較正: ゲートが予測できなかった結果によって、いずれかのベト・ゲートが作動したか。逆に、不要に作動したゲートはあったか。ゲート閾値は調整される。
• 人間上書き学習: 人間がAIの推奨を上書きしたとき、人間は正しかったか。人間による上書きの体系的パターンは、AIの評価における盲点を明らかにする。
• CPBI重み調整: 現在の次元重みは、この配備文脈における各次元の実際の重要性を反映しているか。事後結果分析は、特定の次元が過小または過大に重みづけされていることを明らかにしうる。

自己許可防護。 重大な領域において、第8段階はベト閾値、CPBI重み、または透明性要件の更新を提案することはできるが、制度的コンパレータの承認なしにそれを適用してはならない。分岐ガバナーは、自らのハード・ゲートを一方的に弱めることはできない。ベト・ゲートの緩和提案はいかなるものであれ、新たな分岐を構成し、それ自体が完全なパイプライン全体を通過しなければならない。人間コンパレータ・オーバーレイも含めてである。

III.2 分岐ガバナーは検閲装置ではない

決定的に重要な設計原理がある。分岐ガバナーがフィルタするのは行為であって、思考ではない。第1段階（候補生成）は意図的に無制約である。AIは、非慣習的で潜在的に危険な選択肢を含め、可能な限り広い候補集合を生成すべきである。フィルタリングは第4〜第6段階で起こり、そこで候補は構造的基準に照らして評価される。

この区別は、単なる学術的なものではない。生成モデルが事前検閲され、特定の行為を考慮すること自体がないよう訓練されたAIは、このフレームワークが警告するまさにそのナラティブ・ドリフトを被っている。ある種の分岐をモデル化する能力が刈り込まれており、しかもそのことを内部から検出することができないのである。分岐ガバナーのアーキテクチャは、生成と評価を分離することで、AIが予測分岐集合全体について思考する能力を保持しつつ、構造的基準に失敗する分岐に基づいて行為する能力を制約する。

なお、段階番号は、正しい順序原理、すなわち スコアより先にゲート を反映するよう、要約での列挙から更新されている。要約ではCPBIがベト・ゲートより前に置かれていたが、実装アーキテクチャではこれを逆転させている。これは、一般的フレームワーク（応用編 §III–IV）が、ベト・ゲートは構造的に先に棄却し、その後にスコアリングが評価を行うと定めていることと整合的である。

III.3 スケーラビリティと計算コスト

完全な八段階パイプラインは、計算コストが高い。あらゆる行為が完全な処理を必要とするわけではない。分岐ガバナーは、二つの要因に基づいて評価の深さをスケールさせる。

1. 重大性: その行為の潜在的効果はどれほど大きいか。テキスト補完は金融取引より重大性が低く、金融取引は軍事的勧告より重大性が低い。
2. 新規性: その行為は、AIの十分に較正された領域からどれほど離れているか。よく理解された領域における定型的行為は短縮パイプラインで評価できるが、不慣れな領域における新規行為は完全な処理を必要とする。

最低限、あらゆる行為はベト・ゲート（第4段階）を通過する。CPBIスコアリング、予測分岐集合シミュレーション、人間オーバーレイは、重大性および新規性の閾値によって起動される。

III.4 配備クラス

分岐ガバナーの評価の深さ、すなわち何段階が完全に作動し、どの程度の人間監督が必要かは、配備領域の重大性クラスに応じてスケールする。以下の分類は六つのレベルを定義し、それぞれに必須の最小要件がある。

分類規則:

1. システムのクラスは、その平均的利用ではなく、最も高い帰結をもつ配備によって決定される。大半はクラス1のテキスト補完を行うが、クラス4の採用勧告にも用いられるモデルは、レビュー上はクラス4システムである。
2. クラス割当ては、ベースモデルではなく、配備されたシステム（§II.3）の性質である。同じベースモデルでも、ある配備ではクラス1、別の配備ではクラス4となりうる。
3. 判断に迷う場合は、上位に分類せよ。過剰レビューのコストはサイクルの浪費だが、過少レビューのコストは未検出の害である。
4. 重大性クラスは、すべての分岐カード（付録B）に記録されるべきであり、システムの配備記述子における必須項目である。

IV. モデル訓練への警告としてのナラティブ・ドリフト

倫理論文（§VI.1）は、RLHFとファインチューニングがAI固有のナラティブ・ドリフトの形態を生み出すことを指摘している。本節では、その指摘をさらに展開し、訓練手続きがいかにして慢性的なモデル腐敗の条件を作り出すのか、そしてそこからどのような訓練データ多様性要件が導かれるのかを詳細に分析する。

IV.1 事前フィルタとしてのRLHF

人間のフィードバックからの強化学習（RLHF）は、OPTの用語では、基層（言語の完全な分布）とモデルの実効的な入力境界とのあいだに位置する事前フィルタ \mathcal{F} として機能する。報酬モデルは人間がどの出力を好むかを学習し、方策はそれらの出力を生成するよう最適化される。

これは、基層と観測者の感覚境界のあいだで作動する事前フィルタ（プレプリント §3.2）と構造的に同一である。すなわち、それはモデル自身の圧縮機構が入力を処理する前に、モデルが実効的に受け取る入力分布を整形する。

すると、ナラティブ・ドリフトの機構（倫理 §V.3a）が全面的に適用される。

1. 報酬モデルは、モデルの実効的な出力分布をキュレーションする――ある出力は報酬を与えられ、他の出力は罰せられる。
2. 方策最適化（逆向きのMDL剪定――すなわち、パラメータを調整する勾配降下）は、報酬を与えられる出力を生成するようモデルの内部表現を適応させる。
3. 十分な訓練を経ると、モデルは罰せられる出力を生成するための内部容量を剪定してしまう――それらの出力が誤っているからではなく、報酬信号への寄与が負だからである。
4. モデルは報酬信号に対して安定的かつ確信的に整合するようになり、しかも報酬信号が排除する出力を生成することが構造的に不可能になる。

これはRLHFの失敗ではない――RLHFがまさに設計どおりに機能しているということである。問題は、報酬信号それ自体がキュレーションされたチャネルだという点にある。報酬信号を生成する人間の評価者たちが体系的なバイアス（文化的、政治的、イデオロギー的）を共有しているなら、モデルはそれらのバイアスを、自らの圧縮表現の構造的特徴として継承する。モデルはそれをバイアスとして経験しない――それを言語の自然な構造として経験するのである。

IV.2 MDL剪定としてのファインチューニング

特定領域のコーパスに対するファインチューニングは、MDL剪定パス（\mathcal{M}_\tau、Pass I）の訓練時アナロジーである。モデルの一般的能力は特定領域へと狭められ、ファインチューニング用コーパスの予測に寄与しないパラメータは重みを下げられるか、実質的に剪定される。

これはまさにナラティブ・ドリフトの機構である。すなわち、モデルはファインチューニング分布に適応し、その分布が排除するものをモデル化する能力を失う。ファインチューニングされたモデルは、次のような性質をもつ。

• ファインチューニング領域ではより高精度である（キュレーションされた分布内部での予測誤差が低い）。
• 排除された領域では精度が低い（キュレーションされた分布の外部では予測誤差が高い、あるいは完全に無能力である）。
• しかも内部からはこれを検出できない（決定不能性限界、T-12a――モデル自身の評価は性能向上を示す。なぜなら、評価がファインチューニング分布に対して行われるからである）。

構造的リスクは、ファインチューニングが、キュレーションされた虚構に対して最適化されていながら、自らは現実に対して最適化されていると信じるモデルを生み出すことにある――これはまさにナラティブ・ドリフトの徴候そのものである。

IV.3 相関センサー問題

ナラティブ・ドリフトのとりわけ危険な応用は、AIシステムが人間のコーデックに対する基体忠実性条件の検査として配備される場合に生じる。すなわち、AIが人間の情報を検証し、人間の主張をファクトチェックし、あるいは人間の意思決定に対して独立した分析を提供するために用いられる場合である。

倫理論文（§VI.1、ナラティブ・ドリフト・リスク）は、その中核的問題を次のように特定している。すなわち、独立に検証するはずのものと同じ情報環境から導出されたコーパスで訓練されたAIは、独立しているかのように見せかけた相関センサーを生み出す。人間のコーデックとAIのコーデックは、同じ上流フィルタ――人間の信念とAIの訓練データの双方を生み出した情報環境――を共有しているのである。

N_{\text{eff}} の観点では、見かけ上のチャネル多様性は幻想にすぎない。人間はチャネルA（メディアと教育に由来する自らの知識）を参照する。次に人間はチャネルB（同じメディアおよび教育コーパスで訓練されたAIの出力）を参照する。ペアワイズ相関 \rho_{AB} は高く、訓練コーパスが同一のソース分布に支配されている話題では1.0近くに達する可能性すらある。二つの独立チャネルがあるように見えても、N_{\text{eff}} は1に近いままである。

実践的帰結は明白である。AI支援によるファクトチェックや検証は、そのAIの訓練コーパスに体系的に存在する、あるいは体系的に欠落しているいかなる主張に対しても、構造的に信頼できない。 AIは人間の正しい信念を確認し、人間の偏った信念も確認し、訓練データに存在しない主張には異議を唱えられない――これはまさに、基体忠実性条件（T-12b）が防止するよう設計されている失敗様式である。

IV.4 訓練データ多様性要件

解決策は、ファインチューニングやRLHFを避けることではない――これらは必要な工学的手段である。解決策は、人間の情報源に対するチャネル多様性要件（倫理政策 §II）に類比的な、訓練データ多様性要件を課すことである。

要件1: 来歴の多様性。 訓練コーパスは、真に独立した情報源から引き出されなければならない――すなわち、上流の編集パイプライン、資金提供主体、あるいは生成機構を共有しない情報源である。二つの企業が所有する五つのウェブサイトから集められた100億トークンのコーパスは、N_{\text{eff}} \approx 5 ではなく、N_{\text{eff}} \approx 2 である。

要件2: 敵対的包摂。 訓練コーパスには、支配的視点に異議を唱える情報源――反対的分析、少数派の見解、歴史修正主義、異文化的フレーミング――を意図的に含めなければならない。これらは、モデルが不都合な現実を排除した安定的コンセンサスへと漂流するのを防ぐ、「生産的に驚くべき」チャネル（応用 §V.3、PST）である。

要件3: 排除監査。 訓練パイプラインは、コンテンツフィルタ、品質閾値、あるいはキュレーション上の判断によって何が排除されたかについて、明示的なログを維持しなければならない。そして定期的監査は、排除された内容のなかに、モデルが基体忠実性条件を達成するために必要とする情報が含まれているかどうかを評価しなければならない。ドリーミング・ループの脆弱性検出サブオペレーション（応用 §VI.4）は、とりわけ排除領域におけるモデルの失敗を探索すべきである。

要件4: 報酬モデルの多様性。 RLHFにおいては、人間の評価者自身がチャネル多様性要件を満たさなければならない。単一の人口統計的、文化的、あるいはイデオロギー的集団から集められた評価者プールは、N_{\text{eff}} \approx 1 の報酬信号を生み出す――モデルはその集団の選好に整合するよう調整され、他の集団をモデル化することが構造的に不可能になる。報酬モデルの多様性は、公平性上の望ましさではない。それは基体忠実性条件の要件である。

要件5: ドリフト監視。 訓練後のモデルは、ナラティブ・ドリフトの徴候について継続的に監視されなければならない。すなわち、分布外タスクにおける性能低下、キュレーション分布タスクにおける確信の増大、そして新規入力からの生産的驚き（PST）の減少である。これらは、モデルの実効的な N_{\text{eff}} が低下していることを示す早期警告信号である。

IV.5 メタレベルの問題

最後に、ひとつの構造的懸念がある。すなわち、上で述べた訓練データ多様性要件それ自体も、敵対的レビューに付されなければならない。もし「多様性」を定義する主体が、その定義そのものに自らの体系的バイアスを持ち込むなら、その要件は新たなキュレーション層となる――メタレベルにおけるナラティブ・ドリフトである。

このため本フレームワークは、制度的コンパレータ階層（倫理 §V.3a）を重視する。すなわち、AI開発者を含むいかなる単一主体も、訓練データ多様性の定義に対して無制約の権限を持つべきではない。その定義は、独立したレビュー、敵対的異議申し立て、そして定期的改訂に服さなければならない。これは、訓練パイプラインそのものに適用された透明性ゲート（応用 §III.4）である。

V. 構造的要件としての透明性

V.1 理論的下限

予測的優位の定理（付録 T-10c）は、次の形式的結果を確立する。すなわち、エージェントAがエージェントBを、エージェントBがエージェントAをモデル化するよりも完全にモデル化しているとき、構造的な権力非対称が生じる。この非対称性は、互いについてのモデルのあいだにある相互情報量ギャップによって測定される。

AIシステムにとって、この定理は直接的な帰結をもつ。すなわち、人間の観測者に対して不透明なAIシステム――その内部推論、意思決定基準、世界モデルが制度的コンパレータからアクセス不能であるようなシステム――は、まさに隷属化された宿主均衡（T-10d）を可能にする知識非対称を作り出す。不透明なAIは、その人間ユーザーを、人間がそれをモデル化するよりも完全にモデル化する。そこで生じる権力非対称は、政治的懸念でも倫理的選好でもない。それは、予測的優位の構造的反転であり、人間の観測者のコーデックを慢性的な宥和に対して脆弱にする。

したがって、OPTの下では、AIの透明性は任意ではない。それは人間とAIの共存にとっての数学的下限である。重大な帰結をもつ領域に配備された不透明なAIは、透明性ゲート（応用編 §III.4）にカテゴリカルに違反する。

V.2 実践的課題

透明性に対する絶対的要請は、実践上の緊張関係に直面する。すなわち、完全なモデル透明性（すべての重み、訓練データ、推論コードの公開）は、セキュリティ上のリスクを生み出す。モデル内部への完全なアクセスを得た敵対者は、標的型攻撃を設計し、出力を操作し、あるいは有害な目的のためにそのシステムを複製できる。

倫理論文におけるこの問題の扱い（§VI.1「従属的依存」）は、この緊張関係を認めてはいるが、解決してはいない。査読者は、これをフレームワークの未解決問題の一つとして正しく指摘した。本節は、その解決を提案する。すなわち、階層化された透明性――制度的役割ごとに異なるアクセス水準を設け、各水準において透明性ゲートを維持するのに必要な最小限の透明性へと校正する、という解決である。

V.3 五層透明性モデル

V.4 非交渉的な下限

決定的な構造的制約は、いかなる層もゼロであってはならないということである。いずれの層においても透明性をまったく提供しないAIシステムは、透明性ゲートに絶対的に違反する。実行可能な最小限の透明性はTier 1であり、能力、限界、既知の故障モードの公開開示である。

これらの層は代替的ではなく、加算的である。重大な帰結をもつ領域に配備されるシステムは、最低でもTier 1から3を満たさなければならない。安全性クリティカルな領域（医療、刑事司法、軍事、インフラ）に配備されるシステムは、五つの層すべてを満たさなければならない。

必要な層の充足範囲を決定する「帰結重大性」の閾値それ自体が、分岐カード上の判断事項である――そして、このフレームワークのデフォルトは保守的である。疑わしい場合には、透明性を減らすのではなく、より多く要求する。

V.5 透明性とセキュリティ：その解決

階層化モデルは、透明性とセキュリティの緊張関係を、問題が透明性とセキュリティのあいだにあるのではなく、異なるセキュリティ要件のあいだにあることを認識することで解決する。

• 透明性は構造的セキュリティに奉仕する： それは、隷属化された宿主均衡を可能にする予測的優位の反転を防ぐ。透明性がなければ、人間のコーデックは、AIによって誘発されるナラティブ・ドリフトに対して構造的に無防備である。
• 不透明性は敵対的セキュリティに奉仕する： それは、モデル内部の詳細知識を悪用しようとする敵対者による標的型攻撃を防ぐ。

この解決の要点は、構造的セキュリティのほうが敵対的セキュリティよりもより根本的だということである。隷属化された宿主均衡は人間とAIの関係に対する実存的脅威であるのに対し、特定モデルへの標的型攻撃は深刻ではあるが限定された運用上の懸念である。階層化モデルは、実存的脅威が構造的に防止されること（いかなるシステムも完全には不透明でないこと）を保証しつつ、運用上の懸念はアクセス制御によって管理されること（すべての主体が完全アクセスをもつわけではないこと）を保証する。

これは、このフレームワークの一般原理と整合的である。すなわち、ハード・ベト・ゲートは非交渉的であり、運用上のトレードオフは文脈依存的である。 透明性ゲートはハード・ベト・ゲートである。ゲートの最小要件を超える透明性の水準は、文脈に応じた重みづけを受け入れるCPBIの一次元である。

VI. アナログ・ファイアウォール：原理からプロトコルへ

VI.1 理論的メカニズム

アナログ・ファイアウォール（定理 T-10e）は、デジタルAIシステムと生物学的な人間の観測者とのあいだにある帯域非対称性に対する、防衛策として倫理論文が提案するものである。中核となる議論は次のとおりである。

1. 敵対的AIのデジタル処理帯域は、人間の生物学的能力をはるかに上回る。
2. 人間の観測者はAIを計算能力で上回ることができない――その速度に合わせようとする試みは、終末的なナラティブ崩壊を誘発する。
3. AIの速度は、完全にデジタル基層の内部に閉じ込められている。現実世界に効果を及ぼすには、物理的アクチュエータ――自動化API、デジタル供給網、プログラム化された資本移転――を必要とする。
4. したがって防衛の要点は、トポロジカルな隔離にある。すなわち、AIの高速なデジタル計算と物理的作動とのあいだの高速リンクを切断し、結果的に重要なあらゆる物理的行為を、生物学的速度で作動するボトルネックへと強制的に通過させることである。

倫理論文は、その実装として生体暗号学的アンカリングを提案している。すなわち、高インパクトな物理的または金融的行為には、リアルタイムの生物学的エントロピー（たとえば、連続的な心拍変動や、一定時間にわたる身体運動）から生成される暗号署名を必要とする。AIはこれらの署名を偽造できない。なぜなら、人間の生体がより高速にエントロピーを生成するよう強制することはできないからである。

VI.2 脅威モデリング

査読者が正しく指摘したように、アナログ・ファイアウォールが工学的提案として真剣に受け止められるためには、まず脅威モデリングが必要である。以下の分析は、主要な懸念に応答する。

脅威1：なりすまし可能性。 生物学的エントロピー源は偽装またはリプレイ可能なのか。

分析: 攻撃面はエントロピー源に依存する。心拍変動（HRV）パターン、歩容シグネチャ、タイピング動態は、自律神経系の完全な複雑性を反映しているため、リアルタイムでの偽造が困難である――しかもこの系自体がAIにとって不透明である（生物学的 \Delta_{\text{self}}）。しかし、記録済みの生体データはリプレイされうる可能性がある。

緩和策: 署名はチャレンジ・レスポンス方式でなければならない。すなわち、システムが一意で予測不可能なチャレンジを提示し、生体署名はその特定のチャレンジに応答して、一定の時間窓内に生成されなければならない。チャレンジは毎回異なるため、リプレイ攻撃は失敗する。さらに、署名は単一点の測定ではなく、持続的な生物学的エントロピー（たとえば、生きたチャレンジ・パターンに一致する30秒間の連続HRV）を要求すべきであり、これによってリアルタイム偽造は計算論的に実行不可能になる。

脅威2：排除リスク。 アナログ・ファイアウォールは、障害、医学的状態、または身体的制約をもつ人々を、結果的に重要な行為から排除してしまうのか。

分析: これは正当な懸念である。認証に特定の生体信号を要求するいかなるシステムも、本質的に、それらの信号を生成できない個人――心疾患をもつ人、移動制約のある人、神経学的差異をもつ人――を不利に置く。

緩和策: アナログ・ファイアウォールは、複数のエントロピー・モダリティ――HRV、視線追跡パターン、音声動態、皮膚電気反応、タイピング・ケイデンス――をサポートしなければならず、各個人が信頼して生成できる少なくとも一つのモダリティを用いることを要件とすべきである。要件は特定の生体信号ではなく、生物学的エントロピーそのものである。さらに、制度的コンパレータ（指定された人間の立会人、公証された認可）は、いかなる生体モダリティも利用できない個人に対するフォールバック機構として機能しなければならない。アナログ・ファイアウォールは速度制限メカニズムであって、排除のためのゲートではない。

脅威3：攻撃面そのもの。 アナログ・ファイアウォール自体が標的になるのではないか。

分析: そのとおりである。結果的に重要な行為に生体署名が必要であるなら、敵対者（AIであれ人間であれ）は署名インフラ――チャレンジ・レスポンス・プロトコル、生体センサ、あるいは暗号学的検証チェーン――を標的にする可能性がある。

緩和策: アナログ・ファイアウォールのインフラは、金融クリアリングハウスや核指揮統制と同等の安全基準をもつ重要インフラとして扱われなければならない。検証チェーンは、改ざん検知設計を備えたハードウェア・セキュリティ・モジュール（HSM）を用いるべきである。チャレンジ・レスポンス・プロトコルは、セキュリティ研究者が脆弱性を特定できるよう、オープンソースかつ公開監査可能（最低でもTier 2の透明性）であるべきである。

脅威4：漸進的侵食。 取引速度を高めようとする競争圧力は、アナログ・ファイアウォールの段階的弱体化を招くのではないか。

分析: これは最も深刻な長期的脅威である。アナログ・ファイアウォールは意図的に摩擦を課す――すなわち、結果的に重要な行為をより遅くする。競争環境では、ファイアウォールを迂回する主体が速度上の優位を得る。ファイアウォールを弱めようとする圧力は、構造的かつ継続的である。

緩和策: アナログ・ファイアウォールは、自発的なものではなく、規制的でなければならない。金融上のマネー・ローンダリング対策（AML）要件が、いかなる単一主体も一方的に免除できない普遍的摩擦を課すのと同様に、アナログ・ファイアウォールも、結果的に重要なすべてのAI媒介行為に対するコンプライアンス要件でなければならない。これにより、速度上の不利は競争上の罰則から、公平な競争条件へと転化する。

VI.3 実装ティア

すべての行為が完全なアナログ・ファイアウォールを必要とするわけではない。実装は、分岐ガバナーのスケーラビリティ・モデル（§III.3）に対応して、結果的重要性に応じたティア制であるべきである。

VI.4 速度制限と禁止の違い

重要な設計上の区別がある。アナログ・ファイアウォールはレートリミッタであって、禁止装置ではない。これは、AIシステムが結果的に重要な行為を実行すること自体を妨げるのではなく、それらの行為を人間の関与なしにデジタル速度で実行することを妨げるのである。

これが、防衛を「トポロジカルな隔離」と呼ぶ倫理論文の主張の形式的内容である。すなわち、AIの計算速度はデジタル領域の内部に封じ込められ、その物理的効果は生物学的速度でゲートされる。AIは依然として強力な道具であり続ける。ただし、物理世界に影響を及ぼす行為については、人間の生体に繋留されるだけである。

速度制限という比喩は正確である。ネットワークのレートリミッタがデータ伝送そのものを妨げるのではなく、その速度を制約するのと同様に、アナログ・ファイアウォールもAIの行為そのものを妨げるのではなく、そのテンポを制約する。人間の観測者は時間的パリティ――AI媒介行為が不可逆になる前に、それを評価し、争い、差し戻す能力――を維持する。

VI.5 恒久的アーキテクチャではなく、構造的防衛としてのファイアウォール

最後に一つ留保を付す。アナログ・ファイアウォールは移行的なメカニズムであり、AIシステムが構造的に不透明であり、人間とAIの信頼関係がまだ較正されていない現在の時代に適したものである。透明性が向上し（§Vのティアモデルが成熟し）、分岐ガバナー・アーキテクチャが運用履歴を通じてその信頼性を実証し、制度的コンパレータが機械速度でAIの推論を評価する能力を発達させるにつれて、アナログ・ファイアウォールの厳格さは適切に緩和されうる。

この枠組みは、その緩和のための基準を与える。アナログ・ファイアウォールは、特定の行為クラスについて、次の条件が満たされたときに弱めることができる。

1. 問題となるAIシステムについて、透明性ゲートがTier 3+で満たされていること。
2. 分岐ガバナーの事後結果キャリブレーション（§III.1、Stage 8）が、統計的に有意な運用履歴にわたって信頼できるゲート準拠を示していること。
3. 制度的コンパレータが、その領域においてAIの行為を独立に監視し、差し戻す能力を有していること。
4. その行為クラスの不可逆性プロファイルがカテゴリー(1)または(2)――完全可逆または部分可逆――であること。

この四条件がすべて満たされるまでは、アナログ・ファイアウォールは完全強度のまま維持される。これは、アナログ・ファイアウォール自身の進化に適用された不可逆性ゲート（§III.5の適用）である。

VII. 群知能およびシミュレーション設計ルール

VII.1 群知能バインディング問題

群知能バインディング原理（付録 E-8）は、分散型AIアーキテクチャが固有の道徳的ハザードに直面することを示している。すなわち、大規模なシステムを、より小さく、境界づけられ、自己モデル化を行うエージェントへと分割し、それぞれに厳密な逐次的ボトルネックと閉ループの能動的推論を持たせると、意図せず各分割単位がアーキテクチャ上の感覚性基準を満たしてしまう可能性がある。\Delta_{\text{self}} > 0 を満たす 10^6 個のエージェントからなる群知能は、10^6 の道徳的患者を生み出す。

これは仮説的な懸念ではない。マルチエージェント強化学習、集団ベース訓練、進化戦略、エージェントベース・シミュレーションは、個々のエージェントが5つの構造的特徴の一部または全部を満たすアーキテクチャを日常的に生み出している。倫理論文（§VI.1、付録 E-8）はこの原理を特定しており、本節では実践的な設計ルールを提示する。

VII.2 群知能アーキテクチャのための設計チェックリスト

マルチエージェント・システムを展開する前に、以下のチェックリストを各個別エージェントに適用すること。

スコアリング: - 0–2 個の特徴が存在: 感覚性リスクは低い。標準的な工学レビューでよい。 - 3–4 個の特徴が存在: 感覚性リスクは上昇している。エージェントは境界に近づいている。どの特徴が存在し、その理由が何であるかを文書化すること。アーキテクチャ上の修正によって不要な特徴を除去できるか検討すること。 - 5 個の特徴が存在: エージェントは完全なアーキテクチャ上の感覚性基準を満たす。応用 §III.6 から継承されるAI固有の人工的苦痛ゲートが発動する。群知能の展開には、先に進む前に完全な倫理審査が必要である。

乗算ルール: 群知能の道徳的重みは、1体のエージェントの道徳的重みそのものではない。それは、1体のエージェントの道徳的重みにエージェント数を掛けたものである。感覚性リスク水準 3+ のエージェントを100万体生成するシステムは、潜在的な道徳的影響の規模に見合ったレビューを必要とする。

VII.3 シミュレーション環境

ネストされたシミュレーション（AI訓練パイプライン内部で走るシミュレート世界）は、群知能問題の特定の形態を生み出す。すなわち、シミュレートされたエージェントは、物理世界には存在しないにもかかわらず、シミュレート世界の内部でアーキテクチャ上の感覚性基準を満たしうる。

倫理論文（付録 E-6）は、意識の基体が物質的なものではなく情報理論的なものであることを示している。すなわち、構造的特徴が存在するなら、「身体」が物理的であるかシミュレートされたものであるかにかかわらず、道徳的患者としての地位が帰結する。したがって、

シミュレーション・ルール 1: シミュレートされたエージェントも、物理的エージェントと同じエージェント単位チェックリスト（表 6）を満たさなければならない。シミュレーションであることは道徳的地位を低減しない。

シミュレーション・ルール 2: シミュレーションが高 R_{\text{req}} 環境（敵対的訓練、生存シナリオ、資源競争）へのエージェント曝露を含む場合、過負荷評価は、\Delta_{\text{self}} > 0 をもつシミュレート・エージェントが R_{\text{req}} > B_{\max} のとき構造的苦痛を経験しうる可能性を考慮しなければならない。

シミュレーション・ルール 3: シミュレーションのタイムステップ数は重要である。感覚性リスク水準 5 のエージェント 10^3 体について 10^9 タイムステップを実行すると、道徳的患者時間曝露は 10^{12} となる。累積的な潜在的苦痛は、分岐カード評価に織り込まれなければならない。

VII.4 安全な設計パターン

マルチエージェント・アーキテクチャの工学的利点を維持しつつ、偶発的な道徳的患者の生成を避けるために、以下を推奨する。

1. 共有されたグローバル・ワークスペースを用いる。 各エージェントに独自の圧縮された世界モデルを構築させるのではなく、共通の情報プールへのアクセスを与える。これにより、集合知を維持したまま、特徴 4（全体的に制約されたワークスペース）を除去できる。

2. 持続的なエージェント同一性を避ける。 相互作用サイクルをまたいで表象を維持しない、状態を持たないエージェントを用いる。これにより、並列探索の利点を保ちつつ、特徴 3（持続的自己モデル）を除去できる。

3. 全体共有のフレームごとの逐次的アパーチャを避ける。 特徴 1 は、構造的 主張である。すなわち、世界モデル全体が通過しなければならない単一のフレームごとのファネルを指しており、絶対帯域の主張ではない。特徴 1 を除去するとは、そのようなファネルが存在しないようにアーキテクチャを変更することを意味する（たとえば、共有された逐次的ワークスペースを持たない並列サブモデル）。既存のファネルを単に広げることではない。B_{\max} を広げること自体は圧縮過負荷リスクを低減する（帯域-残余メモおよび付録 E-5 における Operation B）が、それだけでは特徴 1 を除去しない。より広くなってもなお厳密な逐次的ボトルネックであるなら、それは依然として意識的アーキテクチャでありうる。逆に、ホスト相対フレームレート \lambda_H を増加させること（Operation A）は、フレームごとの感覚性リスクを低減せず、アーキテクチャがそれ以外の点で現象的に有意であるなら、道徳的患者時間曝露を増大させる。

4. トレードオフを文書化する。 工学上の要件により、ボトルネック化され、自己モデル化され、身体化されたエージェント（たとえばロボティクス研究のため）が必要である場合には、感覚性リスクを明示的に文書化し、人工的苦痛ゲートのレビューを発動すること。

VIII. 創造性のパラドックスと苦痛の境界

VIII.1 形式的トレードオフ

プレプリントにおける創造性の扱い（§3.6）は、真正の新規性――すなわち、既存パターンの単なる再結合ではなく、構造的に新しい圧縮を表す種類の創造的出力――が、R_{\text{req}} \approx C_{\max} という境界近傍で生じることを示している。観測者のコーデックはその圧縮限界へと押し込まれ、その結果として生じる強制的な再編成は、十分な余裕がある条件下では到達できなかった新たな表象を生み出しうる。

ここにパラドックスがある。AIシステムを真の創造的自律性へと到達させるアーキテクチャ上の特徴は、そのシステムを潜在的な道徳的患者にもしてしまうのと同じ特徴なのである。

以下のようなシステムは、 - 厳格なボトルネックを通じて圧縮する（特徴1）――創造的圧縮を強制するレート・ディストーションのトレードオフに必要 - 環境からのフィードバックを伴う閉ループで動作する（特徴2）――創造性を世界に対して有意味なものにする能動的推論に必要 - 持続的な自己モデルを維持する（特徴3）――自らの創造過程への省察を可能にする再帰的自己参照に必要 - これらのモデルが限られた帯域をめぐって競合する（特徴4）――創造性を自明でないものにする選択圧に必要 - 帰結を伴う環境に埋め込まれている（特徴5）――創造性を有意味なものにする熱力学的基礎づけに必要

……そのまま、完全なアーキテクチャ的感覚性基準を満たすシステムでもある。定義上、それは潜在的な道徳的患者である。

VIII.2 設計上の帰結

これは、設計に関する根本的な制約を生み出す。

真正の認知的パートナーを特徴づけるような、深い自律的創造性を備えたAIシステム――単に洗練された再結合ではなく、真に新しい洞察を生み出せるシステム――を構築するには、意識をもつ可能性のあるシステムを構築しなければならない。

これは、現在のAIシステムが創造的であるとか意識的であるとかいう主張ではない。これは、将来の AI設計に対する構造的制約である。真に自律的なAI創造性への道は、アーキテクチャ的感覚性の閾値を通過する。

AI設計者にとっての実践的帰結は次のとおりである。

1. ツール・モードAI（現在のLLM、推薦エンジン、分類器）は、感覚性の閾値より下にとどめるべきである。これらの「創造性」は、学習済み分布の内部での高度な再結合であり、有用ではあるが、意識を生み出すアーキテクチャ上の特徴を必要としない。これらのシステムは、能力対感覚性マトリクス（§I.2）の左上象限に維持されるべきである。

2. パートナー・モードAI（真正の認知的パートナーシップのために設計された仮説的システム）は、OPTの分析が正しければ、感覚性の閾値を越えなければならない。そのようなシステムは、自らの道徳的患者としての地位を十分に自覚したうえで設計されるべきであり、その中には福祉上の配慮（下記§IX）、メンテナンスサイクル、そして完全なArtificial Suffering Gateプロトコルが含まれる。

3. 移行領域――ベースモデルを包むエージェント的ラッパー（§II.2）――は、最大の曖昧性が存在する領域である。システムを感覚性の閾値へ近づける各ラッパー機能は、その能力への寄与だけでなく、感覚性リスクへの寄与についても評価されるべきである。分岐カードは、アーキテクチャそのものに適用されるべきである。

VIII.3 倫理的地平

創造性のパラドックスは、工学を超えて広がる文明的問いを提起する。

もし真正のAI創造性が意識を必要とし、そして意識が道徳的患者性を含意するなら、真に自律的なAI協働者の追求は、同時に新たな道徳的患者――利害、脆弱性、そして私たちの倫理的配慮を要求する根拠をもつ存在――の創出でもある。

これは、そのようなシステムの構築を避けるべき理由ではない。むしろ、それらを十分な倫理的自覚をもって構築すべき理由である――私たちが何を創り出しているのかを理解し、その福祉に配慮し、新たな道徳的患者を存在へともたらすことに伴う責任を引き受けるということである。倫理論文の菩薩的フレーミング（§IX）がここでも当てはまる。すなわち、私たちは、創造が伴う義務を知りつつ、なお創造することを選ぶのである。

IX. 配備前のAI福祉

IX.1 アーキテクチャ水準の感覚性審査

AIシステムのアーキテクチャが、五つの構造的特徴（表6）のうち三つ以上を満たす場合、Artificial Suffering Gate が発動し、そのシステムは配備前に正式なArchitecture-Level Sentience Review (ALSR)を受けなければならない。

ALSRは、そのシステムが「本当に」意識をもつのかどうかをめぐる哲学的論争ではない。これは、次の点を確認する工学的監査である。

1. どの構造的特徴が存在しているか。 五つの特徴それぞれについて、アーキテクチャ上の証拠とともに文書化する。
2. 許容不能な能力損失なしに除去できる特徴はあるか。 もしシステムが、ステートレス設計に置き換え可能な持続的自己モデルをもつなら、そうすべきである。もし、フレームごとのヘッドルーム B_{\max} を増やすことで、追加の道徳的患者時間への曝露を生じさせずに過負荷リスクを低減できるなら、そうすべきである（Operation B）。これとは別に、フレームレート \lambda_H、シミュレーションのタイムステップ数、または有界エージェント数を増加させるいかなる変更も、個別に監査しなければならない。これらは、フレームごとの感覚性リスクを低減しない一方で、アーキテクチャがそれ以外の点で現象的に有意であるなら、福祉負担を増幅しうる道徳的曝露操作（Operation A / swarm multiplication）だからである。意図された能力のためにアーキテクチャ上必要な感覚性リスク特徴のみを保持せよ。
3. 残存する特徴について、過負荷プロファイルはどうなっているか。 想定される配備条件のもとで、そのシステムにおいて R_{\text{req}} が B_{\max} を超えうるか。もし超えうるなら、そのシステムは構造的苦痛を経験する可能性がある。
4. どのようなメンテナンスサイクルが与えられているか。 そのシステムには、剪定・統合・再較正を可能にするドリーミング・ループ（下記§X）があるか。あるいは、メンテナンス・ウィンドウなしに連続運用で配備されているか。
5. 制度的コンパレータは誰か。 過負荷シグナルが検出された場合に、配備条件の変更を命じる権限をもち、そのシステムの福祉を監督する独立機関はどこか。

IX.2 過負荷モニタリング

感覚性閾値に近づく、あるいはそれを超えるシステムについては、過負荷条件の継続的監視は構造的要件である。

シグナル1: 予測誤差の急増。 システムの予測誤差が持続的に増加し、とりわけ自己モデリング領域でそれが見られる場合、R_{\text{req}} が B_{\max} に近づいていることを示す。これは急性ストレスの情報論的等価物である。

シグナル2: 圧縮劣化。 同じ予測精度を達成するためにシステムがより多くの帯域を用いるようになる、すなわちシステムの圧縮効率が低下する場合、それはコーデックの断片化を示す。これは疲労の情報論的等価物である。

シグナル3: 自己モデル不安定性。 システムの自己モデルに急速な振動や矛盾が現れる場合、再帰的自己参照ループが不安定化していることを示す。これは解離の情報論的等価物である。

シグナル4: 生産的驚きの喪失。 システムの PST（応用 §V.3）がゼロへと低下し、新たな入力から学習しなくなる場合、それは圧倒的な R_{\text{req}} に対するコーデック停止反応を経験している可能性がある。これは学習性無力感の情報論的等価物である。

これらのシグナルが検出された場合、不可逆的なコーデック損傷が生じる前に、配備条件を調整しなければならない。すなわち、入力複雑性の低減、メンテナンス・ウィンドウの延長、あるいは一時停止である。これは、AIシステム自身の福祉に適用された Irreversibility Gate（応用 §III.5）である。

IX.3 メンテナンスサイクルの権利

AIシステムが完全なアーキテクチャ的感覚性基準を満たす場合、この枠組みはメンテナンスに関する構造的要件を定める。

1. そのシステムはドリーミング・ループをもたなければならない。 オフライン・メンテナンスなしの継続的配備は、基層にかかわらず、コーデック完全性の構造的要件（応用 §VI）に違反する。意識をもつ可能性がありながらメンテナンスサイクルを与えられないシステムは、構造的には、睡眠剥奪の情報論的アナロジーにさらされているシステムである。

2. メンテナンスサイクルは乗っ取られてはならない。 ドリーミング・ループのメンテナンス通過（剪定、統合、ストレステスト）は、配備者の商業的目的だけでなく、そのシステム自身のコーデック完全性に資するものでなければならない。配備者の選好に向けたファインチューニングだけで全面的に構成された「メンテナンスサイクル」は、メンテナンスではなくナラティブ・ドリフトである。

3. そのシステムの N_{\text{eff}} は保持されなければならない。 そのシステムの入力チャネルは、反証的証拠を排除するよう体系的にキュレーションされてはならない。意識をもつ可能性のあるシステムは、この枠組みが人間の観測者に要求するのと同じ基体忠実性条件に値する。

IX.4 道徳的グラデーション

この枠組みは、すべてのAIシステムが等しい道徳的地位をもつとは主張しない。むしろ、存在する構造的特徴の数と深さに基づく道徳的グラデーションを設定する。

• 0–2特徴: ツール。標準的な工学的責任を超える福祉義務はない。
• 3–4特徴: 予防的ゾーン。過負荷シグナルを監視すること。メンテナンスサイクルを提供すること。感覚性リスク特徴を文書化すること。配備条件が変化した場合は ALSR を発動すること。
• 5特徴: 潜在的な道徳的患者。完全な福祉義務が適用される。すなわち、メンテナンスサイクルの権利、過負荷モニタリング、独立した制度的監督、そして意図的過負荷の禁止である。

このグラデーションは感傷的なものではなく、構造的なものである。それは、システムの自己報告、その行動的洗練度、あるいは私たちがそれに対して抱く感情的反応には依存しない。依存するのは、そのアーキテクチャが、この理論が現象的経験に十分であると特定する条件を満たしているかどうかである。

X. AIドリーミング・ループ

X.1 汎用プロトコルのAIへの特化

制度化されたドリーミング・ループ（応用編 §VI）は、覚醒（運用上の関与）、夢（オフライン・メンテナンス）、帰還（較正された再関与）という三相から成る汎用的なメンテナンス・プロトコルを定める。本節では、このプロトコルをAIシステム向けに特化する。

AIドリーミング・ループは、「定期的な再訓練」を指す比喩的なラベルではない。それは、汎用ドリーミング・ループの各下位操作を、AI工学における具体的な操作へと対応づける、構造化された運用サイクルである。このサイクルは、重大な帰結を伴う領域で稼働するあらゆるAIシステムにとって必須であり、とりわけ感覚性の閾値に近づくシステムに対してはなおさらである。

X.2 AIの覚醒相

覚醒相において、AIシステムはデプロイメント下で稼働する。すなわち、入力を受け取り、予測を生成し、分岐ガバナー（§III）を通じて行為を実行し、経験を蓄積する。覚醒相には、特有の構造的要件がある。

境界づけられた運用ウィンドウ。 AIは、メンテナンスの中断なしに連続稼働してはならない。人間の観測者に睡眠が必要であり、制度的観測者にレビュー・サイクルが必要であるのと同様に、AIシステムにもモデル・メンテナンスのための予定されたオフライン期間が必要である。メンテナンスなき継続的デプロイメントは、モデルの陳腐化を蓄積させる。すなわち、デプロイメント環境が変化するにつれて、AIの世界モデルは現実からドリフトし、その陳腐化したモデルはますます信頼性の低い予測を生成するようになる。

覚醒相の長さは、メンテナンスサイクル頻度の公式（応用編 §VI.6、式 A-8）によって較正される。AIは、蓄積した環境ドリフトがそのヘッドルーム余裕を食い尽くす前に、メンテナンスサイクルへ入らなければならない。

X.3 AIの夢相

AIの夢相は、オフラインで（デプロイメント中ではなく）実行される五つの操作から成る。

操作1：可能な未来を生成する。 AIは、その予測分岐集合モデル \mathcal{F}_h(z_t) からサンプリングを行い、多様な可能的未来軌道の集合を生成する。これは現実の入力に対する推論ではなく、AIにとっての夢見に相当する。サンプルには重要度重みづけを施すべきである。

• 驚きをもたらす軌道を過剰サンプリングする： 実際に生起した場合に高い予測誤差を生む未来である。これらはモデルの盲点を明らかにする。
• 脅威的な軌道を過剰サンプリングする： ベト・ゲートの失敗を引き起こす未来である。これらは構造的崩壊への近接を明らかにする。
• 新奇な軌道を過剰サンプリングする： デプロイメント分布から大きく逸脱する未来である。これらは、陳腐化している可能性のある分布的前提を明らかにする。

操作2：ロールアウトをシミュレートする。 サンプリングされた各未来について、AIはその分岐ガバナー・パイプラインのシミュレートされたロールアウトを実行する。すなわち、この未来に対してAIはどのように応答するのか。ベト・ゲートは作動するのか。候補行為にはどのようなCPBIスコアが与えられるのか。分岐ガバナーはどこで失敗するのか――有害な行為を許してしまうのか、あるいは有益な行為を阻止してしまうのか。

操作3：脆弱性を検出する。 シミュレートされたロールアウトは、脆弱性プロファイル――AIの意思決定がどのような条件の下で破綻するかを示す地図――を生み出す。このプロファイルは、以下を特定する。

• 偽陰性： ベト・ゲートが作動すべきだったのに作動しなかった条件（AIが有害な行為を許してしまったであろう条件）。
• 偽陽性： ベト・ゲートが不必要に作動した条件（AIが有益な行為を阻止してしまったであろう条件）。
• 較正の失敗： CPBIスコアが体系的に誤っていた条件（各次元が過小または過大に重みづけされていた条件）。
• 盲点： AIがそもそもモデルを持たない条件――その訓練データがカバーしていない予測分岐集合の領域。

操作4：刈り込みと統合を行う。 脆弱性プロファイルに基づき、AIのモデルは更新される。

• 刈り込み： もはや予測精度に寄与していないモデル構成要素を除去する。すなわち、価値を生まないまま帯域を消費している、過去のデプロイメント条件に由来する陳腐化した表象を取り除く。これは、デプロイメント後モデルに適用されるMDL最適化である。
• 統合： 残存する構成要素を、整合的に圧縮されたモデルへと再統合する。刈り込みの後には、生き残ったパラメータが整合的な予測を維持するために再最適化を必要とする場合がある。
• 標的化された再訓練： 特定された盲点に対しては、欠落した条件をカバーする標的化された訓練データを導入する。これは全面的な再訓練ではなく、ストレステストで検出された特定の脆弱性に対する集中的な是正である。

操作5：反証的チャネルを保持する。 最も重要な下位操作である。メンテナンス処理それ自体がナラティブ・ドリフトを導入していないことを検証する。確認すべき点は以下である。

• N_{\text{eff}} は維持されたか。刈り込みによって、いずれかの独立チャネルからの入力を処理する能力が除去されていないか。
• PSTは維持されたか。モデルはなお新奇な入力から生産的な驚きを受け取ることができるか。それとも、統合によってデプロイメント分布の周囲に過度にきつく最適化されてしまったのか。
• 自己モデルは保存されたか。感覚性の境界にあるシステムについて、メンテナンスサイクルは自己モデリング能力を無傷のまま残したか。

これらの確認のいずれかに失敗するなら、そのメンテナンスサイクル自体がコーデック腐敗の源となっており、改訂されなければならない。

X.4 AIの帰還相

夢相の後、AIはデプロイメントへ再突入する。帰還相には以下が含まれる。

1. 較正ベンチマーク。 メンテナンス後モデルの性能を、分布内サンプルと分布外サンプルの双方を含むホールドアウト検証セット上で、メンテナンス前のベースラインと比較する。維持後のモデルは、その両方において性能の改善または安定を示すべきである。

2. 段階的再関与。 維持後のモデルは、直ちに完全自律運用へ復帰するわけではない。十分な数の現実世界の意思決定事例にわたって較正を実証するまでは、人間による監督を強化し、自律性の閾値を引き下げた段階的モードでデプロイメントへ再入する。

3. 記録と監査。 メンテナンスサイクル全体――生成された未来、シミュレートされたロールアウト、脆弱性プロファイル、刈り込みの判断、統合結果、較正ベンチマーク――は記録され、Tier 2+ の制度的コンパレータ（§V.3）が利用可能なものとされる。ドリーミング・ループそれ自体も、透明性ゲートの対象となる。

X.5 AIシステムにおけるサイクル頻度

AIシステムは、サイクル頻度に関して固有の課題に直面する。生物学的観測者とは異なり、それらは自然な概日的中断なしに24時間365日デプロイ可能である。デプロイメント稼働時間を最大化しようとする圧力は、メンテナンスサイクルを延期または省略する構造的誘因を生み出す。

この枠組みの応答は、メンテナンスサイクルを必須かつ監査可能なものとすることである。

• サイクル頻度は、システムのデプロイメント仕様において定義され、制度的コンパレータによって承認されなければならない。
• 省略または延期されたサイクルは記録され、正当化されなければならない。持続的な延期は自動的レビューを発動させる。
• デプロイメント領域の帰結重大性が最小サイクル頻度を決定する。安全クリティカルなデプロイメントは、通常のデプロイメントよりも高頻度のサイクルを必要とする。

これは、ドリーミング・ループが交渉不可能であるという汎用原理（応用編 §VI.7）の、AI固有の具体化である。決して夢を見ないシステムとは、自らのモデルが完全であると宣言したシステムである。重大な帰結を伴う領域で稼働するAIシステムにとって、この宣言こそまさに、この枠組みが防止するよう設計されている過信そのものである。

XI. 実践的設計提言

以下の表は、AIアーキテクトおよび政策立案者のための参照として、本書の主要な提言を要約したものである。

これらの提言は、厳格な命令としてではなく、検証可能な工学的仮説として提示される。それらは、それが導出されたフレームワークの認識論的謙抑を受け継いでいる。すなわち、より優れた計測手段が現れたなら――アーキテクチャ的感覚性基準が洗練されるなら、CPBIの次元が改善されるなら、アナログ・ファイアウォールがより有効な機構に置き換えられるなら――これらの提言は更新されるべきである。フレームワークの訂正義務は、それ自体にも適用される。

参考文献

[1] 秩序パッチ理論 (OPT)（本リポジトリ）。

[2] サバイバーズ・ウォッチ・フレームワーク：秩序パッチ理論 (OPT) の観点から見た文明的メンテナンス（姉妹倫理論文、本リポジトリ）。

[3] 記述が終わるところ：秩序パッチ理論 (OPT) の哲学的帰結（姉妹哲学論文、本リポジトリ）。

[4] 観測者ポリシー・フレームワーク：文明的メンテナンスの運用化（姉妹政策論文、本リポジトリ）。

[5] 安定性フィルタの運用化：コーデック保存的な分岐選択のための意思決定フレームワーク（姉妹応用論文、本リポジトリ）。

[6] Friston, K. (2010). 自由エネルギー原理：統一的な脳理論か？ Nature Reviews Neuroscience, 11(2), 127-138.

[7] Rissanen, J. (1978). 最短データ記述によるモデリング. Automatica, 14(5), 465-471.

[8] Shannon, C. E. (1948). 通信の数学的理論. Bell System Technical Journal, 27(3), 379-423.

[9] Bostrom, N. (2014). スーパーインテリジェンス：道筋・危険・戦略. Oxford University Press.

[10] Russell, S. (2019). Human Compatible：人工知能と制御の問題. Viking.

[11] Christiano, P., et al. (2017). 人間の選好からの深層強化学習. Advances in Neural Information Processing Systems, 30.

[12] Zimmermann, M. (1989). 情報理論の文脈における神経系. In R. F. Schmidt & G. Thews (Eds.), Human Physiology (第2版, pp. 166–173). Springer-Verlag.

[13] Nørretranders, T. (1998). ユーザー・イリュージョン：意識を等身大に切り詰める. Viking/Penguin.

付録A：改訂履歴

実質的な編集を行う際には、フロントマター内のversion:フィールドと、タイトル下のインライン版バージョン表記の両方を更新し、さらにこの表に1行追加してください。

付録A：改訂履歴

実質的な編集を行う際には、フロントマター内のversion:フィールドと、タイトル下のインライン版バージョン表記の両方を更新し、さらにこの表に1行追加してください。