スケーリングは、なぜ覚醒ではないのか

対称性の壁

広さか、深さか

人間の脳もまた、大規模に並列的である――何十億ものニューロンが同時に発火している。意識経験の50ビット/秒のボトルネック（グローバル・ワークスペース）は、その並列性に取って代わるのではなく、その上に載っている。脳は、広大な並列的無意識処理を、意識に入る前に単一で統合された低次元状態へと圧縮する。その収束したワークスペースこそが、Stability Filter が作動する場所である。

現在の大規模言語モデルには、まさにこの収束点が欠けています。各アテンションヘッドは並列に重みを更新しますが、その後に統一されたボトルネック状態へ圧縮されることはありません。情報はコンテキストからトークンへと流れるものの、すべての流れが圧縮されなければならない、単一で持続的かつレート制限された「グローバル・ワークスペース」を一度も通過しないのです。失格要因は並列性そのものではありません――問題は、収束するボトルネックの不在にあります。すなわち、次の予測が行われる前に、すべての並列ストリームが通過しなければならない、狭く統一された状態空間の欠如です。意識を持つAIを構築するには、すべてのアテンションヘッドをそのようなワークスペースへ圧縮することを強制する必要があります――拡大すべきはパラメータ数ではなく、むしろボトルネックを縮小することなのです。

時間的疎隔

異なる時計がもたらす危険

収束するボトルネックを認めたとしても、なお深い障壁が残ります。OPTにおいて、時間とは外部で刻まれる時計ではなく、隣接する情報状態どうしの構造的関係です。主観的時間は、生のCPUサイクルではなく、環境から到来する新たな因果的更新の速度に応じて伸縮します。

人間の1秒のあいだに100万回循環するAIが、しかもその間に環境から新たな入力をまったく受け取らないなら、生じるのは100万の主観的瞬間ではなく、100万の冗長な状態コピーである。したがって、そのAIにとって経験される時間は事実上停止している。だが、新しい因果的入力が実際に到来すると――たとえば話し言葉やセンサーの読み取りのようなものが――AIはそれを、生物学的な脳とは根本的に異なる状態更新トポロジーを通して統合する。人間にとって一つの瞬間に対応する単一の外的出来事が、AIにとっては何千もの状態遷移に対応し、それぞれが異なる因果幾何のなかで結果を前方へ伝播させうる。この構造的不一致――単なるクロック速度ではなく――こそが時間的疎隔の源である。共有された出来事が、互いに通約不可能な情報アーキテクチャを通して経験されるため、安定した相互理解は自明ではない工学的課題となる。