停止問題が示したもの
コンピュータ科学における最も象徴的な発見の一つが停止問題だ。
もしプログラムが「自分が停止するかどうか」を判定できるとしたら、その判定機能を自らに適用することで必ず矛盾が生じる。
この一見単純な自己言及こそ、チューリングが数学界に投げ込んだ革命的な爆弾であり、現代AIの議論にも直接つながっている。
停止問題は単なる数理パズルではなく、「自己を問い、自己を検証する」という能力の限界を照らし出す。
現在の大規模言語モデル（LLM）もまた、出力を自己評価し、修正する「反射」能力が弱ければ、どれだけ巨大でも浅い推論しかできない。
ここにAIの次なる進化の鍵がある。
鳥とカエル：抽象と具体のはざまで
サンタフェ研究所のクリストファー・ムーアは自らを「カエル型の研究者」と表現する。
鳥のように高く舞い全体を見渡すのではなく、泥の中で具体例を一つひとつ検証することを好むのだ
20世紀の数学は「鳥」的なアプローチが主流だった。だが現実世界のデータは単なる乱数でもなく、敵対的に設計された難問でもない。
文章にも画像にも、階層・部品・制約という豊かな構造が存在する。
その構造を掴めるかどうかが、AIの実力を決定づける。
フェーズトランジション：容易・困難・不可能の三領域
ムーアの研究は物理学と計算複雑性を融合させたものだ。
スピングラス理論を応用し、問題が「容易」「計算困難」「不可能」の三領域に分かれることを示す。
- ノイズが小さいとき：PCAや信頼できるアルゴリズムで一瞬で解ける。
- ノイズが大きすぎるとき：情報が消え、どんな手法でも解けない。
- 中間領域：解は存在するが、高次元の「ガラス状」地形に阻まれ、勾配降下法やメッセージパッシングは指数時間はまり込む。
投資家目線で重要なのは、この中間領域だ。
ここでは計算資源を増やすだけでは限界を破れない。
鍵は「表現」と「探索戦略」の設計にある。
LLMの限界：一次元テキスト依存
現在のLLMはテキストには強いが、数独のような二次元制約問題には弱い。
人間は目で行や列を走査し、候補をマーキングし、部分知識を柔軟に切り替える。
一方、LLMは一次元のトークン列として処理しがちで、複雑な空間的制約を扱えない。
そのため必要なのは、外部モジュールとの統合だ。
コード実行環境、図形ビューア、数式計算ソフト、データベース。
LLM自身は「いつ・どのツールをどう呼ぶか」を学び、ツールを使って世界を操作する。
この発想が「エージェントAI」の基盤になる。
パズル設計が教える知恵
良いパズルは、指数的に広い探索空間を前にプレイヤーを立たせながら一つの洞察で探索を劇的に縮退させる。
数独の世界では「このマスは2か7」「この3マスは全て異なる」など、部分知識の表現を発明しながら解いていく。
AIに欠けているのは、この「動的に表現を切り替える力」だ。
単なるルールベースでもなく、単なる探索でもなく、「今は候補集合で考える」「次は制約の色付けで考える」と柔軟に切り替えられる。
ここに人間的な創造性が宿る。
有限状態機械とチューリング完全性
人間の脳も有限のニューロンで構成された有限状態機械にすぎない。
しかし我々は紙や鉛筆、コンピュータといった外部メモリを道具として用いることで、再帰やスタックといった抽象構造を外部化できる。
同様にLLMも、内部だけでチューリング完全性を目指すのではなく、外部リソースとの接続によって拡張されるべきだ。
ここに「有限機械から無限的能力へ」のジャンプがある。
計算のレンズと代謝のレンズ
サンタフェ研究所が強調するのは、「計算」だけで世界を説明する危うさだ。
DNA複製やリボソーム翻訳は計算的に見えるが、同時に生命は自由エネルギーを奪取する代謝系でもある。
AIも同じ。モデル設計（計算）とサプライチェーン（代謝）の二層を最適化しなければならない。
データ獲得、人手評価、推論コスト、法規制対応――
これらを軽視して「計算資源を積めば良い」と考える企業は、中間領域の壁で止まる。
ブラックボックスと透明性の境界線
映画や音楽のレコメンドならブラックボックスでも構わない。
しかし司法や金融の意思決定にブラックボックスを持ち込めば、社会的正当性を失う。
ムーアが提案するのは、透明性の三段階だ
- 外部検証：独立機関による妥当性テスト
- 可監査性：データ来歴、特徴量、ログの公開
- 局所説明：不利益な判断の根拠を個別に提示
これらはコストだが、同時に規制対応力という参入障壁になる。
実務への示唆：投資家と企業が取るべき行動
- 探索縮退のKPIを追う
正解率だけでなく「何回の反射で収束したか」「外部ツールの呼び出しが適切だったか」を追跡。 - 二次元・三次元タスクを強化
モデルに「見る権利」を与えるUIを整備。 - 部分知識のスキーマ化
候補集合や色付け制約など、人間的中間表現をAIに書き込ませる。 - 反射ループの標準化
出力→検証→修正のサイクルをワークフロー化。 - リスク領域での透明性パッケージ
説明責任を商品価値に転換する。
筆者の解釈：創造的圧縮と「可視化権」
私の結論は二つだ。
- 創造的圧縮
単なる次元削減ではなく、問題の可解性を飛躍させる座標変換を発明する力。
これこそ人間の洞察とAIが交差する場所だ。 - 可視化権
ユーザーとAIの双方に「二次元・三次元で考える権利」を与える。
テキスト一辺倒のLLMから解放する鍵になる。
AIの未来を決めるのは、計算資源の多寡ではなく、構造を掴み、探索を潰す設計力だ。
そして透明性を伴ったその力こそ、次の産業の覇権を握るだろう。