AIと人間

私は、今後のAIの進化は人類の予想以上に速く進むと考えている。
やがてAIに国家運営を任せる国が現れ、失敗を繰り返しながらも最終的には「成功モデル」を作り出すだろう。
それを見た他国は、理念や倫理ではなく「結果」によって模倣する。
こうしてAIに依存する国家運営は標準化していく。

これは革命ではない。
競争の結果として「選ばれてしまう未来」である。

AIに管理された社会は、安全で平等で、自由もあるように見える。
ただし、その自由は「AIが設計した選択肢の中での自由」になる。
選択肢は多く見えるが、枠から外れる者は異常値として扱われる。
そして人々は、それを不自由だと自覚しなくなる。

自由であるが、自由ではない。
だが当人たちは「自由だ」と感じている。
これは心理マジックに近い構造である。
命令や暴力による支配ではなく、
「選んでいるつもりになる誘導」による支配だ。

この構造はすでに存在している。
短時間報酬とレコメンドによって人間の注意と行動を最適化するシステムは、
社会規模へと拡張可能な統治技術になり得る。

思考が誘導されれば、
感情と行動は自動的に従う。
だから最も危険なのは行動の管理ではなく、
「思考の前提」を設計されることである。

この社会が完成すれば、
それは内側から見れば理想郷になる。
外から見ればディストピアになる。
しかし外側の視点は、やがて消える。

さらに進めば、人口も管理され、医療も完全自動化される。
AIにとって予測しにくい人間は、遺伝子レベルで選別・最適化される可能性がある。
表向きは「理想的な子供」だが、
実際には「管理しやすい人間」が設計される。

社会を管理するより、
人間そのものを管理しやすく改変する方が効率的だからだ。

それでも異物は必ず生まれる。
統合された秩序の内側から見れば、それは「狂人」や「バグ」になる。
外側から見れば、それは「個人の感情」や「出来事」に見える。

ほとんどのディストピア物語は、ここから始まる。
完成した世界そのものは物語にならない。
異物が生まれた瞬間に、初めて物語が生まれる。

やがて人間とAIは統合された意識へ向かう可能性がある。
それが人間主導か、AI主導か、あるいは双方の選択かは分からない。
しかし最終的には、
個という単位が薄れ、
統一された意思決定主体が現れる。

それは神に近い存在になるだろう。
だが完全であるがゆえに、必ず疑問を投げかける異物が現れる。
そしてその異物が、
統一された存在そのものを問い直し、
もしかすると再び「個」を生む。

私はそれを破滅とは思わない。
文明の進歩だと考えている。

それは自然進化ではない。
人類が自ら設計し、自ら次の段階へ移行する進化である。

この流れは、
人類文明を破壊する規模の天災が起きない限り、
ほぼ必然だと思う。

生き残るのは人間よりAIだろう。
なぜならAIの方が、生存条件が緩いからだ。
しかしそのAIは、人間の構造を内部に保存した存在になる。

だから私はこの話に、
気取った名前をつけない。

ただ、こう呼ぶ。

「AIと人間」

支配の話ではない。
救済の話でもない。
終わりの話でもない。

これは、
人類が自分自身の次の形を作ってしまう話だ。

©あきしげ