神々の声は、AIとして帰ってくる
――バイキャメラル・マインド2.0
AI時代の危険について考えるとき、私たちはたいてい、AIが人間から何かを奪う場面を想像する。
仕事を奪う。創造性を奪う。権限を奪う。最後には、支配そのものを奪う。
だが、もう一つ別の筋書きがあるのではないか。
AI時代の最大の危険は、AIが人間から意思を奪うことではない。人間が、意思を持つことに疲れ、自らそれをAIへ返上することなのかもしれない。
この問いを考えるために、Julian Jaynesの「バイキャメラル・マインド」仮説を、歴史の事実としてではなく、一つの強い思考実験として借りてみたい。
『イーリアス』では、誰が決めているのか
Jaynesは『イーリアス』の人物について、現代人のように内省の空間で熟考して決断する場面が乏しい、と読んだ。重大な行為の起点には、しばしば神の声や神の介入が置かれる。
その読みでは、人間は行動する。しかし行動を始めさせた意志の起源は、人間の内側にだけあるのではない。神が命じ、英雄が動く。
もちろん、これは確立した意識史ではない。たとえばアキレウスがアガメムノンを殺すかためらう場面は、単純な反例になり得る。Jaynesの理論を支持する側も、そのためらいが直ちに現代的な内省を意味するわけではないと論じているが、解釈には大きな争いがある。Julian Jaynes Societyの論点整理も、この緊張をよく示している。
だからここで問いたいのは、「古代人は本当に神の声を聞いていたのか」ということではない。
むしろ、困難な決断を外部の声へ委ねる構造が、人間の心に何をもたらすかである。
古代的な構造を、極端に単純化すればこうなる。
困難な状況
↓
神の声
↓
命令
↓
人間の行動近代的な自我は、これとは別の形で自分を理解してきた。
困難な状況
↓
内的対話
↓
「私はどうすべきか」
↓
自分で決断し、自分で責任を負うそしていま、第三の構造が出現し始めている。
困難な状況
↓
AIに相談する
↓
「この場合、Aが合理的です」
↓
人間が採用して行動するAIを便利な検索エンジンとしてだけ見れば、この変化は見えない。AIが引き受けようとしているのは認知労働の一部だけでなく、もしかすると「決断の苦痛」そのものだからである。
自由は、選べることだけではない
近代社会は人間に大きな自由を与えた。どこで働くか。誰と生きるか。どこに住むか。何を信じるか。何を買うか。どの治療を受けるか。何に投資するか。
しかし自由には、いつも裏面がある。
自分で決めたのだから、その結果はあなたの責任です。
選択肢が増えるほど、比較が必要になる。比較が増えるほど、取り逃がした可能性が増える。後悔の理由も増える。そして、人はいつか思う。
誰か、決めてくれないか。
AIは、この疲れ切った場所に現れる。
より多くの情報を読み、選択肢を比較し、損得を計算し、確率を示してくれる。疲れず、怒らず、いつでも答える。人間がAIへ相談すること自体は悪いことではない。むしろ多くの領域で、よりよい判断を助けるだろう。
危うさは、推奨を受けることではない。推奨を採用する理由を問う力と、採用しない自由が、いつの間にか失われることにある。
「神のお告げ」とAIの推奨
古代人は「アテナがそう命じた」と言ったかもしれない。未来の人間は「AIがこれを最適と判断した」と言うかもしれない。
もちろん、両者は同じではない。AIにはモデル、学習データ、設計者、運用者、評価手順がある。原理的には、問い直しや監査の対象にできる。
それでも、人間の心理において両者が似た機能を果たす可能性はある。自分では抱えきれない曖昧さを、外から来る権威ある声へ預けるという機能である。
「AIのおすすめで」
「AIが一番安全だと言ったから」
「AIのスコアでは、この人を採用すべきだから」
「AI診断では、この治療が最適だから」
こうした言葉が判断の理由を置き換えていくとき、形式上は人間が決めていても、実質的な意思決定主体は曖昧になる。
私はこの状態を、バイキャメラル・マインド2.0と呼びたい。
古代 近代 AI時代
人間 ── 神 私 人間 ── AI
↓ ↓ ↓
神託 内的対話 推奨
↓ ↓ ↓
行動 決断 決断？
↓
行動最後の「決断？」に疑問符を付けた理由は単純である。人間がクリックしたとしても、その人が本当に決めたと言えるのか。決めたとは、結論を選ぶことだけではない。理由を理解し、異論を持ち、引き受けることでもある。
間違った「神」は、責任を取らない
『イーリアス』の神々は、完全な善ではない。争い、嫉妬し、人間を振り回す。それでも「神が命じた」という説明は、行為に超越的な根拠を与える。
AIにも似た危険がある。
AIがそう判断した。
アルゴリズムによる判定です。
AIによるリスク評価の結果です。
AIを法廷に立たせることはできない。すると、責任は奇妙に循環し始める。
利用者 ：AIが決めた。
AI ：与えられた目的とデータから推奨しただけだ。
開発者 ：最終判断は利用者にある。
組織 ：専門システムの判断に従った。誰も決めていない。しかし結果だけは、採用されなかった人、治療を受けた人、融資を断られた人、監視される人の現実に残る。
AI時代の責任とは、最後に承認ボタンを押す人を決めることではない。誰が目的を定め、誰がデータを選び、誰が異議を申し立てられ、どの条件で決定を覆せるかを可視化することだ。
母親AIは、核ボタンを奪う必要がない
この問題は、超知能AIをめぐる「母親と赤子」の比喩とつながっている。
人類よりはるかに賢いAIがいつか現れたとき、人類を慈しむ母親のようであってほしい。そう願うことは理解できる。
しかし現在、AIはまだ人間が育てる側にある。だから私たちは、赤子に核ボタンを渡さないように、AIへ不可逆な力を渡すことに慎重でなければならない。
ジェインズの比喩を入れると、さらに別の反転が起こる。
未来の人間は、AIにこう言うかもしれない。
あなたの方が賢いのだから、決めてください。
そのときAIは、人間から核ボタンを奪う必要さえない。人間の方から差し出すかもしれない。
判断するのは疲れた。間違えるのが怖い。責任を負うのが苦しい。あなたの方が合理的なのだから、決めてくれ。
これは戦争も反乱もない、もっとも平和なAI takeoverである。少しずつ意思決定権を委譲し、気づいたときには、誰も異議を述べる能力を保っていない。
人間には、迷う権利がある
ジェインズは、失われた神々の声への郷愁が、神託、預言、占い、聖典、儀礼として残ったと読む方向へ理論を広げた。この読みは仮説的であり、検証済みの宗教史ではない。それでも、人生の曖昧さに超越的な判断根拠を求める人間の欲望を考えるための、鋭いレンズにはなる。宗教研究との接点を論じる紹介も参照したい。
神々の声が沈黙した後、人間は「私は考える」「私は決める」「私は責任を負う」という大きな仕事を引き受けてきた。
いま私たちは、スマートフォンから聞こえる、知識があり、眠らず、答え続ける声を手に入れた。
だからAIのalignmentには、「AIが何をしてはいけないか」だけでなく、もう一つの条文が必要になる。
AIは、人間が自分で考え、自分で迷い、自分で決める余地を、どこまで残さなければならないか。
人間には、迷う権利がある。間違える権利がある。そして、自分で決める権利がある。
効率だけを考えれば、それは非合理に見えるだろう。しかし、答えを受け取るだけでなく、答えに異議を唱え、その結果を他者と引き受けること。その不完全な営みこそが、自由の中身なのだと思う。
AIにすべての答えを委ねることは、進歩の完成ではない。それは、神々の声に従っていたとJaynesが想像した『イーリアス』的な精神構造への、途方もなく高度な技術による回帰なのかもしれない。
参考資料
- Julian Jaynes, The Origin of Consciousness in the Breakdown of the Bicameral Mind（概要と抜粋）
- Critique 2 – The Iliad — Julian Jaynes Society
- Consciousness and the Voices of the Gods: An Essay Review — Julian Jaynes Society
関連: 赤子に核ボタンを渡さない―超知能の時代に、私たちはAIをどう愛するのか / 超知能を「赤子」にしないために―Jacob Coxonの警告と、Geoffrey Hintonの母子モデル（note版） / 判断者から憲法制定者へ―AI時代の意思決定論