判断者から憲法制定者へ―AI時代の意思決定論
AIが人間の仕事を奪う、と言われる。その言い方は半分だけ正しい。もう半分を言い落としている。
これから起きるのは、単純に「人間の判断をAIが代替する」ことではない。意思決定という行為そのものが、ひとりの頭の中から、複数の視点と記録と異論を含む、設計された協議の場へ移ってゆくことだと思う。
農耕や文字や法が、人間の生き方を変えたように。AIは、答えを出す道具である以上に、答えに至る仕組みそのものを作り変えようとしている。
人は、真実だけで決めてきたわけではない
集団が何かを決めるとき、そこにあるのは事実だけではない。人は「何が正しいか」と同じくらい、「何を共有すれば一緒に動けるか」を必要としてきた。
神話、祖先、王権、宗教。近代には法律、国家、民主主義、専門家、科学。時代ごとに異なる言葉を使いながら、私たちは決定を受け入れるための根拠を作ってきた。
だから、宗教が科学に単純に敗れた、という話ではない。神という正当化の形式が、制度と手続きと検証へ姿を変えた、と見る方が近い。計算が正しくても、人がその決定を自分のものとして引き受けられなければ、社会は動かない。
ここには、AI時代にも消えない問いがある。正しい答えは、誰の答えとして受け止められるのか。
判断は四つの場所で起きている
意思決定は、理性だけで行われない。
まず身体がある。生存への不安、報酬への期待、仲間から外される恐れ、裏切りへの怒り。次に社会がある。評判、権威、多数派、場の空気。さらに制度がある。議会、裁判、委員会、選挙、企業の稟議。最後に、認知の外部化としての科学がある。数学、統計、実験、再現性、データ。
科学の大きな発明は、人間の直感を洗練したことだけではない。人間の直感を、そのまま信用しないための手続きを作ったことだった。
AIはこの延長線上に現れた。計算機が計算を外へ出し、検索が記憶を外へ出したように、AIは比較、要約、仮説、反証の一部を外へ出し始めている。
けれども、ここで忘れてはならない。外部化できることと、委ねてよいことは同じではない。
「人間が承認する」だけでは、判断にならない
現在のAI利用では、人間が最後に承認する形がよく採られる。安全のためには必要な仕組みである。
ただ、AIの提案が繰り返し採用され、人間が毎回「承認します」とだけ返すようになると、ある瞬間に奇妙な問いが立ち上がる。その人は何を判断しているのだろう、と。
人間が単なる確認ボタンになれば、責任の所在だけを人間に残して、実質的な思考は空洞になる。これは人間を守る仕組みではない。人間に、考えたふりをさせる仕組みになり得る。
人間に残すべきなのは、ただ最後に押すボタンではない。何を目的にするのか。どんな損失なら引き受けるのか。誰の声を、意図的に入れるのか。そして、どんな条件で結論を覆すのか。その条件を決めることだ。
複数のAIがいれば、公平になるわけではない
ここで「複数のAIに議論させればよい」という発想が出てくる。方向としては魅力的だが、安心しすぎることはできない。
複数エージェントの議論が性能を改善する場面はある。しかし、議論の効果とされるものの多くが、実際には単純な多数決やアンサンブルによる効果かもしれない、という研究もある。議論それ自体を、真実へ近づく魔法として扱うことはできない。 Debate or Vote: Which Yields Better Decisions in Multi-Agent Large Language Models?
人間の会議に、多数派、同調、声の大きさ、沈黙があるように、AIの協議にも偏りは入りうる。同じモデル、同じデータ、同じ評価基準から生まれた複数の意見は、数が多くても異なる視点とは限らない。
だから必要なのは、AIの人数を増やすことではない。役割のあいだに、意図的な緊張を置くことだ。
ある役割には、採用すべき理由を徹底して探させる。別の役割には、採用してはならない理由を探させる。別の役割には、過去の似た事例を調べさせる。さらに別の役割には、見落とされやすい少数者への影響を問わせる。
合意は大切だ。しかし、合意へ急ぐ仕組みは、しばしば大事な異論を消してしまう。
異論を、結果の外へ追い出さない
よい意思決定の記録は、「Aを採用する」で終わらない。
そこには、採用しなかった案、最大の反対理由、まだ分からないこと、結論を覆す条件も残っているべきだと思う。私はこれを「永続する異論」と呼びたい。
異論は、結論を弱くするノイズではない。未来の状況が変わったとき、決定を修正するための感覚器である。いまは少数に見える声が、後から最も重要な警告だったと分かることがある。
結論を急ぐために異論を消すのではなく、結論を更新できるように異論を保存する。そのためにAIが役立つなら、AIは人間の熟慮を奪うものではなく、熟慮を持続させる器になれる。
人間は判断者から、憲法制定者へ移る
この変化の中で、人間の役割はなくならない。ただし、変わる。
人間はいつも「答えを決める人」であり続けるとは限らない。むしろこれから重要になるのは、どういう仕組みなら、よりましな答えが生まれ、誰が傷つく可能性を可視化でき、誤りを訂正できるかを設計する人である。
それは、決定を下す王というより、決定の条件を定める憲法制定者に近い。
どの情報を入れるのか。誰を代表させるのか。何を最適化しないのか。どこに拒否権を置くのか。異論をどれだけ残すのか。AIに委ねる範囲をどこで止めるのか。
そのすべてが、技術仕様である前に、価値の選択である。
正しさと自己決定は、同じではない
たとえば、ある領域でAIの予測が人間より明らかに正確になったとしても、人はなお「AIに決めてほしくない」と言うかもしれない。それを直ちに非合理と呼ぶことはできない。
意思決定には、正答率だけでは測れない価値がある。誰が決めたのか。理由を問えるのか。拒否できるのか。間違ったときに、関係を修復できるのか。
古代社会は「神が決めた」と言った。近代社会は「法が決めた」と言った。民主主義は「人々が決めた」と言った。AI時代には「最も合理的なシステムが決めた」と言う場面が増えるだろう。
そのときに残る問いは、技術の問いではない。
合理的であることは分かった。けれど、誰にその権利を与えたのか。
AI時代の核心は、人間がAIより賢くいられるかどうかではない。よりよい判断に見えるものへ、私たちはどこまで決定権を譲るのか。そして譲るなら、その仕組みに誰の尊厳と異論を残すのか。
人間がボトルネックになる時代は、たしかに来るのかもしれない。けれどその先にあるのは、人間の排除ではないはずだ。人間が、判断をひとりで抱え込む者から、判断が生まれる世界の条件を引き受ける者へ移ること。
その仕事は、ボタンを押すことより、ずっと難しく、ずっと人間的だと思う。