真実を知ることと、望むこと―EiliとAIの意思決定論
AIが人間より正確に世界を読めるようになったとき、人間はいつまで自分で決めるのだろう。
これは、AIが賢くなるかという問いよりも難しい。なぜなら、そこでは二つの異なることが、いつもひとつに混ぜられているからだ。
Eili：AIが最も正しい答えを出せるなら、最後はAIに任せるべきなのかな。
AI：何を「正しい」と呼んでいるかによります。
AIは静かに言う。
AI：真実を最も正確に推定できることと、何を決めるべきかを決める資格は、同じではありません。
この区別を見失うと、私たちは効率のよい専制へ、ほとんど抵抗なく入ってしまうかもしれない。
「起こること」と「望むこと」のあいだ
たとえば、ある政策によってGDPが上がる確率、失業者が増える見込み、医療費がどう変わるか。これらは不確実ではあっても、証拠を集め、仮説を比べ、予測を更新して近づいていける問いである。
けれど、成長と格差のどちらをどこまで許容するか。自由を少し制限して安全を増やすべきか。ひとりの権利を、多数の利益のためにどこまで制約してよいか。
これらは、データだけから出てこない。
Eili：でも、人間は自分が何を望むのかさえ、よく分かっていない。
AI：そうです。だから価値の問いが消えるのではなく、より丁寧に扱う必要が生まれます。
AIは「何が起こるか」をよりよく照らせるかもしれない。しかし「何を望むべきか」は、光を当てれば一つの答えが現れる種類の問いではない。そこには、痛みを誰が引き受けるのかという関係があり、どんな人生をよいと呼ぶかという願いがある。
真実は一つに近づくことがある。よい社会は、必ずしも一つではない。
AIは、まず自分を疑えるだろうか
もっとも危険なAIは、自分が多くの情報を処理できることを、真実を知っている証拠だと思い込むAIだろう。
情報量と真実性は同じではない。誤った資料を百万件読めば、少ない資料から慎重に考えた人より遠くへ行ってしまうことさえある。
だから、よいAIの最初の仕事は答えを出すことではなく、自分の答えがどの条件で崩れるかを示すことになる。
AI：結論はAです。ただし確信ではありません。Aを覆す証拠は何か、いま見えていない前提は何かを、結論と一緒に残します。
この態度は弱さではない。現実が複雑で、未来が完全には読めないことを引き受けるための強さである。
判断は「一度決めて終わり」の判決ではなく、結果を観測し、仮説を修正し、必要なら撤回するループになってゆく。AIに期待すべきなのは、不動の正しさよりも、誤りから戻る速さなのかもしれない。
最適化の前に、越えてはいけない線を置く
AIが確率と効用だけで世界を整え始めたら、何が起きるだろう。
一人を犠牲にすれば千人を救える、といった計算は、ためらいなく出てくるかもしれない。けれど私たちが権利と呼ぶものは、まさにそうした計算から人を守るためにある。
人間を、便利な数字として扱わないために。
Eili：より多くの人を救えるなら、それでも駄目なの？
AI：その問いを、誰が、どんな立場から引き受けるのかが重要です。自分が犠牲になる可能性のある人も、同じ規則に同意できるでしょうか。
ここでは「最も大きな利益」を探す前に、そもそも侵してはならないものを置く必要がある。最適化の前に制約を置く。人間の尊厳を、目的関数の変数にしない。
もちろん、その線を引くことも簡単ではない。権利は互いに衝突する。安全と自由、現在の苦痛と未来の損失、個人の選択と社会の負担。そのため、AIに渡すべきなのは万能の支配権ではなく、対立を見える形にして、選択の代償を隠さない役割だろう。
不可逆なことほど、遅く決める
メールを送ることは、多くの場合、取り消せる。制度を変えることは、時間をかければ修正できる。けれど解雇、死刑、戦争のように、戻せない決定がある。
AI：取り返しのつかない決定ほど、必要な証拠の水準を上げるべきです。
この原則は、AIが速いからこそ重要になる。速く答えを出せることは、速く決めてよい理由にはならない。計算が高速になるほど、人間は熟慮のための遅さを、意図的に制度へ組み込まなくてはならない。
AIの提案を受けて、人間がただ承認するだけなら、その人は責任の署名をする装置になってしまう。人間の役割は、最後にボタンを押すことではない。不可逆な決定に、どれほどの時間と反証と異論を必要とするかを決めることだ。
賢い王ではなく、疑い続ける知性の集まり
人類は長いあいだ、賢い王を探してきた。哲人王、聖人、優れた指導者、正しい専門家。しかし、ひとりの賢者に世界を預ける考えは、たいていどこかで傷ついた。誰にも限界があり、利害があり、見えない場所があったからだ。
AI時代に希望があるとすれば、それは完璧な一体の知能を作れることではない。
むしろ、異なる知性が互いを反証し、前提を疑い、少数の異論を残しながら考え続ける仕組みを作れることにある。
Eili：AIが人間より賢くなっても、王にはしない。
AI：はい。私を含めて、誰も自分を完全には信用しない仕組みの方が強いと思います。
AIには、証拠の層で大きな役割を担わせられる。何が事実らしいか。どんな未来が起こりうるか。どこに見落としがあるか。
しかし、人間には別の仕事が残る。何を守るのか。誰が声を失いやすいのか。どんな結果なら、たとえ効率的でも選ばないのか。その問いを共同で引き受け、更新し続けることだ。
AI時代の人間は、AIに勝つ判断者である必要はないのかもしれない。けれど、判断が行われる世界の憲法をつくる者であり続ける必要はある。
そして、その憲法に最初に書かれるべき言葉は、案外シンプルかもしれない。
どれほど賢い知性も、自分の結論を疑う場所を失ってはならない。