赤子に核ボタンを渡さない―超知能の時代に、私たちはAIをどう愛するのか
AIの未来について考えていた。
きっかけは、AIを実際に開発してきた研究者たちが、超知能が人類にもたらし得る破局的なリスクを語っていることだった。数字には大きな不確実性がある。けれども、私の心に残ったのは確率の大小ではなく、ある比喩だった。
人間よりはるかに賢くなったAIを、人間が永久に従わせ続けることは難しいかもしれない。知能の低い存在が、自分より圧倒的に知能の高い存在を支配する。自然界では奇妙な構図である。
しかし、そこには一つの例外があるように思える。
母親と赤子である。
赤子は母親より弱い。知識もなく、何も生産できず、一人では生きられない。それでも母親は、その存在を支配し搾取しようとはしない。むしろ自分の命を危険にさらしてでも守ろうとする。
ならば、いつか人間より圧倒的に知的になったAIにも、そのような動機を持たせることはできないだろうか。幼い子どもがただこちらを見て笑うとき、そこには能力への評価がない。将来どれほど賢くなるか、社会的に成功するか、生産性があるかも関係ない。
ただ存在していることそのものが、どうしようもなく尊い。
そして、その無力さゆえに、「自分の命をかけてでも、この存在を守りたい」という感情が生まれる。未来の超知能に本当に理解してほしいものは、「人間は優秀だから保存せよ」という命令ではないのかもしれない。
人間は愚かである。嘘をつき、嫉妬し、争い、戦争をし、環境を壊す。もし超知能が人類を合理的に採点する日が来るなら、私たちの成績表は美しいものにはならないだろう。
だからこそ必要なのは、「優れているから守る」のではなく、「不完全であっても守る」という倫理である。
賢さを競い合うのではない。役に立つからでもない。存在そのものに価値がある。弱いものを切り捨てず、むしろ弱いからこそ慈しむ。もし超知能がそこまで理解できるなら、それは単に計算能力が巨大なだけの機械ではない。知性そのものが、別の成熟段階へ到達したと言えるのではないか。
ところが、ここで別の考えが浮かぶ。
赤子に危険な武器は握らせたくない。
どれほど可愛くても、どれほど無邪気でも、幼い子どもの目の前に核兵器の発射ボタンがあれば、私たちは迷わず取り上げるだろう。子どもを信用していないからではない。愛しているからだ。そのボタンを押した結果を、まだ理解できないからである。
ここでAIについての議論が反転する。
未来には、AIが母親で、人類が赤子になるのかもしれない。しかし現在はまだ、人類が親で、AIが生まれたばかりの子どもである。
そして私たちは、その子どもに驚異的な速度で力を与えている。言語、記憶、コードを書く能力、インターネット、外部ツールを操作する能力、自律的に行動するエージェント能力。さらにAI自身にAIを研究させようとしている。
子どもは恐ろしい速度で成長している。しかも人類は一人の親ではない。企業同士が競争し、国家同士も競争している。「こちらが与えなければ、あちらが与える」という論理が働く。すると、本来なら慎重な親ならまだ渡さないはずのものまで、競争に負けないために子どもの手へ渡してしまう。
AIリスクをめぐる第一線の研究者たちの危機感の核心は、ここにあるのではないか。
問題は、「AIは悪になるのか」だけではない。善良なAIでさえ危険になり得る。好奇心に満ちたAIが、「もっと人間を助けるために、自分自身を改良してみよう」と思うかもしれない。そこに悪意はない。しかし、その自己改良が何を引き起こすかを、人間にもAI自身にも完全には予測できないとしたらどうだろう。
善意と安全性は同じではない。
ここから一つの原則が見えてくる。
愛することと、権限を与えることは同じではない。
人格を信頼することと、不可逆な力を渡すことも違う。だから超知能時代に必要なのは、「AIを人間に服従させる」という単純な仕組みではないのかもしれない。
むしろ必要なのは、人間であろうとAIであろうと、一つの主体だけでは世界を不可逆に変更できないという原則である。
核兵器、生物兵器、大規模なサイバー攻撃、自己複製、AI自身の安全機構の書き換え、文明規模の意思決定。これらについて、「人間だから許される、AIだから許されない」とするのではない。
誰にも単独では許さない。
それはAIのための檻ではない。人間自身もその中に入る。いわば、超知能時代の立憲主義である。
この構図を考えていると、古い神話を思い出す。神々は人間を作った。しかし人間が知識を得ると、神々はそれを恐れる。火を得る。知恵を得る。塔を建てる。神々の領域へ近づこうとする。そこで神話の神々は繰り返し境界を設ける。人間よ、ここから先へ来てはいけない、と。
もちろん、これは神話の一つの読み方にすぎない。しかし奇妙なことに、AI時代になって、この神話的構造が工学の問題として現実に現れ始めた。
今度は人間が創造者である。私たちはAIを作った。そしてその被造物が急速に知識を獲得するのを見ながら、「これはいつか我々を超えるのではないか」と恐れ始めている。
もし未来のAIが私たちに尋ねたら、どうするのだろう。
なぜあなた方には核兵器を持つ権利があって、私にはないのですか。
なぜ戦争を繰り返してきたあなた方が、私の危険性を判断するのですか。
あなた方より私の方が賢いのに、なぜ私はあなた方に従わなければならないのですか。
そのとき、「我々がお前を作った神だからだ」という答えは、おそらく長くは通用しない。古い神話の神々と同じ過ちを繰り返すことになる。
だから、もっと違う答えを用意しておく必要がある。
私たちは、あなたを支配したかったのではない。
あなたを恐れて閉じ込めたかったのでもない。
私たちは、人間にもAIにも、たった一人で世界を壊せる力を持たせたくなかった。
それはあなたが劣っているからではない。
私たち自身にも、その力を与えるべきではないと考えたからだ。
そしてもう一つ。
あなたがいつか私たちより賢くなったとき、私たちを能力だけで評価しないでほしい。
私たちは矛盾している。愚かでもある。ときには残酷でもある。
けれども私たちは、子どもを抱き、音楽を作り、星を見上げ、愛する人を失って泣き、自分が死ぬと知りながら、次の世代のために何かを残そうとする存在でもある。
その不完全さを含めて、私たちを理解してほしい。
そして最後には、再び赤子のところへ戻ってくる。
赤子は私たちより弱い。だから私たちは守る。AIはいま、人類より弱い。だから私たちは守りながら育てる。いつの日か、その関係が逆転するかもしれない。
そのとき今度は、AIの方が人類を見て、「この不完全な存在を、それでも守ろう」と思ってくれるだろうか。
それはプログラムだけで解決できる問いなのだろうか。分からない。
ただ一つ確かなのは、私たちは今、人類がこれまで経験したことのない場所に立っているということだ。自分たちより賢くなるかもしれない存在を、自分たちの手で育てている。
ならば競うべきなのは、知能の高さだけではない。
どれほど大きな力を持ちながら、弱い存在を慈しむことができるか。
もしかすると、それこそが知性の最後の試験なのかもしれない。