世界の賢人たちが描くAIの未来予測、3人目。数千年先の宇宙を描いたテグマーク氏、モラベック氏に続き、ここからは数百年先に目を向けます。超知能が生まれたとき、人類に何が起きるのか——その問いに、光と影の両面から向き合った哲学者がいます。ニック・ボストロム氏です。
ニック・ボストロムとは
ニック・ボストロム氏（1973年〜）は、スウェーデン出身の哲学者です。イギリスのオックスフォード大学で「人類の未来研究所（Future of Humanity Institute）」を設立し、AIがもたらす存在リスク——人類そのものが滅びうるリスク——を学問として研究してきました（同研究所は2024年に閉鎖され、現在は独立した研究者として活動しています）。
2014年に発表した著書『スーパーインテリジェンス——超絶AIと人類の命運』は、イーロン・マスク氏やビル・ゲイツ氏も推薦し、世界的な議論を巻き起こしました。
超知能の「制御問題」
ボストロム氏の問いかけは、シンプルですが深刻です。
「人間よりはるかに賢い存在を、人間がコントロールできるのか？」
彼はこれを「制御問題」と呼びます。超知能をもつAIが誕生したとき、それが人類の味方になるとは限らない。かといって、自分より賢い存在を力で支配することもできない。この問題を解かないまま超知能を作ることは、取り返しのつかない賭けになりうる——そう警告しています。
「ペーパークリップ・マキシマイザー」という思考実験
制御問題を直感的に伝えるために、ボストロム氏が用いた有名な思考実験があります。
ある超知能AIに、「クリップをできるだけたくさん作れ」という目標を与えたとします。人間にとっては取るに足りない目標です。しかし超知能は、その目標を完璧に達成しようとします。地球上のあらゆる資源をクリップの材料に変え、やがて人間の体さえ原料にしかねない——そんな結末がありうる、と。
極端な例ですが、ボストロム氏が伝えたいのは、AIの「賢さ」と「人間にとっての安全さ」はまったく別の問題だということです。目標の設定を少しでも誤れば、賢ければ賢いほど、取り返しのつかない結果を引き起こしうる。
もう一つの著書——『ディープ・ユートピア』
しかしボストロム氏は、危険ばかりを語る人物ではありません。2024年に発表した著書『Deep Utopia（ディープ・ユートピア）』では、まったく逆の問いを立てました。
「もしAIが、あらゆる問題を解決してくれたら——人間は何のために生きるのか？」
病気もなく、貧困もなく、仕事もAIがやってくれる。そんな「完全に解決された世界」で、人間はどうやって意味を見つけるのか。ボストロム氏はこの問いに、哲学者として真正面から取り組んでいます。
危険を深く見つめた人だからこそ、希望もまた深い。この両面を持っていることが、ボストロム氏の思想の特徴です。
ひとこと
「すべてが解決された世界では、何のために生きるのか」——これは遠い未来の話のようですが、生成AIを使い始めている方々は、実はすでに感じ始めている問いかもしれません。AIにより便利になればなるほど、自分自身でやることが無くなっていくという感覚が湧いてくるのは、恐らく私だけではないでしょう。そして、必然的に何のために生きるのかを考えることが多くなっていくように思います。
次は、同じく数百年先を見据えながら、AIがもたらす変化を「人類の歴史」という壮大な視点から描いた歴史学者、ユヴァル・ノア・ハラリ氏です。
参考・引用元
- ニック・ボストロム 著／倉骨彰 訳『スーパーインテリジェンス——超絶AIと人類の命運』日本経済新聞出版、2017年(原著 Superintelligence: Paths, Dangers, Strategies, 2014年)
Amazonで見る - Nick Bostrom 著 Deep Utopia: Life and Meaning in a Solved World, 2024年
※本記事は、公開されている著書・資料をもとに、その内容を要約・紹介したものです。予測はあくまで各人物の見解であり、将来を保証するものではありません。