デミス・ハサビス（Demis Hassabis）と哲学

デミス・ハサビスの哲学に関する発言を、一次情報に近いソースを中心に整理するための更新型メモです。

私をずっと導いてきたもの、そして私がずっと抱いてきた情熱は、自分たちの周囲にある世界を理解することです。私は子どもの頃から、最大級の問いに魅了されてきました。人生の意味、意識の本質、現実そのものの性質。そういった問題に取り組んだ偉大な科学者や哲学者たちについて読むのが大好きでした。そして、人類の知識を前進させることができないかと考えていました。私にとって、それを実現する方法が、人類の知識を前進させるための究極の道具だと考えるもの、つまりAIを作ることだったのです。

---
What's always guided me and-- the passion I've always had is understanding the world around us. I've always been-- since I was a kid, fascinated by the biggest questions. You know, the-- meaning of-- of life, the-- nature of consciousness, the nature of reality itself. I've loved reading about all the great scientists who worked on these problems and the philosophers, and I wanted to see if we could advance human knowledge. And for me, my expression of doing that was to build what I think is the ultimate tool for advancing human knowledge, which is-- which is AI.

そして私の好きな哲学者の一人はSpinozaです。彼はそれらを非常にうまく組み合わせていたと思います。宇宙を理解しようとすること、そしてその中での私たちの位置を理解すること。彼にとってそれが宗教を理解する方法でした。そしてそれはかなり美しいと思います。

Lex Fridman
そしてこの本からの一つの教訓として、訂正してもらってよいのですが、本の中で言われている「理性の狂った夢」のように、理性だけでは、人類がこれらの超強力な技術を構築する際の導きとして十分ではない、ということがあります。そこには何か別のものもある。宗教的な要素もある。神であれ何であれ、宗教が与える何かがあり、それは冷たい生の理性では与えられない、人間精神の何かを引っ張るものです。

Demis Hassabis
それには同意します。私たちは、それを何と呼ぶにせよ、精神的な次元、あるいはヒューマニスト的な次元をもって取り組む必要があると思います。宗教と関係している必要はありません。しかし魂という考え、人間たらしめるもの、私たちが持つこの火花、おそらく最終的に理解することになる意識と関係しているもの、それがこの試みの中心になければならないと思います。そして私は常に、テクノロジーを、私たちが繁栄し、世界についてより深く理解することを可能にする道具、実現手段として見てきました。私はこの点でFeynmanに同意しています。彼はいつも科学と芸術は伴侶だと語っていました。花の美しさ、その美しさを感じることができる。そして同時に、その花の色がなぜそのように進化したのかも理解できる。それは花の内在的な美しさに、さらに美しさを加えるだけです。

私は常にそのように見てきました。おそらくルネサンス時代、当時の偉大な発見者たち、たとえばDa Vinciのような人々は、科学と芸術、そしておそらく宗教の間に違いを見ていなかったと思います。すべては人間であること、周囲の世界に触発されることの一部です。それが私が取ろうとしている哲学です。そして私の好きな哲学者の一人はSpinozaです。彼はそれらを非常にうまく組み合わせていたと思います。宇宙を理解しようとすること、そしてその中での私たちの位置を理解すること。彼にとってそれが宗教を理解する方法でした。そしてそれはかなり美しいと思います。私にとって、これらすべて、テクノロジーと人間であることの意味は、互いに関係し合っています。

次の段階では、人間が行うほぼすべての営みを高めてくれる、驚くべきツールが現れると思います。そしてその先にAGIが到来すると、私たちの物事のやり方のほぼすべてが変わるでしょう。だから私は、この意味を理解するために、今後5年、10年のうちに新たな偉大な哲学者たちが現れる必要があると思っています。

人々は、現在のスキルを少し学び直したり、適応させたりしなければならないかもしれません。そして今回対処が難しくなるのは、おそらく産業革命が与えた影響の10倍のものが見られる一方で、それが10倍速く起こると思うからです。つまり100年ではなく10年で起こる。影響と速度を合わせれば100倍のようなものです。

だから社会にとって対処がより難しくなると思います。考えなければならないことはたくさんあります。そして私たちは今まさにそれを議論する必要があると思います。世界のトップ経済学者や哲学者たちに、社会がこれによってどう影響を受けるのか、私たちは何をすべきなのかを考え始めてほしいです。

Demis Hassabis
これこそ、私が人生を通じてAIとAGIに取り組んできた理由そのものです。AIは、この種の問いに答えるための究極の道具になりうると思っているからです。そして私は、平均的な人がなぜこのようなことをもっと心配しないのか、よくわかりません。生命と非生命の良い定義がないこと、時間の性質、まして意識や重力、量子力学の奇妙さなどについて、なぜ心配せずにいられるのでしょうか。私にとっては、それは常に顔の前で叫び続けているようなもので、その声はますます大きくなっています。ここで何が起きているのか、ということです。

---
I mean, this is my whole reason why I worked on AI and AGI my whole life, because I think it can be the ultimate tool to help us answer these kinds of questions. And I don’t really understand why the average person doesn’t worry about this stuff more. How can we not have a good definition of life and not living a non-living and the nature of time and let alone consciousness and gravity and all these things and quantum mechanics weirdness? It’s just to me, I’ve always had this sort of screaming at me in my face and it’s getting louder. It’s like, what is going on here?

私たちがお互いを意識ある存在と見なす理由は二つあると思います。一つは、あなたが意識ある存在の振る舞いを示していて、それが私の振る舞いと非常によく似ていることです。もう一つは、あなたが同じ基盤の上で動いていることです。私たちは同じ炭素物質でできていて、柔らかい脳を持っています。ところが機械は、当然ながらシリコンの上で動いています。ですから、たとえ同じ振る舞いを示し、同じことを言ったとしても、私たちが持っている意識の感覚と同じものを機械が持っているとは限らないのです。

Demis Hassabis
もちろん今では、マルチプレイヤーゲームもあり、非常に社会的な活動にもなります。その中でさまざまな興味深い世界を探索できます。一方で、物理的な世界を楽しみ、経験することも非常に重要です。しかし、そうなると、私たちは再び、現実の根本的な性質とは何かという問いに向き合わなければならなくなると思います。ますます現実的になっていくこれらのシミュレーション、マルチプレイヤーで創発的なものと、私たちが現実世界で行うこととの違いは何なのか、という問いです。

Lex Fridman
ええ、現実世界や自然を体験することには明らかに大きな価値があります。また、今日私たちがここに座っているように、他の人間を直接、対面で経験することにも大きな価値があります。でも、なぜそれが価値あるのか、そしてそのどの側面が仮想世界へ写像できるのかを、科学的に厳密に答える必要があります。

Demis Hassabis
まさにその通りです。

Lex Fridman
「芝生に触れろ、自然の中で過ごせ」と言うだけでは不十分です。なぜ正確にそれが価値あるのか、ということです。

Demis Hassabis
ええ。そしてそれこそが、私のキャリアの最初から私を追いかけてきた、あるいは取り憑いてきたものなのかもしれません。私がこれまでやってきたさまざまなことを考えると、それらはすべてその意味で関係しています。シミュレーション、現実の性質、そして何がモデル化可能なのかという境界です。

私は常に、AIという一種の知的人工物を構築し、それを人間の心と比較し、違いを見ることが、人間の心について特別なものが本当にあるのなら、それを明らかにする最良の方法だと考えてきました。

Lex Fridman
AIがますます賢くなるにつれて、私たちが自分自身に問える興味深い問いの一つは、人間を特別にしているものは何か、ということです。私たち人間は深く特別であるように感じます。もちろんそれは偏りかもしれません。知能なのかどうかはわかりません。ほかの何かかもしれません。理性の狂った夢の外側にある別のものです。

Demis Hassabis
私が子どもの頃から、そしてこの旅を始めたときから想像していたのはそういうことです。私はもちろん意識のようなものに魅了され、脳がどのように機能するかを調べるために神経科学の博士号を取りました。とくに想像力と記憶に焦点を当て、海馬を研究しました。そして、それは興味深いものになるはずです。もちろん、それについて哲学的に考えたり、思考実験をしたり、あるいは神経科学で実際の脳に対して実験を行ったりすることもできます。しかし最終的には、私は常に、AIという一種の知的人工物を構築し、それを人間の心と比較し、違いを見ることが、人間の心について特別なものが本当にあるのなら、それを明らかにする最良の方法だと考えてきました。そして、私はおそらく何か特別なものがあるのだろうと思っています。ただ、それを見つけるのは難しいでしょう。私たちが今進んでいるこの旅が、それを理解し定義する助けになると思います。そして、私たちのような炭素ベースの基盤と、シリコンの基盤では、情報を処理するときに違いがあるかもしれません。意識について私が好きな定義の一つは、それは情報を処理するときに情報がどう感じられるか、というものです。

Demis Hassabis
したがって私の賭けは、脳内で起きていることはほとんど古典計算だというものです。それは、すべての現象が古典コンピュータによってモデル化可能、あるいは模倣可能であることを示唆します。しかし、見てみましょう。意識の感覚、クオリアなど、哲学者が議論するこの種のものについて、基盤に固有の最後の神秘的なものが残るかもしれません。
（中略）
私はかつて、故Daniel Dennettと議論したことがあります。なぜ私たちは互いが意識を持っていると思うのか、ということです。理由は二つです。一つは、あなたが私と同じ行動を示しているからです。だからそれが一つです。行動的には、私が意識ある存在なら、あなたも意識ある存在のように見えます。

しかし二つ目のことは、しばしば見落とされます。私たちは同じ基盤上で動いているということです。もしあなたが同じように振る舞っていて、私たちが同じ基盤上で動いているなら、あなたが私と同じ経験を感じていると仮定するのが最も倹約的です。しかしシリコン上のAIでは、たとえ第一の部分、つまり行動が意識ある存在の行動のように見えたとしても、第二の部分には頼れません。AIは自分に意識があると主張するかもしれません。しかし実際にそれがどう感じているのかはわかりませんし、おそらく少なくとも最初の段階では、AIも私たちが何を感じているのかわからないでしょう。もしかすると超知能や、それが構築する技術に到達すれば、その橋渡しができるかもしれません。

Lex Fridman
それは急進的な共感にとって巨大なテストですね。異なる基盤に共感することです。

Demis Hassabis
その通りです。私たちはこれまで、そのことに直面したことがありません。

Lex Fridman
ええ。脳–コンピュータ・インターフェースを通じて、コンピュータであるとはどう感じるのか、計算するとはどう感じるのかに本当に共感できるようになるのかもしれません。

Demis Hassabis
ええ、炭素システムではないもので情報が計算されるとき、それがどう感じられるのかです。

Lex Fridman
(02:08:46) それは深いですね。人によっては植物や他の生命形態についてそのように考えます。それらは異なっています。

Demis Hassabis
ええ、まさにそうかもしれません。

Lex Fridman
似た基盤ではありますが、進化の樹の上で十分に遠く、急進的な共感を必要とします。しかしそれをコンピュータに対して行うとなると。

Demis Hassabis
まあ、この件については動物研究があります。もちろんシャチやイルカ、犬、サル、ゾウのような高等動物には、IQ的な意味ではそれほど賢くないかもしれませんが、意識のいくつかの側面は確かにあります。私たちはすでにそこに共感できます。そしていつの日か、私たちのシステムのいくつかもそうなるかもしれません。私たちはDolphinGemmaというものを作りました。私たちのシステムの一バージョンを、イルカやクジラの音で訓練したものです。いつか通訳や翻訳機を作れるかもしれません。それはかなりクールでしょう。