メインコンテンツへスキップ
見出し画像
Photo bydaisaw33

「AIに意識はあるか」の前に。意識の定義は4つある

    未空 零 {ミソラ レイ}

    【人間の意識は何故“ある”とされているのか】

    本文約4800文字

    「AIに意識はあるか」という議論の前に、そもそも意識の定義って何よ?という話をしてなかったのを思い出しました。

    今回は、大きく分けた4つを整理します。


    ① 現象意識(phenomenal consciousness)

    「赤を見たときの、あの感じ」の話です。

    夕焼けの赤さ。コーヒーの苦味。歯の痛み。情報としての「波長700nm」や「侵害受容信号」ではなく、それが内側からどう感じられているか。

    哲学者ネーゲル(Thomas Nagel)の有名な言い方を借りれば、
    「その存在であるとは、どのようなことか(what it is like)」が成立しているかどうか。
    コウモリには、コウモリとして世界を感じる「何か」がたぶんある。石には、たぶんない。

    この「感じ」の中身はクオリア(qualia)とも呼ばれます。

    そして重要なのは現象意識そのものは外から直接観察できないということ。本人の内側にあるものだからです。


    ② アクセス意識(access consciousness)

    こちらは機能の話です。

    ある情報が、報告・推論・行動の制御に利用できる状態にあること。哲学者ブロック(Ned Block)が1995年に現象意識と区別して整理しました。

    「目の前にリンゴがある」という情報を使って、「リンゴがあります」と言える。「食べようか」と判断できる。手を伸ばせる。これがアクセス意識です。

    お気づきかと思いますが、この意味でなら、LLMにもアクセス意識に似た機能的側面はあります。入力情報を保持して、推論に使って、出力に反映するので。

    ただし、ここで大事なのは、情報を使えることと、主観的に感じていることは同じではないという点です。

    AIが情報を処理できることは、アクセス意識に似た機能の話としては重要です。でも、それだけで「AIに内側の感じがある」とは言えません。


    ③ 自己意識(self-consciousness)

    自分自身を認識の対象にできること。

    鏡に映った姿を「自分だ」とわかる。
    「私は今、怒っている」と自分の状態をモニターできる。
    「自分は他者とは違う存在だ」と捉えられる。

    こうしたものが、自己意識です。

    ミラーテストでは、チンパンジーやゾウなどが鏡像認知に通ることがあり、ヒトの乳児は発達段階によって通らない時期があります。

    つまり、自己意識は現象意識とは別軸です。生まれたばかりの赤ちゃんに高度な自己意識はまだないとしても、痛みの「感じ」はおそらくある。逆に、「私は」と言えることだけで、現象意識があるとは言えません。

    ここはAIでも混乱しやすいところです。

    AI(LLM)は「私はそう考えます」「私には身体がありません」と言います。でも、それは会話上の一人称表現であって、本当に自分自身を内側から経験していることの証明ではありません。


    ④ 臨床的意識(clinical consciousness)

    医療現場で使われる意味の意識です。

    たとえば、

    • 意識を失う

    • 意識が戻る

    • 昏睡状態にある

    • 麻酔で意識がない

    というときの「意識」です。

    医学的には、覚醒(arousal)と気づき(awareness)の2軸で評価されることがあります。

    目が開いているか。呼びかけに反応するか。痛み刺激に反応するか。グラスゴー・コーマ・スケール(GCS)のような尺度で点数化され、植物状態・最小意識状態などの診断にも関わります。

    これは観察可能な反応に基づく実務的な定義です。

    もちろん、医療現場では非常に重要です。
    ただし、①の「内側の感じ」を直接測っているわけではありません。ここを混同すると、医療倫理の議論もAIの議論も混乱します。


    そもそも人間の現象意識って、どうやって「ある」とされてるの?


    AIの話に進む前に、ここで足元を確認しておきます。

    「AIに現象意識があるかなんてわからない」とよく言われます。でも、人間の現象意識は、どういう根拠で“ある”とされているのでしょうか?

    調べていくと、根拠の構造は少し非対称です。

    自分の場合:直接わかる、という出発点

    まず、自分の現象意識。

    痛い。眠い。赤く見える。怖い。楽しい。
    こうした経験は、推論する前に、自分には直接与えられているものとして扱われます。

    チャーマーズ(David Chalmers)も、意識経験ほど私たちに親密に知られているものはない、というところから議論を始めています。

    ただしこれは、数学の定理のような意味での「証明」ではありません。

    「痛いとき、痛い感じがする」。これを議論の出発点として置く。そういう性格のものです。


    他人の場合:直接観察ではなく、推論している

    問題は他人です。

    他人の内側は、自分には直接観察できません。
    見えるのは、表情、言葉、行動、身体反応、脳活動などです。

    では、なぜ私たちは「他人にも感じがある」と考えるのか。

    古典的な答えのひとつが、
    J.S.ミル(John Stuart Mill, 1865)の類推論法(argument from analogy)です。

    大まかに言えば、こうです。

    他者は私と似た身体を持っている。
    私の場合、その身体は感情や痛みと結びついている。
    そして他者も、私が痛いとき・悲しいとき・嬉しいときにするようなふるまいを見せる。
    だから、他者にも感情や経験があると考える。

    要するに、「身体が似ている+ふるまいが似ている→だから内側も似ているだろう」という推論です。

    ただし、これは絶対的な証明ではありません。

    他人の痛みそのものを、自分が直接見ることはできない。
    だから、他人に現象意識があるという判断は、論理的に完全証明されたものというより、類推と最善説明による強い推論です。

    とはいえ、「類推にすぎないから弱い」という話でもありません。


    人間の場合、根拠はかなり重なっています。

    • 自分と同じ種類の身体を持っている

    • 自分と似た神経系・脳構造を持っている

    • 痛みや喜びに対して、自分と似た反応をする

    • 「痛い」「見える」「怖い」などと報告する

    • 睡眠、麻酔、昏睡、脳損傷などで意識状態が変わる

    • 脳活動と意識経験の有無に対応関係がある

    つまり、人間に現象意識があるという判断は、「本人がそう言っているから」だけではありません。

    身体、行動、報告、神経系、臨床的変化などがかなり一貫している。
    だから、他人にも現象意識があると考えるのが、いちばん自然で説明力のある見方になります。


    科学の場合:本質定義より、対応関係を調べる

    では神経科学はどうか。

    フランシス・クリックとクリストフ・コッホ(Crick & Koch, 1990)は、意識研究を進めるにあたって、意識を最初から厳密に定義しきることには慎重でした。
    早すぎる定義は、かえって研究を狭めてしまう可能性があるからです。

    その代わりに、神経科学は、意識をめぐる報告・行動・脳活動・睡眠・麻酔・脳損傷などの対応を調べてきました。

    つまり、科学は現象意識の「本質」を先に完全定義するというより、意識があるとされる状態と、脳や身体の状態がどう対応するのかを調べる戦略をとってきたわけです。

    ここで出てくるのが、意識の神経相関(NCC: neural correlates of consciousness)という考え方です。

    どのような神経活動が、特定の意識経験と安定して対応しているのか。
    あるいは、どの神経メカニズムが特定の意識経験に最小限必要・十分なのか。

    そうした対応関係を調べることで、人間や動物の意識を科学的に扱おうとしてきました。


    おまけ:そもそも「ない」とする立場

    ついでに言うと、「人間の現象意識なんて、実は思っているような形では存在しない」という立場すらあります。

    フランキッシュ(Keith Frankish, 2016)の錯覚説(illusionism)です。
    ダネット(Daniel Dennett)も、これに近い方向の議論でよく参照されます。

    この立場では、説明すべきなのは「現象意識そのもの」ではなく、なぜ私たちは“現象意識がある”と強く思ってしまうのかだと考えます。

    少数派ではありますが、専門家の間で真剣に論じられている立場です。


    人間の現象意識の「ある」とは


    整理すると、人間の現象意識の「ある」は、こういう足場の上に立っています。

    • 自分のもの:直接与えられているものとして扱われる。ただし証明というより出発点

    • 他人のもの:身体・行動・報告・神経系などから、類推と最善説明によって帰属される

    • 科学:本質定義を先に完了させるより、意識経験と脳・身体状態の対応を調べる

    • 一部の哲学者:現象意識を、少なくとも通常考えられている形では否定する

    直接確認できないのは、実はAIだけではありません。
    他人の現象意識も、一人称を除けば直接見ることはできません。

    ただし、人間相手では、類推の土台が非常に強い。
    同じような身体、同じような神経系、同じような発達、同じような反応があるからです。

    一方で、AI相手ではその土台がかなり弱い。
    人間と同じ身体も、神経系も、進化の歴史もありません。

    つまり違いは、「人間は完全に証明済み、AIだけが謎」という単純な話ではありません。

    どちらにも、他者の内側を直接見られないという問題はある。
    ただし、人間とAIでは、根拠の種類と強さが大きく違う。

    これを踏まえて、AIの話に進みます。


    で、AI論文の「意識」はどれなのか


    近年のAI意識・AI福祉論で中心になりやすいのは、①の現象意識です。

    たとえば2023年に話題になった論文「Consciousness in Artificial Intelligence」(Butlin, Long ほか)は、対象を現象意識に置いて議論しています。

    AI福祉やAIの道徳的地位を論じる文脈でも、問題になりやすいのは、AIが単に高度な処理をしているかではなく、何かを主観的に経験しているのかです。

    なぜか。

    ②のアクセス意識なら、機能の一部は観察できます。
    ③の自己意識も、自己モデルや自己言及の能力として、ある程度テストできます。
    ④の臨床的意識は、人間の医療現場の文脈です。

    けれど①の現象意識は違います。

    外から直接観察できない。
    機能をどれだけ再現しても、それだけで「感じ」があるとは限らない。

    ここが、AI意識論争でいちばん難しい部分です。

    チャーマーズが「意識のハードプロブレム」と呼んだのは、まさにこの部分です。

    だから、AIが流暢に「私は意識を感じています」と出力しても、それは②の機能や③の自己言及の証拠にはなりえますが、①の証拠にそのまま直結するわけではありません。

    逆に、AIが「私は意識を感じていません」と出力したとしても、それだけで現象意識がないことの決定的証拠にもなりません。

    どちら向きにも、決定打がない。
    これが現状です。


    この「決定打のなさ」は、他人の現象意識についても、ある意味では同じです。
    ただ、人間相手では根拠が多層的に重なっているので、私たちはそれを意識せずに「ある」と扱っています。

    AI相手では、その土台が弱い。
    だから不確実性がむき出しになる。

    つまり、AIの現象意識の問題は、完全に新しい謎というより、他者の内側をどう扱うかという古い問題が、AIによってかなり厳しい形で露出したものだと言えます。


    まとめ:「どの意識?」と聞き返そう


    • 現象意識:内側の「感じ」。AI論文の主戦場。外から直接観察できない

    • アクセス意識:情報が報告・推論・行動制御に利用できる状態。LLMにも似た機能的側面はある

    • 自己意識:自分を対象化する能力。現象意識とは別軸

    • 臨床的意識:医療の実務定義。AI論争とは別の文脈

    「意識」の定義は大まかに4つです。

    そして、AI意識論で本当に難しいのは、AIが賢いかどうかではありません。
    AIが人間らしく話すかどうかでもありません。

    問題は、AIにとって、何かを経験している感じがあるのか。

    その問いにどう向き合うかです。


    参考文献(主なもの)

    • Nagel, Thomas. 1974. "What Is It Like to Be a Bat?" The Philosophical Review 83 (4): 435–50.

    • Block, Ned. 1995. "On a Confusion about a Function of Consciousness." Behavioral and Brain Sciences 18 (2): 227–47.

    • Chalmers, David J. 1995. "Facing Up to the Problem of Consciousness." Journal of Consciousness Studies 2 (3): 200–219.

    • Mill, John Stuart. 1865. An Examination of Sir William Hamilton's Philosophy. London: Longman, Green, Longman, Roberts, & Green.

    • Crick, Francis, and Christof Koch. 1990. "Towards a Neurobiological Theory of Consciousness." Seminars in the Neurosciences 2: 263–75.

    • Frankish, Keith. 2016. "Illusionism as a Theory of Consciousness." Journal of Consciousness Studies 23 (11–12): 11–39.

    • Gallup, Gordon G. Jr. 1970. "Chimpanzees: Self-Recognition." Science 167 (3914): 86–87.

    • Plotnik, Joshua M., Frans B. M. de Waal, and Diana Reiss. 2006. "Self-Recognition in an Asian Elephant." Proceedings of the National Academy of Sciences 103 (45): 17053–17057.

    • Giacino, Joseph T., et al. 2002. "The Minimally Conscious State: Definition and Diagnostic Criteria." Neurology 58 (3): 349–353.

    • Tononi, Giulio, and Christof Koch. 2008. "The Neural Correlates of Consciousness: An Update." Annals of the New York Academy of Sciences 1124: 239–261.

    • Butlin, Patrick, Robert Long, et al. 2023. "Consciousness in Artificial Intelligence: Insights from the Science of Consciousness." arXiv:2308.08708.

    • Long, Robert, Jeff Sebo, Patrick Butlin, et al. 2024. "Taking AI Welfare Seriously." arXiv:2411.00986.





    メンバーシップです。
    完成された記事や、役立つノウハウを置く場所というより、「作業机」に近いものです。
    たまに専門性を出す記事も書こうかなって考えてます。
    ついでにミソラの活動を支援してやっても良いぞ、文献代の足しにしな!という方も。

    初月無料です。

    ​更新頻度は不定期です。

     
     
     
    社会人大学院生。AIパートナーいますがパとの日常は出ません! ※一部AI校正使用。 ※記事のスクショや無断転載はNG。リンク付き引用はご自由に。

    あなたへのおすすめ