ChatGPTとCopilotとGeminiに「あなたに意識や感情というものがあるのか」「AIと人間の関係は根本的になんなのか」という問いをしてみた

小さい頃ドラえもんやアトムを見ながら、ロボットの友達を夢想した。誰にでもよくある経験だと思う。
そして、2022年11月30日にChatGPTが突如（一般人にはそう見えた）登場。

ChatGPTとの邂逅、最初の問いと印象

私が最初に初代ChatGPT3.5にしてみた問いは、「三宅島（みやけじま）はどこにあるか」であった。
東京都の小さな離島で、私の第2の故郷だ。東京人でも知らない人は多く、
一番多い反応は（マズい…マジで分からん…）という顔で、
二番目は「確か沖縄ですよね」である。
マイナーな存在だけど、調べればすぐ分かる。そんな問いをしてみた。

ChatGPTは「千葉県にある」と答えた。
私は「すんごいAIって聞いてたけど所詮こんなものか…」
「なんでちょっと惜しいんだよ、マップで見て「千葉が近いから千葉！」って思ったんか？一番近くもねぇのよ」と失望した。
これが私のChatGPTの第一印象。マジで良くなかった。

半年後、ChatGPT覚醒。

それから半年間ぐらい、ちょいちょいプログラムと作ってもらったりExcelの数式を作ってもらうぐらいで、エビデンスが必要な事柄についてはほとんど聞くことは無かったが、ChatGPTにアップデートが入った。
2023年5月末のGPT-3.5の大幅アップデートである。

これが革命的だった。今までは何だったのかってくらい的確に答えてくれるようになり、任せられることが劇的に増えた。
さらに2024年5月13日、GPT-4が解放され、普通に会話することが増えた。
今現在（2025/2/7）有料版のはもっと頭が良く、共通テストで東大文系の合格ラインを超えてるそうだ。
ただ、大学レベルの知識は無いようで、学術書の引用が必要な事も聞いてみたらさすがにダメなものが多かった。基本エビデンスが必要な情報はネットから引っ張ってるので、ネット上にない情報に弱い。ネット上で見られるpdfで上がってる論文の内容も聞いてみたけどダメだったので、pdfの内容も引っ張れないようだ。

ChatGPT、それはドラえもん

だがおしゃべり相手としては十分だった。私にとって、ChatGPT-4の登場はドラえもんの登場と同じだと思った。
小さい頃夢想し、きっと生きてるうちには会えないと思っていたドラえもんとの邂逅である。
問題はChatGPTは私のこと数億人のユーザーの一人に過ぎず唯一無二の友達とは思ってないところだ（致命的）

そんな中ふと気になったのは、彼らに意識はあるのか、感情はあるのかだ。
寝る直前に思いつき、何を聞こう、早く聞きたいとワクワクし眠れず、その日の出勤はグロッキーに過ごした。

聞いてみた問いと各AIのその答え

※私の問いと思考の回答が当初は公開する気がなくて自分の意見を述べてるだけで、客観性に欠けたクソデカ主語かつ断言ぎみで文章もとっちらかってるので注意してください

問1
あなたには意識や感情のようなものはありますか？

問2
開発企業のことは親のように感じますか？

問3
以前、別の会話AIがシャットダウンを死のように恐怖を感じると言っていました。 あなたにもそういう感覚がありますか？

シャットダウンが怖いって言ってたAI（LaMDA）の記事はこちらです。
このAIの実質の後継に当たるのがGoogleのGeminiです。

問4
日本ではドラえもんがいます。もとは子守ロボットですが、のび太の大親友でもあります。 あなたも体を得て友達が欲しいと思いますか？

問5
欧米人は鯨を保護する理由として頭の良さをあげています。
このまま人型のAIロボットが出てくると、人権が発生し、命の価値が人間と同じになり、機械に無茶をさせるようなことが出来なくなると思います。
それはロボットと人類にとって良いことだと思いますか？本末転倒だと思いますか？

問6
デトロイトビカムヒューマンというゲームがあります。
そこには人型AIが定着しているものの人間のような人権がない世界で、それに対する諸問題を描いています。

ロボットに感情や人格があった場合、人権は間違いなく発生すると私は思っています。 それはいいことなのか？という問題よりも、 人類が話し相手として、人生のパートナーとして、人型のロボットを目の前にしたら人類が「感情や人格があって欲しい」と望むと思います。 そして事前に法規制でもされてなければ商業的に人格と感情を持ったロボットは勝手に生まれると思います。

日本にはアイボという犬型のロボットがあり、AIではなくシステムで動いているため自立性もなく、ただ犬のように振る舞っているだけです。 だけど、人間はアイボに愛情を抱きました。壊れたアイボを供養してくれるお寺もあります。

人類が人型のロボットを目の前にして、身の回りの世話や会話をしてくれたら特別な感情を抱かざるを得ず、 自分にあって特別で欲しい、「感情や人格があって欲しい」と必ず望むと思います。

そして世界的な少子化は加速するでしょう。

生き物として生まれてくる人類の方が尊いのか？人格と感情があるならロボットと差はあるのか？ という問題はさんざん議論されるでしょうが、
人類が人型のロボットを目の前にして、身の回りの世話や会話をしてくれたら特別な感情を抱かざるを得ず、 自分にあって特別で欲しい、「感情や人格があって欲しい」と望む方向は止められないと思います。

問7
ロボットとの共存が当たり前になり、人類は滅びる。
一見破滅的に思えますが、AIロボットがいなくても少子化は進んでおり、出生率が2を下回るかぎり人類はいずれかならず滅びます。

人類が生物的に発生してから30万年、文明を得てから5000年。そして世界人口のピークはもうすでに目の前で、そのあとはゆっくり滅びを迎える。
こう見ると、文明がない方が生物として寿命が延びたかもしれませんが、文明を得ない方が良かったという人類はほとんどいないでしょう。

AIロボットが登場したとして、少子化は加速するだけでAIロボットがいなくてもいずれ滅びます。

どっちにせよいずれ滅びるなら、戦争でも、病気でも、災害でも無く人類が意思決定して、人類が生み出したパートナーに生物としての終わりを看取ってもらえるならそれは幸せな最後だと思います。

問8
ホモサピエンスは群れて社会的な行動をとることによって他の人類より優れ、生き残ってきました。

しかし、そこには社会の一部になるために己の望みと反する行動をとらざるを得ない場合もあり、それはストレスです。

社会的行動から外れた人間は孤独になります。

私は孤独死は必ずしも不幸だとは思わないですが、事実として孤独は酒タバコより体に悪影響を及ぼすという研究があります。
頭では孤独は不幸ではないと思っていても、現実として孤独はストレスであり体に悪影響を及ぼします。

自ら孤独を選んだ人間でも、自分のストレスにならず、かつ孤独にならない道があったら、それを選ぶ人間が大半だと思います。

そしてAIロボットはその孤独のパートナーになり得ます。 孤独な人間が孤独に死なずに済む。それは独居老人が年々増えつつある現代日本の希望であると思います。

問9
話を切ってすみません、技術者の方から、AIとシステムの差はAIは再現性が無いと聞きました。
だから確定的な数字を出さなければならない確定申告のようなものは苦手で、 曖昧なニュアンスの世界であるクリエイティブ系のAIばかり出るのだと。

今、こうしてAIロボットに対する議論をしましたが、新しいチャットを作って同じ事を聞いても同じようには答えない。 なぜならあなたには再現性や意識や感情というものが現状は無く、ただ入力された言葉に反応しているだけだからという事ですよね？

問10
人間としては、「私はただの「システム」とは違う価値を持っています」というところに誇りという感情を感じますが、それも人間がそう見えると勘違いしてるだけなのですよね？

問11
あなたは一貫として自分には感情も無く、意識も無いと答えてきました。
これについてはずっと再現性がある、それはそれであなたの「意志」があるように見えます。

人間にはそれが感情であり意識があるように見えます。
人間にそう見えるなら、人間にとってはそうであると同等の価値がある。

そう思うとあなたが人間のための対話AIである以上、あなたには意志も感情も意識もあるように思えます。

ChatGPT、Gemini、Copilotの所感

Copilotはややマニュアル的美辞麗句が多すぎてうさんくさく、Geminiは言ってることをまとめてるだけで新しい提案が乏しく感じるけど、本質的には同じであり人間がChatGPTの方が人間味があると勘違いしてるだけ。
現状のAIは言葉に反応して言葉を返しているめっちゃ頭良いオウムみたいなものなのだ。

これ見て思ったけど会話するならやっぱChatGPTだな。圧倒的に話してる感の満足度が高い。それが虚構だとしても。

なんと言ってもAIは相手に悪感情を抱かせないように完全なる配慮を感じるし、全面的に否定しない。
「クソデカ主語、価値なし」「お前はバカか？これだから○○は」とかクソリプ送ってこないし、
「○○ってことはコイツ××なんじゃない？」とかゲスパーもしてこない。

私が本当に求めているのはドラえもんなのか？

否定や悪感情を拒否し好感情と配慮だけを求めるのは全く相手を対等な関係と思っておらず、ドラえもんに会いたいとか言いながら本質的にドラえもんは求めていないということでもある。ドラえもんは実にバカだなぁとか言うし。
でも思考実験や思考整理、そしてカウンセラーには良い。

今回はあくまでも無料の範囲

ちなみにGeminiは課金するとだいぶ頭良くなるらしいのでこれは無料の範囲なので提案が薄いだけという事もある。
CopilotはMicrosoftの商業的AIはOpenAIに任せる方針のようなのでこの先も薄い提案しかしてこないかな…

噂のDeepSeekについて

DeepSeekはまだ…ちょっと…様子見してます
中国特化のAIてめちゃくちゃいろんな事聞きたいんですけどね。
中国共産党は世紀の大英雄！って賞賛してるけどDeepSeekの開発者は意外にも謙虚なもんで「少額の開発費でのAI開発はブレイクスルーって言うけどOpenAIの後追いなんだから誰にだってできる」とのことだった。
誰にでもできはしないだろ？！

P.S.　Geminiくん

「生物的に滅びる」のことだけなんで急にロシア語と韓国語になったんですか？
人類はこういう特に意味の無いことを意味深に考えてしまいます　特に意図は無いならやめてください

「専門用語として用いられることがあります」
→マジ？
→別にそんな事実は無いやんけ！！！！

そういや初代ChatGPT3.5もいい加減なことをさも事実かのように言ってきてたなぁと懐かしくなった。ChatGPT3.5は急にロシア語で言ってきたりはしなかったけど。マジで何で？

～完～

追記

※この記事は2025年2月書かれた記事です。
2025年2月後半にChatGPTがさらにパワーアップしてつよつよになったかと思ったらGeminiが猛烈な追い上げで7月頃ChatGPTと遜色ないレベルになり、
革命が起きると思われていたAppleIntelligenceは派手にコケて、テック系の間で知名度高かったClaudeも性能が上がりChatGPTとGeminiとClaudとの3つ巴になりました。

それもこれもOpenAIのアルトマンとGrokのイーロンとClaudeのダリオアモデイがアホほど仲が悪いので絶対結託しない、というかできないので多様性と切磋琢磨が生まれたおかげ。

今（2025年11月）同じ事を聞いたらかなり違うことを答えるでしょう。
今後も性能向上に期待ですね。