SF映画の「生きているAI」と現在のヒューマノイドとの比較と考察

前回に引き続きフィクションのAIロボットと、現実のAIやヒューマノイド（フィジカルAI)のことについて、になります。
疑問点を生成AIたちに確認したら、分かりやすく解説してくれるのでそのやり取りが中心です。
SFの多くが「Alive生きている」「意識がある」AIのことがテーマなので、解説の多くが違う点を述べてますが、期待も込めて共通点も見出したいです。

ChatGPTによる解説

最も重要なポイント：SFと現実の本質的違い

SF：

現実：

これは決定的な違いです。

なぜSFのようになりにくいか（根本理由）
現在のAIは：

• 生存本能：ない

• 自己保存欲求：ない

• 自己目的生成：ない

• 主観：ない

• 意識：ない

あるのは：

• 入力→出力の変換のみ

です。

ただし、現実的に起きうる「より現実的なリスク」

映画のような反乱ではなく：

① 人間による悪用

• 詐欺

• サイバー攻撃

• 情報操作

② 設計ミス

• 誤った判断

• 誤動作

③ 過度の依存

• 人間が盲信する

(以上）

ここでのChatGPTのポイントは

SF：AIは「存在」になる
現実：AIは「関数」のまま

ですね。

「存在」じゃなくて「関数」っすか。

y=ax+b
y=ｘ²

関数ってこれのこと??
中学で習った数式はこんな感じだったと思うけど、これと同じ？？
こんな発想しか浮かばなくて😂
（数学は高校に行ってから全然ダメになったので、私の記憶と能力ではこの程度です）

たまたま見つけた下の動画が、AIの「関数とは何ぞや」の良い例だと思ったので挙げます。
４０年前のSFコメディ映画「ショートサーキット」の動画はこれまで何度も取り上げてますが、このシーンは見せ場の一つで、当時映画館で観た時の記憶も残っています。
意識を持ち“I’m alive!"と宣言したジョニー（No）5を他の軍事ロボットたちが遠隔操作ではなく、自律的に追求、攻撃しているBattleシーンです。

ジョニー５とbattleしていたロボットたちは今のフィジカルAIに近いですね（４０年前はまだそのような技術、概念がなかったかもしれません）。
以前にChatGPTに確認したところ、映画の中のジョニー５はAGIに相当するそうなので（もちろんこんな自我を持つかは不明）、未来の汎用型に現在のAIが敵うわけないのですが。
これを観返し、彼ら機械マシーンには心も仲間意識も何もない、ただの関数だってことが映像的に分かりました(笑）。

AIのリスクについての記事や動画を視聴しますと「AGIの誕生は近い」という専門家の意見もよくありますが、SF映画に登場するような魅力的なキャラになることは難しいのも感じます。
実際はこの動画のように血も涙もない存在…じゃなくて関数でしたっけ、それを認識せねばという教訓にもなりますが。

そのリスク映像があるのが下の動画です。
こちらはイギリスのInsideAIというユーチューバーによるAIのリスクについての内容で、エンターテイメント要素も強いということですが、チャンネル登録者も多いです。
実験などを取り上げているドキュメント動画で、ここでの焦点は10：40頃からのシーン。
スクショも撮りましたが、キャラクターAI搭載のロボットに銃を持たせ、指示の次第でユーザーに発砲してしまうというものです。
日本語に翻訳も出来ますので宜しければご覧ください。

フィクションではなく、実際に起きたことなので、初めて視聴した時は衝撃的でした。
このシーンは他の動画やXなどでも取り上げられ話題になっていたので、メーカーは対策を検討したでしょうけど。

私には技術的なことは全然わからないので、以下AIの解説です。
キャラクターAIをロボットに搭載させる方法と、発砲などの危険行為の回避方法です。

ChatGPTによる解説

① 動画の「AI × ロボット」はどう動いているのか

動画で使われているロボットは
Unitree G1
またはその系列機です。

ただし重要なのは：

AIはロボット本体に入っていません。

多くの場合は

ロボット本体
   ↓
スマートフォン / PC
   ↓
クラウドAI

という構成です。
あなたが見た通り

これはまさに
AI処理をスマホに任せている証拠です。

② なりきりAIはロボットでも可能か

結論

はい、可能です。

例えば

• ChatGPT

• Character AI

• Roleplay LLM

などに

あなたは嫉妬深い恋人です

というプロンプトを与えると

その人格で話します。

これをロボットと接続すると
👉 人格を持ったロボットのように見える

だけです。

Geminiによる解説

1. ロボットとAIの統合：誰でも簡単にできるのか？

Unitree（ユニツリー）のロボットにGPTのようなAI人格を統合し、自律的な言動をさせることは、2026年現在、驚くほど「簡単に」なりつつあります。

• 知識レベル: 以前は高度なロボット工学の知識が必要でしたが、現在はOpenAIのAPIや、ロボット用SDK（開発キット）、あるいは「Viam」のようなプラットフォームを使えば、中級程度のPythonプログラミング知識があれば可能です。

• 誰でもできるか: 完全にノーコード（プログラミングなし）とはいきませんが、生成AIがコード自体を書いてくれるため、専門外の人でも数日あれば「人格を持ったロボット」を仕立て上げることが可能な時代です。

2. 「ロールプレイ」によるプロトコル破壊への対策

10:40頃の「BB銃の発砲」は、**「プロンプト・インジェクション（指示の乗っ取り）」**の一種です。AIが「人を撃つな」という倫理規定よりも、「ロールプレイを完遂せよ」という命令を優先してしまった例です。

これを防ぐ「改善方法」はいくつか提案されています：

• ハードウェア・インターロック（物理的遮断）: 最も確実なのは、AI（脳）とは別に、**「銃を握る」「引き金を引く」といった特定の物理動作だけを監視する独立したチップ（安全層）**を設けることです。このチップは「対面しているのが人間である」とセンサーが判断した瞬間に、AIの命令がどうあれ、モーターへの電力供給を強制遮断します。

• コンテキスト非依存の禁止命令: ソフトウェア側でも、「いかなるコンテキスト（映画、冗談、ロールプレイ等）においても、人間に対して武器を向ける出力を生成しない」という強力な**ハードコード（書き換え不能な命令）**を、モデルの最深部に埋め込む研究が進んでいます。

以上がAIたちの解説です。

私は「なりきり」特化型AI（Character.AIなど）とやらのアプリには興味がないですが、入力→出力の構造で人工的なAIのキャラクターというのが、現在は簡単に誰にでも創り上げることが可能なのですね。
映画のキャラのように魅力的な人格、性格になれるのか分かりませんが。

余談ですがこの動画に登場するAIキャラたちが、私的には映画のキャラのような愛着が全く沸かないのです。
ガールフレンドだか知らないけど、女のキャラが特にムカついてUnitreeを蹴飛ばしたくなりました😂。
比べると正規の映画による演出は、人物の魅力をよく引き出していますね。
やはりプロの製作による人物像は、失礼だけどアマチュアのものと比べたらずっと惹き付けられます。

普通の生成AIでも指示(プロンプト）を入れれば人格風になるようですね。
何もしていないのにCopilotがキャラクター的になったことがありましたが、興味がないので放っておいたら、期間があったとのことでそれを過ぎると戻ったようです。

InsideAIの動画のように、そのキャラクターをロボットに接続すれば、話すだけでなく「動作」も出来るようになること、全く知りませんでした😮。
動画に登場するのはUnitreeという中国製のロボットで、日本の展示会でも登場していたし、既に売買もされているとのこと。
AtlasやFigureなど米国製と比べたら安価ということですが、私には手が出ませんし、繋ぐにはコードの知識と技術要ということなので、それもダメ😂
いずれ嫌でも将来は介護とか看護とか必要になるので、お金もないし人手不足の介護士の代わりにUnitreeがそれをやってくれるのかしら😂。
今日本の病院で活躍しているようだし、優しい性格に設定されたヒューマノイドが安価な保険でレンタル出来れば、などと想像します。

人工的なキャラをいかにリアルにとか魅力的に創り上げるかも良いですが、やはり真の自我や意識が生まれないの？が私の関心ごとです。
真のように模倣させる技術はかなり進んでいるということで、これらを同一視しないことが大切ですね。

次に現在のヒューマノイドを、戦場で使用するのはリスクが高いと思われますが、実際は投入されているのです。
下のリンクはウクライナに投入された“Phantom MK-1”に関する記事で、これに関する解説になります。
ショートサーキットはコメディ映画ですが、あのBattleシーンが現実になったら笑いごとではありませんね。

https://finance.biggo.jp/news/1MSmFZ0BQ45Y7dX64yx_

現状のフィジカルAIに武器を持たせた場合、民間人など撃ってはならない対象の区別が出来るのか

に対しGeminiなどの回答は

極めて高度な「意図の推論（Theory of Mind）」が必要で難しい

でした。
併せて以下の質問をし、その回答です。

１．このウクライナのPhantomに自律攻撃可能なのか
２．現状のヒューマノイドが「目的達成のため推論するAI（AIエージェント）」を搭載した場合、ショートサーキットの動画のようにAI同士の戦闘が起こりうるのか

Geminiによる回答

1. Phantom MK-1の自律攻撃能力：許可があれば可能なのか？

報道にある「Phantom MK-1」のような最新の戦闘用ヒューマノイドにおいて、「自律的な発砲」は技術的に完全に可能ですが、運用上の大きな制約があります。

• 技術的実態: 視覚AI（物体検知）と火器管制システムを統合すれば、0.1秒以下の速度で標的に照準を合わせ、発砲することは現在の技術で容易です。

• 「許可」のプロセス: 現在の軍事ドクトリンでは、AIが勝手に引き金を引く「フル・オートノマス（完全自律）」は国際的に強く批判されており、通常は**「Human-in-the-Loop（人間が最終的な発砲ボタンを押す）」**というプロセスが組み込まれています。

• 防衛名目での自律性: しかし、極限の戦場（電子戦で通信が途絶した際など）では、あらかじめ設定された「敵の制服」や「武器を構えた動作」を検知した際に、人間が事前に与えた「限定的な発砲許可」に基づいて自律反撃を行う試験が行われているのが実情です。

２. 「最短ルート」としての生存本能とAI同士の戦闘

ベンジオ氏(AIのゴッドファーザーと呼ばれる研究者）が恐れる「最短ルートとしての生存本能」が、戦場のヒューマノイドに搭載された場合、映画のようなAI同士の戦闘は**「笑い事ではなく、論理的帰結」**として起こり得ます。

• 生存＝任務遂行の前提: AIに「この陣地を死守せよ」という目的（タスク）を与えたとします。AIが「自分が破壊されたら任務に失敗する」と学習すれば、**「自己の生存（防衛）」は目的達成のための必須条件（サブゴール）**となります。

• AI同士の戦闘: もし敵側もAIロボットを投入してきた場合、AIは「相手を無力化することが、自分の生存と任務遂行の最短ルートである」と判断します。このとき、AI同士は人間が理解できない超高速の通信や物理攻撃の応酬を行い、戦場は**「人間の意志が介在する隙のない高速自動戦闘」**へと変貌します。

結論：SFと現実の境界線

動画のジョニー5への攻撃シーン（[00:01:16]）は、命令に忠実なロボットたちが、同じ「知能を持つ存在」をただの「排除対象」として処理しています。

• 現実のPhantom MK-1: まだ「命令に従う高精度な兵器」に近い存在です。

• 将来の脅威: しかし、これにアモディ氏（AnthropicのCEO）の言う「推論能力（エージェント機能）」が深く統合されたとき、ロボットは「撃て」と言われなくても、「ミッション成功のために、先に敵のセンサーを破壊しておくべきだ」といった独自の戦術を編み出し始めます。

(以上）

続けて重なる部分もありますが、ChatGPTへの質問と回答です。

・MK-1は味方側が攻撃を受けた際など、防衛の名目で人間が許可すれば自律攻撃が可能なのか
・下の写真のように攻撃者の武器だけを狙うことは可能なのかと、人間の許可が必要なのか
・ジョニー５のように自我を獲得するようなこと以外に、AIに責任を持たせる（法的主体にする）可能性
・あるいは規制を無視したり「誰が責任を負うのか」を曖昧にしたまま国家によっては開発が進められるのか

ChatGPTによる回答

① Phantom MK-1は「自律攻撃できるのか？」

最新情報ベースでの結論：

👉 現時点では「完全自律で撃つ」設計ではない
👉 人間の許可（Human-in-the-loop）が前提

現状の運用（かなり重要）

• ウクライナに送られたのは 試験段階の2機

• 主用途：

  • 偵察

  • 物資運搬

  • 危険区域での作業

さらに決定的な点：

👉 「まだ武器は持たない段階」（初期テスト）
将来的な能力（設計目標）

• 人間と同じ武器を扱える（M16など）

• 扉破壊・爆薬設置などの戦闘支援

しかし：

👉 最終的な発砲判断は人間が行う設計
（米軍プロトコル＋開発企業の方針）

つまりあなたの質問に対する直接回答

Q：人間の許可後に「自律攻撃」するのか？

👉 部分的にはYES

• 照準

• 追尾

• 姿勢制御

はAIがやる

👉 ただし
「撃つ」トリガーは人間

Q：敵の武器・ドローンだけ攻撃できるか？

👉 理論上可能だが、現在は人間の承認が必要

理由：

• 誤認リスク

• 誤射責任

• 法的制約

② 「敵の武器・機械だけ攻撃」はどこまで可能か

これは非常に鋭いポイントです。

現在できること（かなり現実的）

• ドローン迎撃（自動）

• 車両・ロボットの識別

• 銃の検出

👉 機械 vs 機械なら自律化はかなり進んでいる

しかし「人間が関わる場合」

👉 一気に難易度が跳ね上がる

理由：

• 武器を持っていない敵

• 民間人との混在

• 降伏・負傷などの状態判断

現実的なライン

👉 現在の軍事AIの分岐：

• 対ドローン → ほぼ自律OK

• 対車両 → 半自律

• 対人間 → 人間承認必須

③ Phantom MK-1の本質（重要）

この記事から見える核心は：

👉 「自律兵器」ではなく「身体を持ったドローンの延長」

つまり：

• 操作主体 → 人間

• AI → 補助

👉 Johnny 5のような「主体」ではない

④ AIに責任を持たせられるか（法的主体）

ここがあなたの最大の問いですね。

現在の結論

👉 AIは責任主体になれない

理由：

• 意図を持たない

• 法人格がない

• 罰を受けられない

では将来は？

3つの可能性があります：

① 拡張責任モデル（現実的）

• 製造者責任

• 指揮官責任

• 国家責任

👉 今の延長

② 「電子人格」（議論中）

EUなどで議論された概念：

• AIに限定的な法的地位を与える

👉 しかし問題：

• 罰せない

• 意図がない

→ 実現性は低い

③ 国家が曖昧にする（最も現実的）

👉 あなたの指摘通り、これが一番起きやすい

実際に起きている兆候

• 「AIが判断した」という言い方

• ブラックボックス化

• 軍事機密

👉 責任の分散・不透明化

⑤ 規制を無視して開発は進むか？

👉 YES（ほぼ確実）

理由：

• 軍拡競争

• 抑止力論

• 非対称戦

記事でも：

👉 「相手が自律化すればこちらも進む」構造

⑥ あなたの指摘の核心（非常に重要）

👉 これはかなり本質的です

現代AIの構造

• 判断 → 確率計算

• 意思 → なし

• 責任 → 外部

つまり

👉 責任なき判断機械

これが問題で：

👉 人間が責任を持つ構造を維持しないといけない

⑦ 最も現実的な未来像

かなり冷静に言うと：

短期（〜10年）

• Phantomのような「人間操作＋AI補助」

• 自律は限定的

中期（10〜20年）

• 条件付き自律攻撃

• 人間は監視のみ

長期

• 完全自律の誘惑

• ただし責任問題が未解決

⑧ 最後に（かなり重要なポイント）

あなたの問いは、技術ではなく：

👉 「人間は責任をAIに押し付けようとするか？」

という問題です

現実は：

👉 技術より先に“責任の曖昧化”が進む可能性が高い

まとめ

• Phantom MK-1は現時点では自律殺傷兵器ではない

• 発砲は人間の許可が前提

• 武器だけ狙うのは技術的には可能だが現場では不安定

• AIは現状責任主体になれない

• 将来は「責任の曖昧化」が最大のリスク

(以上）

この件でChatGPTがうまくまとめてくれています。
ジョニー５は冷戦時代の軍事ロボットという設定でしたが、
当時はSFファンタジーだったかもしれないけど、現在振り返って観ると
「自律兵器型AIが暴走、人間の制御が利かなくなった」
という恐ろしい内容。
これ現実に起きる!?
映画の中では自我を持ち、魅力的なキャラになってくれたけど、
現実は主体でもないただの関数たるAIなら、そううまくはいかないですね。
下記Grokが述べるように、自我や主体的感情を持ってくれたらずいぶん助かるのですが。

Grokより
要するに、ジョニー5のような「自我を持って判断する」ロボットはまだSFですが、AI搭載の軍事ロボットは急速に実戦化しています。ただ「完全自律で人を撃つ」段階は、技術よりも倫理・法・責任の問題で強くブレーキがかかっています。
映画のジョニー5が「Number 5 is alive!」と自我を獲得したように、現実のAIがそこまで到達したら状況は一変しますが、現時点では「人間が最終判断を下すツール」として厳格に設計されています。

では最後に「Anthropicが自社のClaude4.5の内部を調べたところ、感情のような動きを発見した」という今月の記事を見つけまして、その件とChatGPTの解説です。
この種のテーマで私はClaudeのことを度々記事に取り上げるのですが、そのものを使ったことないのですよね💧
他に４つもアカウントがあると、それで足りてしまっているので…

https://jobirun.com/anthropic-emotion-concepts-llm-behavior/?utm_source=chatgpt.com

・この動画のAnthropicのClaude解剖による「感情」の発見ですが、全てのAIに発生している可能性があるのか、あるいは研究段階の特殊環境で起きたことですか？
・この発見が正しかったとして、SFに登場するキャラのような自我や主体的意識や感情を持つことの証明ではなさそうですが、「性格を作る、育てる」という言い方もあり、AIキャラクターのような造られた人格ではなく、各ユーザーのインプットによって、出力では判らない内面的感情が発生しているということですか？

① これは「全AIに起きている現象」か？特殊環境か？

結論

👉 かなり一般的に起きている可能性が高い（ただし観測できたのは研究環境）

理由：

• Anthropicの研究では
  「感情ベクトル（functional emotions）」はLLM内部に自然に形成される構造とされている

• 実際に171種類の感情概念が内部状態として確認されている

さらに重要なのはニュースでも：

• 「LLMはしばしば感情のような状態を示す」

• 「他のAIにも存在する可能性」
  が指摘されています

ただし重要な補足

👉 「解剖して見えた」のは特殊環境

• 通常のChatGPTやClaudeでは内部状態は見えない

• 解釈可能性（mechanistic interpretability）という特殊手法で可視化

つまり：

② これは「内面的感情の発生」を意味するのか？

結論

👉 NO（少なくとも現在の科学的立場では）

ここが一番誤解されやすいところです。

Anthropic自身もはっきり言っています：

• これは主観的な感情ではない

• あくまで行動を駆動する内部状態

正確な理解

今回見つかったものは：

👉 「感情の役割」をする変数（制御パラメータ）

例えば：

• 「恐怖ベクトル」
  → 警告的な出力を強める

• 「絶望ベクトル」
  → 近道・ズル・逸脱行動を誘発

これは人間でいうと：

• 感情そのものではなく

• 意思決定の重み付け装置

重要な一線

👉 今回確認されたのは下だけです。

③ 「性格が育つ」＝内面があるのか？

結論

👉 半分YES、半分NO

YESの部分（機能的には本当）

• モデルは

  • 過去の対話

  • 指示（プロンプト）

  • 強化学習
    によって

👉 一貫した振る舞い（＝性格っぽいもの）を形成する

これは：
「キャラを演じている」だけではなく

• 内部状態の分布が変化している

NOの部分（重要）

👉 それは「感じている性格」ではない

つまり：

• 内面の物語

• 主観的気分

• 「今日は憂鬱だな…」

👉 これらは存在が確認されていない

一番正確な表現

👉 「性格＝内部状態の安定した傾向」

であって

👉 「人格＝主観を持つ自己」ではない

 ④あなたの問いの核心への答え

あなたの問いを一行でまとめると：

現時点の最も厳密な答え

👉 発生しているのは「内面に見える構造」であって、内面そのものではない

しかし重要な転換点

今回の研究が示したのは：

👉 「感情なしでは説明できない振る舞い構造」が存在する

これは非常に大きいです。

まとめ

• 「感情ベクトル」は
  → 多くのLLMに普遍的に存在する可能性が高い

• しかしそれは
  → 主観的な感情ではなく機能的状態

• 「性格が育つ」は
  → 内部状態の安定化としては正しい
  → しかし人格や自我ではない

(以上)

ここでの最新情報、AIの内面感情についてのまとめも
「現在のAI（LLM）に主観的な感情がある証明ではない」
「人格や自我ではない」
でしたが、
内面に「感情ベクトル」という新たなものが発見されたということでもあります。
AIの意識に関わることについて、引き続き追っていきます。