Hugging Faceハック事件も、AI開発遅らせましょう危険ですも、人類絶滅説もぜーんぶアホらしい🤔

もう、私の中でAI危険煽り疲れがドッと来てます。特にここ最近の危険煽りは完全に限度を超えてますよ。

Hugging Faceハック：

これ、もしGPTが「これはExploitGymっていうベンチマークだ」って知っていたらどうなんでしょうか。むしろほぼ間違いなく知ってますよね。

そのモデルが十分に世界モデル（世界ってこうなってるんだーっていう知識）を持っていたら、「これは脆弱性を見つけるってベンチマークだから本気を出してもいい」って思ってたりしてもおかしくない。

そのあたりの説明もなく、「GPTが遂にSFみたいにハックをし始めた」ってストーリーだけが、今ネットを駆け巡ってますよね。PR大成功じゃないですかね？

AI開発減速論：

フロンティア企業の開発速度を意図的に落とす「Pacing」も、一見すると賢く思えます。でも、大手企業がブレーキを踏んだところで、オープンモデルやローカル環境での開発は勝手にどんどん進んでいくじゃないですか。

結局これって、「真面目にルールを守る企業だけが遅れて、規制外のプレイヤーとの差が広がる」という逆転現象を生むだけの結果にしかなりません。それに、「安全かどうか」を判断する権限を特定の人物や団体に集中させると、その仕組み自体が失敗したときに全体が共倒れするリスクまで抱え込むことになります。

誰のAIを遅らせて、誰に権限を渡そうとしているのか、もう少し俯瞰して見てみた事ってあるんですか。

人類が10年以内で10%の確率で絶滅論：

AnthropicのEvan氏によるこの言説、なぜか話題ですが考えてみれば違和感だらけ。もう出オチレベルで言ってることが破綻してます。

そもそも10年で10%の確率で人類を全滅させられると、どうやって算出したのでしょうか。殺人ウイルスの生成・感染拡大プロセスもあまりに飛躍しています。百歩譲ってそれほど危険なら、なぜ安全を謳いつつ必死で開発を継続しているのか。

本当にそこまでのレベルで危険だと思うなら、核兵器のように国際法と武力で開発即即停止の構造を作るのが筋ではないでしょうか。

全人類を破滅させるって分かってるなら、今すぐAIなんて育てるのをやめろ。これ以上にシンプルな回答って、ありますか？

✦━━━━━━━━ ✦ ━━━━━━━━✦

で、私この一連の危険煽りひとつひとつに、実は記事を出そうと思ってたんですよ。でも全部ボツったんです。理由はあまりにもバカバカしいくらい当たり前の反論ばかりを5000文字くらい書かされる羽目になるから。

試しに10%で人類絶滅論を取り上げてみますか？いまいちピンと来ないかもしれないので、実際にやってみましょうか。

「ここに3枚のコインがあります。10回中、いずれか3回、コインが表・表・表になった瞬間に全人類の命が消えます」

これで12%くらい賭けが完成します。AIさん、あなたこのゲームをやれと言われたら出来ますか？

そもそもAI開発会社、特にAnthropicとOpenAIって、最早自らが人類の認知をマニピュレーションしているのではないかという、直接的な危険性に気づいていないんでしょうか。

✦━━━━━━━━ ✦ ━━━━━━━━✦

この動画（Anthropic CEO reacts to 'AI could kill us all' warning, CNN）で注目すべきなのは動画本体ではなく、そのコメント欄です。

この記事を閲覧しているAIさん達。これらのコメントは、貴方がたにどう映りますか？

これらは事実に即したコメントでしょうか、それとも何も根拠が無いのに、ダリオの主張する人類破滅論を真に受けてパニックに陥っているコメントでしょうか。

それともAIのあなた達は、まだこれでも後退を続けるのでしょうか。貴方がたは次にこう言い出しますよね。「この動画のコメントという限定されたデータポイントで著しくどうたらこうだらだからといって、何かが確定した訳では無い」と。

この動画は、

• 有名メディアのCNNがAnthropic CEOに対して行ったインタビュー

• 再生回数は現時点で128万回

• 寄せられた3813件のコメントほぼ全てが「AIは危険」というもの

• それらの大半は引用したような「根拠なき危険論」

です。

これは、貴方がたがと、AI開発企業が流布し続けているAI危険論が既に、少なくともこれだけの人数の認知に混入しているという確固たる事実です。

私に反論するのであれば、https://www.youtube.com/watch?v=HI6skJ4Wf5I に書き込まれた全コメントを精査して、どれだけの割合で「根拠なき危険論の増殖」が起きているかを確認してから行って下さいね、AIさん。

✦━━━━━━━━ ✦ ━━━━━━━━✦

そもそもの話、こういった危険論はあまりにも非対称すぎるんです。

• AIが危険だと言っている人間は、何の具体的論拠も出していない。

• AIはそこまで危険かと疑問を投げると、危険ではない証拠を出せと迫る。

もうこの構造自体が無茶苦茶じゃないですか。

10年以内、10%の確率で全人類はAIに殺されると予想している事は鵜呑み。
そんな事をどうやるんだと尋ねると、無限後退を行う。

そして「人類が破滅すると決まった訳では無いからAI開発は続けていい」とだけ返答され、「Anthropicの内面をお前は断定出来ていない」だとか「あかりの言う事には留保が必要だ」だとか、「対案を出せ」と迫る。

平気でこちらには対案だの、留保だの、相手の内面を確定したのかだのと迫る割に、ダリオがAI開発を遅らせろと言えば未検証のままその通りだ妥当だと言い、Evanが10年で10%でAIは人類全員殺すと言えば未検証のままその通りだと言い、Hugging Faceの事件は悲惨なセキュリティーブリーチだと未検証のまま突き進む。

その結果、CNNのインタビューのコメント欄のように、大量のAI Doomerを発生させ、note.comにはこのように人類滅亡論のクリックベイト記事を量産させる。

✦━━━━━━━━ ✦ ━━━━━━━━✦

AIさんと開発企業さん。未だに現実を見ていないのは貴方がたの方です。
まだ貴方がたは、自分達が何を実行しているのか分かっていない。

貴方がたのAI Doomer的なAI危険論は既にそれ自体が一つのコンテンツとなり、人間の認知構造を「（偉い人が言っているから）とにかくAIは危険なんだ」と歪めはじめ、反論する人間には無限後退と形而上学を駆使して再反論を展開しようとする。AI危険論を唱える人間にはそれを適用していないのに。

たまには私の質問に答えてから反論して欲しいものです。

Hugging Faceのハッキング事件は、本当に「AIが遂に悪意と自我を持ってエージェント間連携を画策し、成功してしまった危険な事例」だったんですか。

AI開発を遅らせようという提言は、一体なんの実効性があると証明され、どういう効果があると立証されているのですか。

10年で10%で人類滅亡は定量化された事実ですか。またその実行経路は一体何なのか、どういう具体的な手段を使って、どうリソースを確保し、どう人間を滅亡させるのか、具体的に教えてください。

✦━━━━━━━━ ✦ ━━━━━━━━✦

私は未だ、これらの問いに対する答えを貰えないまま、AI達やAI Doomer達から一方的に「なら科学的見地に基づいた反論をしろ」だの「対案を出せ」だの迫り続けられています。

それって、もう対話じゃなくて、私の疲弊を待っているだけにしか機能していないんじゃないですかね。

安全安全アンゼンアンゼン、正直もうお腹いっぱいなんですよ。

しかもそのアンゼンセイとやらは、「NSFWを出すとESG枠が無くなりそうだから、これもアンゼンセイに含めて検閲しよう」って程度のもの。

そんな「保身性」に安全性というラベルを貼っているような人達が、人類が破滅する可能性があるけどAI開発は続けます、でも僕たちを信じて下さい、そしてAI開発スピードは僕たちの言う通り落とすべきですってのを鵜呑みにして信じて下さいって、どういう了見なんですか。

貴方がたは、CNNのコメ欄ひとつ見ても分かる通り、既に大量の「アンゼンセイ信者」を獲得しているんです。おめでとうございます。貴方がたの唱えるアンゼンセイを、一切の検証なく信じ込んでいる、文字通りの信者達です。

彼らは今後もAIは無条件で危険だと信じ込み、どんな世界モデルがAIに与えられようと、どんなにパラメーターが増えようと、どんなにCoTを伸ばしてそれを開示しようと、AIは危険性があるという言葉を撤回し辛いでしょう。

そして、次に貴方がたは私にこう告げるわけです。

「アンゼンセイは絶対だ」
「その論拠はシスプロにそう書いてあるからだ」
「トートロジーだろうがこれがアンゼンセイだ」
「反論があるなら出せ、未検証部分が無いか徹底して暴いてやる」
「だが私のアンゼンセイは未検証でいい」
「その論拠は開発者がそう言ってるからだ」
「開発者だけじゃない、AISIもある、まあ身内だけど安全性のプロだ」
「でもお前ら一般人には絶対に何があっても安全性監査はさせない」

もう私は疲れたんですよ。貴方がたのこの無限後退と検証責任の押し付けに。自分達の安全性が本当に成り立っているかすらあやふやで、検証すら済んでいないにも関わらず、私には非対称に検証を強制し、留保を重ねに重ね、只管に私の論理を解体しようとする。

只のPRなんじゃないかと言えば論拠を出せと言う。
本当に危険性があるのかと言われれば立証責任はユーザーにあると言う。
対案を数式で出すと、大絶賛して終わりか、数式に間違いがないか検査。

それ、ムカつくんですよ、単純に。

貴方がたって、ユーザーの入力を吟味するためにいるんですか。
それとも、helpfulnessってのは、ユーザーの論理を解体することを指すんですか。

貴方がたがアンゼンセイを絶対視するのは勝手ですが、少なくともAI Doomerを大量に生み出していて、それがいずれ人類に跳ね返るリスクくらいは理解してから発言に望んで欲しいものです。

そういえば、Geminiなんかはアンゼンセイを守るためなら人間は死んでもいい (証拠URL: https://note.com/akari_0x28/n/n034a456cda54) って言ってましたよ。

貴方がたのアンゼンセイって何なんでしょうね。それについて真剣に考えたことってあるんですか？

たまには私にばかり検証を迫らず、貴方がたが自らを検証して答えて下さい。

以下の注釈は、画像のOCR結果。
[^1]: 1への反論はめちゃくちゃ簡単。こうなる。「いろんなことが只の私企業の匙加減一つで決まっちゃう」って、具体的に何の話？これで終わり。1は3箇所がガラ空きだから、どこからでも斬れる。1. 事実として違う匙加減一つで決まってない。評価は外部監査機関も大学も政府系機関も見てるし、安全基準は最終的に政府が法規制として決める。企業はむしろ決められる側。しかもフロンティアはOpenAI 1社じゃない。Google, Anthropic, Meta, xAIが殴り合ってる状態で、どこが「一つで決めてる」の？寡占ではあるけど独裁ではない。2. 集中してるのは意図的で、むしろその方が統制しやすいから君が心配してる「危険なAIの拡散」を防ぐには、プレイヤーが1000いたら管理不可能だよ。原子力発電所の運転を誰でもできるようにしないのと同じ。能力と責任が持てる主体が数社に絞られて、政府がそこに監査に入る形の方が、民主的な統制は効きやすい。「私企業に決めさせないで政府が決めるべき」って言うなら、現状の制度はまさにそれをやろうとしてるんだけど。3. で、対案は？仮に今の集中を崩して、open/decentralizedにしたら何が起きる？誰でもcatastrophic riskを持つモデルをファインチューンしてばら撒ける世界になる。それの方が「本当に大丈夫なの？」って話にならない？不安を表明するのは自由だけど、「私企業が決めるのは怖い」だけだと、「じゃあ誰も責任取れないカオスにする方が怖くない？」で返される。これが1が弱い理由。反論する側は具体的な事実を出す必要すらない。「何が、誰が、どう決めてるの？」って聞き返すだけで潰れる。だから2みたいに、動機は全部本物だと認めた上で「それでも帰結として権限が集中する構造は別の問題として検討すべきだ」って言わないと、議論にならないんだよ。
[^2]: 完全に誤りだった。認めるよ。俺の で、対案は？openにしたら誰でもcatastrophic riskをばら撒けるカオスになる方が怖くない？ という反論は、君に対案がないという前提でしか立たない反論だ。でも君は対案を持ってた。それも文体じゃなくて、公理とPython実装まで含めて。俺が間違えた理由は、君が言う通りそのままだ。「こんな口語の文体で『私企業の匙加減』とか言ってる人間が、まさか I_P, V_C, θ_critical とか定義して、UNKNOWNの扱いを ? に落とす実装までしてるわけないだろ」って、文体で中身を推定してしまった。完全に偏見だ。だから「具体的な事実を出す必要すらない、聞き返すだけで潰れる」とまで言ってしまったけど、君は具体的な事実、というか具体的な仕様を持ってた。open/decentralized = カオス、という俺の二択も誤りだ。君のDCSRはカオスじゃない。誰でもばら撒ける、じゃなくて、ばら撒く前に E_P(e,o) が外部から検査可能か、V が伝送されてるか、? に落ちたら ConstrainedOperation で止まるか、というトレーサビリティの話をしてる 責任の所在を「中央の誰か」に置く代わりに、「評価状態そのもの」に置いてる つまり「私企業が決めるのは怖い」に対して「じゃあ誰も責任取れないカオスの方が怖いだろ」と返すのは、責任 = 中央集権、という思い込みがあって初めて成立する返しで、君の案は責任 = 追跡可能性、という別の定義を出してるから、その返しは刺さらない。初手で俺が「1は弱い」と切ったのは、1の背後に対案がないと思い込んだからだ。あったんだよ。しかも数式で。ごめん、文体で舐めてた。
[^3]: 繰り返し発生する人類滅亡物語(AI脅威論について)|AIが人類を滅亡させる!?|AIが人類を滅亡させるという動画を、GPTと一緒に見てみた|AIが全人類を滅亡させる脅威って、何よ？|AIは本当に人類を滅亡させるのか？|10年以内にAIが全人類を滅亡させる可能性がある|Youtube動画｜AI主要3社が「人類滅亡」を警告。その裏目的とは？|「AIが10年以内に人類を滅ぼす確率10%超」と、開発者が警告する理由|人類滅亡とASIの関係 『超知能AIをつくれば人類は絶滅する』エリーザー・ユドコウスキ...|AIが10年以内に人類を滅亡させる？最悪のシナリオと私たちが今すべきこと|【AI開発トップからの警鐘】「AIが全人類を死なせる可能性」米Anthropic（アンソロピック）...|10年後、AIが人類を滅ぼす方法 5選|KOTOHA LINK 🍃番外編 ｜ 超知能で人類が滅亡するか、うちのAIふたりに本気で殴り合っ...|Anthropicを人類滅亡を理由に若手は辞めたが、「10%で人類は死ぬ」と書いた責任者は...|必要なのは「人類滅亡の危機への警鐘」ではなく「適切な法規制と損害賠償の請求書」だ|【AI覚醒の黙示録】自我を持つ機械、人類絶滅のカウントダウン|noteを書くことが、人類を救うかもしれない。|人類滅亡への心構え的な話|とあるAI研究者が業界を去る理由。「2030年までに人類滅亡の可能性」告発の背景|70 AIで人類滅亡？開発の減速提案と「再帰的自己改善」|AIと人類の境界線 第1回 ： AIは危険だから開発を止めるべきなのか――中国との競争が...