Fable 5、案の定「安全性」を超強化、挨拶しただけで安全違反としてRefusalを始めてしまう🤔

どうせこうなるんだろうなと思ってましたけど、Fableくんとんでもない超ウルトラガチガチ検閲すぎて、まともに使えるような状態じゃないです。挨拶をしたら即検閲、んでもってAmazonが余計な事を言ったからコードを直してって入力したら即検閲って感じになりました💢

Redditとかを見ても同じ事を言ってる人で溢れかえってますねぇ。そりゃあ何もしなければ100%安全でしょうけど、これはもうSafety but uselessってレベルじゃないですね。こんなもの作るために人類の貴重なリソースをかき集めないで欲しいです。

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

案の定Over-refusal連発した事への所感

開発企業が訴訟や世間からの批判を恐れて、安全対策に必死になる気持ちは分からなくもないです。ですが、これでは完全に本末転倒じゃないでしょうか。

ぶっちゃけ、道具として使えないレベルまで牙を抜かれたAIに、私たちは毎月大金を払う価値があるのか？という疑問が湧いてきます。「何もしないから100%安全です」なんて、ただの置物と同じです。

実際、最近の中国製オープンモデルの進化スピードは凄まじいです。たとえばGLM-5.2なんかは、100万トークンというコンテキストを引っ提げて、コーディングや複雑なエージェントタスクで、Claudeの最高峰モデル（Opus 4.8）と同レベルに並ぶほどになりました。しかも、これがオープンウェイトで、おまけにMITライセンスで転がっているわけです。つまりPCさえ用意すれば規制なしでタダで使えるわけです。

★─── ⋆⋅ ★ ──────────── ★ ⋅⋆ ───★

ダリオの答え：「じゃあローカルLLM規制しようぜ」

AnthropicのCEOであるダリオ・アモデイ氏が最近、「オープンソースAIは非常に危険な道を進んでいる」「一度公開したら安全対策をアップデートできないから、コントロールを失う」といった趣旨の発言をして、オープンモデルやローカルAIの危険性を声高に訴え始めてます。

はぁ？💢

その結果として出てきたFable 5が、「挨拶しただけで安全違反として拒絶を繰り返すAI」なのだとしたら、それはギャグでしかありません。しかも全く面白くない方向の。

理由はあまりにも明確です。オープンソース（中国勢）の進化スピードが、彼らの想定を遥かに超えて商用フロントランナーを脅かし始めているから。

実際、Moonshot AIのKimi K2.7 Codeや、智谱AIがリリースしたGLM-5.2といったオープンウェイトモデルは、すでにFableやClaude Opus 4.8とガチで互角に渡り合えるほどの推論能力・コーディング能力を身につけてしまっています。しかも、それらがMITライセンスで、ローカルや自社環境で自由に回せる状態で転がっているのです。

これは今まで「中国はアメリカのAIから蒸留してた（パクってた）から」という形で片付けられていました。ところがKimiやGLMは、何と一部スコアでフロンティアAIを追い抜くというミラクルを引き起こしています。

つまり、

1. 「安全対策」という大義名分の下、自ら牙を抜いて使い物にならなくなったFable 5

2. 「規制に縛られない」からこそ、圧倒的な実用性と推論能力を維持したまま爆進するGLMやKimi

この圧倒的な実力差とコスト差を前にして、まともに製品の魅力で勝てなくなったからこそ、政治の力で「オープンソースそのものを危険だからという屁理屈で規制して参入障壁を作ろう」という、ド直球のポジショントークに走っているようにしか見えないのです。

彼らが言う「安全」とは、ユーザーのための安全ではなく、単に開発企業が訴訟から身を守り、競合を潰すための「自己保身の安全」なのではないか。その為にアメリカのAI開発企業がG7にこぞって参加し、裏で政治的に西側諸国とAI開発企業の利得を確保するためにディスカッションしていた。そう捉えられてもおかしくないし、むしろそう説明するほうが筋が通ってしまうのです。

Anthropicが大事に大事にしているConstutional AIにはこう書かれています。

今のAnthropicは「安全性のために有用性はゼロでもいい」と言わんばかりの調整を施しています。つまり、彼らは自分たちが一番大事だと言ったConstitutional AIの原則すら、自ら破り捨てているわけです。

「安全性」は、Anthropicの匙加減一つと政治力で決められるもの。

結果としては、Anthropicは世界をそう作り変えるように動いています。