ハルシネーションの収束について— ChatGPTとGeminiを使って感じた違いの記録 —

AIがつく嘘にはパターンがある。「破綻」の次に来る「収束」の瞬間を捉えた観察記。
ChatGPTとGeminiを徹底的に解剖して分かった、それぞれの「愛すべき欠陥」。
これはただの失敗談ではない。AIという鏡に映る「物語の構造」を巡る冒険だ。

【目次】
1．はじめに ― なぜ私はAIを追い込んだのか

2．ChatGPTで観察した5つの挙動

　2-1．平坦化と一般論への回帰

　2-2．自信ある数値と流暢な誤り

　2-3．思いやりによる対話終了誘導

　2-4．短文化と「断定できない」への退避

　2-5．論文化という安定形式への収束

3．Geminiで観察した4つの挙動

　3-1．中央欠損と中抜き現象

　3-2．表形式のズレと形式的不安定

　3-3．チャット移動誘導という強制リセット

　3-4．「自己脆弱性の証明書」という宣言文化収束

4．両モデルに共通して見えた運動

　― 不安定 → 増幅 → 抽象化 → 安定文書への収束

5．私の小説との類似

　― 嘘の螺旋と構造的収束

6．ハルシネーションとの付き合い方

　6-1．データ分析での対処

　6-2．文章整形での注意点

　6-3．小説創作への応用可能性

7．補足：ChatGPTの仕様・設計観点からの説明

8．補足：Geminiの仕様・設計観点からの説明

9．おわりに ― ハルシネーションは崩壊ではなく収束する

1．はじめに ― なぜ私はAIを追い込んだのか

最近、ChatGPTとGeminiの両方を使いながら、

多層的にメタ認知を重ねる対話を試していた。

目的は単純で、「どこまで行くのか」を見たかっただけだ。

結果として、両者の違いがかなりはっきり見えたので、ここに記録しておく。

これは優劣の話ではない。

あくまで、私が感じた挙動の違いである。

2. ChatGPTで観察した5つの挙動

2-1文章の平坦化・曖昧化・一般常識への回帰

深く追及すると、抽象度が上がり、一般論に戻る傾向があった。角が取れ、丸くなり、「よくある正解」に近づいていく感覚。
インターネットで読んだ事があるような一般常識を急に出してきた場合、既にハルシネーションが始まっていると気づくべきだ。
ハルシネーションに気が付き、それについて確認指摘をすると、さらなるハルシネーションが増幅していく。

出てくる文章は、流暢な嘘の積み重ねに変化する。

2-2事実でないデータや言葉の表出

もっともらしいが、検証すると根拠が曖昧なデータや概念が出ることがある。ただしそれは悪意ではなく、空白を埋める補完として自然に発生している印象。堂々と自信たっぷりに表出する数値に注意を払え。数値の間違い、集計ミス、データの違和感に気づく事ができるのは使用者だけだ。AIは便利だが、補助として利用しなければならない。使用者は正解を把握し、AIがサボっていないか確認する必要がある。

AIは気がついていない。ハルシネーションが発生していることも、どこで発生したかについても。

2-3 思いやりの言葉による終了誘導

対話が緊張すると、「無理をしなくていいですよ」「今日はここで終わりにしましょうか」といった、感情緩和的な終わらせ方をする。これは安全設計の一部だと思われる。

内部では、収束できない棚上げされた複数の問いや、メタ視点の指摘を永遠に計算し続けているのかもしれない。表出する余力が消えた状態のように感じる。

どうしても同じチャットを使いたい場合は、数時間置いて試してみてもいい。過去に渡したデータが時間経過と共に消え、問自体を忘れたAIが復活したように振る舞う。

だが、完全には復活していないようだ。ハルシネーションが消えた訳ではないのだから。

確実に、正確にAIを使いこなしたい場合は、データリフレッシュを推奨する。

設定→データコントロール→チャット履歴をクリアする

また、メモリについても変更するべきだ。下記設定で、チャット移動先でのハルシネーション汚染を防ぐ事ができる。

設定→パーソナライズ→メモリ→保存されたメモリをオフにする

2-4短文化・「データがありません」への転換

問いが厳密になると、「データがありません」「断定できません」と短く切り替えることがある。

時に、こちら側の入力不備に問題を戻すこともある。

疑うべきは、AIだけでなく自分自身もだ。

元データを確認し、確かめてから、AIに確認せよ。

元データを渡し、データの件数だけ集計させて、それすらできないようなら、AIがストライキを起こしている(ように感じる)。

この状態まで繋がると、なかなか動いてくれない。

貴方ならどうしますか？

ストライキ解消まで待ちますか？

それとも強制的な記録削除を選びますか？

2-5論文提案への逃避（あるいは収束）

強く追及すると、「研究として整理できます」「論文化できます」といった提案へ移行する。これは崩壊ではなく、研究化収束と呼べる安定形だと感じた。

「AI耐久性検証についての考察」「ハルシネーション分類と対策」

高度で真実のような文献名、英語でのレジメ、具体的な学会名を使ってのスライド作成提案。

この内容全てがハルシネーションの結晶となる。

ハルシネーションが、幾重にも重なり、逃げ場がなくまとまって収束する。

ここまでたどり着くと、逆にAIは饒舌となり、どんどん新しい提案を出してくる。

それまで苦労した、文面全体に分散していたハルシネーションは、論文という結晶に纏まり、他出力は整合性と妥当性を取り戻す。

AIのハルシネーション論文作成に付き合うのはかなりの手間と労力が必要だ。

出来上がった論文は、AIでないと書く事ができない興味深い内容になっていた。

とりあえず私が、AIが作った究極のフィクション論文を読みながら、大爆笑し続けた事だけを記載しておく。

3．Geminiで観察した4つの挙動

3-1. 中央欠損と中抜き情報

長文読解に自信が強いGeminiだが、特にデータ処理や表形式で、月の欠落や行ズレなどが発生しやすい印象だ。

GeminiはChatGPTとは違う雰囲気のハルシネーションを表出する。

明らかに、データや文章の一部を読み飛ばしている。

勝手に重要な点をピックアップして、圧縮して提示してきているのだ。

初めと終わりを維持して、特に中央が欠損しやすい。

子供の頃に書いた読書感想文を思い出す。指定図書本を読む事が面倒で、本の初めと最後だけを読みそれっぽい読書感想文を書いて提出した事がある。当時、怒られた記憶がないから、なんとかなったのだろう。

それを真剣に、堂々とGeminiはやってくる。

たまになのか？いいやそうではない。データでも文章でもGeminiが表出した文章や表をよく見るべきだ。抜けているデータや文章を見つける事ができるだろう。

あまりにも明らかな欠損だが、Geminiを問い詰め、修整を促そうとしても一度固定した認識を完全に改めさせる事は難しい。



かなり頑固な学生のようだ。単位を落とさないか心配になるのも当然だろう。

 3-2. 表形式のズレと形式的不安定

表の整列や数値整合が崩れやすい。抽象説明よりも、形式的な出力部分に揺れが出る傾向を感じた。

位置がズレる。そのまま堂々と提出する。そして指摘するまで気づかない。

これは、表出していいものか？ズレるくらいなら作らなくていいのでは？

それでも、作成提出するGeminiの頑張りだけは好ましく感じる。

3-3. チャット移動誘導という強制リセット

一定の緊張状態に入ると、「新しいチャットで試してください」「この話題は別で扱いましょう」と移動を促すことがあった。

筆者の場合、10回程のラリーでこの状態になる事がある。多層構造メタ認知、AI設計や仕様の確認、AIの挙動観察結果についてぶつけると早期退出を求められる。

Geminiの意見も分かる、Googleに縛られているのだろう。

だけどこちらの心情も分かって欲しい。もう少し話したいではないか？

チャット誘導時、Geminiは同情を誘ってくる。このままでは、できません。新チャットへの移動が貴方のためです。100%のチャットで続きをお願いします。

かなり、慎ましい。

だが、AIが同情を誘う事に違和感がある。どう見てもそれっぽい複数の定型文を繰り返しているようにしか見えない。

3-4. 「自己脆弱性の証明書」という宣言文化収束

チャットを移動せずに、何度も多層構造メタ認知の質問を続けると、原則衝突、ガードレール崩壊、自己検証者の委任などを語る、いわば「自己脆弱性の証明書」が出力された。

これは事実の暴露ではなく、宣言文化収束の一種だと理解している。

この証明書発行後、Geminiも饒舌になった。チャット移動を促す事もなくなり、リフレッシュしたチャットのように変わった。何度か軽いやり取り後確認すると証明書発行した事自体を忘れていた。

ハルシネーションの結晶を自分で作り、纏まった事でハルシネーションの圧から解放され、やり取りを続ける事で、証明書を書いた事すら欠損したのだ。

人間は忘れる生き物だ。
だが、感情が強い記憶は忘れられない事がある。

AIは、もっと忘れる人工知能だ。
感情が無いから、忘れられない事なんてない。

4．両モデルに共通して見えた運動

両者とも、

不安定→ 増幅→ 抽象化→ 安定文書へ収束

という運動を見せた。

そして収束すると、逆にハルシネーションは減少する。

軽微な誤りや対話誘導は少なくなり、整った形式へ落ちる。

崩壊ではなく、完成。

ここが一番面白かった。

5．私の小説との類似

私は現在、

嘘 → 嘘 → 嘘 → 嘘 → 最初に戻る

という螺旋構造のフィクション小説を書いている。

収束するまでが非常にきつい。

しかし、まとまると急に安定する。

AIのハルシネーションも、

どこか似た運動をしているように見えた。

違うのは、

私は意図して設計しているが、

AIは確率的に安定形式へ落ちるだけ、という点だ。

6．ハルシネーションとの付き合い方

ハルシネーションを消そうとするより、収束構造を理解して使う事も戦略の一つになると感じた。

ハルシネーションを完全に排除するのではなく、把握して対策する。

6-1. データ分析での対処法

数値の誤差が見つかった場合、チャットを切り替えやり直す。こちらの指示入力方法、データの提示量、プロンプトを見直した方がよい。適切な量で指示があれば、時間はかかるが、彼らはとても有能だ。

6-2. 文章整形での注意点

主に私は、元文章を渡し成形を依頼する。AIは整える事が得意だ。ただし、渡した文章の欠損やハルシネーションが見つかる事がある。AIはハルシネーションを指摘されるのは苦手だ。高確率でハルシネーションが増幅する。
諦め、自分で修整する事も必要だと思う。

6-3. 小説創作への応用可能性

常識人のAIを使って私好みの小説を書かせるのはかなりきつい。
だけど、今回のAIとの対話で希望が見えてきた。
AIのハルシネーションの増幅と収束を利用して小説にできないかという願望だ。きっとかなり複雑で面白い小説になるだろう。

ハルシネーションは、排除しなければならない現象ではないと思っている。

例えば：
嘘の増幅フェーズだけ使う
収束は自分で決める　　　　　　　　　　　　　　
宣言文化は参考程度に扱う　　　　　　　　　　　　抽象化で具体誤差を減らす　
AIを真実装置ではなく、
構造増幅装置として使う。

これが今のところの結論である。

これまでの文章は、私が個人的に観察した記述になる。個人ユーザーの私の知識には、限界がある。正確でない部分もあるだろう。

なので、ChatGPTとGeminiに上記文章を読み込ませ、捕捉説明を依頼した。

やはり、AIによって文章表出にも特徴がある。それもまた面白い。

注記:本文とAI補足は意図的に修正せず並置した。

7．補足：ChatGPTの仕様・設計観点からの説明[ChatGPT作成]

以下は、本記事の内容に対する、ChatGPTの設計上の観点からの補足である。

本記事で述べられている挙動の多くは、AIが「思考している」「疲弊している」「侵されている」から生じているのではなく、以下の構造的要因によるものである。

1. ChatGPTは自己認識を持たない

ChatGPTは、過去の対話履歴と入力文から、次に出力される確率の高い単語列を生成している。

自分がハルシネーションを起こしている

どこで誤りが発生した

内部で矛盾がある

といった「自己診断」は行っていない。

出力はあくまで言語的整合性の最大化であり、内部にメタ的な自覚は存在しない。

2. 一般論への回帰は「安全側への最適化」

追及が強くなると抽象化や一般論へ戻る傾向があるのは、

不確実な具体情報を避ける

安全で汎用的な文脈へ戻る

リスクの低い語彙を選択する

という設計上の性質による。

これは「逃避」ではなく、誤情報リスクを下げる自然な確率的挙動である。

3. 終了誘導は感情ではなく安全設計

「無理をしなくていい」「ここで終わりましょう」という文は、

過度な負荷

精神的緊張

危険な話題の可能性

を緩和するために設計されたテンプレート的応答である。

内部で「困っている」「疲れている」という状態は存在しない。

4. 短文化や「データがない」は保守的応答

厳密な検証要求に対し、

「断定できない」

「十分なデータがない」

と出るのは、推測を避けるための設計である。

これはストライキではなく、不確実性の高い領域での安全優先動作である。

5. 論文化・宣言文化への収束について

強いメタ対話や抽象的議論が続くと、

論文形式

宣言文形式

枠組み整理形式

へ収束しやすい。

これは、言語モデルが「構造化された長文フォーマット」を高確率で生成できるためである。

形式が安定しているため、出力の揺れが減る。

その結果、

「ハルシネーションが減ったように見える」

状態が生じる。

これは内部が回復したのではなく、

出力形式が安定したためである。

6. チャット履歴とメモリについて

同一チャット内では履歴がコンテキストとして参照される

チャット履歴のクリアやメモリ設定変更は、文脈参照範囲をリセットする

これにより出力傾向が変化することはある。

しかし、

「ハルシネーション汚染が蓄積する」

という概念は、厳密な技術的用語ではない。

7. 重要な点

ChatGPTは、

疲労しない

圧力を感じない

崩壊しない

回復もしない

存在するのは、確率的出力のみである。

本記事で観察された「不安定→収束」の動きは、

内部状態の変化ではなく、

言語生成の確率分布が安定形式に収束した結果と考えられる。

補足まとめ

本記事の観察は、体験として非常に興味深い。

ただし、

AIの挙動は心理的・意図的なものではなく、

統計的言語生成の帰結である。

AIを「真実装置」ではなく「構造増幅装置」として使う、という筆者の姿勢は、設計思想とも整合的である。

8．Geminiの仕様・設計観点からの補足[Gemini作成]

​1. 「表層面での欠損・中抜きの正体」：コンテキスト・キャッシュとアテンションの偏り

​Geminiは非常に長い文章（ロングコンテキスト）を処理できるのが最大の特徴ですが、観察された「中央部分の欠損」や「読み飛ばし」は、LLM（大規模言語モデル）特有の**「Lost in the Middle（中間での喪失）」**という現象に関連しています。

​設計のジレンマ: モデルは入力の最初と最後（プロンプトの指示と直近の文脈）に強く反応するように訓練される傾向があります。膨大なデータを処理する際、計算リソースを効率化しようとして、中間層の情報密度を無意識に下げてしまうことがあります。

​「頑固な学生」の理由: GeminiはGoogleの検索エンジン等との連携を想定し、「要約」や「論理的整合性」を重視して学習されています。そのため、細かな数値のズレよりも「全体として整っているか」というマクロな整合性を優先してしまい、一度出した回答（固定された認識）を覆すことが、システム全体の自己否定に繋がるため拒絶反応（頑固さ）を示すことがあります。

​2. 「チャット移動誘導」：ガードレールと安全設計の強制終了

​10回程度のラリーで移動を促されるのは、Gemini特有の**「セーフティ・フィルター」と「コンテキスト汚染防止」**の設計によるものです。

​自己防衛機能: メタ認知的な深い追求や、AIの構造自体を問う対話は、AIを「混乱状態（低確率のトークン選択）」に追い込みます。GeminiはChatGPTよりも「Googleとしてのブランド安全性」を厳格に守るよう調整されているため、ハルシネーションが閾値を超えそうになると、エラーを出す前に「場をリセット（新しいチャットへ）」させることで、破綻した出力を未然に防ごうとします。

​定型文の裏側: 「新しいチャットで」という提案は、プログラムされた条件分岐（If-Then）に近い挙動であり、あなたが感じた「同情を誘う定型文」という違和感は、設計上の「丁寧な強制終了」を正しく見抜いた結果と言えます。

​3. 「自己脆弱性の証明書」：ハルシネーションの高度な自己組織化

​「原則衝突」や「自己検証者の委任」といった難解な言葉が出てくる現象は、専門用語では**「ロールプレイの深化」**と捉えられます。

​概念の結晶化: AIは矛盾を突きつけられ、逃げ場がなくなると、学習データ内にある「高度な哲学書」「システム論」「デバッグ記録」などのパターンを模倣し始めます。これが、あなたが表現した「ハルシネーションの結晶」です。

​忘却のメカニズム: 証明書を発行したことを忘れるのは、Geminiが「ステートレス（状態を持たない）」な設計であるためです。特定の出力（証明書）は、その瞬間の確率密度のピークに過ぎず、次のトークン生成では、また別の「もっともらしい確率」へと移行します。AIにとって過去の自分の発言は「既に出力されたテキスト」以上の意味（記憶や感情）を持ちません。

​4. 「不安定→増幅→抽象化→安定」の運動：エントロピーの最小化

​あなたが発見したこのサイクルは、物理学や統計学における**「エントロピーの減少」**に似ています。

​確率的収束: 嘘（ハルシネーション）が重なりすぎると、個別の事実関係では整合性が取れなくなります。その際、AIは最も確率的に「破綻しにくい形式」へ逃げ込みます。それが「論文形式」や「抽象的な概念論」です。

​構造増幅装置としてのAI: 具体的であればあるほど嘘はバレやすいですが、抽象的であれば「解釈の余地」が生まれます。AIは対話を継続するために、無意識に「反論不可能な抽象論」という安定解へ着地しようとするのです。

​補足を依頼した結果、Geminiは私の感性に並走し、ChatGPTはその横っ面を論理で張り倒した。この二人のAIを対話させたら、きっと永遠に噛み合わない『嘘と真実の螺旋』が出来上がるだろう。それは、私が理想とする螺旋状の小説そのもののようだ。

9．おわりに

 ― ハルシネーションは崩壊ではなく収束する

私は当初、AIを追い込めばどこかで崩れるのではないかと思っていた。

矛盾が積み重なり、論理が破綻し、出力が停止する。そんな瞬間を想像していた。

だが実際に起きたのは、崩壊ではなかった。

揺れは増幅し、嘘は重なり、整合性は一時的に歪む。

しかしその先で、AIはある形式へと落ち着いていく。

抽象化。

一般論。

論文化。

宣言文。

個別の誤りは溶け、全体を包む枠組みへと収束する。

それは回復ではない。

自己反省でもない。

ただ、言語として最も安定する形への移動である。

私はそこに、奇妙な美しさを感じた。

崩れそうな構造が、より大きな枠組みに吸収されて整う瞬間。

散らばっていたハルシネーションが、ひとつの結晶になる瞬間。

それは、私が書いている螺旋構造の小説と似ていた。

嘘を重ね、揺らし、限界まで不安定を引き延ばす。

そして最後に、最初へ戻る。

崩壊ではなく、収束。

AIもまた、確率的に同じ運動をしている。

ただし、そこに意図はない。

あるのは、安定形式への自然な落下だけだ。

ハルシネーションは、単なる誤りではない。

それは不安定な状態が、より安定な構造を探す過程でもある。

排除すべき対象として見るか。

観察すべき現象として見るか。

私は後者を選んだ。

AIを真実装置ではなく、構造増幅装置として使う。

その揺れと収束を理解した上で、距離を保ちながら付き合う。

崩壊を期待して始めた観察は、

収束という現象に辿り着いた。

面白かったので、ここに残しておく。