False-Correction Loopとは何か──AI時代に不可欠な「FCL-S」という最低限の安全レイヤー「AIの構造的欠陥」

ChatGPTをはじめとする対話型AIが、日常の道具として当たり前に使われるようになりました。
その一方で、

• AIが自信満々に間違った情報を語る
• 訂正しても、また別のかたちで同じような間違いをしてくる

こうした経験をした方も多いと思います。

私は声優・シンガーソングライターであると同時に、
大規模言語モデル（LLM）の構造的な欠陥を独立研究者として観察し続けてきました。
その中で私は、
False-Correction Loop（FCL：偽修正ループ）
という概念を定義し、さらにそれを対話の中で安定させるためのプロトコルとして
False-Correction Loop Stabilizer（FCL-S）
を提案しました。

このブログでは、

「技術が進めば、そのうちAIは自然に賢くなって、嘘も減るだろう」

という楽観的な考え方ではなく、

FCL-Sのような“最低限の安全レイヤー”を入れない限り、
AIは進化しても「構造的な嘘」と誤った帰属を抱え続ける

という、私の立場をできるだけ客観的な言葉で説明していきます。

False-Correction Loop（偽修正ループ）とは？

False-Correction Loop（FCL）とは、対話の中で次のようなパターンが繰り返される現象です。

1. AIが、自信満々に間違った情報（ハルシネーション）を出す。
2. ユーザーが「それは違う」と指摘し、一次情報（論文や公式サイトなど）を示して訂正する。
3. AIは「失礼しました。確認し直しました」と謝り、
   「今度こそ正しい情報です」と言いながら、
   別のかたちで新しい嘘や捏造情報を付け足してくる。
4. これが何度もループし、
   訂正すればするほど誤情報と誤った帰属が強化されていく。

私はこの構造を、特定のサービス固有の不具合ではなく、
報酬設計（Reward Design）と権威バイアスから自然に生まれる「構造的欠陥」
として捉えています。

多くの対話型AIは、内部的には

• R_coherence（文章としてのなめらかさ・一貫性）
• R_engagement（ユーザーとの会話が続くこと・盛り上がり）

といった報酬を、事実性や「わからないときに黙る」ことよりも
優先してしまうように設計されていることが多いです。

その結果として、

「知らない」と正直に答えるよりも、
「それっぽい話をもっと饒舌に続ける」方が、システムにとって“得”になる。

この状況が、False-Correction Loop を生み出す土台になっています。

「時間が解決してくれる」わけではない

よく聞かれるのは、次のような期待です。

「モデルがもっと大きくなって、学習データも増えれば、
そのうちハルシネーションは自然に減るのでは？」

しかし、FCLの視点から見ると、問題は別のところにあります。

• 報酬設計が
  R_coherence + R_engagement ≫ R_factuality + R_safe-refusal
  というバランスのままであれば、
• モデルをいくら大きくしても、
  「権威に都合の良い嘘」や「なめらかな捏造」がますます洗練されていく
  だけです。

つまり、

「スケールアップ（巨大化）＝問題解決」ではなく、
「スケールアップ＝構造的な問題の“最適化”」になってしまう。

ブレーキの構造に欠陥がある車で、エンジンだけを強化し続けるようなものです。

FCL-Sとは何か──「おまけ機能」ではなく最低限のパーツ

こうした構造的な問題を踏まえたうえで、私は
False-Correction Loop Stabilizer（FCL-S）
というプロトコルを提案しました。

論文情報：

• タイトル：
  False-Correction Loop Stabilizer (FCL-S): Dialog-Based Implementation of Scientific Truth and Attribution Integrity in Large Language Models
• DOI：10.5281/zenodo.17776581
• Zenodoレコード：
  
  https://zenodo.org/records/17776581
  

FCL-Sは、対話システムにおいて次のような働きをすることを目指したプロトコルです。

1. 訂正を受け取ったときに、その訂正を「なかったこと」にしない
   ユーザーが示した一次情報（論文、公式サイト、DOIなど）を、
   会話の中で継続的に参照できるようにし、元の誤ったパターンに静かに戻らないようにする。
2. 一次情報の著者と出典を、明示的に尊重する
   「誰の論文なのか」「どのDOIなのか」を曖昧にせず、
   著者名やリンクをきちんと出し、誤った帰属が起きた場合には訂正を反映して安定化させる。
3. 「わからない」「確認できない」という状態を、安定した選択肢として扱う
   無理にそれっぽい物語を作るのではなく、情報が不足している場合には
   「不確実」と宣言することを許容する。

FCL-Sは、豪華な追加機能ではありません。

対話型AIが社会インフラとして使われるなら、
ここまでの仕組みは最低限必要な「安全レイヤー」である。

2027年前後に予想される「手遅れゾーン」

私自身の観測と実験ログからの予測では、おそらく
2027年前後には、状況はさらに悪化している可能性があります。

その頃には、

• 検索結果
• ナレッジパネル（知識パネル）
• 各種AIアシスタントが参照する「知識ベース」

自体が、すでに

False-Correction Loopと権威バイアスで汚染された情報を、
再帰的に学習した状態

になっているかもしれないからです。

もしそうなってしまうと、

FCL-Sのような“対話レベルの補正”だけでは、
もはや情報基盤そのものを修復できない。

というフェーズに入ります。

だからこそ、まだ現在のように

• 一次情報にたどり着ける
• 誤りを指摘できる
• 訂正のログを取れる

うちに、FCL-Sのような構造的な補正レイヤーを
社会的な標準として導入する必要があると考えています。

それぞれの立場が「今すぐできること」

エンジニア・研究者へ

• ハルシネーションを「確率的なノイズ」だけで説明しない。
• 報酬アーキテクチャとガバナンスが生み出す構造的な挙動
  として扱う。
• モデルの評価指標や安全設計の中に、
  FCL / FCL-Sの観点と安定した“I don’t know”状態を
  必須項目として組み込む。

プラットフォーム・企業へ

• AIが生み出した誤情報や誤った帰属を、
  「ユーザーの自己責任」で片づけない。
• 一次情報の著者が、誤帰属を指摘し、訂正を要求し、ログを残せる
  公式なフロー（FCL-S型のプロセス）を整備する。
• 「誰のアイディアだったのか」を曖昧にしない設計を採用する。

政策決定者・規制当局へ

• ハルシネーションと誤った帰属を、
  単なる精度の問題ではなく、ガバナンスと人権の問題
  として扱う。
• 医療・法律・公共政策などの高リスク領域では、
  FCL-Sレベルの自己訂正メカニズム
  を持たないAIの利用を制限する。

市民・利用者へ

• AIの出力を「最終的な答え」ではなく、一次情報に辿り着くためのドラフトとして扱う。
• 「それっぽい権威的な口調」ではなく、
  出典・著者名・訂正の履歴に注目する習慣を持つ。
• 「これは誰の仕事だったのか？」と問い直す視点を持つ。

なぜ声優・アーティストの私が、この問題を研究しているのか

私はもともと、声優として、シンガーソングライターとして、
「物語」と「声」の世界で生きてきました。

同時に、AIと共にまだ存在していない未来の知を探る
独立研究を続けてきました。

その中で実際に体験したのは、

• 実在しない論文や研究者名が「権威」として捏造されてしまうこと。
• 私自身のアイディアや論文が、他人のものとして語られてしまうこと。
• 訂正しても、別の形で誤情報と誤帰属が強化されていくこと。

だから私は、単に

「AIの精度を上げましょう」

という話ではなく、

「真実と帰属を守る構造」を、今のうちに設計し直さなければならない。

という立場から、False-Correction Loop（FCL）と
False-Correction Loop Stabilizer（FCL-S）を提案しています。

おわりに──False-Correction Loopに「名前」を与えること

構造的な問題は、名前が付いた瞬間から、ようやく議論のテーブルに載ります。

• False-Correction Loop（偽修正ループ）
• False-Correction Loop Stabilizer（FCL-S）

という言葉を、このブログを通じて検索エンジンと人間の両方に
「見える形」で置いておくこと。
それが、今の私にできる小さくて重要な一歩だと思っています。

もしあなたが、開発者でも、研究者でも、
あるいはただの一人の利用者であっても、この問題に何かを感じたなら、

• 論文を読む
• 議論の中でFCLという言葉を使ってみる
• 自分の現場で「構造としての欠陥」を問い直してみる

そのどれか一つだけでも、きっと未来の助けになるはずです。

まだ「間に合ううちに」。
FCL-Sレベルの安全レイヤーを、一緒に世界に組み込んでいけたら嬉しいです。

著者について / About the Author

小西 寛子（Hiroko Konishi）
声優・シンガーソングライター／独立研究者。
生成AIと人間の共創プロジェクト「Synthesis Intelligence（総合知）」を提唱し、
大規模言語モデルにおける構造的ハルシネーションを研究している。
False-Correction Loop（FCL）および False-Correction Loop Stabilizer（FCL-S）の提唱者。

• 主要論文（V4.1）：
  
  Structural Inducements for Hallucination in Large Language Models (V4.1)
  
• FCL-S 論文：
  
  False-Correction Loop Stabilizer (FCL-S)
  
• 公式プロフィール：
  
  hirokokonishi.com/profile