Energy-Based ModelsでAIハルシネーション解決？LeCun推進の次世代アーキテクチャを徹底解説

2026年2月、Reddit r/MachineLearningに投稿された「[D] Is the move toward Energy-Based Models for reasoning a viable exit from the ‘hallucination’ trap of LLMs?」というディスカッションが、86ポイント・27コメントを集めて活発な議論を呼んでいる。

投稿の趣旨はシンプルだ。「現在のLLM（大規模言語モデル）は、どれだけパラメータを増やしてもハルシネーション（事実に反する情報の生成）を根絶できない。これはアーキテクチャの本質的な限界なのか。そしてEnergy-Based Models（EBM）という異なるパラダイムが、その限界を突破する出口になりうるのか」という問いかけだ。

この議論の背景には、2025年11月にMetaを退社したAIの父・Yann LeCun（ヤン・ルカン）が、35億ドル（約5,200億円）の評価額でAMI Labs（Advanced Machine Intelligence）を設立し、autoregressive LLMとは根本的に異なる「ワールドモデル」の開発に賭けているという大きな動きがある。

本記事では、この議論の核心にあるEnergy-Based Modelsの技術的な仕組みから、実際の研究成果、賛否両論、そして日本企業への実務的なインパクトまでを包括的に解説する。

なぜ今「Energy-Based Models」が注目されているのか

2026年に入り、AI業界では一つの明確なトレンドが浮上している。「LLMの限界論」から「ポストLLMのアーキテクチャ探索」への転換だ。

Duke大学が2026年1月に公開した分析記事「It’s 2026. Why Are LLMs Still Hallucinating?」は、こう指摘している。

「LLMのハルシネーションは2026年現在も未解決であり、これはバグではなく、確率的に次のトークンを選択するアーキテクチャに内在する構造的特性である」

実際、OpenAIが2025年9月に発表した論文では、次トークン予測の学習目標と現行のベンチマークが「不確実性の適切な表現」ではなく「自信を持った推測」を報酬として与えてしまうため、モデルが本質的にハッタリを学習してしまう構造が指摘された。

こうした認識が広がる中、根本的に異なるアプローチとして再注目されているのがEnergy-Based Models（EBM）だ。その注目の直接的な引き金となったのは、以下の3つの出来事である。

注目を集めた3つの出来事

1. Yann LeCunのMeta退社とAMI Labs設立（2025年11月〜12月）

チューリング賞受賞者でMetaのチーフAIサイエンティストだったLeCunが、12年間在籍したMetaを離れ、JEPA（Joint Embedding Predictive Architecture）ベースのワールドモデル開発に特化したスタートアップAMI Labsを設立。評価額35億ドル（約5,200億円）で5億ユーロ（約860億円）の資金調達を目指すという、前例のない規模の賭けに出た。

2. Energy-Based Transformers論文の衝撃（2025年7月）

Alexi Gladstoneらが発表した「Energy-Based Transformers are Scalable Learners and Thinkers」論文が、EBMベースのTransformerが従来のTransformer++比で最大35%高いスケーリング効率を達成したことを実証。推論時の「System 2 Thinking」でもTransformer++を29%上回り、学術界に大きなインパクトを与えた。

3. V-JEPA 2とVL-JEPAのリリース（2025年6月〜12月）

Meta AIが2025年6月にV-JEPA 2を、12月にVL-JEPAをリリース。特にVL-JEPAはわずか1.6Bパラメータで、より大規模な生成型VLMに匹敵する性能を達成。50%少ないパラメータ数で同等の成果を出すという効率性が、EBMアプローチの実用性を証明した。

これらの出来事が重なり、Reddit r/MachineLearningをはじめとする研究者コミュニティで「EBMは本当にLLMのハルシネーション問題からの出口になるのか」という議論が活性化しているのだ。

LLMのハルシネーションはなぜ「根絶不可能」なのか ── autoregressive architectureの構造的欠陥

EBMの意義を理解するには、まず現行のLLMがなぜハルシネーションを起こすのか、その構造的な原因を正確に把握する必要がある。

「次のトークンを当てるサイコロ」の限界

現在の主流LLM（GPT-4、Claude、Geminiなど）はすべてautoregressive（自己回帰型）アーキテクチャを採用している。これは簡潔に言えば「直前までの文脈から、次に来る単語（トークン）の確率分布を計算し、そこからサンプリングする」という仕組みだ。

LeCunはこの仕組みを繰り返し批判してきた。LinkedInでの投稿で、彼はこう断言している。

「現在のautoregressive LLMについての私の揺るぎない見解：(1) 有用だが、(2) 人間レベルの知能への道ではなく、(3) 本質的に限界がある。なぜなら、モデルは常にサイコロを振って次の単語を選んでいるため、テキストが長くなるにつれて事実からの乖離確率はゼロにならない」

ハルシネーションの4つの構造的原因

autoregressive LLMがハルシネーションを起こす原因は、単なるデータ不足やファインチューニングの問題ではない。アーキテクチャに内在する構造的な問題だ。

1. 確率的サンプリングの非ゼロ発散

autoregressive生成では、各トークン生成時にソフトマックス関数から確率的にサンプリングが行われる。1トークンあたりの「間違い」が微小であっても、長い文章を生成する過程でこの誤差は蓄積する。LeCunが指摘するように、長い会話になるほど小さなミスが積み重なり、最終的にAIがナンセンスな発言を始める原因となる。

2. 生成と検証の分離不可能性

従来のTransformerは「次のトークンを予測する」ことしかできない。自分が生成した内容が事実と整合するかを内部的に検証する仕組みを持たない。これは、文章を書くことはできるが、書いた内容を読み返して誤りを検出する能力がないことに等しい。

3. 世界モデルの不在

autoregressive LLMは言語のパターンは学習しているが、物理世界の因果関係やメンタルモデルを持っていない。「水は100度で沸騰する」という知識はテキストパターンとして保持しているが、なぜそうなるのかの物理的理解は持ち合わせていない。この結果、訓練データに含まれない状況では容易に物理法則に反する出力を生成してしまう。

4. 動的な計算資源配分の不能

従来のLLMは、すべてのトークンに対して同じ計算量（同じ数のレイヤーを通過）で処理を行う。簡単な問題も難しい問題も同じ「深さ」の思考しかできない。人間が難しい問題にはより長く考えるような動的な思考時間の配分ができないため、複雑な推論が必要な場面でハルシネーションが発生しやすくなる。

「後付けの対策」の限界

現在行われているハルシネーション対策は、大きく分けて以下のアプローチがあるが、いずれも根本的な解決には至っていない。

Vectaraのハルシネーション・リーダーボードによれば、2026年時点でも最先端モデルのハルシネーション率は完全なゼロには到達していない。スタンフォード大学等の研究では約15%の誤情報生成率が報告されており、これは企業の本番環境でのAI利用における最大の障壁の一つとなっている。

Energy-Based Modelsとは何か ── 仕組み・JEPA・EBTを技術的に解説

Energy-Based Models（EBM）は、機械学習の歴史の中ではむしろ古典的なアプローチに属する。しかし、LeCunのJEPAフレームワークと、2025年に発表されたEnergy-Based Transformers（EBT）の研究成果により、その可能性が大きく見直されている。

EBMの基本原理：「スコアリング」と「エネルギー最小化」

従来のautoregressive LLMが「次のトークンを直接予測する」のに対し、EBMは「入力と候補の組み合わせに対してスコア（エネルギー値）を付ける」という根本的に異なるアプローチを取る。

具体的には次のような仕組みだ。

この違いを人間の思考に例えると、autoregressive LLMは「一度話し始めたら振り返らずに話し続ける」のに対し、EBMは「仮の答えを出してから、それが正しいかを何度も検証・修正してから最終回答を出す」という違いになる。

JEPA（Joint Embedding Predictive Architecture）：LeCunの統合フレームワーク

LeCunが2022年に発表した論文「A Path Towards Autonomous Machine Intelligence」で提唱したJEPAは、EBMの考え方を実用的なアーキテクチャに落とし込んだフレームワークだ。

JEPAの核心は、「表現空間（representation space）での予測」にある。

従来の生成モデルが「ピクセル」や「トークン」といった生のデータの詳細をすべて予測しようとするのに対し、JEPAは入力をまず抽象的な表現（embedding）に変換し、その表現空間の中で予測を行う。

JEPAの構造は以下の3つのコンポーネントで構成される。

重要なのは、JEPAでは予測誤差がそのまま「エネルギー」として定義されている点だ。つまり、xの表現から予測したyの表現と、実際のyの表現との乖離が小さいほどエネルギーが低い（＝適合度が高い）ということになる。

この設計により、JEPAは「すべてのピクセルを予測する」必要がなくなる。人間が「ボールが飛んでいく方向」は予測できるが「ボール表面の模様の一つ一つ」は予測しないのと同じように、本質的な情報のみを予測し、不要な詳細は無視できるのだ。

Energy-Based Transformers（EBT）：実装と性能

2025年7月にGladstoneらが発表したEnergy-Based Transformers（EBT）は、EBMの原理をTransformerアーキテクチャに統合した画期的な研究だ。

EBTの動作原理はDeepLearning.AIの解説記事で次のように説明されている。

「従来のTransformerは次のトークンを直接予測するよう訓練されるが、Energy-Based Modelは入力テキストのスコアリング方法を学習する。EBTはスコアを割り当てることを学び、そのスコアを使って(1) エネルギーを反復的に下げることでトークンを生成し、(2) エネルギーが高いかどうかをチェックすることでトークンを検証する」

つまり、EBTは同じモデルで「生成」と「検証」の両方を実行できるのだ。これがハルシネーション対策における最大の革新点であり、autoregressive LLMとの本質的な違いとなる。

EBTの推論プロセスをもう少し詳細に見てみよう。

1. 初期候補のトークン（ランダムまたはヒューリスティックな初期値）をモデルに入力
2. モデルが入力コンテキストと候補トークンのペアに対し、エネルギースカラー値を出力
3. このエネルギーの候補トークンに対する勾配を計算
4. 勾配の方向に候補トークンを更新（エネルギーを下げる方向に修正）
5. ステップ2〜4を収束するまで反復 ── 難しい問題ではより多くの反復が必要（= より長く「考える」）
6. 最終的にエネルギーが十分に低い（= 入力との適合度が十分に高い）予測を出力

このプロセスにおいて、反復回数は固定ではなく動的に調整される。これは人間が簡単な質問にはすぐ答え、難しい質問にはじっくり考えるのと同じ仕組みであり、心理学でいうSystem 2 thinking（熟慮的思考）に相当する。

EBM vs Autoregressive Transformer ── 7つの決定的な違い

EBMとautoregressive Transformerの違いを体系的に整理しよう。単なる技術的差異ではなく、AIの出力品質とハルシネーション対策に直結する違いだ。

特に注目すべきは「自己検証能力」の違いだ。

autoregressive LLMでは、生成した文章が事実に合っているかを確認するには、別のモデル（ファクトチェッカー）や外部データベース（RAG）を使う必要がある。これは「作家」と「編集者」を別々に雇うようなものだ。

一方、EBTでは同じモデルが「生成」と「検証」を一体的に行う。エネルギー関数がそのまま「この予測は文脈にどれだけ適合しているか」のスコアとなるため、モデル自身が自分の出力の品質を評価できるのだ。エネルギーが高い（= 適合度が低い）出力は、追加の反復ステップで修正されるか、複数の候補の中から最もエネルギーの低いものが選択される。

EBT論文の著者らはこの特性を「self-verification（自己検証）」と呼び、推論時に複数の候補を生成してそれぞれのエネルギーを比較し、最低エネルギーの予測を選択することで大幅な精度向上を実現している。

LeCunのMeta退社とAMI Labs ── 35億ドルの「ワールドモデル」賭け

Energy-Based Modelsへの注目を語るうえで、Yann LeCunの動向は避けて通れない。2025年末に起きた彼のMeta退社とAMI Labs設立は、AI業界全体の戦略的方向性に疑問を投げかける出来事だった。

なぜLeCunはMetaを去ったのか

2025年11月、TechCrunchやCNBCなど主要メディアが一斉に報じたLeCunのMeta退社。12年間（FAIR創設ディレクター5年＋チーフAIサイエンティスト7年）の在籍に終止符を打った理由は、MetaのAI戦略との根本的な方向性の違いだった。

The Decoderの取材に対し、LeCunはこう語っている。

「私のような研究者に何をすべきかを指図することはできない」

具体的な対立点は、MetaのLLM一辺倒の戦略だった。ザッカーバーグは2025年にLLMに特化した新組織「Superintelligence Labs」を立ち上げ、Scale AIの創業者Alexandr Wangに数億ドル規模の契約を提示して引き抜いた。その結果、LeCunはWangの配下に置かれることになった。

MIT Technology Reviewの記事によれば、ザッカーバーグはLeCunのワールドモデル研究自体には好意的だったが、投資の優先順位としてはLLMを選んだという。LeCunにとって、これは単なる組織問題ではなく、「LLMの延長線上にAGI（汎用人工知能）がある」というシリコンバレーの主流見解そのものへの異議申し立てだった。

AMI Labs：「LLMに賭けない」スタートアップ

LeCunが2025年12月に設立を発表したAMI Labs（Advanced Machine Intelligence）の概要は以下の通りだ。

Fortune誌は「まだ製品すら出していないスタートアップが35億ドルの評価額を目指す」という事実自体が、LeCunのビジョンに対するVC界隈の期待の大きさを示していると報じている。

2026年1月のTechCrunchの追跡報道によれば、AMI Labsには元Meta FAIR、DeepMind、Google Brain出身の研究者が続々と参加しているという。これは単なる一研究者の独立ではなく、autoregressive LLMとは異なるパラダイムに賭ける組織的な動きが始まっていることを意味する。

「ワールドモデル競争」の勃発

AMI Labsの設立は、DeepMindやOpenAIなど他の主要プレイヤーにも影響を与えている。Introlの2026年分析記事「World Models Race 2026」では、LeCun、DeepMind、そしてその他のプレイヤーによるワールドモデル開発競争が本格化していることが報告されている。

この競争の本質は、「AIは言語の統計的パターンを学ぶだけで十分なのか、それとも世界の因果構造を理解する必要があるのか」という、AI研究のもっとも根本的な問いに対する答えの模索だ。

Reddit議論に見る賛否両論 ── EBM肯定派 vs autoregressive信者

Reddit r/MachineLearningでの議論は、AI研究コミュニティの生の声が反映されたものとして興味深い。86ポイント・27コメントを集めたスレッドから、主要な論点を整理しよう。

EBM肯定派の主張

Autoregressive信者の反論

中間派・融合アプローチの支持者

最新研究成果：V-JEPA 2、VL-JEPA、Energy-Based Transformers

議論の理論的な側面だけでなく、すでに発表されている実証的な研究成果を具体的に見てみよう。

V-JEPA 2（2025年6月、Meta AI）

V-JEPA 2はMeta AIがリリースした12億パラメータのワールドモデルであり、JEPAアーキテクチャを動画理解と物理世界の予測に適用した成果だ。

• 訓練データ：100万時間以上のインターネット動画と画像
• 達成した性能：動作理解（motion understanding）で強力な性能、人間の行動予測（action anticipation）でSOTA（最先端）を達成
• ロボティクスへの応用：Droidデータセット（62時間のロボット操作データ）での訓練により、見知らぬ物体・環境でのゼロショットロボット計画が可能に
• タスク：リーチング（手を伸ばす）、グラスピング（掴む）、ピック・アンド・プレース（持ち上げて置く）に成功

CNBCの報道では、V-JEPA 2がロボティクスや自動運転車の開発を加速する可能性が指摘されている。従来のLLMが「言語の世界」に閉じていたのに対し、V-JEPA 2は「物理世界の理解」に踏み込んでおり、これはハルシネーション問題の根本原因の一つ（世界モデルの不在）に直接対処するアプローチだ。

VL-JEPA（2025年12月、Meta AI）

VL-JEPAは、JEPAアーキテクチャをビジョン-言語のマルチモーダル領域に拡張したモデルだ。

BDTechTalksの分析記事では、VL-JEPAが「トークンの生成から概念の予測へ」というパラダイムシフトを体現していると評価している。従来のVLMが入力を受けてトークン列を逐次的に生成するのに対し、VL-JEPAは入力のテキストを連続的な埋め込み（embedding）として予測する。これにより、不要な詳細に計算資源を浪費せず、本質的な意味の把握に集中できるのだ。

Energy-Based Transformers ── EBT（2025年7月）

EBT論文の成果は、EBMがもはや理論の段階を超えて、実際にスケーリング可能であることを証明した点で画期的だ。

特筆すべきは、EBTが分布外（out-of-distribution）データでより大きな改善を見せた点だ。ハルシネーションは多くの場合、モデルが訓練時に見たことのないパターンに遭遇した際に発生する。分布外データでの堅牢性の向上は、ハルシネーション低減に直結する特性だ。

また、EBTではSystem 2 Thinkingを実現する2つの推論手法が提案されている。

1. より多くの勾配降下ステップ（”longer thinking”）：難しい問題に対してより多くの計算を費やし、エネルギー最小化を徹底する
2. 複数候補からの最低エネルギー選択（”self-verification”）：複数の候補予測を生成し、最もエネルギーが低い（= 最も適合度が高い）ものを選択する

この2つの手法はいずれも推論時の追加コストを伴うが、特に正確性が求められる場面では、そのコストに見合う性能向上が得られることが実証されている。

日本企業への影響と今すぐ取るべきアクション

EBMの台頭は、日本企業のAI戦略にどのような影響を与えるのか。2026年の国内生成AI市場は1兆円を突破し、企業のAI導入率は8割を超えたとされるが、ハルシネーション問題は依然として最大のブロッカーだ。

日本市場でのハルシネーション問題の現状

日本企業にとってハルシネーション問題は、欧米以上に深刻な側面がある。

• 品質基準の厳格さ：日本のBtoB市場では「99%正確」では不十分。医療、金融、法務、製造などの領域では、1件のハルシネーションが重大なコンプライアンス違反につながりうる
• 責任所在の問題：AIの出力に誤りがあった場合の法的責任がまだ明確でないため、企業が本番環境でのLLM利用に慎重になっている
• ガートナーの予測：2027年末までにエージェント型AIプロジェクトの40%以上がコスト高騰、ビジネス価値の不明確さ、不十分なリスクコントロールを理由に中止されるとの予測がある

こうした背景から、ハルシネーション問題を構造的に解決する可能性のあるEBMは、日本企業にとって中長期的に注視すべき技術だ。

今すぐ取るべき5つのアクション

1. 現行のLLM活用は止めないが、「ハルシネーション耐性」を定量評価する

EBMが商用利用可能になるのはまだ先だ。今すぐ使えるのは従来のLLM + RAG + ガードレールの組み合わせだが、自社のユースケースでのハルシネーション率を定量的に計測する仕組みを今から構築すべきだ。将来EBMベースのモデルが登場した際に、性能比較の基準線（ベースライン）となる。

2. 「生成」と「検証」の分離設計を今から導入する

EBMの最大の利点は「生成と検証の統合」だが、現行のLLMでも「生成モデル」と「検証モデル」を分離して運用するアーキテクチャは構築可能だ。マルチエージェント検証、セマンティックエントロピーベースの不確実性推定、あるいは外部ファクトチェッカーの統合など、検証レイヤーを設計に組み込んでおくことで、将来のEBM統合への移行がスムーズになる。

3. NTT、富士通、ソフトバンクなど国内AI基盤企業の動向を注視する

日本のソブリンAI推進企業（NTT、富士通、ソフトバンクなど）がEBMやワールドモデルに関してどのような研究開発投資を行うかは、日本市場でのEBMエコシステム形成に直結する。これらの企業の発表やパートナーシップに注意を払うべきだ。

4. 「ハルシネーション・ゼロ」を前提としたユースケースを慎重に選定する

現時点でハルシネーション率をゼロにすることは、autoregressive LLMでもEBMでも実現されていない。AIに100%の正確性を要求するユースケース（例：医薬品の用量計算、法的助言の最終回答）は、AIの出力を人間が最終確認する「Human-in-the-loop」設計を維持すべきだ。EBMの進化を待っても、「Human-out-of-the-loop」への移行は慎重に判断する必要がある。

5. 社内AI人材のスキルアップを「次世代アーキテクチャ対応」に拡張する

プロンプトエンジニアリングに偏重したAI人材育成から、エネルギーベースモデル、ワールドモデル、拡散モデルなど次世代アーキテクチャの基礎を理解できる人材の育成にシフトすべきだ。LeCunの「A Path Towards Autonomous Machine Intelligence」論文は、その入門テキストとして最適だ。

まとめ：EBMはハルシネーション問題の「出口」となるか

Reddit r/MachineLearningで議論されている「Energy-Based Modelsはハルシネーション問題からの出口か」という問いに対する現時点での回答は、「完全な解決策ではないが、最も有望な構造的アプローチである」だ。

EBMが「出口」になりうる根拠

• 自己検証能力（エネルギー関数による内蔵的な品質評価）は、ハルシネーション対策を後付けではなく構造的に解決するアプローチ
• 動的な計算資源配分（System 2 Thinking）により、複雑な問題でのハルシネーションを低減
• 表現空間での予測により、不要な詳細の生成を回避し、本質的な意味の把握に集中
• EBT論文で実証された分布外データでの汎化性能向上は、ハルシネーションの主要原因（未知の入力への対応）を直接改善
• LeCunのAMI Labs設立により、基礎研究から商用化までの橋渡しが加速する見込み

「出口」に至るまでの課題

• テキスト生成領域での大規模な実証はまだ初期段階 ── V-JEPA 2やVL-JEPAの成功はビジョン中心
• 推論コストがautoregressive LLMより高い ── 商用環境での実用性はまだ検証途上
• 既存のAIインフラ（GPU最適化、デプロイメントツール等）はautoregressive transformerに最適化されており、エコシステムの移行コストが大きい
• ハイブリッドアプローチ（autoregressive + EBM検証）の研究はまだ始まったばかり

時間軸の見通し

AI技術の歴史は、一つのアーキテクチャが突然すべてを置き換えるのではなく、新しいアプローチが既存技術と融合しながら段階的に進化するパターンを示してきた。EBMもその例外ではないだろう。

しかし、LeCunがMetaを去り35億ドルの評価額でAMI Labsを設立したこと、EBT論文がTransformer++を超えるスケーリング効率を実証したこと、そしてV-JEPA 2やVL-JEPAが実用レベルの成果を出し始めていることは、EBMが単なる研究上の好奇心ではなく、AI業界の次のメジャートレンドになりつつあることを強く示唆している。

ハルシネーション問題の「完全な出口」は、単一の技術的ブレークスルーではなく、アーキテクチャの革新、訓練手法の改善、そして運用設計の進化が組み合わさって初めて実現するものだろう。Energy-Based Modelsは、そのパズルの中で最も重要なピースの一つになる可能性が高い。

佐藤 傑（さとう すぐる）

株式会社Uravation 代表取締役

早稲田大学在学中に株式会社Uravationを設立。生成AIの研修・開発事業を展開し、大手企業から自治体まで幅広いクライアントにAI導入支援を提供。AI技術の最前線と実務応用の両面から情報発信を行っている。