解説
生成AIの答えが毎回変わる理由、次単語予測とハルシネーションの仕組みを読み解く
「昨日と同じ質問をしたのに、今日は違う答えが返ってきた」。生成AIを業務で使う人なら一度は感じたことがあるはずです。この揺れは故障でも気まぐれでもなく、生成AIの動作原理そのものに理由があります。
何が起きたか
生成AIに「おいしい目玉焼きの焼き方」のような同じ質問を複数回繰り返すと、あるときは「蓋をすべし」、別のときは「蓋をしないのがコツだ」と、回答の結論そのものが変わることがあります。言い回しが変わるだけでなく、存在しない情報をあたかも事実であるかのように伝えてくる場合もあります。
これに対し、企業で使われてきた業務システムは、同じ入力・同じ処理条件であれば原則として同じ結果を返すように作られてきました。プログラムが何十回、何万回実行しても同じ動作をすることこそ、コンピュータに期待されてきた価値だったといえます。
生成AIはこの前提とは異なり、「次に続きそうな言葉」を確率で導きながら文章を生成しています。学習が十分な話題には比較的安定して答えられる一方、学習量が薄い質問にはもっともらしいが事実でない情報を生成することがあり、これは「ハルシネーション」と呼ばれています。
背景・解説
生成AIの基本動作を理解するうえで欠かせないのが「次単語予測」という考え方です。「青い空、白い……」という文章の続きを考えると、多くの人が「雲」を思い浮かべます。生成AIはこれと同じように、それまでの文脈をもとに「次に続きそうな言葉」を確率で計算し、確率の高い言葉をつなげて文章を組み立てています。
従来型のプログラムのように、同じ入力に対して常に同じ結果を返す動作は「決定論的な動作」と呼ばれます。これに対し、確率に基づいて出力が揺れる生成AIの動作は「確率論的な動作」です。生成AIが毎回違う答えを返すのは不具合ではなく、この動作原理によるものです。
生成AIがここまで高い精度を持つようになった背景には、学習量の急激な拡大があります。2017年にGoogleの研究者が発表した「Transformer」という構造は、言葉同士の関係性を重み付けする仕組みを中心に据えたことで、文章の並列学習を大幅にしやすくしました。その後のGPU性能向上や分散学習技術の進歩と合わせて、従来とは桁違いの量の文章を学習できるようになったのです。学習量を公開している例として、DeepSeek-V4-Proは約33兆tokenのデータで事前学習されたとTechnical Reportで示されています。
ただし、どれほど学習量が増えても、生成AIの中核にあるのは「次に続きそうな言葉」を予測して文章を生成するという基本構造です。文章を生成する仕組み自体には「事実かどうか」を検証する機構が備わっていないため、学習が薄い領域や根拠が不十分な質問では、解像度の高い作り話を生成してしまうことがあります。これがハルシネーションです。
仕事や業務への影響 — AI Topicaの見方
生成AIが出す答えは「正解」ではなく「それらしい確率の高い言葉の並び」だと捉えるべきです。例えば、従業員50人の製造業で総務担当者が出張規定の確認を生成AIに任せる場合、存在しない条文番号を交えた説明がそのまま社内に共有されてしまうと、誤った宿泊費上限が規定として広まりかねません。
重要なのは、生成AIの誤りそのものより、その誤りを受け取った人が確認せずに業務判断へつなげてしまうことです。意思決定や対外説明に使う資料については、生成AIが作成した内容を必ず人間が精査する体制にすべきです。経理や法務など金額・条文・数量を一意に扱う業務では、生成AIの出力をそのまま基幹処理に組み込むべきではありません。
一方で、文章の下書きや要約、アイデア出しのような曖昧さを許容できる業務には生成AIの確率的な性質がむしろ向いています。例えば、従業員20人の広告代理店で企画書のたたき台を生成AIに作らせ、担当者が内容を確認してから提出する運用であれば、効果は大きくなります。「生成AIを使ってもよいが、提出した人間が責任を持つ」というルールを部署単位で明文化しておくだけで、誤情報が顧客や経営判断に届く前に止められます。
不確かな点・注意
生成AIの誤回答は、モデルの進歩によって今後減っていく方向にあるとされていますが、出典ではその具体的な改善幅や時期までは示されていません。ハルシネーションは学習量が少ない分野だけでなく、よく学習されている分野でも起きるとされており、「知識が足りないから」という理由だけでは説明しきれない現象だと述べられています。
また、DeepSeek-V4-Proの学習量（約33兆token）はあくまで学習量を公開している一例であり、他の主要な生成AIモデルの学習量や、各社が採用する誤り低減の具体策については出典に記載がありません。企業が自社の生成AI活用ルールを定める際は、こうした技術的な前提が流動的である点を踏まえ、今後の情報更新を確認しながら運用方法を見直す姿勢が求められます。