今さら聞けないAIの基礎用語5選を解説

AIが身近になった今、AIの基礎用語を正しく理解しておくことが大切になっている。ニュースや社内の会話でも、AI関連の言葉を耳にする機会が増えているからだ。

一方で、AIの基礎用語の違いを説明できる人は多くない。「AIエージェント」と「生成AI」は同じものなのか。「LLM」と「AI」は何が違うのか。そう聞かれると、答えに詰まる人もいるはずだ。

AIの基礎用語があいまいなままだと、AIの導入を検討する場面でズレが生まれる。期待していた効果と、実際の動きにギャップが出る。社内の話し合いでも、話がかみ合わなくなる。

本記事では、AIの基礎用語を5つ取り上げる。AIエージェント、LLM、トークン、ハルシネーション、RAGだ。それぞれの意味を、たとえ話と具体例で整理する。あわせて、5つの用語のつながりと、導入時に押さえたい視点にも触れる。

なお、本記事は、vottia公式noteの連載「今さら聞けないAIのあれこれ」の第1回から第5回をまとめたものだ。

目次

• なぜ「AIの基礎用語」の理解が必要なのか
• ＃1 AIの基礎用語①：AIとAIエージェントの違い
• ＃2 AIの基礎用語②：LLMとは
• ＃3 AIの基礎用語③：トークンとは
• ＃4 AIの基礎用語④：ハルシネーションが起きる理由と対策
• ＃5 AIの基礎用語⑤：RAG（検索拡張生成）とは
• AIの基礎用語5つを表で整理
• 5つの用語のつながり
• 導入を検討する企業が押さえたい視点
• まとめ
• よくある質問

なぜ「AIの基礎用語」の理解が必要なのか——言葉の混同が招くズレ

AIの基礎用語を押さえる理由は、導入や活用の場面で判断を誤らないためだ。用語ごとに、見るべき点が違う。

たとえば、AIエージェントを従来のAIと同じものとして評価すると、見るべき点を見落とす。回答の速さや正確さだけを測ってしまうからだ。LLMとAIを区別しないと、目的に合わない技術を選んでしまうおそれがある。

トークンを知らなければ、料金や上限で戸惑う。ハルシネーションを知らなければ、AIの誤りをそのまま信じてしまう。RAGを知らなければ、「AIは勝手に最新情報を学習している」と思い込んでしまう。

つまり、5つの用語はどれも、AIを正しく使うための前提知識だ。以下、AIの基礎用語を順に整理する。

＃1 AIの基礎用語①：AIとAIエージェントの違い——「答えるAI」と「やりきるAI」

AIの基礎用語の一つ目は、AIエージェントだ。AIとAIエージェントの違いは、一言でいえば「指示待ちか、自律的に動くか」という点にある。

従来のAIは「答える」AI

ChatGPTのような従来の生成AIは、人が動かしている間だけ動く。質問すれば答えを返す。しかし、次の指示がなければそこで止まる。掃除機にたとえるなら、人が押している間だけ進む手動タイプに近い。

AIエージェントは「やりきる」AI

AIエージェントは、最初に目的を指示すると、完了までの一連の作業を自動で進める。ロボット掃除機に近い動きだ。部屋の掃除という目的だけを伝えれば、あとは自分で判断しながら掃除を終わらせる。途中の細かい指示は必要ない。

指示した範囲の中で、次に何をすべきかを自ら判断し、実行し続ける。これが、従来のAIとの決定的な違いだ。

具体例：旅行の計画を頼んだ場合

「旅行の計画を立てて」と頼んだ場合で比べてみる。

• 従来のAI：温泉旅館、ビーチホテル、都市観光といった候補を提示する。そこで作業は止まる。どれを選ぶか、いつ予約するかは、人が引き続き行う。
• AIエージェント：候補を提示したうえで、日程や条件に合わせて予約まで完了させる。人が確認するのは、「予約が完了した」という結果だ。

同じ指示でも、AIが立ち止まる場所がまったく違う。

AIの基礎用語として、評価の軸も切り替える

AIエージェントは、従来のAIの延長線上にあるわけではない。「調べものを手伝ってくれる道具」から、「作業を任せられる相手」への役割の変化だ。

そのため、評価の軸も切り替える必要がある。従来のAIは、回答の速さや正確さで測っていた。AIエージェントでは、「任せた作業がどこまで完了したか」を見る。この視点は、情報システム部門だけの課題ではない。現場部門や経営層にも共通して必要になる。

押さえておきたい注意点

• AIエージェントは、生成AIとは別の技術というより、生成AIを土台にした「使い方」の違いだ
• あらかじめ用意された回答を返すチャットボットとも異なる。AIエージェントは、状況に応じて自ら次の行動を判断する
• 手順がある程度決まっていて、複数のステップにまたがる業務ほど向いている
• AIエージェントが「やりきる」のは、決められた範囲内の作業だ。想定外の判断が必要な場面では、人への引き継ぎが要る

▶ 元記事：【今さら聞けないAIのあれこれ　＃1】AIとAIエージェントって何が違うの？

＃2 AIの基礎用語②：LLMとは——AIという大きな括りの中の「文章が得意な技術」

AIの基礎用語の二つ目は、LLMだ。AIは、とても幅広い技術の総称で、LLMはその中の一つにあたる。言葉を扱うことに特化した技術だ。

AIを「乗り物」にたとえる

AIを「乗り物」という大きな括りで考えてみる。乗り物には、自動車、電車、自転車、飛行機などがある。それぞれ、得意なことが違う。速さ、運べる荷物の量、価格などだ。

AIも同じ構造をしている。写真から対象を見分ける画像認識AI、声を聞き取る音声認識AIなど、目的ごとに違う技術が含まれる。文章を理解したり作ったりするLLMも、その一つだ。

具体例：工場の検品と、コールセンターの問い合わせ対応

• 工場の検品：不良品を写真から見つけるAI。使われているのは画像認識AIだ。
• コールセンター：お客様の質問に文章で答えるAI。使われているのはLLMだ。

どちらも「AI」であることに変わりはない。しかし、扱うデータも得意なことも別物だ。近年話題の生成AIサービスや、AIエージェントが会話の中でお客様の意図をくみ取る部分も、LLMが土台になっている。

LLM以外のAIの例

• 画像認識AI：写真や映像から対象を見分ける
• 音声認識AI：声を聞き取る
• 需要予測AI：過去のデータから将来の数値を予測する

AIの基礎用語として、AIエージェントとLLMの関係を押さえる

AIエージェントとLLMは、同じものではない。LLMは、会話を理解し、文章を組み立てるための一つの技術要素だ。AIエージェントは、そのLLMに、業務システムと連携して処理を実行する仕組みなどを組み合わせた、より大きな仕組みを指す。

目的によって、検討する技術が変わる

「文章のやり取りを自動化したい」という要望なら、LLMが土台の技術を検討する。AIエージェントや対話サービスなどだ。「写真から不良品を検出したい」という要望なら、画像認識AIなど別の技術を検討する。

この違いを押さえておくだけで、社内でAI導入の話をするときに、話がかみ合いやすくなる。問い合わせ対応や文書の作成・要約など、文章を扱う業務はLLMとの関わりが深い。画像や数値が中心の業務では、LLM以外の技術のほうが適している場合もある。

▶ 元記事：【今さら聞けないAIのあれこれ】＃2 よく耳にする「LLM」って何！？

＃3 AIの基礎用語③：トークンとは——AIが文章を処理するときの「言葉の単位」

AIの基礎用語の三つ目は、トークンだ。トークンとは、AIが文章を処理するときに区切る「言葉の単位」のことだ。文字数と似ているようで、実は別物だ。

トークンは「文章を一口サイズに切り分けたもの」

大きなケーキは、一切れずつ切り分けて食べる。ひと口で食べられる大きさに分けてから、口に運ぶ。AIも同じだ。長い文章を丸ごと処理しているわけではない。扱いやすい小さな単位に切り分けてから処理している。この切り分けられた一つひとつが「トークン」だ。

切り分け方は「1文字＝1トークン」ではない。単語や記号のまとまりごとに1トークンになることもある。反対に、1つの単語がいくつかのトークンに分割されることもある。区切り方の基準が、人間の「文字」や「単語」とは違うのだ。

具体例：「今日はいい天気ですね」

この一文は、人間の感覚では10文字だ。しかし、AIの内部で10個のトークンに区切られるとは限らない。「今日」「は」「いい」「天気」「です」「ね」のように、いくつかの文字がまとまって1つのトークンになることが多い。文字数とトークン数は、一致しない数字だ。

文字・単語・トークンの違い

AIの基礎用語「トークン」を知っておくべき2つの理由

1. 料金に直結する：多くのAIサービスは、処理した文字数ではなく、トークン数に応じて料金を設定している。
2. 処理できる量の上限に直結する：AIが一度に読み書きできる文章の長さも、トークン数で決まっている。長い文章を読み込ませて「上限を超えました」と表示された場合も、この上限がトークン単位だと知っていれば対処しやすい。

日本語はトークン数が多くなりやすい

日本語は、英語に比べて、同じ内容でもトークン数が多くなりやすい傾向があると言われている。トークンの区切り方の基準が、もともと英語の文章を中心に作られてきた経緯によるものだ。同じ料金プランでも、日本語と英語では、扱える文章量の感覚が変わってくることがある。

トークン数を気にする場面

• AIサービスの利用コストを見積もるとき
• 一度に読み込ませたい文章量が、AIの上限を超えていないか確認するとき

トークン数は、AIサービスを提供する企業の多くが、確認できるツールや画面を用意している。

▶ 元記事：【今さら聞けないAIのあれこれ　＃3】よく聞く「トークン」って、実際は何のこと？

＃4 AIの基礎用語④：ハルシネーションが起きる理由と対策

AIの基礎用語の四つ目は、ハルシネーションだ。ハルシネーションとは、AIが事実とは異なる内容を、あたかも正しいことのように出力してしまう現象だ。AIは莫大な量の情報を学習している。それでも、こうしたミスは起きる。

背景にあるのは、AIの仕組みだ。AIは「事実を調べて答えている」わけではない。「それらしく聞こえる言葉を確率的につなげて答えている」のだ。

たとえ話：分かったふりをして「Yes」と答える

言葉がよくわからないまま、外国人の方に話しかけられた場面を想像してほしい。内容を理解していないのに、とりあえず「Yes」と答えて、分かったふりをしてしまう。本当は「すみません、よくわかりません」と言うべき場面だ。

AIも同じことをする。わからないことに「わかりません」とは答えず、学習してきた情報から「それらしい」言葉を組み立てて、自信満々に答えてしまうことがある。

ハルシネーションが起きやすい3つの原因

① 学習データに偏りがある

AIの学習データには、小説や物語といった架空のエピソードも大量に含まれている。そのため、AIが架空の情報まで事実として取り込んでしまうことがある。

② 情報が足りない中で、無理に推測する

本来なら「わかりません」と答えるべき場面でも、AIはいったん答えようとする。その結果、余計な内容まで付け加えてしまうことがある。この状態は、学習が十分に進んでいない「未学習」に近い。

③ 「バリアンス」が過剰に働く

バリアンスとは、学習データの細かいパターンに、AIがどれだけ敏感に反応するかを表す特性だ。試験前に問題の答えを丸暗記すると、問われ方が少し変わっただけで対応できなくなる。AIも同じだ。細かいパターンを覚え込みすぎる「過学習」の状態になると、未知の質問に訓練時のパターンを無理に当てはめてしまう。その結果、的外れな内容を自信満々に返してしまう。

過学習と未学習は、どちらに傾いてもハルシネーションが起きやすくなる。

AIの基礎用語として知りたい、ハルシネーションへの対策

現時点で、ハルシネーションを完全になくす方法はない。そのため、起きることを前提に、どう付き合うかを考えることが大切だ。

利用者側でできる対策

• 固有名詞・数値・日付など、正確性が重要な情報は、別の情報源で確認する
• 回答に不安がある場合は、別のAIや検索エンジンで同じ質問をして、大きな差がないか確かめる

提供側でできる対策

• 信頼できる情報源をその場で検索して参照する「RAG（検索拡張生成）」を組み合わせる
• AIの「推論の強さ」を調整する

vottiaが提供するAIエージェント「maestra」の音声対応開発でも、AIの考える力をあえて抑える設計を取り入れている。余計な推測による誤回答を抑えるためだ。業務用途のように、想定される質問や回答のシナリオがある程度決まっている場合は、自由に推論させるよりも、こうした設計のほうが扱いやすいことがある。

コンタクトセンターでの影響

コンタクトセンター業務でハルシネーションが起きると、存在しない割引条件や手続きを、顧客に案内してしまうおそれがある。そのため、AIエージェントを業務に組み込む際は、回答の根拠となる情報源を明確にしておく設計が重要になる。

▶ 元記事：【今さら聞けないAIのあれこれ】ハルシネーションってなんで起きるの？　＃４

＃5 AIの基礎用語⑤：RAG（検索拡張生成）とは——AIが最新情報にも答えられる理由

AIの基礎用語の五つ目は、RAGだ。生成AIに最近のニュースを聞くと、スラスラ答えてくれることがある。そのため、「AIは勝手に新しい情報を学習し続けている」と思う人も多い。

しかし、AIモデル自体が毎日学習をやり直しているわけではない。多くの場合、AIは質問を受け取るたびに、関連する情報をその場で検索している。その内容を参考にしながら、回答を組み立てているのだ。この仕組みがRAGだ。

RAGの仕組み：検索してから、答える

一般的な生成AI（LLM）は、基本的に学習時に取り込んだ情報だけで答えを作る。学習後に起きた出来事や、学習データに含まれていない社内文書は、モデル自体の知識として持っていない。

RAGでは、2段階の処理を行う。

1. 質問を受け取ったら、関連する文書やデータを、データベースなどから検索する
2. 検索結果を参考情報として添えたうえで、AIに回答を作らせる

この仕組みなら、モデルを学習し直さなくても、最新の知識を踏まえた回答ができる。名前は、Retrieval（検索）、Augmented（拡張された）、Generation（生成）の頭文字に由来する。

たとえ話：「資料持ち込み可」の試験

何も見ずに記憶だけで受ける試験と、資料持ち込み可の試験を比べてみる。

• 記憶だけで答えるAI：覚えている範囲で答えを組み立てる。記憶があいまいな部分を、それらしい内容で埋めてしまうことがある。これが、ハルシネーションの一因だ。
• RAGが働くAI：答える前に、必要な資料をその場で調べる。知らないことを推測で埋める必要が減る。

今広く使われている生成AIサービスの多くには、Web検索機能などの形で、RAGがすでに組み込まれている。RAGは特別な技術ではなく、身近なAIの中にも入っている仕組みだ。

なぜ企業でRAGが必要とされているのか

企業が実務でAIを導入する場合、学習済みの一般的な知識だけでは足りない。自社の料金プラン、最新のキャンペーン情報、社内の規定といった固有の情報に、正しく答えられないからだ。

RAGを使えば、こうした自社固有の情報をAIに参照させながら回答させられる。企業向けのAIアシスタントや業務用のAIエージェントでは、マニュアルやFAQを検索対象にする形で使われることが多い。

RAGで注意したい点

• RAGを使っても、ハルシネーションが完全になくなるわけではない。検索で関連情報を見つけられなかった場合や、検索した情報に誤りがあった場合は、不正確な回答が生じる。
• 検索対象のデータが古い、または誤っていると、AIはその情報をもとに回答してしまう。データの管理と更新が重要になる。
• ただし、記憶だけで答える場合と比べると、誤りが起きる可能性は下がるとされている。

ファインチューニングとの違い

▶ 元記事：AIってなんで最新情報も知っているの？RAGの秘密　【今さら聞けないAIのあれこれ　＃5】

AIの基礎用語5つを表で整理

ここまでのAIの基礎用語を、表にまとめた。

AIの基礎用語5つは、つなげて理解する

AIの基礎用語は、それぞれ独立した知識ではない。互いにつながっている。

1. 文章を扱うAIの土台が、LLMだ。
2. LLMは、文章をトークンという単位に区切って処理する。
3. AIエージェントは、そのLLMに、業務システムとの連携などを組み合わせて、作業をやりきる仕組みにしたものだ。
4. LLMは、言葉を確率的につなげて答える。そのため、ハルシネーションが起こりうる。
5. その対策の一つが、回答前に情報を検索して参照するRAGだ。

この流れを押さえておくと、個別の用語も理解しやすくなる。たとえば、AIエージェントの回答が不正確なとき、原因をLLMの特性から考えられる。対策の方向性も、RAGや推論の強さの調整といった選択肢から検討できる。

AIの基礎用語を踏まえて、導入を検討する企業が押さえたい視点

AIの基礎用語を踏まえると、AI導入で確認したい点が見えてくる。

• 目的から技術を選ぶ：文章のやり取りを自動化したいのか、画像から検出したいのか。目的によって、検討すべき技術が変わる。
• 評価の軸を見直す：AIエージェントには、回答の速さや正確さだけでなく、「任せた作業がどこまで完了したか」を問う。
• コストと上限を見積もる：料金や処理できる量は、トークン数で決まる。日本語でのトークン数の増えやすさも考慮する。
• 回答の根拠を明確にする：ハルシネーションは完全になくせない。根拠となる情報源を明確にした設計が要る。
• 検索対象のデータを管理する：RAGを使う場合は、参照するデータを適切に管理し、更新する。
• 人への引き継ぎを設計する：AIエージェントが担うのは、決められた範囲内の作業だ。想定外の判断が必要な場面の引き継ぎまで決めておく。

これらを整理しないまま進めると、期待した効果と実際の動きにギャップが生まれやすい。

まとめ：AIの基礎用語を押さえて、導入の判断に活かす

AIの基礎用語5つを整理した。要点は次のとおりだ。

• AIエージェントは「やりきる」AIだ。従来のAIは「答える」ところで止まる
• LLMは、AIの中で文章を扱うことに特化した技術だ。AIそのものではない
• トークンは、AIが文章を処理する単位だ。人間が感じる文字数とは、区切り方が異なる
• ハルシネーションは、確率的に言葉をつなぐ仕組みから生まれる。重要な情報は別の情報源で確認する
• RAGは、回答前に調べて参照する仕組みだ。最新情報や自社固有の情報にも対応しやすくなる

AIの基礎用語の違いを理解しておくことは、導入効果を正しく見積もるための第一歩になる。

AIの基礎用語に関するよくある質問

Q1. AIエージェントとLLMは、同じものですか？

同じではない。LLMは、会話を理解し、文章を組み立てるための一つの技術要素だ。AIエージェントは、そのLLMに、業務システムと連携して処理を実行する仕組みなどを組み合わせた、より大きな仕組みを指す。

Q2. トークン数と文字数は、同じ数字になりますか？

必ずしも一致しない。1文字が1トークンになることもあれば、複数の文字が1つのトークンにまとまることもある。また、日本語は英語に比べて、トークン数が多くなりやすい傾向があると言われている。

Q3. ハルシネーションは、完全になくせますか？

現時点では、完全になくすことは難しいとされている。ただし、信頼できる情報源を参照するRAGを組み合わせることで、発生を減らせる。AIの推論の強さを調整する方法もある。

Q4. RAGを使えば、AIの回答は必ず正しくなりますか？

必ず正しくなるとは言えない。参照するデータが古い、または誤っている場合、AIはその情報をもとに回答してしまう。関連情報をうまく見つけられないこともある。そのため、データを適切に管理・更新することが重要だ。

Q5. 自社の業務には、どの技術が向いていますか？

業務の中身で変わる。問い合わせ対応や文書の作成・要約など、文章を扱う業務は、LLMとの関わりが深い。手順が決まっていて複数のステップにまたがる業務は、AIエージェントが向いている。画像や数値が中心の業務では、LLM以外のAI技術のほうが適している場合もある。

参考リンク

• vottia公式note「【今さら聞けないAIのあれこれ　＃1】AIとAIエージェントって何が違うの？」
  https://note.com/vottia_0421/n/nb7cc58cb2d58
• vottia公式note「【今さら聞けないAIのあれこれ】＃2 よく耳にする「LLM」って何！？」
  https://note.com/vottia_0421/n/nf9df87af0487
• vottia公式note「【今さら聞けないAIのあれこれ　＃3】よく聞く「トークン」って、実際は何のこと？」
  https://note.com/vottia_0421/n/n2390a0cfbb26
• vottia公式note「【今さら聞けないAIのあれこれ】ハルシネーションってなんで起きるの？　＃４」
  https://note.com/vottia_0421/n/n103db96cf556
• vottia公式note「AIってなんで最新情報も知っているの？RAGの秘密　【今さら聞けないAIのあれこれ　＃5】」
  https://note.com/vottia_0421/n/n192689794ef3
• vottia株式会社「なぜ今コンタクトセンターにAIエージェントが必要なのか──背景と社会的意義」
  https://vottia.jp/why-ai-agent-contact-center/

関連記事

• AIエージェントとは？チャットボットとの違いを5分で理解する
• AIエージェント × コンタクトセンター｜なぜ今必要なのか
• AIエージェント導入のガバナンス設計・IT部門任せの罠

vottiaは、コンタクトセンター運営の知見と最新のAI技術を組み合わせている。AIエージェントの導入や活用を検討する際は、お気軽にお問い合わせください。

vottia公式サイトはこちら：https://vottia.jp/
AIエージェントプラットフォーム「maestra」の詳細はこちら：https://vottia.jp/maestra/