「ChatGPTは便利だけれど、中で何が起きているのかはよくわからない」——そう感じている方は多いはずです。AIの説明で必ず出てくる LLM（大規模言語モデル） という言葉が、そのまま「ChatGPTの中身」にあたります。
LLMの仕組みを大まかにでも知っておくと、なぜAIはもっともらしい嘘をつくのか、なぜ患者情報を入力してはいけないのか、どの業務に向いていてどの業務に向かないのかが、腑に落ちる形で理解できます。
本記事では、LLMとは何かを技術用語をできるだけ使わずに説明し、クリニックの業務との関わりと、導入前に確認すべき点を整理します。
免責：本記事は一般的な情報提供です。仕様やサービスの対応状況は変わり得ます。導入検討時は各ベンダーの最新情報および所管ガイドラインの最新版をご確認ください。
LLMとは何か——「次に来る言葉」を予測する仕組み
LLM（Large Language Model：大規模言語モデル） は、大量の文章を読み込んで、「この言葉の次にはどんな言葉が来やすいか」を学習したプログラムです。
たとえば「本日は晴天なり」という文の途中、「本日は晴天」まで見せられたら、次に「なり」が来そうだと予測する。この予測を一語ずつ繰り返して、文章を組み立てていきます。
ChatGPTが答えを返すとき、内部で起きているのはこの「次の言葉の予測」の連続です。質問を理解して、知識を検索して、答えを組み立てている——ように見えますが、根本の動きは「もっともらしい続きを出力し続ける」ことです。
「大規模」とついているのは、読み込んだ文章の量と、内部の計算の規模が桁違いだからです。インターネット上の文章、書籍、論文など膨大なテキストから、言葉のつながり方のパターンを学んでいます。だからこそ、医学用語も法律用語も日常会話も、それらしく扱えます。
なぜ「知っている」ように見えるのか
「次の言葉の予測」だけで、なぜ質問に答えられるのでしょうか。
言葉のつながりを膨大に学ぶと、結果として知識のようなものが内部に蓄積されるからです。「高血圧の第一選択薬は」という文の続きとして、学習した文章の中で頻繁に出てきた言葉が予測されます。それが、私たちには「知っている」ように見えます。
ここで重要な性質が2つあります。
① 知識には「期限」がある。 LLMは学習した時点までの文章しか知りません。学習後に起きた出来事、改定された制度、新しく出た薬は、そのままでは知らないか、古い情報のまま答えます。これを「知識の締め切り（ナレッジカットオフ）」と呼びます。
② 「調べる」のではなく「思い出す」に近い。 LLM単体は、外部の資料を参照しているわけではありません。学習で染み込んだパターンから、それらしい続きを生成しているだけです。だから、出典を尋ねても存在しない論文名を答えることがあります。
「調べて答える」動きをさせるには、外部のデータにつなぐ仕組みが別途必要になります。この仕組みは AI検索・RAGとは や MCPとは で扱っています。
なぜ間違えるのか——ハルシネーション
LLMがもっともらしいが誤った内容を自信ありげに出力する現象を「ハルシネーション（幻覚）」と呼びます。
仕組みを知ると、これは不具合というより構造上の性質だとわかります。LLMは「正しいか」ではなく「もっともらしいか」で次の言葉を選んでいます。学習データに十分な情報がない領域でも、「それらしい続き」は生成できてしまうのです。
クリニックで起こりうる例を挙げます。
| 場面 | 起こりうるハルシネーション |
|---|---|
| 薬剤の用量を質問 | 実在しない用量、古い添付文書の内容を答える |
| 算定要件を質問 | 存在しない加算名、改定前の点数を答える |
| 文献を求める | もっともらしい著者名・雑誌名の架空論文を提示する |
| 患者説明文の作成 | 一般論としては正しいが、その患者には当てはまらない記述を混ぜる |
対策は「AIを賢くする」ことではなく、人が確認する前提で使うことと、外部の正しいデータを参照させることの2つです。前者は AIに任せてよい業務・任せてはいけない業務の線引き で、後者は先ほどのRAG・MCPの記事で扱っています。
トークンと文脈長——「一度に扱える量」の話
LLMの説明で出てくる用語のうち、実務に関わるものを2つだけ押さえておきます。
トークンは、LLMが文章を扱うときの最小単位です。日本語ではおおむね1〜2文字が1トークンにあたります（サービスにより異なります）。多くの有料サービスは、このトークン数に応じて料金が決まります。
文脈長（コンテキストウィンドウ） は、LLMが一度に読める文章の上限です。ここに収まらない内容は「見えていない」状態になります。長い会話を続けていると、最初のほうの指示をAIが忘れたように振る舞うことがありますが、その原因の一つがこれです。
実務上の含意は単純で、長い資料を丸ごと渡すより、必要な部分を絞って渡したほうが精度も費用も良くなるということです。
その他の用語は 生成AIの基本用語をクリニック職員向けに解説 にまとめています。
ChatGPT・Claude・GeminiはすべてLLMの「サービス版」
混同されやすい点を整理します。
| 名前 | 正体 |
|---|---|
| LLM | 仕組み・技術の名前（エンジンにあたる） |
| ChatGPT / Claude / Gemini | LLMをチャット画面などで使えるようにしたサービスの名前 |
| GPT-x / Claude x / Gemini x | 各サービスの中で動く個々のモデルの名前 |
自動車にたとえると、LLMは「エンジン」、ChatGPTなどは「車種」、モデル名は「エンジンの型番」にあたります。
つまり、どのサービスも根本的には同じ仕組みで動いており、違いは「学習の仕方」「安全対策」「契約条件」「他システムとの連携」に現れます。3サービスの比較は ChatGPT・Claude・Geminiをクリニックはどう選ぶか で扱っています。
クリニックの業務ではどう関わるのか
LLMは「文章を扱う仕事」全般に向いています。クリニックで実際に使われている用途を、向き不向きとあわせて整理します。
向いている業務（下書き・変換・要約）
- 紹介状、診療情報提供書の下書き
- 診察の会話記録からのSOAP形式への整理（音声認識との組み合わせ）
- 長い文書や会議記録の要約
- 患者向け説明文の平易な言い換え
- 院内文書・お知らせの文案作成
- 定型的なメール返信の下書き
向いていない業務（正確性が絶対条件のもの）
- 薬剤の用量・相互作用の最終判断
- 算定要件の確定（点数・要件の「正解」を求める用途）
- 診断そのもの
共通するのは、「たたき台を作る」用途には強く、「正解を出す」用途には弱いという性質です。この線引きさえ守れば、文書作成の負担は大きく減らせます。
医療機関が確認すべき点
LLMを業務で使う場合、仕組みからくる注意点が2つあります。
① 入力した内容が学習に使われないか
LLMは文章を学習して賢くなる仕組みです。裏を返せば、入力した文章が次の学習に使われるサービスがあるということです。無料プランや個人向けプランでは、入力内容が学習に利用される設定になっていることがあります。
医療情報を扱う以上、契約上「学習に利用しない」ことが明記されているかは最優先の確認事項です。
② 何を入力してよいか
学習利用の有無にかかわらず、患者を特定できる情報（氏名・生年月日・住所・連絡先・患者番号など）を外部の汎用AIサービスに入力しないことが基本です。汎用サービスでの利用は「患者情報を含まない業務」に限定し、患者情報を扱う処理は医療情報向けの契約・環境で行う、という2段構えが現実的です。
法的な整理とセキュリティの考え方は 医療機関で生成AIを使うときの注意点 および 3省2ガイドラインをわかりやすく解説 をご覧ください。
よくある誤解
「LLMは検索エンジンの進化版」 ——違います。検索は「存在する文書を探す」、LLMは「もっともらしい文章を生成する」動きです。出典が必要な用途は、検索や外部データ参照と組み合わせる必要があります。
「有料プランなら正確になる」 ——有料プランで変わるのは主にモデルの性能と契約条件であり、ハルシネーションがなくなるわけではありません。
「AIが理解して答えている」 ——仕組み上は言葉の予測です。「理解しているように見える」のは事実ですが、それを前提に確認を省くと危険です。
「最新モデルなら制度改定にも対応している」 ——学習時点より後の改定は反映されていない可能性があります。制度・点数の確認は一次情報で行う必要があります。
電子カルテとの関係
電子カルテの文脈でLLMが関わるのは、主に記録・文書・確認の3つの場面です。
診察の会話を文章に起こし、SOAP形式に整理する。紹介状や診断書の下書きを作る。記録の内容から算定漏れの可能性を指摘する。いずれも「たたき台を作る」用途であり、LLMの得意分野です。
ここで設計上の分かれ目になるのが、LLMが「カルテの中身を見られるか」 です。汎用のチャットAIは院内データを知らないため、必要な情報を人がコピーして渡すことになります。一方、電子カルテそのものにAIが組み込まれていれば、LLMはカルテの実データを参照したうえで下書きを作れます。前者と後者では、精度も、情報の出口の管理のしやすさも大きく異なります。
ポテックの「AIカルテ」は、設計段階からAIを中心に据えたAIネイティブ型の電子カルテで、記録から算定までを一体の基盤上で扱う構成をとっています。AIネイティブという考え方については AIネイティブ電子カルテとはどんなものなのか？、AI電子カルテの全体像は AI電子カルテとは？ をご覧ください。
まとめ
- LLMは「次に来る言葉を予測する」仕組みであり、ChatGPT・Claude・GeminiはそのLLMをサービス化したもの
- 知識には学習時点までという期限があり、外部を「調べる」のではなく「思い出す」に近い
- ハルシネーションは構造上の性質であり、人の確認と外部データ参照で対処する
- トークンは料金の単位、文脈長は一度に扱える上限。必要な部分を絞って渡すほうがよい
- クリニックでは下書き・変換・要約に強く、正解を出す用途には弱い
- 確認すべきは入力内容が学習に使われないかと何を入力してよいかの2点
- 電子カルテでは、AIがカルテの実データを見られる設計かどうかが精度と安全性を分ける
AIカルテの詳細やデモのご希望は、お問い合わせください。