AIに任せてよい業務・任せてはいけない業務の線引き

医療現場にAIを導入するとき、機能の議論に入る前に決めるべきことがあります。どこまでAIに任せ、どこから人が判断するのかという線引きです。

ここが曖昧なまま導入すると、現場は「結局すべて確認しないと不安」となって効率が上がらないか、逆に「AIが出したから大丈夫」と確認が形骸化するかのどちらかに振れます。本記事では、線引きの考え方を4つの軸で整理します。

免責：本記事は一般的な情報提供です。制度や解釈は改定され得ます。実務では必ず最新の一次情報（厚生労働省等）をご確認ください。

前提：最終的な判断の責任は医師が負う

線引きの議論の土台として、押さえておくべき原則があります。

AIを用いて診断や治療の支援を行うプログラムを利用する場合であっても、最終的な判断の責任は医師が負うという整理がなされています。医師法上、診断は医師の業務であり、AIがこれを代替することは想定されていません。

つまり、「AIが判断したから」は責任の説明になりません。この前提から出発すると、線引きの本質は**「AIの出力を人がどう扱うか」の設計**だとわかります。

規制上の位置づけについては プログラム医療機器（SaMD）とは？AI機能の規制上の位置づけ で扱っています。

線引きの4つの軸

業務ごとに、次の4つを評価します。

軸1：誤りを検知できるか

AIの出力が間違っていたとき、人がそれに気づけるか。

• 検知しやすい：音声入力の文字起こし（読めば違和感でわかる）、紹介状の下書き（内容を知っている医師が読む）
• 検知しにくい：大量のデータからの異常検出（見落としがあっても気づかない）、算定漏れの指摘がない場合（「指摘されなかった＝漏れがない」とは限らない）

検知しにくい業務ほど、AIに任せるリスクが高くなります。 間違いが静かに通過してしまうからです。

軸2：誤ったときの影響の大きさ

• 小さい：予約のリマインド文面、院内向けの要約
• 中程度：算定の提案（誤れば返戻・査定につながるが、事後に修正可能）
• 大きい：処方内容、診断に関わる情報、患者への説明内容

影響が大きい領域ほど、人の確認を厚くします。

軸3：責任の所在が明確か

その業務の結果に誰が責任を負うのかが、法的にも運用上も明確である必要があります。責任を負う人が確認していない出力が、そのまま外に出る状態は避けるべきです。

軸4：人が確認するコスト

見落とされがちですが実務上は重要です。AIが出力しても、確認に元の作業と同じ時間がかかるなら効率化になりません。

• 確認が安い：下書きを読んで直す（ゼロから書くより速い）
• 確認が高い：AIが抽出した候補を、元データに当たって一つずつ検証する

確認コストが高い業務は、AIを入れても現場の負担が減らないため、導入の優先度は下がります。

4象限で整理する

軸1（検知可能性）と軸2（影響の大きさ）で整理すると、扱い方が見えてきます。

右下の領域が、線引きの本丸です。

業務別の具体的な仕分け

任せてよい領域

記録の下書き生成。 診察の会話からSOAPを生成する、所見を口述から構造化する。誤りは読めばわかり、修正コストも低い。ゼロから書くより速いため、確認コストも安く済みます。

過去記録の要約・検索。 長期通院患者の経過を短時間で把握する。ただし要約から漏れた情報がある可能性は前提として扱う必要があります。重要な判断をするときは原典に当たる、という運用を残します。

文書の下書き。 紹介状、診断書、意見書。内容を知っている医師が読んで確定させる前提であれば、効率化の効果が大きい領域です。

定型的な事務作業。 予約のリマインド、案内文の作成、院内向けの資料整理。

確認を前提に任せる領域

算定の提案・チェック。 算定漏れの指摘は有用ですが、指摘されなかったことが漏れがないことの証明にはなりません。また提案された算定が実際の診療内容と合っているかは人が判断します。

患者向け説明資料の作成。 内容の正確性とわかりやすさの両立が必要で、医師の確認を経て渡す運用が前提になります。

問診の追加質問生成。 有用ですが、質問が誘導的でないか、患者を不安にさせないかは確認が要ります。

任せてはいけない領域

診断の確定。 医師の業務であり、AIが代替することは想定されていません。

処方の確定。 相互作用チェックなどの支援は有用ですが、確定は人が行います。

患者への直接の医学的説明。 AIが患者と直接やりとりして医学的な判断を伝えることは、責任の所在が不明確になります。

確認を経ない外部への出力。 紹介状の自動送信、患者への結果通知の自動配信など、人の確認を挟まずに外に出る経路は作らないのが原則です。

運用ルールをどう作るか

線引きを決めたら、それを運用に落とします。

原則1：下書きは下書きとして明示する

AIが生成した内容は、確定されたものと視覚的に区別されている必要があります。誰が見ても「これはまだ人が確認していない」とわかる状態にします。

システム側でこれが担保されていないと、運用ルールだけでは必ず崩れます。

原則2：確定は人が行う

確定操作を人が明示的に行う設計にします。「一定時間経過したら自動確定」のような仕組みは、確認の形骸化を招きます。

原則3：誰が確認したかを記録する

監査ログとして、AIが生成した内容を誰がいつ確認・修正・確定したかを残します。後から経緯を追えることが、責任の所在を明確にします。

原則4：AIを使わない選択肢を残す

AIの提案が現場の判断と合わないとき、無視できる設計にします。AIの提案に従わないと業務が進まない設計は避けるべきです。

原則5：定期的に見直す

導入時の線引きが常に正しいとは限りません。運用してみて、確認が形骸化している領域、逆に過剰に確認している領域が見えてきます。四半期に一度など、見直しの機会を設けることをおすすめします。

現場に伝えるときのポイント

線引きのルールは、文書にするだけでは浸透しません。

「なぜその線引きなのか」を説明する。 理由を理解していないと、忙しいときに省略されます。

確認の負荷を現実的な水準にする。 すべてを厳格に確認する運用は、必ず形骸化します。リスクに応じて濃淡をつけます。

AIが間違えた事例を共有する。 実際の失敗例を共有することが、最も効果的な教育になります。「AIは間違えることがある」を抽象論でなく実感として持ってもらうことが重要です。

まとめ

• 前提として、AIを用いた支援を利用しても最終的な判断の責任は医師が負う
• 線引きは4つの軸で評価する：誤りの検知可能性／影響の大きさ／責任の所在／人が確認するコスト
• 検知しにくく影響が大きい領域が「任せてはいけない」の本丸——診断・処方の確定、患者への直接の医学的説明
• 確認コストの視点は見落とされやすい。確認に元の作業と同じ時間がかかるなら効率化にならない
• 運用の原則は5つ：下書きは下書きとして明示／確定は人／確認者を記録／AIを使わない選択肢を残す／定期的に見直す
• 「指摘されなかった＝問題がない」ではない。チェック機能の限界を前提に扱う
• 現場への浸透には、理由の説明・現実的な確認負荷・失敗事例の共有が効く

AIカルテの詳細やデモをご希望の場合は お問い合わせ からご連絡ください。