「画像診断支援AIを医療機関に提供するとき、誤判定の責任は誰が負うのか」「学習に使う患者データはどこまで利用できるのか」「アルゴリズムを更新するたびに承認が必要なのか」――医療AIを開発・提供するヘルステック企業からのご相談は、承認・責任・データ・変更管理の4つに集約されます。この記事では、AI診断支援プログラムの薬機法上の位置づけ、医師の最終判断と責任の所在、開発企業の責任、学習データの利用権限、性能変化への変更管理、患者への説明を、条文と厚生労働省の通知を確認しながら整理します。
AIを用いた診断・治療支援プログラムを利用した診療でも、診断・治療を行う主体は医師であり、医師がその最終的な判断の責任を負います（厚生労働省医政局医事課長通知・平成30年12月19日）。一方、疾病の診断・治療を目的とするAIプログラム自体は薬機法上の医療機器として承認等が必要で、開発企業は製造販売業者として品質・安全管理と不具合報告の義務を負い、欠陥や契約違反があれば民事責任も問われ得ます。責任の分担は契約で設計することが実務の要点です。
医療AIは「医療機器」か ― 診断支援・治療支援プログラムの承認ルート
薬機法2条4項は、疾病の診断・治療・予防に使用されることを目的とする機械器具等（プログラムを含む）を医療機器と定義し、医療機器プログラムを電気通信回線で提供することも「製造販売」に含めています（同条13項）。画像から病変候補を検出する、検査値から疾病リスクを算出する、治療方針の選択を支援するといったAIプログラムは、医師が最終判断を行う設計であっても「診断」「治療」を意図するものとして医療機器に該当し得ます。厚生労働省の「プログラムの医療機器該当性に関するガイドライン」は、医師の診断補助や追加検査の推奨を目的とするプログラムを「診断」を意図するものとして分類しています。該当すれば製造販売業の許可（23条の2）と、クラスに応じた承認（23条の2の5）または登録認証機関の認証（23条の2の23）が必要です。該当性の考え方は薬機法における「医療機器」該当性の判断ポイントでも解説しています。
承認審査では、申請に係る効果・性能を有するか、効果に比して著しく有害な作用がないかが、非臨床・臨床評価資料に基づいて審査されます（23条の2の5第2項）。承認・認証前にそのAIの名称や性能を広告することは68条で禁止されており、医療機関向けの営業資料や学会展示でも注意が必要です。
「医師が最終判断するから医療機器ではない」という整理は成り立ちません。医師の最終判断は責任の所在の問題であり、プログラムの該当性は使用目的とリスクで決まります。承認が必要なAIを無承認で提供すれば、3年以下の拘禁刑若しくは300万円以下の罰金（84条）の対象になり得ます。
医師の最終判断と責任の所在 ― 医師法17条と平成30年通知
医師法17条は「医師でなければ、医業をなしてはならない」と定め、違反には3年以下の拘禁刑若しくは100万円以下の罰金（31条1項）があります。AIが提示した結果に基づいて診断や治療方針を決めることが「医業」に当たるのか、その責任を誰が負うのかについて、厚生労働省医政局医事課長は2018年（平成30年）12月19日付け通知「人工知能（AI）を用いた診断、治療等の支援を行うプログラムの利用と医師法第17条の規定との関係について」（医政医発1219第1号）で次のように整理しました。
通知は、AIは診療プロセスの中で医師の主体的判断のサブステップにおいて効率を上げて情報を提示する支援ツールにすぎず、AIを利用して診療を行う場合も診断・治療等を行う主体は医師であり、医師がその最終的な判断の責任を負い、当該診療は医師法17条の医業として行われる、と整理しています。したがって、承認を受けたAIであっても出力をそのまま患者に伝えることは医師の判断を経ない限り許されず、誤判定を見逃した場合の診療上の責任は医師と医療機関が負うことになります。医療機関は患者との診療契約に基づく債務不履行責任（民法415条）や不法行為責任（709条・715条）を問われ得る立場です。他方、AIが承認された性能を発揮しなかったことに起因する損害については、医療機関から開発企業に対して契約上の責任を追及する余地があり、ここが契約設計の焦点になります。
| 場面 | 第一次的に責任を負う主体 | 主な法的根拠 |
|---|---|---|
| AIの出力を踏まえた診断・治療の誤り | 医師・医療機関 | 医師法17条、平成30年通知、民法415条・709条・715条 |
| AIプログラムが承認された性能・仕様を満たさない不具合 | 開発企業（製造販売業者） | 薬機法上の製造販売業者の義務、医療機関との契約（契約不適合責任・債務不履行責任） |
| AIを組み込んだ医療機器（ハードウェア）の欠陥による人身損害 | 製造業者等 | 製造物責任法3条（製造物は「製造又は加工された動産」。2条1項） |
| 学習データ・患者情報の不適切な取扱い | データを取り扱った事業者（医療機関・開発企業） | 個人情報保護法18条・20条・27条、委託先の監督（25条） |
開発企業の責任 ― 製造販売業者の義務、製造物責任法、契約上の責任
薬機法上の義務
承認を取得した開発企業は製造販売業者として、QMS省令に基づく製造管理・品質管理、GVP省令に基づく製造販売後安全管理を継続し、不具合による疾病・障害・死亡の発生など有効性・安全性に関する事項を知ったときは厚生労働大臣への報告義務を負います（68条の10第1項）。医療機関側にも不具合を知った場合の報告の規定があり（同条2項）、両者の情報共有の窓口を契約で決めておくことが実務上重要です。
製造物責任法
製造物責任法は「製造又は加工された動産」を製造物とし（2条1項）、欠陥により他人の生命・身体・財産を侵害した製造業者等に過失の有無を問わず賠償責任を課します（3条）。AIが医療機器のハードウェアに組み込まれている場合は機器全体の欠陥として同法の対象となり得る一方、ネットワーク経由で提供される単体プログラムは「動産」に当たらないため直接の対象にはならないと解されています。組込型では、引渡し時の科学技術の知見では欠陥を認識できなかったことを証明すれば免責される開発危険の抗弁（4条1号）、人身損害の請求権は知った時から5年・引渡しから10年の消滅時効（5条）が重要です。
契約上の責任
単体プログラムの場合、開発企業の責任の中心は医療機関との利用契約・保守契約上の責任になります。性能保証の範囲（承認された使用目的・感度・特異度の範囲に限定する）、免責事項（承認範囲外の使用、入力データの品質、医師の判断を経ない使用）、損害賠償の上限と故意・重過失の例外、障害時の対応義務を定めることが、開発企業側の防御線です。経済産業省は2026年4月に「AI利活用における民事責任の解釈適用に関する手引き」（第1.0版）を公表しており、AI提供者・利用者間の責任の考え方を整理する際の参照資料になります。
学習データの利用権限 ― 個人情報保護法と医療機関からのデータ提供
カルテ・画像・検査値は病歴を含む要配慮個人情報（個人情報保護法2条3項）であり、取得には原則として本人の同意が必要です（20条2項）。医療機関がこれを開発企業に提供する行為は原則として本人の同意を要する第三者提供（27条1項）で、要配慮個人情報にはオプトアウト方式（27条2項）が認められていません。医療機関が診療目的で開発企業に処理を委託する場合は「第三者」に当たりませんが（27条5項1号）、委託先は委託された目的の範囲内でしか取り扱えず、自社AIの学習への転用は委託の範囲を超えます。学術研究目的の例外は学術研究機関等が関わる場合に限られ、企業の製品開発を学術研究と位置づけることには慎重な検討が必要です。
| データ提供の根拠 | 要件の要点 | 開発企業側の留意点 |
|---|---|---|
| 本人の同意に基づく第三者提供（27条1項） | AI開発への利用と提供先を特定した同意。要配慮個人情報はオプトアウト不可 | 同意取得は医療機関の患者接点で行うため、同意文言と記録の様式を共同で設計する |
| 匿名加工情報（43条） | 委員会規則の基準に従って特定の個人を識別できず復元できないように加工。作成時に項目を公表、提供時に項目・方法を公表し匿名加工情報である旨を明示 | 画像データの匿名加工は加工基準の適合判断が難しく、医療機関側の加工体制の確認が必要 |
| 仮名加工情報（41条） | 他の情報と照合しない限り識別できないように加工。原則として第三者提供は禁止（41条6項）、委託・共同利用は可 | 医療機関の内部分析や委託で使う制度で、開発企業への「提供」の根拠にはならない |
| 次世代医療基盤法の認定事業者経由 | 国が認定した匿名加工医療情報作成事業者・仮名加工医療情報作成事業者が医療機関から医療情報を収集し、加工して提供。2024年4月1日施行の改正で仮名加工医療情報の仕組みが創設 | 利活用者として認定事業者に申請する。仮名加工医療情報は認定を受けた利用事業者のみ利用可 |
データ提供を受ける際は、提供の根拠を契約書に明記し、利用目的（学習・検証・再学習の範囲）、再提供の禁止、安全管理措置、終了時の返還・削除、匿名加工情報の場合は再識別禁止（43条5項）を定めます。個人情報保護委員会・厚生労働省の「医療・介護関係事業者における個人情報の適切な取扱いのためのガイダンス」も医療機関側の判断基準になります。詳細は個人情報保護法の実務の解説記事もご参照ください。
性能の変化と変更管理 ― 一部変更承認・変更計画確認手続・二段階承認
AIプログラムは学習データの追加やモデルの更新で性能が変化します。承認された事項（使用目的、性能、アルゴリズムの仕様）を変更する場合、原則として一部変更承認（23条の2の5第13項）が必要で、軽微な変更は届出で処理します。市販後に自動で学習を続ける設計は、承認時の性能を担保できなくなるため、国内では承認された状態のモデルを固定し、更新は手続を経て行う運用が前提になります。
2020年（令和2年）9月1日施行の改正薬機法で設けられた変更計画確認手続（23条の2の10の2）は、あらかじめ変更計画の確認を受け、計画に従った変更を事前の届出で実施できる制度です。厚生労働省は2020年8月31日付け通知で申請の取扱いを示し、2023年（令和5年）12月22日付け事務連絡で「医療機器、人工知能関連技術を活用した医療機器、プログラム医療機器の変更計画の確認申請に関する質疑応答集」を公表しています。再学習による性能向上を計画的に行うAIでは、この制度を開発計画の初期から組み込むことが現実的です。対象になるかはPMDAの医療機器開発前相談で助言を受けることとされています。
また、2023年11月16日付け通知（医薬機審発1116第2号）による二段階承認は、疾病診断用プログラムについて、性能試験で示せる範囲に使用目的を限定して第1段階承認を取得し、市販後のリアルワールドデータ等で第2段階承認を目指す選択肢を示しています。
患者への説明と医療機関側の運用ルール
AIの利用そのものについて患者の同意を求める法令上の規定はありませんが、医療法1条の4第2項は医療の担い手に、医療を提供するに当たり適切な説明を行い理解を得るよう努める義務を課しています。AIの出力を診断の根拠の一部とする場合、医師が自らの判断として説明することが基本で、AIを利用した旨を説明するかは診療契約上の説明義務の範囲として医療機関が方針を決めることになります。患者データをAIの学習や性能検証に利用する場合は、診療目的の利用とは別の利用目的であり、前章の根拠（同意・匿名加工等）が別途必要です。
開発企業が医療機関に提供すべき情報は、承認された使用目的と性能の限界、入力データの要件、出力の解釈方法、既知の誤判定の傾向、不具合の報告窓口です。導入時の研修と契約書の別紙に落とし込んでおくと、「使い方の誤り」と「製品の不具合」の切り分けが可能になります。
医療機関との契約で決めておくべきこと
- 性能保証の範囲：承認された使用目的・対象患者・入力条件の範囲で、承認資料に示した性能を保証する。範囲外の使用は保証対象外とする。
- 医師の最終判断の確認：出力は医師の判断を支援する情報であり、診断・治療の判断と患者への説明は医療機関が行う旨を明記する。
- 責任分界と賠償上限：製品の不具合に起因する損害と、医師の判断や入力データの誤りに起因する損害を区別し、損害賠償の上限と故意・重過失の例外を定める。
- 不具合・有害事象の情報共有：医療機関が気づいた誤判定や不具合を開発企業に通知する手順と期限、開発企業の68条の10に基づく報告との連携を定める。
- データの取扱い：診療目的での処理（委託）と、学習・検証への利用（別途の根拠）を分け、提供の根拠、再提供禁止、安全管理措置、返還・削除を定める。
- 変更管理・終了時：モデル更新の通知方法、承認手続を経ない自動更新を行わない旨、サービス終了時の予告期間と出力記録の引継ぎを定める。
開発企業側のひな型は医療機関に不利に、医療機関側のひな型は開発企業に無限定の保証を課す内容になりがちです。双方の責任が法令上どこで切れるかを踏まえた条項設計が、継続的な取引の土台になります。
よくある質問（FAQ）
AIが見逃した病変で患者に損害が出た場合、開発企業が直接患者から訴えられますか？
医師が最終判断をする設計なら、AIプログラムは医療機器の承認が不要になりますか？
提携先の病院からカルテ画像をもらってAIを学習させたいのですが、患者の同意は必要ですか？
承認後にモデルを再学習して精度を上げた場合、毎回一部変更承認が必要ですか？
患者にAIを使っていることを説明する義務はありますか？
まとめ
- 疾病の診断・治療を目的とするAIプログラムは、医師が最終判断する設計でも薬機法上の医療機器に該当し得ます。該当すれば製造販売業許可と承認・認証が必要で、承認前の広告は禁止されます。
- AIを用いた診療の主体は医師で、最終的な判断の責任は医師が負います（平成30年12月19日医政医発1219第1号）。開発企業は製造販売業者としての品質・安全管理と不具合報告（68条の10）、契約上の性能保証の責任を負います。
- 製造物責任法は「製造又は加工された動産」を対象とするため、組込型は対象となり得る一方、単体プログラムの責任は主に契約で設計します。
- 学習データは要配慮個人情報として同意・匿名加工・次世代医療基盤法のいずれかの根拠が必要で、診療目的の委託データを学習に転用することはできません。
- モデル更新は一部変更承認・軽微変更届・変更計画確認手続で管理し、患者への説明と不具合の情報共有を医療機関との契約と運用ルールに落とし込みます。
医療AIの法務は、薬事・個人情報・民事責任・契約が一体となった分野であり、どこか一つを切り離して判断すると全体の整合が崩れます。当事務所には医師免許と弁護士資格を併せ持つ弁護士が在籍し、企業法務の弁護士チームと弁理士が連携して、該当性の整理からデータ提供契約・医療機関向け利用契約の設計、変更管理の体制づくりまで支援しています。開発段階から継続的に相談できる体制をお探しの場合は顧問弁護士サービスを、まず契約書やデータの取扱いを確認したい場合はお問い合わせ（無料相談）をご利用ください。チャット・オンラインで全国から対応しています。
- 人工知能（AI）を用いた診断、治療等の支援を行うプログラムの利用と医師法第17条の規定との関係について（平成30年12月19日付け医政医発1219第1号、厚生労働省）
- 医薬品、医療機器等の品質、有効性及び安全性の確保等に関する法律（e-Gov法令検索）― 2条・23条の2・23条の2の5・23条の2の10の2・23条の2の23・68条・68条の10・84条
- 医師法（e-Gov法令検索）― 17条・31条
- 製造物責任法（e-Gov法令検索）― 2条〜5条
- 個人情報の保護に関する法律（e-Gov法令検索）― 2条・18条・20条・25条・27条・41条・43条
- プログラム医療機器について（独立行政法人医薬品医療機器総合機構）
- 医療機器の変更計画の確認申請の取扱いについて（令和2年8月31日付け薬生機審発0831第14号、厚生労働省）
- AI・データの利用に関する契約ガイドライン／AI利活用における民事責任の解釈適用に関する手引き（経済産業省）
※ 本記事は一般的な情報提供を目的とするものであり、個別の事案に対する法的助言・医学的助言ではありません。法令・制度・通知の内容は公開日時点のものです。具体的なご対応にあたっては、最新の法令・通知をご確認のうえ、弁護士にご相談ください。