フィジカルAIガイド

フィジカルAIで事故が起きたら誰の責任?製造物責任法・労働安全衛生規則・AI事業者ガイドラインで整理

フィジカルAIの事故の責任は、一つの法律で決まるものではありません。機械の欠陥が原因なら製造物責任法でメーカーなどの責任が、職場のロボットなら労働安全衛生規則で事業者の安全措置が問われ、契約の中身や過失の有無も関わります。総務省と経済産業省のAI事業者ガイドライン(第1.2版)は、事故の原因を後から調べられるよう、記録の残し方を事前に決めることを求めています。

何が起きたか どこに原因があるか どの法律が関わるか 記録で確かめる

機械の欠陥なら製造物責任法:ソフトウェアの扱い

製造物責任法は、製品の欠陥で生命、身体、財産に損害を受けたとき、被害者が製造業者などに損害賠償を求められるようにした法律です。消費者庁の解説によると、対象の「製造物」は製造または加工された動産で、ソフトウェアそのものは形のない物なので対象になりません。ただし、組み込まれたソフトウェアの不具合が製品自体の欠陥と判断される場合は、その製品の製造業者などが責任を負うことがあるとされています。AIを積んだロボットの誤作動は、この考え方で見ることになります。

欠陥は、設計どおりに作られなかった「製造上の欠陥」、設計の段階で安全への配慮が足りない「設計上の欠陥」、取り除けない危険について事故を防ぐ情報を与えなかった「指示・警告上の欠陥」の3つに分けて説明されています。責任を負うのは製造、加工、輸入をした者と、自らを製造業者として表示した者で、販売だけの事業者は原則として対象外です。引き渡しの時点の科学や技術の知識では欠陥を見つけられなかったと証明した場合の免責(開発危険の抗弁)もあります。損害と賠償の義務者を知った時から3年、製品を引き渡した時から10年で請求の権利は消えるとされています。

出典:消費者庁『製造物責任法の概要Q&A』(2026年11月17日確認)

職場のロボットなら労働安全衛生規則:協働ロボットの条件

工場などで使う産業用ロボットには、労働安全衛生規則第150条の4があります。定格出力が80ワットを超える産業用ロボットに接触して危険が生じるおそれがあるときは、事業者が柵や囲いなどの措置を取らなければなりません。この義務を負うのはロボットを使う事業者です。

厚生労働省は2013年12月24日の通達で、人と同じ場所で働く協働作業ができる条件をはっきりさせました。リスクアセスメントで危険のおそれが無くなったと評価できるときと、当時の国際規格 ISO 10218-1・-2(2011年版)に沿って設計、製造、設置したロボットを、技術ファイルと適合宣言書をそろえた上で使うときです。評価の結果は記録して保管するよう求められています。なお、ISO 10218 は2025年2月に改訂版が発行され、2011年版を置き換えています。

出典:厚生労働省『産業用ロボットと人との協働作業が可能となる安全基準を明確化しました』、ISO『ISO 10218-1:2025』(2026年11月17日確認)

道路を走る自動運転車と配送ロボットの決まり

道路では、2023年4月1日に施行された改正道路交通法で、運転者のいないレベル4に当たる「特定自動運行」が許可制になりました。実施者は経路や事故が起きたときの対応方法を書いた計画を都道府県公安委員会に出し、特定自動運行主任者を車内か遠隔監視の場所に置きます。

同じ日に、自動配送ロボットなどの「遠隔操作型小型車」の通行の決まりも始まりました。届出制で、大きさは長さ120cm・幅70cm・高さ120cmまで、最高速度は時速6kmまでです。非常停止の押しボタンを車体の2か所に付けることなどが決められています。事故の責任を考えるときも、まずこうした許可や届出の条件が守られていたかが確かめられます。

出典:警察庁『令和8年版警察白書 第5章 安全かつ快適な交通の確保』、警察庁『遠隔操作型小型車の通行の届出等について』(2026年11月17日確認)

AI法とAI事業者ガイドラインが求める備え

AI法(人工知能関連技術の研究開発及び活用の推進に関する法律)は2025年6月4日に公布され、2025年9月1日に全面施行されました。この法律にもとづく人工知能基本計画の第Ⅱ期(2026年7月14日閣議決定)は、AIを使っていて権利の侵害や損害が起きた場合などの「責任分界」について、継続して検討するとしています。責任の分け方を一律に決める新しい決まりは、現時点ではまだ検討の途中です。

AI事業者ガイドライン(第1.2版・2026年3月31日)は、罰則のない指針です。ログの記録と保存について、事故などの原因究明、再発防止策の検討、損害賠償の責任の要件を立証する上での重要性を踏まえて、記録の方法、頻度、保存期間を決めるよう示しています。予期しない事故が起きたとき、AIの開発から利用までに関わる者は説明を求められる立場に立つ可能性があり、どう関わったかを説明できる記録を残すことが重要だとしています。安全を損なう事態が起きたときの対処方法を事前に決めておくことも挙げられています。

出典:内閣府『AI法』、内閣府『人工知能基本計画』、総務省『「AI事業者ガイドライン」掲載ページ』(2026年11月17日確認)

海外に出すロボットはEUの決まりも関わる

ロボットやAIを組み込んだ製品をEUで売る場合は、EUの決まりも見ておく必要があります。欧州委員会によると、EUのAI法は禁止事項を2025年2月2日から、汎用AIの義務を2025年8月2日から適用しています。高リスクAIの適用は2026年7月27日に発効した改正で延ばされ、単体の高リスクAIは2027年12月2日から、製品に組み込む高リスクAIは2028年8月2日からです。

ネットにつながる製品のセキュリティを求めるサイバーレジリエンス法(CRA)は、報告の義務が2026年9月11日から始まり、主要な義務は2027年12月11日から適用されます。悪用された脆弱性は、把握から24時間以内に早期警告、72時間以内に通知するとされています。乗っ取りによる誤作動も、事故の原因として調べられる対象になります。

出典:欧州委員会『Navigating the AI Act』、欧州委員会『Cyber Resilience Act』(2026年11月17日確認)

関係者ごとに問われやすいこと

関係者主に関わる決まり確かめられやすいこと
メーカー・輸入者製造物責任法設計、製造、取扱説明と警告の中身
使う事業者労働安全衛生規則、契約柵やセンサーの措置、リスクアセスメントの記録、教育
AIモデルの提供者契約、AI事業者ガイドライン能力と限界の説明、更新の記録、不適切な使い方の案内
システムを組んだ会社契約仕様、設置の条件、引き渡しのときの説明
運行する事業者道路交通法の許可・届出計画どおりの運行、主任者の配置、停止の装置

事故に備えて導入前に決めておく記録

よくある質問

AIロボットの事故は誰の責任になりますか?

原因によって変わります。製品の欠陥ならメーカーなど、職場の安全措置の不足なら使う事業者、契約の内容によってはシステムを組んだ会社が問われます。

AIのソフトウェアだけでも製造物責任法の対象ですか?

消費者庁の解説では、ソフトウェアそのものは対象外です。組み込んだ製品の欠陥と判断されれば、その製品の製造業者などの責任になることがあります。

協働ロボットなら柵は要りませんか?

出力80ワット超のロボットで柵を省けるのは、リスクアセスメントで危険のおそれが無くなったと評価できる場合などです。評価の記録も必要です。

事故に備えて最初にすることは何ですか?

記録の範囲と保存期間、止める担当、契約上の責任の範囲を、導入の前に文書で決めることです。

このページは公的な資料をもとにした一般的な整理で、法律の助言ではありません。個別の事故の責任は、弁護士などの専門家に相談してください。

次に読むページ