フィジカルAIガイド

フィジカルAIのセキュリティと安全性|ロボット・センサー・現場データを守るには

フィジカルAIのセキュリティとは、ロボットやセンサーが外から操られて誤って動くことや、現場の映像・作業データが漏れることを防ぐ取り組みです。画面の中のAIと違い、攻撃や誤作動が「機械の動き」になって人や物に危害が及ぶおそれがあるため、サイバー対策と機械の安全(止める仕組み)を一緒に考えます。2026年9月11日からは欧州で製品の脆弱性の報告義務が始まるなど、決まりも動いています。

動きを守る データを守る 判断を守る 止められる

フィジカルAIのセキュリティで守る3つのもの

動き

ロボットや搬送機器、車両が、決めた範囲の外で動かないようにします。乗っ取りや設定の書き換えを防ぎ、異常のときは止まる側に倒れる設計にします。

データ

カメラの映像、作業者の動き、設備のログ、製造の手順は、個人情報や営業の秘密を含みます。保存場所、見られる人、消す時期を決めます。

AIの判断

学習データの偏りや、センサーへの細工で判断が狂わないかを確かめます。モデルの更新が誰の承認で行われたかも記録します。

一般的な情報システムのセキュリティでは「漏れない・止まらない・書き換えられない」が目標です。フィジカルAIでは、これに「危ないときは確実に止まる」が加わります。止まらないことより、止めるべきときに止まることが優先される点が大きな違いです。

起こりうる被害と、主な備え

狙われやすい所起きうること主な備え
遠隔操作の回線外部から操作され、ロボットが想定外に動く認証、通信の暗号化、操作できる場所の限定
ネットワークカメラ映像の流出、初期パスワードのままの乗っ取りパスワード変更、更新の適用、ラベル制度の確認
AIモデルの更新誤ったモデルが配られ、判断が狂う署名つきの更新、承認者の記録、戻せる手順
センサーの汚れ・故障読み違いで、ぶつかる・落とす種類の違うセンサーで確かめる、読めないときは止まる
保守用の接続保守会社の端末から入り込まれる使うときだけ接続、作業の記録

このページでは、守る側が確かめる点だけを扱います。攻撃の具体的な手順は扱いません。

国内のガイドラインと制度

経済産業省は2022年11月16日に「工場システムにおけるサイバー・フィジカル・セキュリティ対策ガイドライン Ver1.0」を策定し、2025年4月11日には中小規模の製造事業者向けに、工場のセキュリティを確保する手順や事例を紹介する解説書を出しています。ロボットやAIを工場に入れるときは、この考え方で、つながる機器と守る範囲を洗い出すのが出発点になります。

機器選びでは、情報処理推進機構(IPA)が2025年3月25日に始めたIoT製品のラベリング制度「JC-STAR」が手がかりになります。★1と★2は製造元の自己適合宣言、★3と★4は第三者の認証にもとづきます。AIを開発・提供・利用する事業者の心がけは、総務省と経済産業省の「AI事業者ガイドライン」が示しており、最新は2026年3月31日の第1.2版です。

出典:経済産業省『工場システムにおけるサイバー・フィジカル・セキュリティ対策ガイドライン』(2026年11月17日確認)

出典:情報処理推進機構(IPA)『セキュリティ要件適合評価及びラベリング制度(JC-STAR)』(2026年11月17日確認)

出典:総務省『「AI事業者ガイドライン」掲載ページ』(2026年11月17日確認)

出典:情報処理推進機構(IPA)『「IoT開発におけるセキュリティ設計の手引き」を公開』(2026年11月17日確認)

機械の安全の決まり:止める仕組みを先に

産業用ロボットの安全の国際規格ISO 10218は、2025年2月に改訂版(第1部:ロボット本体、第2部:ロボットのアプリケーションとロボットセル)が発行され、2011年版を置き換えました。日本では、労働安全衛生規則第150条の4により、定格出力80Wを超える産業用ロボットでも、リスクアセスメントで危険のおそれが無くなったと評価できるときは柵などを省いて人と一緒に作業できます。

歩道を走る配送ロボットなどの「遠隔操作型小型車」には、車体の2か所に、地上60cm以上の高さで直径20mm以上の非常停止の押しボタンを付けるなどの基準があります。押せば直ちに原動機が止まり、解除の操作をしない限り動き出さないことが求められています。AIの判断より上に、人の手で止める仕組みを置く考え方です。

出典:ISO『ISO 10218-1:2025』(2026年11月17日確認)

出典:厚生労働省 三重労働局『産業用ロボットに係る労働安全衛生規則第150条の4の施行通達の一部改正について』(2026年11月17日確認)

出典:警察庁『遠隔操作型小型車の通行の届出等について』(2026年11月17日確認)

欧州の決まり:ロボットを輸出する会社は日付に注意

欧州連合(EU)のサイバーレジリエンス法(CRA)は、ネットワークにつながる製品に対策を求める法律です。悪用された脆弱性などの報告義務が2026年9月11日から始まり、把握から24時間以内に早期の警告、72時間以内に通知が必要です。主な義務は2027年12月11日から適用されます。

EUのAI法は、禁止事項が2025年2月2日から、汎用AIの義務が2025年8月2日から適用されています。2026年7月27日に発効した改正(デジタル・オムニバス)で、高リスクAIの適用は、単体のものが2027年12月2日から、製品に組み込まれたものが2028年8月2日からとなりました。ロボットや機械にAIを組み込んで欧州で売る場合は、後者の日付が目安になります。

出典:欧州委員会『Cyber Resilience Act』(2026年11月17日確認)

出典:欧州委員会『Navigating the AI Act』(2026年11月17日確認)

政府の方針:AIの信頼性とサイバー対策

2026年7月14日に閣議決定された第Ⅱ期の人工知能基本計画は、フィジカルAIを「日本の勝ち筋」の1つに挙げる一方、「Project YATA-Shield」にもとづいてサイバーセキュリティを確保し、AIセーフティ・インスティテュート(AISI)を中心にAIモデルの評価やガードレールなどの技術的な評価の力を強めるとしています。AIの利用で損害が出たときの責任分界についても、継続して検討するとしています。

出典:内閣府『人工知能基本計画』(2026年11月17日確認)

導入前のセキュリティ確認リスト

確認の全体像は安全確認のチェックリスト、事故が起きたときの考え方は事故と責任にまとめています。

動かし始めてから続けること

セキュリティと安全は、導入のときに1度確かめれば終わりではありません。ロボットのソフトウェアやAIモデルは更新が続き、現場の配置や働く人も変わります。運用が始まってからは、次のことを定期的に回します。

記録が残っていれば、事故やトラブルのときに原因をたどりやすくなり、説明の責任も果たしやすくなります。

よくある質問

フィジカルAIのセキュリティは普通のITと何が違いますか?

攻撃や誤作動が機械の動きになり、人や物に危害が及ぶおそれがある点です。そのため、サイバー対策と、確実に止める安全の仕組みを一緒に考えます。

どんな情報が守る対象になりますか?

映像、音声、位置情報、設備のログ、作業者の情報、製造の手順、AIモデルそのものなどです。

中小企業は何から始めればよいですか?

つながっている機器の一覧づくりと、初期パスワードの変更、更新の担当決めからです。経済産業省の中小規模の製造事業者向けの解説書も参考になります。

攻撃の方法も解説していますか?

扱いません。このページは、守る側の確認とリスクの整理を目的にしています。

次に読むページ

この話題の新しいニュース

このページの話題に関係する、最近の発表を出典つきで整理した記事です。

ニュースの一覧へ