フィジカルAI時代のロボティクス新標準、安全性は「後付け」でなく「設計の核心」：フィジカルAI基礎解説（2/3 ページ）

[アガルワル・サッチン／QNX Japan，MONOist]

安全性が「設計の核心」となる時代

　安全性は、ロボットの活動範囲が隔離されたエリアから生活空間へ広がるにつれて、これまで以上に重要になっている。

　従来の産業オートメーション環境では、ロボットの作業空間から人間を遠ざけることで安全性を確保できた。しかし、フィジカルAIの時代にこのアプローチは通用しない。ロボットは動作中も周囲の状況を監視し、危険を予測しながら判断を更新し続ける必要がある。安全性は静的な要件ではなく、継続的に維持される能力へと変わりつつある。そのため最新のロボットでは、人と接触した際の衝撃を抑える機構、多重化された認識システム、人の動きに応じて動作を調整する制御技術などが重要な設計要件になっている。コンプライアントアクチュエーション（柔軟な駆動）や力覚／トルク感知技術はその代表例だ。

　この変化は、自動車を見ると理解しやすい。自動車は、いかなる状況でも安全に停止しなければならない。これは性能ではなく安全性の問題である。AIがどれだけ高度化しても、安全性はその前提として常に担保されていなければならない。

　接触を常に回避できるとは限らないオープンな環境において、人との接触を完全に排除することは現実的ではない。求められるのは、状況を理解し、適切に判断し、必要なときには安全に停止できる能力だ。安全性はもはや設備や柵の問題ではなく、システム設計そのものの問題となっている。

フィジカルAIの信頼はセキュリティから生まれる

　フィジカルAI時代において、安全性とサイバーセキュリティを切り離して考えることはできない。セキュリティなくして、意味のある安全性は存在しない。

　最新のロボットシステムでは、複数台のロボットを同時に制御するフリート調整や、周辺環境の状況を把握するための共有マッピング、そしてソフトウェアを常時最新にしておくためのクラウド更新などのため常時ネットワークに接続されている。この接続性はロボットの能力を高める一方、新たなリスクも生み出している。

　例えば、ナビゲーションデータが改ざんされれば、自律移動ロボットは誤った経路を選択し、人や設備との衝突を引き起こす可能性がある。センサーへの干渉やロボット間連携の妨害も同様だ。こうした脅威がもたらすのは単なるデータリスクではなく、現実世界における物理的危険そのものなのである。

　この認識は規格にも反映されている。2025年に改訂された産業用ロボットの国際安全規格「ISO 10218-1/2」では、サイバーセキュリティ要件が初めて正式に組み込まれた。これは物理的安全性とサイバーセキュリティを統合的に扱う方向への重要な転換といえる。

　また、産業制御システム向けサイバーセキュリティの国際規格「IEC 62443」は、技術要件だけでなく、人、プロセス、組織を含む包括的なアプローチを定義している。認証、暗号化通信、セキュアブート、侵入検知、プロセス分離といった仕組みは、もはやセキュリティ対策であるだけではない。安全性を維持するための基盤そのものなのだ。

　つまり、システムを安全に保つ責任は製品単体にあるのではなく、開発、運用、保守を含むライフサイクル全体に及ぶということだ。フィジカルAI時代のロボットには、故障に対処する能力だけでなく、データや接続性への信頼が失われた場合でも安全な状態を維持する能力が求められている。

　一方、日本の制度整備はまだ発展途上にある。産業用ロボットの安全確保は労働安全衛生法に基づいて運用されているが、その基本的な考え方は、もともと従来型の産業用ロボットを前提として構築されたものだ。近年は一定の安全確保措置を前提に、人とロボットが同じ空間で協働する運用も広がっているものの、AIを搭載した多用途ロボットやフィジカルAIを前提とした制度設計は、まだ始まったばかりである。

　こうした状況を受け、経済産業省のAIロボティクス検討会は、AI搭載ロボットの認証制度に関する議論を開始した。プライバシー、セーフティ、セキュリティの確保に加え、人と多用途ロボットが協働する環境で求められる技術要件や評価基準の整備が検討されている。

　フィジカルAIの普及は、単に高度なAIを開発すれば実現できるものではない。その能力を社会が信頼し、安全に受け入れられる仕組みを構築できるかどうかが、今後の普及を左右する重要な条件となるだろう。日本における制度整備も、まさにその出発点に立っている。