【日本初】エヌビディア責任者に聞く安全の新常識、工場のAIロボット事故はどう防ぐ？

人と働くAIロボット、従来の安全対策では足りない理由

　AIロボットが、工場や倉庫で人と同じ空間を動く時代が近づいている。柵の中で決められた動作を繰り返す従来の産業用ロボットと違い、AIを搭載したロボットは、周囲の状況を見ながら経路や動作を自律的に変える。

　そこで問題となるのが「安全」だ。周囲を監視するカメラが荷物で遮られたらどうするのか。映像が届いていても、AIが見慣れない状況に遭遇したらどうするのか。人が近づいたら止まるだけでなく、AIの判断を信用できない状態まで想定する必要がある。


　この課題に対し、NVIDIAは2026年6月、フィジカルAIの安全性を支える枠組み「NVIDIA Halos」をロボティクス領域へ拡張すると発表した。

　Halosは単一の製品ではない。半導体やOS、AIの監視機能、シミュレーション、第三者認証へつなげる検査を組み合わせ、システム全体の安全性を支える構想だ。

　AIロボットの安全は従来と何が違うのか。NVIDIAでHalosを率いるRiccardo Mariani（リカルド・マリアーニ）氏に、フィジカルAI時代の「安全の新常識」について聞いた。

AIロボットの安全は「設計・稼働・検証」で考える

　従来の産業用ロボットは、動く範囲も、人が入ってはいけない範囲も決めやすかった。安全装置とAIを、分けて考えることもできた。

　しかし、自律移動ロボットやヒューマノイドが人と同じ現場で動けば、そうはいかない。AIが周囲を認識し、次の動きを決める以上、その判断と安全システムを切り離すことはできないからだ。

「従来のシステムでは、AIと安全は別々に存在していました。しかし今は、この二つが一緒に動きます。Halosの使命の一つは、機能安全とAIを一つのアーキテクチャに統合することです」

　ここでいう機能安全とは、異常を検知して機械を止めるなど、システムの働きによって危険を抑える考え方を指す。

【次ページ】カメラが遮られたら、ロボットはどう動くのか