LG전자·오픈마인드와 뭉쳐 피지컬 AI 오작동과 외부 공격을 동시에 막는 안전 레이어 공동 개발 본격화
시각 청각 센서 융합 분석 기반 기술 구상해...초음파·이미지 패치형 교란 방어 체계 가동
오픈마인드社 로봇 런타임 및 운영체제 ‘OM1’ 기반 보안 통합, 하드웨어 실증 결합 예고
에임인텔리전스·LG전자·오픈마인드가 피지컬 AI(Physical AI) 안전 레이어(Safety Layer)를 공동 개발한다.
이번 협력은 러시아 공상과학(SF) 작가 아이작 아시모프(Isaac Asimov)가 1942년 단편 소설 ‘루나라운드(Runaround)’에서 주창한 로봇 행동 규범 ‘로봇 3원칙(Asimov’s Three Laws of Robotics)’을 기반으로 한다. 이를 현실 산업 환경에 맞는 기술 안전 레이어로 재해석해, 오작동과 외부 공격까지 통제하려는 시도다. 규칙 중심 안전 논의를 실제 환경의 오작동과 공격 시나리오까지 포괄하는 기술 표준으로 끌어올리는 데 의미가 있다.
이때 핵심 개념인 피지컬 AI는 인공지능(AI)이 물리적인 환경에서 직접 학습·적응함으로써 실제 공간에서 자율적으로 문제를 해결하고 인간과 협력하도록 하는 핵심 기술이다. 또한 안전 레이어는 로봇의 판단 오류와 외부 침입을 차단해 항상 인간 통제 하에 작동하도록 강제하는 보안 계층을 의미한다.
세 기업이 개발하는 피지컬 AI 기반 안전 레이어는 시각과 청각과 각종 센서 데이터를 통합 분석하는 기술이다. 이를 통해 외부에서 오는 교란을 조기에 탐지하고 위험 명령을 무력화하는 방식으로 설계된다.
사람이 알아차리기 어려운 초음파 신호, 의류나 헬멧에 부착된 미세 이미지 패치가 모델을 오인식하게 만들어 명령을 왜곡하는 공격이 현실화되는 상황을 전제로 한다. 레이어는 환각을 유발하는 판단 오류를 차단하고, 외부 침입과 조작을 방어해 로봇이 물리 환경에서 안전하게 작동하도록 보호한다.
역할 분담은 이렇게 나뉜다. 미국 로봇운영체제(ROS) 기술 업체 오픈마인드는 범용 인공지능(AI) ROS ‘OM1’을 제공한다. LG전자는 하드웨어 개발과 실증 단계를 담당한다. 에임인텔리전스는 AI 보안 기술을 ROS에 통합해, 모든 로봇 행동이 인간 통제 하에서만 실행되도록 정책과 검증 절차를 설계한다. 현장 적용 단계에서 ROS·보안·하드웨어가 하나의 체계로 움직이도록 결합하는 것이 핵심이다.
일정은 보안 레이어 설계와 ROS 통합을 선행하고 하드웨어 실증으로 이어가는 단계형 전개로 잡는다. 목표는 로봇 판단 오류와 교란 공격을 동시에 방어하는 다중 방어 아키텍처의 기준선을 마련하는 데 있다. 정의는 피지컬 AI 안전 레이어를 ROS와 하드웨어에 걸쳐 상시로 동작하는 보안 계층으로 두고, AI 모델 환각(Hallucination) 방지와 침입 탐지와 실행 차단을 통합 구현하는 것으로 정리한다.
박하언 에임인텔리전스 최고기술책임자(CTO)는 “이번 파트너십은 로봇 오작동 방지를 뛰어넘는 새로운 시도로, 외부 공격까지 차단하는 체계를 구축하겠다는 세 회사의 의지가 담긴 프로젝트”라며 “산업 전반에 적용 가능하고 자율 환경에서도 신뢰 가능한 로봇 운영의 새 기준을 제시할 곳”이라고 포부를 밝혔다.
헬로티 최재규 기자 |
