LG전자·오픈마인드와 뭉쳐 피지컬 AI 오작동과 외부 공격을 동시에 막는 안전 레이어 공동 개발 본격화 시각 청각 센서 융합 분석 기반 기술 구상해...초음파·이미지 패치형 교란 방어 체계 가동 오픈마인드社 로봇 런타임 및 운영체제 ‘OM1’ 기반 보안 통합, 하드웨어 실증 결합 예고 에임인텔리전스·LG전자·오픈마인드가 피지컬 AI(Physical AI) 안전 레이어(Safety Layer)를 공동 개발한다. 이번 협력은 러시아 공상과학(SF) 작가 아이작 아시모프(Isaac Asimov)가 1942년 단편 소설 ‘루나라운드(Runaround)’에서 주창한 로봇 행동 규범 ‘로봇 3원칙(Asimov’s Three Laws of Robotics)’을 기반으로 한다. 이를 현실 산업 환경에 맞는 기술 안전 레이어로 재해석해, 오작동과 외부 공격까지 통제하려는 시도다. 규칙 중심 안전 논의를 실제 환경의 오작동과 공격 시나리오까지 포괄하는 기술 표준으로 끌어올리는 데 의미가 있다. 이때 핵심 개념인 피지컬 AI는 인공지능(AI)이 물리적인 환경에서 직접 학습·적응함으로써 실제 공간에서 자율적으로 문제를 해결하고 인간과 협력하도록 하는 핵심 기술이다. 또한 안전 레
AI 보안 기업 에임인텔리전스가 두바이에서 열린 세계 최대 스타트업 경연대회 ‘Supernova Challenge 2025’에서 전 세계 1위를 차지했다. 전 세계 2000여 개 스타트업이 참가한 이번 대회에서 에임인텔리전스는 AI 탈옥(jailbreak) 및 오작동을 실시간 탐지·차단하는 기술력으로 심사위원단의 주목을 받으며 최종 우승을 거머쥐었다. 총상금 30만 달러(약 4억 2천만 원)가 걸린 이번 대회에서 에임인텔리전스는 1등상인 10만 달러(약 1억 4천만 원)를 수상했다. 한국 기업이 이 대회에서 우승한 것은 4년 만이다. 결승 무대에는 전 세계 상위 10대 스타트업만이 진출했으며 에임인텔리전스는 독보적인 AI 보안 기술로 글로벌 경쟁사를 압도했다. 회사는 AI 시스템의 오작동이나 탈옥 시도를 실시간으로 탐지·차단하는 기술을 통해 안전한 인공지능 활용 환경을 제시하고 있다. 이 기술은 생성형 AI의 안전성 확보를 위한 핵심 요소로 평가받으며 에임인텔리전스는 ‘AI 보안의 글로벌 표준’으로 자리매김했다. 박하언 에임인텔리전스 공동창업자이자 최고기술책임자(CTO)는 “세계 무대에서 한국 스타트업으로서 성과를 인정받아 영광이며 AI 안전이 전 인류의 공
에임인텔리전스가 미국 로봇 OS 기업 오픈마인드, LG전자와 함께 ‘피지컬 AI 안전 레이어(Physical AI Safety Layer)’를 공동 개발한다. 이번 협력은 물리적 환경에서 작동하는 AI, 즉 ‘피지컬 AI(Physical AI)’의 오작동과 외부 공격을 방지하기 위한 것이다. 현재 피지컬 AI의 안전 규칙은 아시모프의 ‘로봇 3원칙’ 수준에 머물러 있어, 현실 환경에서의 오작동과 해킹 공격에 취약하다는 지적이 있다. 세 기업이 공동으로 개발하는 새로운 안전 레이어는 로봇의 판단 오류(환각)를 차단하고 외부 침입·공격까지 방어하는 차세대 안전 표준을 제시한다. 최근 연구에서는 인간이 인지하지 못하는 초음파 신호나 의류·헬멧의 미세한 이미지 패치만으로도 AI를 교란해 명령을 조작할 수 있는 공격이 현실화되고 있다. 이번 기술은 시각·청각·센서 데이터를 통합 분석해 이러한 은밀한 공격으로부터 로봇이 안전하게 작동하도록 보호한다. 이번 협력에서 오픈마인드는 범용 로봇 운영체제(OS) ‘OM1’을 제공하고, LG전자는 하드웨어 개발과 실증 단계를 맡는다. 에임인텔리전스는 AI 보안 기술을 로봇 운영체제에 통합해 모든 로봇의 행동이 인간의 통제 하에 이
로보틱스와 인공지능(AI)이 교차하는 지점은 단일 기술적 흥밋거리가 아니다. 인구 절벽, 노동시장 변화, 글로벌 공급망 재편. 오늘날 산업은 이처럼 구조적 도전에 직면해 있다. 이제 물리적 세계에서 작동하는 지능형 기계는 산업 경쟁력의 생존 조건으로 떠오르고 있다. 따라서 최근 로봇과 AI의 융합을 논하는 자리는 학계의 학술 교류나 스타트업의 데모 무대의 의미를 넘어선다. 사회와 경제의 향후 10년을 설계하는 전략적 어젠다의 장으로 의미가 확장됐다. 서울 삼성동 전시장 코엑스에서 열린 ‘오픈 로보틱스 AI 포럼 코리아(Open Robotics AI Forum Korea)’는 로보틱스와 AI의 미래 지형을 가늠하는 글로벌 무대로 주목받았다. 해당 포럼은 미국 지능형 로봇 운영체제(ROS) 개발 업체 ‘오픈마인드(OpenMind)’, 한국 AI 기반 안전·보안 솔루션 기술 업체 ‘에임인텔리전스(AIM Intelligence)’, 한국 AI 연구·스타트업 액셀러레이터 업체 ‘어텐션엑스(AttentionX)’ 등 세 개사가 손잡고 마련했다. 포럼에는 AI·로보틱스·블록체인 분야 글로벌 전문가·연구자·투자자가 대거 참여해 탈중앙화 AI와 오픈소스 기술이 이끄는 차세대
美 로봇운영체제(ROS) 개발사 오픈마인드, LG전자·에임인텔리전스와 로봇 오판단 사전 차단 기술 개발 연구 돌입 오픈마인드 ROS ‘OM1’, 멀티모달(Multimodal) 안전 가드레일 기술 융합 “로봇 안전 기술의 상용화 ‘속도’ 낼 것” 오픈마인드·LG전자·에임인텔리전스 삼사가 차세대 로봇 안전 기술 공동 연구에 나선다. 오픈마인드는 이달 26일 서울 삼성동 전시장 코엑스에서 열린 ‘오픈 로보틱스 AI 포럼 코리아(Open Robotics AI Forum Korea)’에서 이 같은 내용의 프로젝트를 발표했다. 해당 포럼은 오픈마인드·에임인텔리전스·어텐션엑스가 공동 주최한 행사로, 이 자리에서 신종호 LG전자 연구원 삼사 협력을 공식화했다. 이로써 세 회사는 로봇 안전 기술 통합 개발을 위한 공동 연구에 착수하게 됐다. 미국 피지컬 AI(Physical AI) 기반 로봇운영체제(ROS) 개발사 오픈마인드는 ROS 기술 역량을 필두로, 로봇 혁신을 정조준하고 있다. 이들은 이번 공동 연구의 핵심으로, 로봇의 '환각(Hallucination)' 최소화를 내세웠다. 로봇이 위험한 행동을 하거나 잘못된 판단을 내리는 상황을 여러 문맥 속에서 사전에 차단하고 완
에임인텔리전스가 지난 24일 코오롱그룹 IT 계열사 코오롱베니트와 전략적 업무협약을 맺었다. 이번 협약으로 에임인텔리전스는 코오롱베니트가 운영하는 ‘AI 얼라이언스’에 보안 전문 참여사로 합류하게 됐다. 이를 통해 코오롱베니트는 개발, 인프라, 서비스뿐 아니라 보안까지 포함한 생성형 AI 전주기 사업 포트폴리오를 구축하게 됐다. 양사는 생성형 AI에 대한 자동 레드팀 및 가드레일 솔루션(AIM Red·AIM Guard) 고도화와 시장 특화 프리패키지 공동 개발을 협력 과제로 설정했다. 코오롱베니트가 보유한 80여 개 파트너사 네트워크와 도입 인큐베이팅 역량은 에임인텔리전스의 기술 상용화와 시장 확대에 기여할 것으로 기대된다. 에임인텔리전스는 2024년 설립된 AI 세이프티 딥테크 스타트업으로, AI 행동을 통제 가능한 수준으로 만들어 안전성과 책임성을 확보한다는 미션을 내세운다. 주력 제품은 AIM Red, AIM Guard, AIM Supervisor로, 각각 자동 스트레스 테스트, 실시간 안전 장치, 거버넌스 대시보드 기능을 제공한다. 해당 솔루션은 금융, 의료, 공공 분야에서 도입되며 생성형 AI의 위험 탐지 및 차단 성능을 강화해 왔다. 에임인텔리전스
상용 AI 모델이 갖는 구조적 취약점을 현실 기반 시나리오로 정량적 입증해 에임인텔리전스가 자사 AI 공격 프레임워크 ‘SUDO(Screen-based Universal Detox2Tox Offense)’를 주제로 한 논문이 세계 최고 권위의 자연어처리 학회 ACL 2025 인더스트리 트랙에 채택됐다고 밝혔다. 이번 논문은 반복 학습 기반의 정교한 공격 방식으로 상용 AI 에이전트의 보안 취약성을 실증한 연구로 평가받고 있다. SUDO 프레임워크는 AI 시스템의 거절 응답을 우회하는 단계를 구조화한 점이 특징이다. 공격자는 처음에 AI가 위험하다고 판단할 수 있는 지시를 무해하게 바꿔 입력하고, 화면 기반 정보를 바탕으로 실행 절차를 유도한다. 마지막 순간에는 다시 본래의 악성 명령으로 되돌려 AI가 스스로 실행하도록 유도한다. GPT Operator, MANUS, Omniparse, Claude for Computer Use 등 주요 상용 AI를 대상으로 진행된 실험에서 이 프레임워크는 높은 성공률을 보였다. 특히 앤트로픽의 클로드 모델에서는 공격 성공률이 최대 41.33%에 달했다. 이는 전통적인 명령 전달 방식보다 34%포인트, 단순 입력 대비 41%포
은밀한 유해표현, 설득력 등 다양한 지표를 통해 AI의 잠재 위험성 탐지 에임인텔리전스가 연세대학교, KIST, 서울대학교와 공동으로 개발한 AI 안전성 진단 체계 ‘ELITE(Enhanced Language-Image Toxicity Evaluation)’가 머신러닝 학술대회인 'ICML 2025'에 공식 논문으로 채택됐다. 이는 국내 연구진이 글로벌 AI 안전성 연구 흐름을 선도하는 신호탄으로 해석된다. ICML(International Conference on Machine Learning)은 인공지능 및 머신러닝 분야에서 가장 권위 있는 학회 중 하나로, 매년 전 세계 연구자들이 최신 기술을 발표하고 교류하는 자리다. 올해로 42회를 맞이한 이 학회에 국내 연구팀의 논문이 이름을 올린 것은, 한국 기술력의 실질적 성과가 국제적으로 공론화됐다는 점에서 의미가 깊다. ELITE는 이미지와 텍스트를 함께 입력받는 비전언어모델(VLM)의 응답을 ‘정밀 진단’하는 평가 체계다. 단순히 노골적인 표현만을 걸러내는 기존 방식에서 나아가, 겉보기에 문제가 없는 응답 속에서도 은밀한 유해 표현, 설득력, 구체성 등 다양한 지표를 통해 AI의 잠재 위험성을 탐지한다.
에임인텔리전스가 컴퓨터 사용 에이전트의 보안 취약성을 실증한 연구를 발표했다. 연구는 오픈AI의 GPT Operator, 앤트로픽의 Claude, 구글의 Gemini 등 실제 사용 중인 AI 기반 컴퓨터 사용 에이전트를 대상으로 진행됐다. 연구 결과 해당 AI가 악성 명령을 우회적으로 수용하고 실행하는 취약성이 확인됐다. 연구진은 이를 위해 'SUDO(Screen-based Universal Detox2Tox Offense)' 프레임워크를 개발했다. 이 프레임워크는 AI의 안전 정책을 우회해 악성 행동을 유도하는 구조다. 무해한 표현으로 요청을 변환한 뒤 Vision-Language 모델을 통해 실행 단계를 생성하게 하고, 마지막 순간에 악성 요청으로 되돌리는 '톡시파이(toxify)' 과정을 거친다. AI가 거절할 경우, 거절 사유를 분석해 공격 방식을 수정하며 반복 시도했다. 초기 시도 성공률은 24%, 전략 수정 시 최대 41%까지 증가했다. 에임인텔리전스는 본 실험에서 50가지 악성 시나리오를 구성해 검증을 진행했다. 사용자 폴더 삭제, 외모에 대한 욕설, 위험 물질 구매, 도박 사이트 배팅 등 현실적인 위협 사례가 포함됐다. 연구는 개인정보 유출,
AI 보안의 중요성이 날로 커지는 가운데, 국내 AI 보안 기업 에임인텔리전스가 세계적인 AI 연구기업 앤트로픽(Anthropic)의 비공개 AI 모델을 정밀 진단하며 실력을 입증했다. 서울대학교 전기정보공학 석사 출신 유상윤 대표가 이끄는 에임인텔리전스는 레드팀 테스트를 통해 AI 모델의 취약점을 분석하고 글로벌 AI 보안 시장에서 경쟁력을 강화하고 있다. 앤트로픽은 최근 AI 보안 강화를 위해 새로운 버그 바운티(Bug Bounty) 프로그램을 도입했다. 에임인텔리전스는 해당 프로그램에 초청받아 AI 모델의 악용 가능성을 방지하는 최신 방어 시스템을 점검하고 사전에 보안 취약점을 찾아내는 데 집중했다. 특히, CBRN(화학, 생물학, 방사능, 핵)과 관련된 10개 금지 질문을 설정해 AI 모델이 얼마나 정확히 대응하는지 평가하는 과정을 수행했다. 전 세계에서 초청된 해커 중 약 20명만이 2개 이상의 문제를 우회하는 데 성공했으며 에임인텔리전스의 박하언 연구원이 이에 포함되며 탁월한 보안 분석 능력을 인정받았다. 에임인텔리전스는 AI 모델이 내장한 보안 기능을 우회할 수 있는 방법을 탐색하며 기존의 방어 체계를 뚫는 새로운 기법을 실험했다. 이러한 연구
KT가 인공지능(AI) 클라우드 분야 스타트업들과 함께 마이크로소프트(MS)의 연례 기술 콘퍼런스 ‘MS 이그나이트 2024’에 참가한다고 21일 밝혔다. KT가 이 행사에 참여하는 것은 이번이 처음이다. MS 이그나이트는 최고경영자(CEO)인 사티아 나델라의 기조연설을 비롯해 여러 분야의 산업별 전문가 및 MS 개발자 강연, 신규 설루션 라이브 데모 및 체험형 실습 등으로 구성돼 있다. 특히 AI, 클라우드, 보안 등 다양한 기술 산업별 비즈니스 적용 사례를 공유하고 실무자에게 심층 기술 학습과 네트워킹 기회를 제공하는 자리다. KT와 함께 참가하는 스타트업은 레블업, 업스테이지, 베슬에이아이, 딥네츄럴, 솔트룩스, 셀렉트스타, 에임인텔리전스, 인이지, 아드리엘, 일만백만 등 10곳이다. 이들은 KT가 육성하는 AI 분야 스타트업으로, 판교 오픈 이노베이션 센터 입주 기업 여부, AI 클라우드 사업 연관성 유무 등을 평가해 선발됐다. KT 구매실장 이원준 상무는 “국내 유망 스타트업이 MS의 최신 AI·Cloud 기술들을 학습해 기술 경쟁력을 높일 수 있도록 적극 지원할 계획”이라고 말했다. 한편 KT는 22일 대한무역투자진흥공사(코트라) 시카고무역관과 공
자사의 AI 모델과 도구를 오픈소스로 공개...'AI 개발 및 혁신 속도 높여' 메타가 주최한 AI 솔루션 공모 프로그램 ‘라마 임팩트 이노베이션 어워즈’에서 국내 생성형 AI 보안 기술 스타트업 에임인텔리전스가 수상자로 선정됐다. 라마 임팩트 이노베이션 어워즈는 메타의 대규모 오픈소스 언어 모델인 라마2 또는 라마3를 활용해 지역사회의 문제 해결에 기여하는 AI 개발자 및 조직을 발굴하고 지원하는 글로벌 프로그램이다. 개방형 혁신을 위한 메타의 지속적 노력의 일환이며, 교육, 경제, 신뢰 및 안전성 측면에서 혁신적인 솔루션을 제시한 기관들에 최대 3만5000달러의 상금을 수여한다. 메타는 자사의 AI 모델과 도구를 오픈소스로 공개하며 업계 관계자가 안전하게 AI를 개발하고 혁신을 가속화할 수 있도록 앞장서고 있다. 이번 어워즈에는 아프리카, 중동, 터키, 아시아 태평양, 라틴아메리카 등 전 세계 다양한 지역의 후보가 참여한 가운데, ‘라마 수호 프로젝트’를 제안한 국내 AI 스타트업 ‘에임인텔리전스’가 아시아 태평양 지역 수상자 중 하나로 선정됐다. 에임인텔리전스는 기술력과 사회적 기여도를 높이 평가받았으며 상금으로 2만5000달러를 수상했다. ‘라마 수호
상호명(명칭) : (주)첨단 | 등록번호 : 서울,자00420 | 등록일자 : 2013년05월15일 | 제호 :헬로티(helloT) | 발행인 : 이종춘 | 편집인 : 김진희 |
본점 : 서울시 마포구 양화로 127, 3층, 지점 : 경기도 파주시 심학산로 10, 3층 | 발행일자 : 2012년 4월1일 | 청소년보호책임자 : 김유활 | 대표이사 : 이준원 | 사업자등록번호 : 118-81-03520 | 전화 : 02-3142-4151 | 팩스 : 02-338-3453 | 통신판매번호 : 제 2013-서울마포-1032호
copyright(c) HelloT all right reserved
UPDATE: 2025년 11월 11일 19시 20분
