안전·신뢰 확보, 개방형 실행 기반 조성, 수요 중심 도입 촉진 등 3대 전략 제시
과학기술정보통신부가 자율적으로 계획을 수립하고 실행하는 ‘에이전틱 AI’ 시대에 대응하기 위해 국가 차원의 실행 전략을 내놨다. 과기정통부는 7월 23일 열린 제11회 과학기술관계장관회의에서 ‘에이전틱 AI 이니셔티브’를 발표하고, 안전·신뢰 기반의 개방형 AI 실행 생태계 조성과 산업·국민 체감형 도입 확산을 추진한다고 밝혔다.
과학기술정보통신부는 지난 7월 23일 개최된 제11회 과학기술관계장관회의에서 ‘에이전틱 AI 이니셔티브’를 발표했다고 밝혔다.
최근 AI는 사용자의 목표에 따라 자율적이고 능동적으로 계획을 세우고 실행하는 ‘에이전틱 AI’로 빠르게 진화하고 있다. 에이전틱 AI는 산업 생태계 전반의 수익 구조와 서비스 방식을 바꾸고, 개인의 생산성을 획기적으로 높여 ‘1인 기업 시대’를 가능하게 하는 핵심 기술로 주목받고 있다.
이에 따라 AI 경쟁의 축도 확대되고 있다. 기존 AI 경쟁이 ‘누가 더 우수한 모델을 보유했는가’에 집중됐다면, 앞으로는 ‘누가 더 많은 데이터, 시스템, 업무 흐름을 연결하고 실행하는가’가 경쟁력을 좌우할 핵심 요소가 될 전망이다.
글로벌 빅테크 기업들은 이미 실행 체계 선점에 속도를 내고 있다. 구글, OpenAI, 마이크로소프트 등은 자사의 프론티어 AI 모델을 기반으로 업무 소프트웨어, API, 모델, 클라우드 인프라를 포괄하는 실행 체계 선점 전략을 추진하고 있다. 중국은 자국 플랫폼과 공공·산업 데이터를 기반으로 통제형 실행 생태계를 구축하고 있다.
우리나라는 세계 최고 수준의 디지털 인프라와 제조, 금융, 공공 등 탄탄한 산업 기반을 보유하고 있어 에이전틱 AI 확산에 유리한 여건을 갖추고 있다. 과기정통부는 실행 생태계 중심으로 전환되는 AI 패러다임 변화를 기회로 삼아 국내 에이전틱 AI 생태계를 선점하기 위해 이번 이니셔티브를 마련했다.
이번 이니셔티브는 ▲에이전틱 AI 안전·신뢰 선도 ▲개방형 에이전틱 AI 실행 기반 조성 ▲수요 중심의 에이전틱 AI 도입 촉진 등 3대 추진 전략으로 구성됐다.
에이전틱 AI 안전·신뢰 관리 체계 마련
과기정통부는 첫 번째 전략으로 에이전틱 AI의 안전·신뢰 확보를 제시했다.
에이전틱 AI는 외부 시스템과 연동되고 실제 실행까지 수행한다는 점에서 생성형 AI보다 파급효과가 크다. 특히 권한 오남용, 보안 위협, 민감 데이터 유출 등 문제가 발생할 가능성이 있어 도입과 활용 과정에서 안전성과 신뢰성 확보가 필수적이다.
앤트로픽, OpenAI, 구글 등 글로벌 기업들도 에이전트 기능을 출시하면서 권한 범위 제한, 로그 기록 관리 등 안전 기능을 설계 단계부터 반영하는 추세다.
과기정통부는 에이전틱 AI 전 주기에 적용할 수 있는 안전·신뢰 관리 체계를 확보할 계획이다. 이를 위해 개인정보와 민감데이터 보호, AI 권한 관리, 목표 이탈 방지 등 에이전틱 AI 고유의 위험 요소를 반영한 ‘에이전틱 AI 안전·신뢰 가이드라인’을 연내 마련한다.
또한 에이전틱 AI의 성능과 안전·신뢰성을 평가하기 위한 기반을 구축한다. AI 에이전트의 안전한 활용과 행위 책임성 확보를 위해 ‘에이전틱 AI 얼라이언스’를 중심으로 AI 에이전트 신원 확인과 책임 소재도 검토할 예정이다.
개방형 에이전틱 AI 실행 생태계 구축
두 번째 전략은 개방형 에이전틱 AI 실행 기반 조성이다.
에이전틱 AI는 AI 모델이 외부 시스템과 도구에 연결돼 실제 업무를 수행할 때 비로소 가치를 창출한다. 이에 따라 에이전틱 AI 시대의 경쟁력은 개방형 실행 생태계를 구축할 수 있는지에 달려 있다.
과기정통부는 국내 환경에 맞는 AI 에이전트 도구, 유통 체계, 기술 및 모델 확보를 추진한다. 국민이 일상과 업무에서 반복적으로 활용할 수 있는 생활 밀착형·고수요 AI 에이전트 서비스와 도구 개발을 지원하고, 신뢰할 수 있는 AI 에이전트 유통을 위한 마켓플레이스도 지원한다.
AI 핵심 요소를 통합 관리하는 AI OS 핵심 기술 개발도 추진된다. AI OS는 AI 모델, 추론, 에이전트, 도구 등 AI 실행에 필요한 핵심 요소를 통합적으로 관리하는 기술이다.
특히 에이전틱 AI는 멀티에이전트 협업, 도구 활용, 반복 호출 등으로 높은 연산 자원을 요구한다. 과기정통부는 이에 대응하기 위해 토큰 효율 기반의 실행 운영 기술 확보를 추진한다.
국산 AI 모델의 에이전틱 AI 성능 강화를 위한 지원도 이뤄진다. 과기정통부는 GPU와 에이전틱 데이터를 지원해 서비스 개발 기업이 다양한 AI 모델을 목적에 맞게 선택하고 활용할 수 있는 환경을 조성할 계획이다.
국민·산업 현장 중심 AI 에이전트 도입 확대
세 번째 전략은 수요 중심의 에이전틱 AI 도입 촉진이다.
에이전틱 AI는 복합적인 업무를 자율적으로 수행할 수 있어 생산성 향상과 업무 혁신을 가져올 수 있다. 과기정통부는 국민과 산업 현장에서 체감할 수 있는 수요 중심의 에이전틱 AI 도입을 촉진한다는 방침이다.
우선 ‘모두의 AI 프로젝트’를 통해 국민 누구나 AI 에이전트를 활용할 수 있는 기반을 마련한다. 장기적으로는 모든 국민이 자신만의 AI 에이전트를 활용해 일상과 경제활동 전반에서 새로운 가치를 창출할 수 있도록 지원한다.
산업 분야에서는 ‘AI 에이전트 플래그십 프로젝트’를 추진한다. 이 프로젝트에는 AI 파운데이션 모델 기업, 인프라 기업, AI 서비스 개발사, 수요 기업 등 AI 가치사슬 전반의 주체가 참여한다. 과기정통부는 이를 통해 우리나라 주요 산업 분야의 에이전틱 AI 서비스 개발과 실증을 지원할 계획이다.
기업의 AI 에이전트 개발·도입 역량 강화도 지원한다. 과기정통부는 도입 진단, 위험 관리, 운영 체계 수립 등 전문 컨설팅을 제공하고, 혁신 AI 에이전트 기술을 보유한 스타트업의 사업화도 지원한다.
또한 에이전틱 AI의 자율 실행과 멀티에이전트 특성을 고려해 ICT 규제샌드박스를 활용한 실증 기회를 확대한다. 실증 결과를 기반으로 증거 기반의 에이전틱 AI 친화적 제도 개선도 단계적으로 추진한다.
에이전틱 AI 얼라이언스 중심으로 실행력 강화
과기정통부는 지난 4월 ‘에이전틱 AI 얼라이언스’를 출범시킨 바 있다. 이 얼라이언스는 기술개발부터 산업 적용, 생태계 조성, 안전·신뢰 확보까지 전 주기를 아우르는 국가 협력 플랫폼이다.
과기정통부는 이번 이니셔티브의 실행력을 뒷받침하기 위해 에이전틱 AI 얼라이언스를 중심으로 정책 세부 내용을 구체화할 계획이다. 또한 빠르게 변화하는 기술 환경에 맞춰 정책을 고정된 방식이 아니라 ‘무빙타겟’ 방식으로 추진해 나갈 예정이다.
배경훈 부총리 겸 과학기술정보통신부 장관은 “에이전틱 AI는 단순한 기술 혁신을 넘어 일하는 방식과 경제·사회 전반의 변화를 이끄는 새로운 전환점이 될 것”이라고 말했다.
그는 이어 “우리 국민과 기업이 에이전틱 AI 시대에 기회를 확보하고 새로운 가치를 창출할 수 있도록 안전·신뢰 기반의 에이전틱 AI 생태계를 조성해 나가겠다”고 강조했다.
이번 에이전틱 AI 이니셔티브는 AI 경쟁의 무게중심이 모델 성능을 넘어 데이터, 시스템, 업무 흐름, 실행 역량으로 확장되는 가운데 마련됐다. 과기정통부는 안전성과 신뢰성을 기반으로 국내 산업과 국민 생활에 적용 가능한 에이전틱 AI 생태계를 조성해 글로벌 AI 실행 경쟁에 대응할 계획이다.
헬로티 김진희 기자 |
