과학기술정보통신부와 한국정보통신기술협회(TTA)는 지난 6일 정보통신표준총회를 통해 '인공지능(AI) 시스템 신뢰성 제고를 위한 요구사항' 정보통신단체표준을 제정했다고 12일 밝혔다.
이번에 처음 마련된 단체표준은 과기정통부의 '국가 AI 윤리기준'과 분야별 '신뢰할 수 있는 AI 개발안내서'를 기반으로 AI 시스템의 설계, 개발, 검증, 운영, 모니터링, 폐기 등 AI 시스템 전체 생명주기에서 이해관계자들이 신뢰성을 높이기 위해 충족해야 할 요구사항을 제시한다.
세부 특성으로는 견고성, 보안성, 설명가능성, 신뢰성, 안전성, 예측가능성, 투명성, 책임성, 프라이버시 등이 규정됐다. 요구사항으로는 위험 관리 계획 및 수행, 데이터 편향 제거 등이 있다.
단체표준 제정에 따라 그동안 모호한 개념으로 인식됐던 AI 신뢰성 확보를 위한 기준을 정립하고, 국내 AI 산업 신뢰성의 저변 확대를 위한 발판이 마련될 것으로 과기정통부는 기대했다.
과기정통부와 TTA는 향후 단체표준의 요구사항에 대한 검증 프로세스를 표준화하고, 단체표준 내용을 분야별로 확대해 위험 기반 검증 항목과 절차에 대한 표준화를 지속 추진하며, 글로벌 주요국과 표준화 협력을 강화하겠다고 밝혔다.
박윤규 과기정통부 2차관은 "국내 AI 산업의 신뢰성을 확보하기 위해 정책적 지원을 확대하고 국내 기업들이 글로벌 진출을 확대해 나갈 수 있도록 AI 신뢰성 분야 국제표준화도 적극 추진해 나가겠다"고 말했다.
헬로티 이창현 기자 |
