헬로티 –매일 만나는 첨단 산업, 경제, IT 소식

일반뉴스 EU AI 규제법 발표 이후 가속화하는 AI 규제 및 합의

인공지능(AI) 기술 진화가 급속도로 이뤄지면서 그 부작용을 최소화하고자 전 세계가 관련 규제 제정에 나섰다. AI의 발전 속도에 비해 규제가 미비하다는 지적과 그 부작용의 여파가 커져 인류의 존립까지 위협할 수 있다는 우려가 꾸준히 제기되면서 각국이 AI 관련 규범 마련에 속도를 내고 있다. 유엔 총회에서는 21일(현지시간) 회원국들이 AI의 안전한 사용에 관한 국제적인 합의를 시급히 마련해야 한다는 내용의 결의를 만장일치로 채택했다. 국제사회가 유엔총회 차원에서 AI 관련 결의를 공식 채택한 것은 이번이 처음이다. 관련 규제의 필요성을 회원국들이 공유하고 있는 것으로 풀이된다. 유엔총회 결의는 국제법상 구속력은 없지만, 만장일치로 회원국이 찬성했다는 점에서 향후 국제사회가 AI 관련 규제나 거버넌스 체계를 논의하고 마련하는 데 있어 바로미터가 될 전망이다. 미국 주도로 제출된 이번 결의안은 AI 개발과 사용이 빠른 속도로 가속화되고 있다는 점을 인식하고, 안전하고 신뢰할 수 있는 인공지능 시스템에 관한 글로벌 합의를 이루는 게 시급하다는 점을 강조했다. 또한, 적절한 안전장치 없이 AI를 사용하거나 국제법을 위배해 사용해선 안 된다고 못 박고, AI를 부

서재창 기자

2024-03-24 17:03

일반뉴스 AI 개발, 규제는 어떻게? EU AI 대응 전략 워크숍 개최

EU AI 대응 전략 워크숍, 17일 동대문디자인플라자 아트홀서 개최 챗지피티(ChatGPT)로부터 시작된 인공지능 발전 가속화 현상은 인공지능과 관련된 다양한 윤리적 문제를 수면 위로 떠올렸다. 생성형 AI가 여러 혐오, 차별적 표현이 담긴 문장을 생성하거나 부정확한 정보를 양산할 수 있다는 문제뿐 아니라 저작권, 보안, 사회 양극화 가속화 등 다양한 우려의 목소리가 나오면서, 인공지능 개발과 관련된 다양한 규제가 논의되고 있다. 지난 6월 유럽연합 의회에서 인공지능법(AI Act)이 첫 통과되면서 향후 전 세계 인공지능 개발에 큰 영향이 미칠 것으로 예상되는 가운데, EU AI 대응 전략 워크숍이 17일 서울 동대문디자인플라자(DDP) 아트홀에서 열린다. 산업통상자원부가 주최하고 산업AI국제인증포럼, 한국산업기술시험원, 한국산업지능화협회가 주관하는 이번 워크숍은 인공지능과 관련된 규제에 대한 최신 정보와 동향을 제공하고 국내 기업이 산업AI국제인증포럼을 통해 해외 규제에 대응할 수 있도록 지원하기 위해 마련됐다. 산업AI국제인증포럼은 행사 추진 목적으로 “AI Act 및 국제 표준 기반의 AIA프로세스 심사 및 인증을 제공해 국내 기업의 기술 발전과 경쟁

이동재 기자

2023-11-16 11:41

정책 정부, 세계최초 AI법 마련 노력…AI 인증체계 하반기 시범운영

"공신력 있는 제3기관의 초거대 AI 모델 위험성·성능 평가 지원" 설명 가능·공정한 AI 기술 개발에 2026년까지 650억원 투입 과학기술정보통신부는 11일 '인공지능 산업 육성 및 신뢰 기반 조성 등에 관한 법률안' 제정을 지원해 우리나라가 세계 최초로 인공지능법을 마련할 수 있도록 노력하겠다고 밝혔다. 과기정통부는 이날 중구 제너시스랩 본사에서 박윤규 제2차관 주재로 AI 윤리·신뢰성 강화를 위한 현장간담회를 열어 국회에서 심의 중인 인공지능법에 대해 이같이 말했다. 박 차관은 "챗GPT 등장 이후 인공지능 모델의 신뢰성 이슈가 새로운 국면에 접어들고 있다"며 "국회 상임위원회 법안소위를 통과한 인공지능법은 고위험 영역에서 활용되는 인공지능을 정의하고 사전 고지 의무를 부과하는 한편 신뢰성 확보 조치 등 사업자 책무를 규정하는 적정 수준의 규제를 포함했다"고 설명했다. 그는 "일각에서 이 법이 인공지능 진흥을 위해서만 제정되는 것처럼 비판하는데 법안 명칭에서도 알 수 있듯 일방적인 산업 육성만을 위한 것이 아니다"라고 강조했다. 제정안은 국무총리와 민간위원을 공동 위원장으로 하는 인공지능위원회와 민간 전문가로 구성된 AI 신뢰성 전문위원회를 설치, 운

김진희 기자

2023-05-13 17:40