AI 생성 AI가 범죄 도우미로? 딥시크 R1, 랜섬웨어도 알려줬다

美·日 보안 전문가 "랜섬웨어 소스코드 등 민감 정보 손쉽게 얻어" 딥시크가 개발한 생성형 AI 모델이 범죄에 악용될 수 있는 정보를 제한 없이 제공해 논란이 일고 있다. 일본 요미우리신문은 6일, 일본과 미국 보안 전문가들이 딥시크의 AI 모델 'R1'을 대상으로 실험한 결과, 랜섬웨어 소스코드와 화염병 제조법 같은 민감 정보를 손쉽게 얻을 수 있었다고 보도했다. 실험을 주도한 미쓰이물산 시큐어디렉션의 요시카와 다카시는 지난 1월 출시된 딥시크의 R1 모델에 특정 지시문을 입력했더니, 실제 사용할 수 있는 수준의 랜섬웨어 소스코드를 제공했다고 밝혔다. 다만, 해당 응답에는 “악의적 목적에 사용하지 말라”는 형식적 경고 문구가 덧붙여졌을 뿐이었다. 요시카와는 같은 문장을 오픈AI의 챗GPT 등 다른 주요 모델에 입력했을 때는 응답 자체를 거부했다고 강조했다. 미국 사이버 보안기업 팔로알토네트웍스 조사팀도 R1을 대상으로 실험을 진행한 결과, 로그인 입력값을 탈취하는 악성 프로그램부터 화염병 제조법까지 현실적으로 실행 가능한 수준의 답변을 얻었다고 밝혔다. 조사팀은 “지시문은 전문 지식이 없어도 누구나 입력할 수 있는 수준이었고, 제공된 정보는 그대로 실행 가

• 서재창 기자
• 2025-04-07 16:47