셀렉트스타가 AI Safety팀의 연구 논문 3편이 6일부터 11일까지 서울 코엑스에서 열리는 'ICML 2026' 워크샵에 게재된다고 밝혔다.
첫 번째 논문 'Reliable to Expressive: A Curriculum for Rubric-Following Safety Judges'는 안전성 평가 기준에 맞춰 AI 답변의 위험성을 검증하고 채점하는 LLM 응답 안전성 평가 모델을 제안했다. 커리큘럼 러닝을 도입해 범용적으로 학습된 평가 모델이 금융권 데이터 같은 새로운 도메인 환경에서도 일관된 평가 성능을 발휘함을 입증했다.
두 번째 논문 'Culturally-Adapted Red-Teaming Across East and Southeast Asian Contexts'는 자체 문화 맞춤형 레드티밍 벤치마크 생성 프레임워크 'CAGE'를 아시아권으로 확장 적용한 연구다. 한국어, 크메르어, 일본어, 태국어 사례를 통해 영어권 벤치마크를 단순 직역한 평가만으로는 국가별·문화권별 위험을 충분히 포착하기 어렵다는 점을 분석했다.
세 번째 논문 'Korean Culture into LLM Alignment: Toward Cultural Coherence'는 한국의 사회규범, 법·제도, 언어적 맥락을 반영한 안전 정렬 학습 데이터셋 구축 파이프라인을 제시했다. AI 성능 저하 한계를 극복하면서도 한국 문화권에 적합한 안전 응답 역량을 높이는 방법론을 담았으며 현재 진행 중인 자체 AI 파운데이션 모델 프로젝트에도 활용되고 있다.
셀렉트스타는 6일 인공지능안전연구소(AISI)가 주최하는 '제3차 AI 안전 정책 연구 세미나'에도 연사로 참여한다. Scale AI와 함께 단순 번역 기반 데이터의 위험성을 주제로 발표하며 멀티모달 환경까지 아우르는 문화 인지형 LLM 벤치마크 구축 기술을 소개할 예정이다.
김세엽 대표는 "ACL 2026, ICLR 2026 메인 컨퍼런스 채택에 이어 ICML 2026 워크샵에서도 연구 성과를 인정받은 만큼 신뢰할 수 있는 AI 생태계 구축을 위한 기술 개발에 힘쓰겠다"고 전했다.
헬로티 구서경 기자 |
