AI 보안 내재화 핵심기술 연구개발 과제 선정

우리 연구실이 슈어소프트테크, KETI, 올리브웍스, 연세대와 함께 제안한 AI 보안 내재화 핵심기술 연구개발 과제가 선정되어 과학기술정보통신부의 지원을 받게 되었습니다.

• 연구개발과제명: AI 서비스의 개발부터 배포까지 전주기의 평가 프레임워크 (Development of a Comprehensive Evaluation Framework for the Entire Lifecycle of AI Services from Development to Deployment)
• 연구기간: 2026년 4월부터 2029년 12월
• 사업명: AI생태계보안내재화핵심기술개발(과학기술정보통신부 정보통신기획평가원)
• 주관연구기관: 슈어소프트테크(주)
• 공동연구개발기관: (주)올리브웍스, 한국전자기술연구원(KETI), 연세대, 충북대

본 과제의 목표는 AI SW보안을 위해 AI 모델 학습부터 서비스 배포까지 개발 전주기에 필요한 개발보안 신기술 개발입니다. 우리 연구실은 과제의 세부 연구주제인 AI Redteaming 신기술 개발을 위한 연구를 맡아 수행하게 되었습니다. AI Redteaming이란 AI 서비스의 보안취약점을 탐지하기 위한 테스트 입력을 생성하는 기술을 뜻합니다. 우리 연구실은 SW 테스팅 기술의 원리를 활용하여 Multi-agent system과 같은 복잡한 AI 서비스에 대해 효과적으로 동작하는 AI Redteaming 기술 연구를 수행할 계획입니다.

-홍신