샌즈랩, 딥페이크 등 생성형 AI 역기능 막는 플랫폼 개발

[사진:샌즈랩]
[사진:샌즈랩]

[디지털투데이 황치규 기자]인공지능(AI) 기반 사이버 위협 인텔리전스(CTI) 전문 기업 샌즈랩은 생성형 AI 역기능 억제를 위한 사이버 보안 특화 RAG 기반 sLLM 모델과 국민 체감형 플랫폼을 개발 중이라고 27일 밝혔다.

<!-- -->

과학기술정보통신부와 정보통신기획평가원(IITP)은 AI 역기능 억제를 위한 사이버 보안 특화 RAG 기반 sLLM 모델 개발과 국민 체감형 플랫폼 구축을 과제로 총 100억 규모 ‘정보보호 핵심 원천기술 개발사업’을 발주했다. 지난 4월 해당 사업을 수주한 샌즈랩은 엘지유플러스, 포티투마루, 로그프레소, 한국과학기술원(KAIST)와 함께 공동 연구개발에 착수했다.

이번 사업은 딥페이크, 보이스피싱, 음성 합성 등 AI 역기능 방지 기술과 온프레미스(On-Premise) 기반 sLLM(Specialized Large Language Model) 모델 개발에 초점이 맞춰져 있다.

샌즈랩은 엘지유플러스와 공동 연구개발하는 딥페이크 영상/이미지 탐지 기술은 심층 학습 기반 알고리즘 개발, 생성적 적대 신경망(GAN) 기술에 대항하기 위한 적대적 학습 방법 적용, 멀티 모달 데이터 분석을 통해 정확하고 정밀하게 딥페이크를 탐지할 수 있다고 설명했다.

또 실시간 비디오 스트리밍이나 소셜 미디어 플랫폼에서 즉각적인 탐지를 위해 모델을 경량화해 복잡도는 최소화하고 탐지 정확도는 유지하거나 향상시킬 수 있는 최적화 기법을 적용할 예정이다.

[db:圖片]

BITCOIN