딥페이크 방어 및 탐지 AI 스타트업 스틸컷(Stealcut)이 생성형 AI로 제작된 이미지를 판별하는 탐지 모델의 성능 지표를 공개했다.
스틸컷에 따르면, 2026년 3월 실시한 자체 벤치마크 테스트에서 해당 모델은 Grok, Gemini, ChatGPT 등 최신 AI 모델 8종과 주요 딥페이크 서비스의 결과물을 대상으로 전체 정확도 93.9%를 기록했다. 위조 이미지 탐지율은 92.3%, 생성 모델 8종 평균 탐지율은 90.2%로 나타났으며, 이는 동일 조건에서 테스트한 해외 주요 탐지 서비스들의 지표를 상회하는 수준이다.
최근 딥페이크를 활용한 허위 콘텐츠는 보도 현장의 오보 원인이 되거나, 기업 임원을 사칭한 금융 사기에 악용되는 등 사회적 피해 사례가 보고되고 있다. 스틸컷의 탐지 모델은 콘텐츠가 대중에게 유통되기 전 생성 여부를 검증함으로써 이러한 위험 요소를 사전에 파악하는 역할을 수행한다.
기술적으로는 딥페이크 AI가 얼굴을 합성하는 과정에서 발생하는 구조적 흔적을 역추적하여 분석하는 방식을 취한다. 이를 통해 경량화된 모델로도 최신 생성 모델이 만든 위조 이미지를 식별할 수 있도록 설계되었다.
탐지 기능과 함께 공개된 선제적 방어 기술은 이미지에 미세 신호를 삽입해 딥페이크 변조 시 발생하는 결과물의 품질을 저하시키거나 생성을 억제하는 기술이다. 실제 상용 딥페이크 사이트 30곳을 대상으로 한 테스트 결과, 얼굴 교체(Face Swap) 서비스에 대해 약 70%의 방어 성공률을 보였다. 스틸컷은 관련 기술 4건에 대해 한국·미국·유럽에 글로벌 특허를 출원한 상태다.
스틸컷 관계자는 "AI 생성 이미지로 인한 혼란이 늘어남에 따라 이미지 진위 검증 프로세스 도입에 대한 논의가 활발해지고 있다"며, "취재 및 편집 워크플로우에 탐지 툴을 적용하면 보도 이미지의 신뢰성을 높이는 데 기여할 수 있을 것"이라고 밝혔다. 현재 해당 서비스는 공식 홈페이지에서 한시적으로 무료 운영 중이다.
이미지 제공: 스틸컷
