AI 데이터·신뢰성 평가 전문기업 셀렉트스타가 10일 서울 동대문디자인플라자(DDP)에서 열린 글로벌 스타트업 축제 ‘Try Everything 2026’에서 더핑크퐁컴퍼니와 함께 AI-IP 결합 콘텐츠 및 안전성 검증 사례를 발표했다.
이번 세션은 ‘AI를 만난 아기상어: IP 기업과 AI 기업이 만든 새로운 콘텐츠 경험’을 주제로 진행됐다. 양사는 현재 DDP에서 운영 중인 AI 인터랙티브 전시 ‘아기상어 비밀 초대장: 비커밍 샤크’의 기획 배경부터 AI 기술 구현, 신뢰성 평가 과정 전반을 소개했다.
발표에 나선 박상원 더핑크퐁컴퍼니 본부장은 “영상과 달리 전시에서는 관람객의 말과 행동에 따라 경험이 실시간으로 달라진다”며 “관람객이 이야기의 주인공이 되어 캐릭터와 직접 대화하고 교감하는 새로운 관계를 형성할 수 있었다”고 설명했다.
이어 정세엽 셀렉트스타 팀장은 실시간 반응형 AI 콘텐츠에서 안전성 평가가 갖는 중요성을 강조했다. 정 팀장은 결과를 사전에 모두 확인하기 어려운 반응형 콘텐츠 특성상 사전 검수뿐만 아니라 운영 과정에서도 예기치 못한 질문에 안전하게 반응하는지 지속적으로 평가해야 한다고 밝혔다.
셀렉트스타는 AI 신뢰성 평가 플랫폼 ‘다투모 플랫폼(Datumo Platform)’을 적용해 아기상어 AI 캐릭터의 대화 안전성, 세계관 일관성, 다국어 대화 품질을 검증했다. 한국어·영어·일본어·중국어 4개 언어 기준 1만 개의 안전성 시나리오를 구축하고, 공격자의 관점에서 취약점을 사전 발굴하는 ‘레드티밍’을 실시해 응답 안전장치를 보완했다.
정세엽 셀렉트스타 팀장은 “이제 AI를 잘 만든다는 기준은 뛰어난 성능을 넘어 얼마나 믿고 사용할 수 있는지로 확장되고 있다”며 “AI가 콘텐츠와 일상 속에서 대중과 만나는 접점이 넓어지는 만큼 AI 신뢰성 검증 기술의 중요성도 커질 것”이라고 말했다.
한편 셀렉트스타는 과학기술정보통신부의 ‘독자 AI 파운데이션 모델’ 프로젝트 2차 평가를 통과한 SKT 컨소시엄에 참여하고 있으며, 정부의 ‘모두의 AI’ 사업에서도 데이터 구축 및 신뢰성 검증을 전담하는 등 국가 AI 사업으로 평가 역량을 확장하고 있다.
이미지 제공: 셀렉트스타
