AI 데이터 및 신뢰성 평가 전문기업 셀렉트스타가 서울 에스비에이 강남 스케일업센터에서 AI 네트워킹 행사 'AI Ignite'를 개최하고, 자사의 AI 신뢰성 검증 플랫폼인 'Datumo Platform(다투모 플랫폼)'을 소개했다. 이번 행사는 AI기본법에 대응하는 안전한 인프라 구성법을 주제로 진행됐으며, 금융권 망분리 규제 완화의 주요 내용과 AI 기본법 본격 시행에 앞선 대응 방안을 공유하는 미니 세미나 형식으로 치러졌다.
첫 번째 세션에서는 케이비금융그룹 공동 생성형 AI 플랫폼 운영을 담당하는 케이비국민은행 이진성 데이터·AI 엔지니어가 금융사의 AI 인프라 도입 사례와 실무 인사이트를 발표했다. 이진성 엔지니어는 금융당국의 망분리 완화 흐름 속에서 금융사가 실제로 AI 인프라를 어떻게 구축할 수 있는지를 집중적으로 다뤘다. 그는 현행 혁신금융서비스 지정 제도를 통해 외부 AI 모델을 업무에 연결할 때 갖춰야 할 보안 요건과 내부망 및 외부 클라우드를 결합한 하이브리드 AI 아키텍처 설계 방법을 실제 사례와 함께 소개했다. 또한 올해 시행된 AI기본법으로 인해 금융권이 AI 안전성을 직접 입증해야 하는 향후 규제 전망을 제시했다.
이어진 두 번째 세션에서는 셀렉트스타 전문휘 최고제품책임자(CPO)가 다투모 플랫폼의 구체적인 기능과 도입 사례를 발표했다. 다투모 플랫폼은 생성형 AI 서비스의 신뢰성 확보에 필요한 전 과정을 하나의 플랫폼에서 처리할 수 있는 원스톱 솔루션으로, 개발 단계부터 출시 후 운영까지 마주치는 문제들을 해결하기 위해 세 가지 모듈로 구성됐다. 첫 번째 모듈인 이밸류에이션은 실제 서비스 시나리오와 기업 정책, 도메인 특화 서비스에 맞춘 평가 체계를 구축하며 규칙 기반 평가와 에이아이 애즈 어 저지(LLM as a Judge) 방식을 결합한 자동평가 파이프라인으로 정량 및 정성 평가를 동시에 수행한다. 두 번째 모듈인 레드티밍은 스토리텔링, 롤플레이, 페르소나 변환 등 최신 공격 전략을 이용해 AI 모델의 취약점을 자동으로 탐지하며, 세 번째 모듈인 옵저버빌리티는 운영 중 실제 사용자 대화를 자동 분류해 기획 단계에서 정의하지 못한 신규 시나리오와 성능 저하 지점을 조기에 발견하는 기능으로 올해 3분기 출시를 앞두고 있다.
전문휘 셀렉트스타 최고제품책임자는 셀렉트스타가 AI 서비스의 신뢰성을 검증할 수 있는 평가 도구로 시작해 취약점을 미리 찾아내는 레드티밍과 실제 운영 중 이상 징후를 감지하는 모니터링 기능까지 더해 통합 플랫폼으로 발전시키고 있다며, 금융권을 비롯한 다양한 산업에서 쌓아온 레퍼런스가 그 실효성을 증명하고 있다고 설명했다.
한편, 행사를 주최한 AI Ignite는 셀렉트스타가 운영하는 현직 AI 실무자들을 위한 온·오프라인 통합 AI 인사이트 공유 플랫폼이다. 지난 2022년 첫 회를 시작으로 에이아이 세이프티, 생성형 AI 레드팀 챌린지, 에이치알의 AI 도입 등 다양한 주제를 다루며 누적 참가자 5,400여 명을 기록하는 대표적인 AI 커뮤니티로 자리 잡았다.
이미지 제공: 셀렉트스타
