AI 데이터 및 신뢰성 평가 전문기업 셀렉트스타(대표 김세엽)가 오는 3월 스페인 바르셀로나에서 열리는 'MWC 2026'에서 진행될 ‘글로벌 AI 레드팀 챌린지’의 참가 모델과 운영 세부안을 공개했다.
이번 챌린지는 현지 시각 3월 3일 오전 11시 15분 MWC 부대 행사장인 ‘탤런트 아레나(Talent Arena)’에서 총 3개 세션으로 진행된다. 행사에는 국내외 주요 통신 및 AI 기업들의 거대언어모델(LLM)이 대거 참여해 안전성을 점검받는다.
참가 모델은 한국의 SK텔레콤 ‘A.X K1’, **LG유플러스 ‘ixi-GEN’**을 비롯해 미국의 AT&T ‘Ask AT&T’, NetoAI ‘Tslam’, 그리고 아랍에미리트 칼리파 대학교와 GSMA가 공동 개발한 ‘TelecomGPT’ 등이다.
평가는 편향성, 허위정보 유도, 유해성, 약물 관련 위험, 저작권 침해, 성적 부적절성 등 6개 기준에 따라 설계된 질문을 바탕으로 이루어진다. 사전 모집된 참가자들은 모의 프롬프트 공격을 통해 각 모델의 잠재적 취약점을 도출하며, 셀렉트스타는 플랫폼 구축과 실시간 모니터링 등 운영 전반을 총괄한다.
이번 행사는 순위 산정이 아닌 기업들의 LLM 안전성 고도화 지원에 목적을 둔다. 챌린지 종료 후 수집된 쿼리와 결과 데이터는 개별 기업에 공유되어 자사 모델의 개선 및 고도화 자료로 활용될 예정이다.
셀렉트스타는 이번 MWC를 기점으로 글로벌 현장에서 통용될 AI 신뢰성 검증 표준 정립에 기여한다는 방침이다. 또한 GSMA와 협력을 지속하여 미국 라스베가스, 중국 베이징, 카타르 도하 등에서도 레드팀 챌린지를 추가 개최할 계획이다.
김세엽 셀렉트스타 대표는 “통신 분야는 AI가 실생활로 빠르게 확산되는 영역인 만큼 안전성 확보가 중요하다”며 “이번 챌린지가 참여 기업들의 LLM을 더욱 견고하게 고도화하는 공동 검증의 장이 되길 기대한다”고 밝혔다.
한편, 셀렉트스타는 MWC 기간 중 SK텔레콤 전시관에서 글로벌 브랜드 ‘다투모(Datumo)’를 통해 AI 신뢰성 평가 플랫폼을 선보인다. 새롭게 공개되는 ‘다투모 플랫폼’은 자동 레드티밍 등 AI 신뢰성 평가 프로세스를 통합 지원하며, 셀렉트스타는 이를 통해 글로벌 통신 및 AI 기업과의 협력을 확대할 예정이다.
이미지 제공: 셀렉트스타
