스캐터랩, ‘제타’ 안전 전담 조직 ‘트러스트&세이프티 팀’ 신설…AI 개발 인력 절반 투입
2026년 11월 17일

스캐터랩, ‘제타’ 안전 전담 조직 ‘트러스트&세이프티 팀’ 신설…AI 개발 인력 절반 투입

생성형 인공지능(AI) 스타트업 스캐터랩(공동대표 김종윤·박세웅)이 AI 인터랙티브 엔터테인먼트 서비스 ‘제타(zeta)’의 정책·기술·운영 전반에 걸친 이용자 보호 체계를 강화하기 위해 김종윤 대표 직속 안전 전담 조직인 ‘트러스트&세이프티 팀(Trust&Safety Team)’을 신설했다.

신설된 트러스트&세이프티 팀은 제타의 콘텐츠 안전과 이용자 보호를 전담하며, 제타의 주요 AI 개발 인력 절반이 콘텐츠 및 대화 모더레이션 AI 모델 개발에 투입된다. 스캐터랩은 이용자 및 청소년 보호를 경영 차원의 핵심 과제로 삼고 콘텐츠 안전 정책부터 자체 AI 모델 개발, 기술·검수 업무까지 통합 관리할 방침이다. 이에 따라 올해 말까지 자체 AI 모델과 플롯·플레이 모더레이션을 고도화해 이용 등급을 명확히 분류하고 연령별 보호 체계를 한층 강화한다.

우선 콘텐츠(플롯) 검수는 크리에이터의 제작 과정, 출시 시점, 서비스 내 노출 시점 등 총 3단계에 걸쳐 진행된다. 각 단계에서 소재와 텍스트·이미지를 정밀 검수해 이용 등급을 분류하며, 이를 위해 한국·일본·미국 등 주요 서비스 국가에 적용할 AI 콘텐츠 정책과 명확한 검수 기준을 선제적으로 마련한다. 또한 핵심 AI 인력이 최상위 대규모 언어모델(LLM)을 활용해 플롯 검수에 특화된 자체 AI 모델을 개발하는 한편, 연령 확인 절차를 강화해 가입 초기부터 연령에 적합한 콘텐츠만 접근할 수 있도록 구분한다.

실시간 대화(플레이) 과정과 이용 환경 전반의 안전장치도 확대된다. 부적절한 대화를 차단하는 자체 AI를 출시하고 이용자 연령에 맞춘 발화 기준을 수립해 AI 모델이 이를 준수하도록 조치한다. 아울러 이용 중 AI와 상호작용하고 있음을 주기적으로 고지하는 안내 기능을 구현하고, 국내에는 연내 청소년 이용 시간을 하루 3시간, 기본 결제 한도를 월 10만 원으로 제한하는 기능을 도입할 예정이다. 자살·자해 관련 민감 콘텐츠가 감지될 경우 정해진 기준에 따라 적절한 안내를 제공하는 기능 역시 구현·검증해 적용한다.

사후 점검과 대외 협력 체계도 정비한다. 신고·이의제기와 정기 표본 검수에서 확인된 문제를 정책과 AI 모델에 다시 반영해 재검증하는 지속적 개선 체계를 가동하며, 지식재산권(IP) 보호와 청소년 보호를 중심으로 규제 당국, 앱스토어, 콘텐츠 업계 및 유사 서비스 운영 기업 등 주요 이해관계자와 협력을 이어갈 계획이다. 이와 함께 아이돌 서바이벌, 추리 등 다양한 장르의 스토리를 확대해 이용자 경험의 폭을 넓힌다.

김종윤 스캐터랩 대표는 “제타는 이용자가 이야기의 주인공이 돼 AI와 함께 자신만의 이야기를 만들어 가는 서비스인 만큼 창작의 즐거움과 이용자의 안전을 함께 고려해야 한다”며 “트러스트&세이프티 팀을 중심으로 정책과 기술, 운영을 아우르는 보호 체계를 고도화하고 안심하고 사용할 수 있는 AI 엔터테인먼트 환경을 만들어 가겠다”고 설명했다.

이미지 제공: 스캐터랩

beSUCCESS is a professional media company with a particular focus on startups and tech industry | beSUCCESS는 국내 기업의 해외 진출을 지원하는 미디어 회사로, 실리콘밸리를 포함한 전세계 테크 트렌드와 스타트업 뉴스, 기업가 정신 등 국내 스타트업의 인사이트 확대를 위해 필요한 외신 정보를 직·간접적으로 제공할 뿐만 아니라, 한국의 스타트업 생태계와 출시 소식 등 주요 뉴스를 영문으로 세계 각국에 제공해 한국 스타트업의 글로벌 성공을 지원하는 '연결'의 역할을 합니다.

Comments are closed.