국내 AI 보안 전문기업 에임인텔리전스(대표 유상윤)가 한국정보통신기술협회(TTA)와 협력해 국내 주요 AI 모델에 대한 보안 진단 및 리스크 평가를 완료했다고 발표했다.
에임인텔리전스는 이번 협력을 통해 국내 주요 기업이 개발한 생성형 AI 모델의 보안 취약점을 분석하고 개선 방향을 제시했다. 자사의 AI 레드팀 솔루션 '에임 레드(AIM Red)'를 활용해 프롬프트 인젝션, 데이터 누출, 비인가 응답 유도 등 주요 리스크 요소를 사전에 탐지하고, 이에 대한 대응 전략을 고객사에 제공했다.
유상윤 에임인텔리전스 대표는 "정보통신 기술 표준을 제시하는 TTA 과제에 협력할 수 있어 뜻깊게 생각한다"며 "AI 모델의 활용이 가속화되는 가운데, 이에 대한 보안 진단 체계도 함께 강화되어야 한다"고 말했다.
에임인텔리전스는 국내 프로젝트 외에도 최근 글로벌 AI 기업 앤트로픽(Anthropic)의 비공개 언어 모델을 대상으로 다층 보안 진단을 수행했다. 해당 진단은 프롬프트 조작, 민감 정보 노출 가능성 등에 초점을 맞췄으며, 일부 결과는 실제 대응 정책에 반영된 것으로 알려졌다.
이미지 제공: 에임인텔리전스(aim-intelligence.com)
