AI 기반 소프트웨어 개발 자동화 전문 기업 테크레디(TechReady, 대표 박정호)가 기업 및 공공기관을 위한 멀티 LLM(대형언어모델) 통합 포털 'LLM 포털'을 출시했다.
LLM 포털은 OpenAI의 GPT-4o, 앤스로픽(Anthropic)의 클로드(Claude), 구글의 제미나이(Gemini) 등 여러 대형언어모델을 하나의 게이트웨이로 제공하는 기업용 솔루션이다. 조직이 각 모델을 개별적으로 연동하지 않고도 다양한 AI 모델을 이용할 수 있다.
이 솔루션의 핵심은 보안과 거버넌스 기능이다. 역할 기반 접근 제어(RBAC), 세션 종료 설정, 도메인 제한, API 키 암호화 저장 등의 기능을 제공해 공공기관, 공기업, 제조업 등 보안 규제가 엄격한 산업에서도 AI를 안전하게 활용할 수 있도록 지원한다.
주요 기능으로는 텍스트·이미지·PDF를 지원하는 멀티모달 채팅, 대화 기록 관리 및 검색, 실시간 사용량 모니터링 대시보드, 사용자·권한·API 키를 관리하는 중앙 집중형 관리자 패널 등이 있다. Docker 기반으로 설치가 간편하다.
박정호 테크레디 대표는 “LLM Portal은 단순한 챗봇을 넘어 기업 내 AI 거버넌스 허브로 설계됐다”며 “보안 규제가 엄격한 산업에서도 안전하게 생성형 AI를 활용할 수 있도록 지원하고, 스타트업부터 공공·제조·중견기업까지 적용 대상을 확대해 나가겠다”고 말했다.
이미지 제공: 테크레디(techready.ai)
