글로벌 AI 에이전트 스타트업 라이너(대표 김진우)가 LLM(대형언어모델) 토큰 비용을 50% 이상 절감하면서 고성능 답변 품질을 유지하는 AI 오케스트레이션 솔루션 ‘라이너 모델 API(Liner Model API)’를 출시했다.
현재 대다수 기업은 답변 품질을 확보하기 위해 단일 프런티어급 모델로 모든 질문을 일괄 처리하고 있다. 이로 인해 질문 난이도와 무관하게 고가 모델이 투입되면서 인프라 비용이 가파르게 상승하는 구조적 한계가 지속되어 왔다.
라이너 모델 API는 질문의 난이도와 유형에 따라 최적의 모델을 자동 배분하는 방식으로 토큰 비용을 50% 이상 절감하도록 설계됐다. 복잡한 로직 추가 없이 기존 API 교체만으로 적용할 수 있어 기업의 인프라 부담과 개발 공수를 줄이는 데 초점을 맞췄다.
해당 기술의 핵심은 라이너가 보유한 독자적 모델 평가 체계와 실사용 환경에서 축적한 데이터다. 라이너는 라이너 검색, 스콜라, 라이트, 파이낸스 등 다양한 AI 에이전트 서비스를 직접 운영하며 쌓은 데이터셋을 기반으로 질문 유형별 적합한 모델을 선별한다.
라이너의 자체 평가 결과에 따르면, 고성능 모델 배정이 필요한 고난도 질의(코딩·수학·복합 추론 등) 비중은 약 43%로 집계됐다. 해당 질의는 프런티어급 모델로 배정해 정확도를 확보하고, 나머지 57%의 일반 질의는 경량화된 모델로 처리함으로써 정답률 손실 없이 비용 효율을 달성했다.
김진우 라이너 대표는 모든 질문을 상위 모델로만 처리하는 방식은 간단한 계산에 매번 슈퍼컴퓨터를 동원하는 것과 같다며 신규 모델의 성능과 단가를 일일이 검증해야 하는 번거로움을 라이너 모델 API를 통해 해소할 수 있다고 설명했다. 이어 기업들이 비용 부담에서 벗어나 본연의 사업 혁신에 몰입하도록 지원하겠다고 강조했다.
이미지 제공: 라이너
