AI 반도체 스타트업 하이퍼엑셀이 업스테이지 컨소시엄에 참여하며 정부의 ‘독자 AI 파운데이션 모델(독파모)’ 협력 생태계에 공식 합류했다. 생성형 AI 응용 환경에 최적화된 추론 전용 반도체를 설계하는 이 기업은 이번 협력을 통해 국내 AI 모델의 확산과 인프라 자립을 지원할 예정이다.
해당 기업은 초거대 언어모델(LLM) 서비스 과정에서 고질적으로 발생하는 연산 병목 현상과 과도한 운영 비용 문제를 해결하기 위해 독자 아키텍처 기반의 LPU(LLM Processing Unit)를 개발해왔다. 기존 하드웨어의 한계를 넘어 LLM 추론에 특화된 설계를 제안함으로써 생성형 AI의 경제성을 확보하는 것이 핵심 기술력이다.
이번 컨소시엄 내에서 하이퍼엑셀은 독자 AI 모델 확산을 위한 추론 인프라 고도화 및 효율화 과제를 전담한다. 구체적으로는 LPU 설계 성능 최적화와 더불어 vLLM·PyTorch 기반의 고가용성(HA) 소프트웨어 스택 개발을 통해 고효율·저비용 AI 서비스 인프라를 구현하는 역할을 수행한다.
전략적 방향성은 단순한 반도체 공급에 그치지 않고 하드웨어와 서빙 소프트웨어를 통합한 올인원 구조를 구축하는 데 있다. 이를 통해 초거대 모델의 상용화 단계에서 필수적인 처리 효율과 전력 대비 성능, 운영 안정성을 동시에 확보한다는 구상이다.
이러한 기술적 지원은 독자 AI 파운데이션 모델이 실제 데이터센터 및 산업 현장에서 경제성과 확장성을 갖춘 서비스로 안착하는 데 기여할 것으로 보인다. 하이퍼엑셀 측은 국산 AI 인프라의 기술 자립은 물론 글로벌 수준의 비용 경쟁력을 확보하는 데 방점을 찍고 있다.
김주영 하이퍼엑셀 대표는 “초거대 AI 경쟁은 모델의 규모뿐만 아니라 이를 얼마나 효율적으로 서비스할 수 있는가에 달려 있다”며, “LPU 기반의 추론 가속 기술을 통해 국내 AI 산업 인프라의 경쟁력 강화에 기여하겠다”고 밝혔다.
이미지 제공: 하이퍼엑셀
