스퀴즈비츠
AI 경량화 전문 ‘스퀴즈비츠’, LLM 최적화 솔루션 ‘핏츠 온 칩스(Fits on Chips)’ 출시
2024년 12월 03일

AI 경량화 및 최적화 전문 스타트업 스퀴즈비츠가 대형 언어 모델 서빙(LLM Serving)을 위한 맞춤형 솔루션 ‘핏츠 온 칩스(Fits on Chips)’를 출시했다고 3일 밝혔다. 핏츠 온 칩스는 LLM 서빙 전 과정을 단순화하고 최적의 설정을 찾을 수 있도록 돕는 솔루션이다. 모델 선택 단계부터 서빙 옵션 조정, 장치 및 프레임워크 설정, 성능 평가, 배포까지 LLM 서빙에 필요한 모든 단계를 원스톱으로 지원한다. 허깅페이스 등 오픈소스 라이브러리와 연동해 다양한 LLM 모델을 손쉽게 통합하고 성능을 비교 평가해 최적의…

스퀴즈비츠, AI 경량화 SaaS ‘아울라이트’ 출시
2024년 03월 21일

AI 경량화 전문 스타트업 스퀴즈비츠(대표 김형준)가 SaaS형 AI 경량화 툴킷 ‘아울라이트(OwLite)’를 출시했다고 21일 밝혔다. 스퀴즈비츠는 AI 모델 경량화 기술을 개발한 스타트업으로, 2022년 창업 후 네이버 D2SF 등으로부터 투자를 유치했다. 이후 자체 기술을 토대로 다양한 분야의 AI 모델을 최적화하여, 고객사들에게 ▲추론 속도 개선, ▲메모리 사용량 절감, ▲클라우드 비용 절감 가치를 제공해 왔다. 최근 초거대 AI의 등장으로 AI 서비스 운영에 막대한 비용이 요구되면서, AI 모델 경량화 기술의 가치가 높아지고 있다. 지속 가능한 AI 서비스를…

AI 경량화 기술 개발사 ‘스퀴즈비츠’, 25억 원 규모의 프리 시리즈A 투자 유치
2024년 01월 23일

AI 경량화 기술 스타트업 스퀴즈비츠(SqueezeBits)가 카카오벤처스, 삼성넥스트, 포스코기술투자, 포스텍홀딩스로부터 25억 원 규모 프리 시리즈A 투자를 유치했다고 23일 밝혔다. 스퀴즈비츠는 AI 기반 서비스를 효율적으로 사용하도록 돕는 AI 경량화 기술을 개발하고 있다. 경량화 기술을 적용하면 AI 모델 추론 과정에서 필요한 메모리 사용량과 연산량을 줄일 수 있어 빠른 계산이 가능하다. 스퀴즈비츠는 AI 모델 성능을 유지하면서 32비트 데이터를 4비트 이하로 양자화한다. 더 빠르고 가벼운 AI 모델을 만드는 핵심 기술이다. 양자화된 모델을 기존 하드웨어에서도 효율적으로 연산할 수…