AI/ML 온디바이스 2026.07.15 ⭐ 9/10
Cartesia
State Space Models (Mamba) for ultra-efficient on-device inference
카르테시아는 2023년 스탠퍼드 박사과정 연구원이었던 알버트 구와 트리 다오가 공동 창업한 회사로, 트랜스포머 대비 추론 시 메모리·전력 소모가 월등히 적은 Mamba 기반 상태 공간 모델(SSM)을 상용화하고 있습니다. a16z와 Lightspeed가 공동 주도한 시리즈 A에서 약 5,000만 달러를 유치했으며, 클로드 데스크톱·iOS 등에서 로컬 실행 가능한 초경량 SSM 에이전트를 출시했습니다. SSM은 시퀀스 길이에 선형적으로 계산량이 증가해 엑시노스 NPU 위에서 LLM을 실시간 구동하기에 매우 적합합니다. 갤럭시 온디바이스 AI의 응답 속도 개선과 배터리 효율성 최적화에 핵심 기술로 채택 가능합니다. 폴더블·갤럭시 라인에서 클라우드 의존도 없는 비공개 AI 에이전트 기능 구현에 직접 활용될 수 있습니다.