AI/ML 온디바이스 2026.07.22 ⭐ 9/10
Groq
LPU (Language Processing Unit) — deterministic inference with custom TSP architecture, 500+ tokens/sec on Llama 70B
구글 TPU 설계자가 만든 LPU 칩. deterministic latency로 모바일·엣지·클라우드 어디서나 1ms 응답. 삼성벤처스 투자.
LPU (Language Processing Unit) — deterministic inference with custom TSP architecture, 500+ tokens/sec on Llama 70B
구글 TPU 설계자가 만든 LPU 칩. deterministic latency로 모바일·엣지·클라우드 어디서나 1ms 응답. 삼성벤처스 투자.