LLM API에 단 한 줄 추가로 분석·로깅·캐싱을 제공하는 오픈소스 관측 도구입니다.
주요 기능
- ✓ 프록시 한 줄로 OpenAI 호환 분석
- ✓ 요청/응답 자동 로깅
- ✓ 비용·지연시간 대시보드
- ✓ 사용자·세그먼트별 비용 추적
- ✓ 셀프호스팅 또는 Cloud
Topics
observability llm-gateway caching analytics
Helicone · TypeScript · Apache 2.0
LLM API에 단 한 줄 추가로 분석·로깅·캐싱을 제공하는 오픈소스 관측 도구입니다.