Arize AI
소개
Arize AI는 LLM·에이전트·전통 ML 모델의 프로덕션 동작을 추적·평가·디버깅하는 AI observability 플랫폼이다. OpenInference/OpenTelemetry 표준 기반 트레이싱으로 프롬프트와 응답, 도구 호출을 기록하고, span·trace·session 단위 자동 평가를 실행해 성능 저하·드리프트·환각을 조기에 잡는다. RAG 시스템, 챗봇, 멀티에이전트 워크플로우 운영팀이 주로 사용하며, 오픈소스 Phoenix와 호환되어 자체 호스팅과 클라우드를 모두 지원한다.
장점
- •OpenInference·OpenTelemetry 표준 기반이라 벤더 락인이 적고 Phoenix와 즉시 호환된다.
- •월 25,000 spans 무료 플랜으로 PoC와 개인 학습을 비용 없이 시작할 수 있다.
- •LLM·에이전트와 전통 ML 모델을 한 플랫폼에서 모니터링할 수 있다.
- •Alyx 에이전트가 트레이스를 자동 분석해 원인 진단·개선안 제시까지 처리한다.
- •40+ 프레임워크 통합으로 LangChain·LlamaIndex 등 기존 스택에 빠르게 붙는다.
단점
- •한국어 UI·문서·결제가 모두 미지원이라 영문 익숙도가 필요하다.
- •AX Pro($50/mo) 이상은 trace spans·수집량 한도를 빠르게 초과하기 쉬워 실제 운영비는 더 높아질 수 있다.
- •데이터 레지던시·HIPAA·SLA는 Enterprise 플랜에서만 제공돼 규제 산업은 영업 계약이 필요하다.
핵심 기능
에이전트 트레이싱 (Observe)
OpenInference 표준으로 LLM 호출·도구 사용·에이전트 단계별 활동을 자동 기록한다.
대규모 자동 평가
span·trace·session 단위로 대규모 평가를 실행해 환각·품질 저하·드리프트를 탐지한다.
프롬프트·워크플로우 실험
배포 전 프롬프트와 워크플로우를 테스트·비교해 회귀 없이 개선한다.
Alyx AI 엔지니어링 에이전트
Alyx 에이전트가 트레이스를 분석해 원인을 자동 진단하고 개선안을 제안한다.
40+ 모델·프레임워크 통합
OpenAI·Anthropic·LangChain·LlamaIndex 등 40개 이상의 모델/프레임워크와 즉시 연결된다.
Phoenix 오픈소스 호환
오픈소스 Phoenix와 동일한 OTel 스키마로 자체 호스팅·로컬 개발이 가능하다.
공식 사이트 2026-06-24 검증
요금제
2026-06-24 기준
AX Free
Free
- 월 25,000 trace spans, 1GB 수집량
- 15일 데이터 보관
- Alyx 에이전트·온라인 평가·커뮤니티 지원
AX Pro
$50/mo
- 월 50,000 trace spans, 10GB 수집량
- 30일 데이터 보관
- 더 높은 속도 제한·이메일 지원
AX Enterprise
Custom
(문의)
- 맞춤형 trace spans·수집량·프로젝트
- SOC2·HIPAA 준수, 가동시간 SLA
- 데이터 레지던시·다중 지역 배포 옵션
사용자 리뷰
불러오는 중...