MLflow
소개
MLflow는 ML 모델과 LLM 에이전트의 전체 수명주기를 관리하는 최대 규모의 오픈소스 AI 엔지니어링 플랫폼입니다. 실험 추적, 모델 레지스트리, AI Gateway, OpenTelemetry 기반 트레이싱 등을 통해 모델 개발부터 프로덕션 배포까지 통합 관리합니다. Apache 2.0 라이선스로 완전 무료이며, 월 3천만 이상 다운로드와 2만 이상의 GitHub 스타를 기록하는 MLOps 업계 표준입니다. Python, TypeScript, Java, R을 지원하고 100개 이상의 ML/AI 프레임워크와 연동됩니다.
장점
- •Apache 2.0 라이선스로 완전 무료, 벤더 종속 없이 셀프호스팅 가능
- •LangChain·OpenAI·PyTorch 등 100개 이상 프레임워크와 네이티브 연동
- •실험 추적부터 모델 배포까지 ML 수명주기 전체를 단일 플랫폼에서 관리
- •AI Gateway로 여러 LLM 제공업체를 통합 접근하며 비용 제어 가능
- •월 3천만 다운로드, 900명 이상 기여자의 활발한 오픈소스 생태계
단점
- •공식 UI와 문서가 영문 전용으로 한국어 미지원
- •대규모 팀에서는 Databricks 관리형 유료 버전이 필요할 수 있음
- •셀프호스팅 시 인프라 구축과 유지보수 부담이 있음
- •상용 MLOps 도구 대비 UI가 기본적인 편
핵심 기능
실험 추적
파라미터, 메트릭, 아티팩트를 자동 기록하여 재현 가능한 ML 워크플로우 구축
모델 레지스트리
모델 버전 관리와 스테이지 전환(개발→스테이징→프로덕션)을 체계적으로 수행
AI Gateway
여러 LLM 제공업체를 통합 접근하며 속도 제한과 비용 제어 기능 제공
OpenTelemetry 기반 트레이싱
LLM 및 에이전트 애플리케이션의 프로덕션급 관측성과 디버깅 지원
평가 프레임워크
50개 이상 내장 메트릭과 LLM 심사를 통한 체계적 모델 평가
프롬프트 엔지니어링
프롬프트 버전 관리, 테스트, 배포를 계보 추적과 함께 수행
에이전트 서버
FastAPI 기반으로 AI 에이전트를 프로덕션 환경에 배포
공식 사이트 2026-04-19 검증
영상 가이드
![[대전정보문화산업진흥원] 2020 캐글러닝데이 - mlflow로 간단한 MLOps 구축하기](https://i.ytimg.com/vi/OB9vbJr8XdQ/mqdefault.jpg)
요금제
2026-04-19 기준
Open Source
Free
(Apache 2.0)
- 전체 기능 무료 사용
- 벤더 종속 없음
- 셀프호스팅
이 도구를 추천하는 직업
사용자 리뷰
불러오는 중...