Headroom

Headroom

헤드룸

오픈소스
AI 공학개발 인프라

GitHub 저장소

headroomlabs-ai/headroom
별(★)
★ 7.7만
최근 업데이트
2026-10-21
라이선스
Apache-2.0
설치 난이도
보통

pip 또는 uv로 설치하고 프록시나 SDK로 연결합니다. Python 3.10 이상이 필요합니다.

필요한 것: Python 3.10+ · 연결할 LLM 앱·에이전트

무료 오픈소스입니다. 연결해 쓰는 AI 모델(Claude·GPT 등)의 API 비용은 별도로 들 수 있습니다.

2026-10-22 기준

모켓은 도구를 소개하는 정보 사이트이며 판매자·운영사가 아닙니다. 결제·환불·구독은 각 도구의 공식 채널(또는 App Store·Google Play)에서 진행됩니다.

소개

Headroom은 LLM 애플리케이션을 위한 컨텍스트 최적화 계층으로, 도구 출력·DB 결과·파일 읽기·RAG 결과를 모델에 전달하기 전에 압축해 토큰 사용을 줄입니다. 투명 프록시, Python·TypeScript 함수, LangChain·Vercel AI SDK 같은 프레임워크 통합으로 에이전트 워크플로에 붙일 수 있습니다. 압축 원본을 저장해 LLM이 필요할 때 다시 가져오는 가역 압축과, 오류·이상값을 통계적으로 보존하는 방식이 특징입니다. 압축에는 통계 분석과 학습된 ML 모델이 쓰이는 개발자용 인프라 도구입니다.

장점

  • •코드 변경 없이 투명 프록시로 기존 에이전트 앱에 적용할 수 있습니다.
  • •압축 원본을 저장하고 검색 도구로 복원할 수 있어 정보 손실 우려가 적습니다.
  • •JSON·코드·로그·diff·이미지 등 콘텐츠 유형을 자동 감지해 알맞은 압축기로 처리합니다.
  • •LangChain, Vercel AI SDK, LiteLLM, MCP 등 다양한 프레임워크 연동 문서를 제공합니다.
  • •Prometheus 지표와 비용 추적으로 절감 효과를 측정할 수 있습니다.

단점

  • •절감 효과가 도구 출력의 반복성에 크게 좌우되어 워크로드에 따라 차이가 큽니다.
  • •TypeScript SDK는 별도의 로컬 프록시를 먼저 실행해야 합니다.
  • •소스 코드 압축은 기본 비활성이라 직접 켜야 합니다.
  • •문서가 영어로만 제공되며 한국어 페이지가 확인되지 않습니다.

핵심 기능

가역 압축(CCR)

공격적으로 압축하되 원본을 저장해 두고, LLM이 검색 도구로 전체 내용을 다시 가져올 수 있게 합니다.

콘텐츠 유형 자동 감지

JSON·코드·로그·텍스트·diff·HTML을 자동으로 감지해 유형별 최적 압축기로 보내며 별도 설정이 필요 없습니다.

SmartCrusher 통계 기반 JSON 압축

필드 분산에 대한 통계 분석으로 오류·이상값·처음과 끝 경계 항목을 보존하면서 나머지를 압축합니다.

프록시·SDK·프레임워크 연동

코드 변경 없는 투명 프록시, Python·TypeScript 함수, LangChain·Vercel AI SDK 등 프레임워크 통합으로 붙일 수 있습니다.

계층형 영구 메모리

사용자·세션·에이전트·턴 단위의 계층 메모리를 SQLite와 HNSW 백엔드에 저장해 대화 간에도 유지합니다.

MCP 도구 제공

Claude Code, Cursor 등 MCP 클라이언트에서 쓸 수 있는 압축·검색·통계 도구 세 가지를 제공합니다.

지표·관측 기능

Prometheus 엔드포인트, 요청별 로깅, 비용 추적, 예산 한도, 파이프라인 시간 분석을 제공합니다.

공식 사이트 2026-10-21 콘텐츠 검증

이 도구의 주요 활용

  • ·SRE 장애 디버깅 중 대용량 로그와 도구 출력 압축
  • ·코드베이스 탐색 에이전트의 검색 결과 토큰 절감
  • ·GitHub 이슈 분류 에이전트의 컨텍스트 압축
  • ·Vercel AI SDK 기반 앱에서 긴 대화 이력 압축
  • ·Claude Code·Cursor에서 MCP 도구로 컨텍스트 압축
업무별 AI 추천 보기 →

자주 묻는 질문

Headroom은 어떤 방식으로 기존 앱에 붙이나요?

코드 변경 없이 쓰는 투명 프록시, Python·TypeScript의 compress() 함수, LangChain·Agno·Strands·LiteLLM·Vercel AI SDK·MCP 같은 프레임워크 통합 중에서 선택할 수 있습니다.

압축하면 중요한 정보가 사라지지 않나요?

압축된 원본은 CCR 저장소에 보관되고, LLM이 headroom_retrieve 도구로 필요할 때 원본을 가져올 수 있습니다. 또한 SmartCrusher는 오류와 이상값, 처음·끝 경계 항목을 보존하도록 설계되어 있습니다.

어떤 종류의 콘텐츠를 압축하나요?

JSON 배열(도구 출력), 소스 코드, 빌드·테스트 로그, 검색 결과, 일반 텍스트, Git diff, 이미지를 다룹니다. 소스 코드 압축은 기본적으로 꺼져 있고 옵트인으로 켜야 합니다.

토큰 절감 효과는 얼마나 되나요?

절감률은 콘텐츠의 반복성에 크게 좌우됩니다. 문서는 로컬 시드 테스트 데이터로 측정한 재현 가능한 벤치마크를 제공하며, 실제 운영 수치가 아니라 경향으로 보라고 안내합니다.

TypeScript SDK만 쓰면 되나요?

아닙니다. TypeScript SDK는 메시지를 로컬 Headroom 프록시로 보내 압축하므로, SDK 사용 전에 프록시를 먼저 실행해야 합니다.

어떤 LLM 제공자와 함께 쓸 수 있나요?

OpenAI, Anthropic, Google, Bedrock과 LiteLLM을 통한 다수의 제공자를 지원한다고 안내합니다. Vercel AI SDK에서는 여러 제공자 모델을 감쌀 수 있습니다.

Headroom은 최종 사용자용 앱인가요?

아닙니다. 에이전트나 LLM 앱을 만드는 개발자가 프록시나 SDK 형태로 끼워 쓰는 컨텍스트 최적화 계층입니다.

사용자 리뷰

불러오는 중...