headroomlabs-ai/headroom

GitHub 2026-06-22T19:01:01.778640

项目简介

Headroom是一个面向LLM的智能压缩工具，能够在工具输出、日志、文件内容和RAG数据块到达大模型之前，对其进行高效压缩。它可减少60%至95%的token消耗，同时确保模型生成的答案质量不受影响。项目提供三种集成方式：Python/TypeScript Library（可直接嵌入项目）、Proxy（作为中间代理自动压缩请求）、以及MCP Server（与Claude Code等MCP客户端无缝协作）。Headroom专为优化上下文窗口和token预算而生，适用于Agent系统、Cursor等AI编码工具、LangChain流水线、以及OpenAI或Anthropic的API调用场景。通过智能上下文工程和提示压缩，它显著降低推理成本并提升响应速度，且无需修改现有工作流。Headroom还支持RAG场景下的文档块预压缩，进一步减少检索开销。项目的核心技术包括token级压缩策略和语义保留优化，确保输出信息的完整性。

适用场景

AI 开发工具

项目信息

• 仓库地址: https://github.com/headroomlabs-ai/headroom
• 许可证: Apache-2.0
• 开发语言: Python
• Stars: 46,762 | Forks: 3,251
• 主页: https://headroomlabs-ai.github.io/headroom/

查看原文