❤️❤️❤️❤️❤️❤️ 我们已经正式推出微信小程序，在微信中搜索 TrendForge Pro 即可使用小程序，如果使用 Telegram 请搜索 trendforge_tg ❤️❤️❤️❤️❤️❤️
chopratejas/headroom
项目介绍
在工具输出、日志、文件和RAG分块到达LLM之前对其进行压缩。减少60-95%的令牌，答案不变。提供库、代理、MCP服务器。
Compress tool outputs, logs, files, and RAG chunks before they reach the LLM. 60-95% fewer tokens, same answers. Library, proxy, MCP server.
智能解读
Headroom 是一个专为 AI 代理和 LLM 应用设计的上下文压缩工具，能够在工具输出、日志、文件、RAG 分块和对话历史到达大语言模型之前，将其压缩掉 60-95% 的 token，同时保持答案不变。它提供多种集成方式：作为 Python 或 TypeScript 库直接调用 `compress(messages)` 函数；作为透明代理运行（`headroom proxy --port 8787`），无需修改代码即可接入任何语言的应用；通过一条命令（`headroom wrap`）自动包装 Claude、Codex、Cursor、Aider 等主流 AI 代理；以及作为 MCP 服务器，为任意 MCP 客户端提供压缩、检索和统计功能。Headroom 内置 6 种压缩算法，能智能识别 JSON、代码、自然语言等内容类型并选择最合适的压缩器，还支持可逆压缩（CCR 模式），原始内容本地保存，LLM 可按需调用 `headroomretrieve` 还原。此外，`headroom learn` 功能可自动分析失败会话，将修正写入 `CLAUDE.md` 或 `AGENTS.md`，实现跨代理的共享记忆与去重。适用于代码搜索、故障排查、议题分类等真实工作负载，已在典型场景中实现 73%-92% 的 token 节省。
原始标签
使用场景
Headroom最适合需要大幅降低AI代理和LLM应用token消耗的场景，尤其是代码搜索、故障排查、RAG检索等上下文密集型任务，通过零侵入式代理或一键包装即可实现60-95%的压缩率，同时保持答案准确性。
AI代理成本优化
使用Claude Code、Cursor等AI代理时，大量token消耗在工具输出、日志和对话历史上，导致费用高昂且上下文窗口频繁溢出。
通过`headroom wrap claude`一键包装代理，自动压缩所有输入内容（如代码搜索结果从17,765降至1,408 token，节省92%），且不影响答案准确性。
SRE排查故障时，65,694 token的调试日志被压缩至5,118 token，仍能准确定位FATAL错误。
零侵入式代理集成
现有应用已接入OpenAI/Anthropic API，修改代码集成压缩库成本高、风险大。
启动透明代理`headroom proxy --port 8787`，将API端点指向代理，无需改动一行代码即可为任何语言的应用启用上下文压缩。
将FastAPI后端中的LLM调用URL从`api.openai.com`改为`localhost:8787`，自动压缩所有请求。
RAG系统token压缩
RAG检索返回大量文档块，直接送入LLM导致上下文超限或成本飙升，且压缩后可能丢失关键信息。
使用`compress(messages)`函数在Python/TypeScript中集成，内置6种压缩算法智能选择，支持可逆CCR模式——原始内容本地保存，LLM可按需调用`headroomretrieve`还原。
在LangChain管道中调用`compress(retrieved_docs)`，将10,144 token的检索结果压缩至1,260 token，准确率保持97%。
跨代理共享记忆去重
多个AI代理（如Claude Code、Codex、Gemini）各自维护独立的记忆文件，导致重复学习、指令冲突，且失败经验无法复用。
`headroom learn`自动分析失败会话，将修正写入共享的`CLAUDE.md`或`AGENTS.md`，实现跨代理的记忆同步与自动去重。
Claude Code修复了一个bug，下次Codex处理类似问题时自动引用该修正，无需重复调试。
项目健康度
距上次更新 34 天
平台 Star TOP 1% · Forks 3,090
本周 +16,810 ⭐ · 本月 0 ⭐
38 位贡献者 · 0 条平台评论
文档资料完整
项目信息
赞赏支持
如果本站对你有帮助，欢迎打赏支持
微信
支付宝
Widget 徽章
相关项目推荐
public-apis/public-apis
免费API资源汇总列表
EbookFoundation/free-programming-books
📚 免费提供的编程书籍
donnemartin/system-design-primer
学习如何设计大规模系统。为系统设计面试做准备。包含Anki记忆卡片。
practical-tutorials/project-based-learning
基于项目的教程精选列表
vinta/awesome-python
精心整理的优质Python框架、库、软件及资源列表
TheAlgorithms/Python
所有算法均使用Python实现
加载评论中...