Headroom:给 AI Agent 的上下文压缩层
介绍 Headroom:一个面向 AI Agent 和 LLM 应用的上下文压缩层,用来在工具输出、日志、文件和 RAG 片段进入模型前减少 token 消耗。
共 3 篇
介绍 Headroom:一个面向 AI Agent 和 LLM 应用的上下文压缩层,用来在工具输出、日志、文件和 RAG 片段进入模型前减少 token 消耗。
介绍 mnfst/manifest:一个面向个人 AI Agent 的开源模型路由器,支持按请求复杂度自动选模型、设置回退链路,并跟踪 token、成本与用量。
介绍 AlexsJones/llmfit:一款根据本机 CPU/GPU/RAM 自动推荐可运行 LLM 的终端工具,覆盖 TUI、CLI 与 API 三种模式。

