文章摘要
Sherlock是一个用于拦截LLM API流量并在终端实时显示令牌使用情况的仪表盘工具,可帮助开发者追踪成本、调试提示词并监控上下文窗口使用情况,支持Python 3.10+,采用MIT开源协议。
文章总结
项目名称:Sherlock - LLM API流量监控与令牌使用仪表盘
核心功能: 1. 实时监控LLM API流量 2. 可视化令牌使用情况 3. 追踪AI开发成本 4. 调试提示词 5. 监控上下文窗口使用
技术特性: - 透明代理:通过mitmproxy拦截HTTPS流量 - 零代码修改:兼容任何支持代理环境变量的工具 - 多平台支持:macOS/Linux - 开发语言:Python 3.10+
主要功能模块: 1. 实时终端仪表盘 - 显示上下文使用率(燃料表形式) - 记录每次请求的详细数据 - 最后提示词预览
提示词存档系统
- 自动保存为Markdown(可读格式)
- 同步保存原始JSON数据
上下文监控
- 三色预警系统:
- 绿色:<50%
- 黄色:50-80%
- 红色:>80%
- 三色预警系统:
安装与使用:
1. 安装步骤:
bash
git clone https://github.com/jmuncor/sherlock.git
cd sherlock
pip install -e .
- 快速启动:
bash sherlock start # 启动代理 sherlock claude # 监控Claude Code
支持情况: - ✅ Anthropic Claude - 🔜 OpenAI(即将支持) - 🔜 Google Gemini(即将支持)
证书配置: - 首次运行自动生成CA证书 - 提供macOS/Ubuntu安装指南
开发支持: - MIT开源协议 - 欢迎贡献代码 - 支持扩展新LLM提供商
项目愿景: "洞察LLM真实交互,持续学习与优化"
(注:已过滤技术细节图片和重复的安装说明,保留核心功能描述和使用场景)
评论总结
以下是评论内容的总结:
对工具的正面评价
- 多位用户认为该工具很有帮助,能提升AI协作效率和调试能力
- 关键引用:
- "Nice work! I'm sure the data gleaned here is illuminating for many users."(david_shaw)
- "This is fantastic. Claude doesn't make it easy to inspect what it's sending..."(elphard)
关于企业级应用的讨论
- 有评论指出企业级AI工具需求不足,数据治理是挑战
- 关键引用:
- "I'm surprised that there isn't a stronger demand for enterprise-wide tools..."(davidshaw)
- "the governance on widespread AI use...is a difficult and ongoing problem"(davidshaw)
技术实现相关问题
- 用户询问是否基于MitM Proxy实现,讨论SSL/证书处理
- 关键引用:
- "So is it just a wrapper around MitM Proxy?"(mrbluecoat)
- "You don't need to mess with certificates..."(Havoc)
替代方案比较
- 有用户提出其他实现方式(如LLMWatcher)和作为mitmproxy插件的建议
- 关键引用:
- "I wish this would've been a plugin/add-on instead of a standalone thing"(ctippett)
- "here is my take on the same thing, but as a mac app..."(winchester6788)
功能需求建议
- 用户希望增加与OpenTelemetry集成、支持Bedrock等功能
- 关键引用:
- "Any plans on allowing exports to OpenTelemetry apps..."(vitorbaptistaa)
- "Does this support bedrock?"(someguy101010)
幽默/调侃性评论
- 有用户对项目结构表示惊讶,也有人调侃商业模式
- 关键引用:
- "lmao WTAF is this? build/lib/build/lib/..."(lifetimerubyist)
- "Dang how will Tailscale make any money..."(FEELmyAGI)
总结显示评论主要围绕工具实用性、技术实现、企业应用场景和功能扩展展开讨论,同时包含一些幽默反馈。