Hacker News 中文摘要

RSS订阅

展示 HN:一个用于查看你的 LLM 工具发送内容的中介代理 -- Show HN: A MitM proxy to see what your LLM tools are sending

文章摘要

Sherlock是一个用于拦截LLM API流量并在终端实时显示令牌使用情况的仪表盘工具,可帮助开发者追踪成本、调试提示词并监控上下文窗口使用情况,支持Python 3.10+,采用MIT开源协议。

文章总结

项目名称:Sherlock - LLM API流量监控与令牌使用仪表盘

核心功能: 1. 实时监控LLM API流量 2. 可视化令牌使用情况 3. 追踪AI开发成本 4. 调试提示词 5. 监控上下文窗口使用

技术特性: - 透明代理:通过mitmproxy拦截HTTPS流量 - 零代码修改:兼容任何支持代理环境变量的工具 - 多平台支持:macOS/Linux - 开发语言:Python 3.10+

主要功能模块: 1. 实时终端仪表盘 - 显示上下文使用率(燃料表形式) - 记录每次请求的详细数据 - 最后提示词预览

  1. 提示词存档系统

    • 自动保存为Markdown(可读格式)
    • 同步保存原始JSON数据
  2. 上下文监控

    • 三色预警系统:
      • 绿色:<50%
      • 黄色:50-80%
      • 红色:>80%

安装与使用: 1. 安装步骤: bash git clone https://github.com/jmuncor/sherlock.git cd sherlock pip install -e .

  1. 快速启动: bash sherlock start # 启动代理 sherlock claude # 监控Claude Code

支持情况: - ✅ Anthropic Claude - 🔜 OpenAI(即将支持) - 🔜 Google Gemini(即将支持)

证书配置: - 首次运行自动生成CA证书 - 提供macOS/Ubuntu安装指南

开发支持: - MIT开源协议 - 欢迎贡献代码 - 支持扩展新LLM提供商

项目愿景: "洞察LLM真实交互,持续学习与优化"

(注:已过滤技术细节图片和重复的安装说明,保留核心功能描述和使用场景)

评论总结

以下是评论内容的总结:

  1. 对工具的正面评价

    • 多位用户认为该工具很有帮助,能提升AI协作效率和调试能力
    • 关键引用:
      • "Nice work! I'm sure the data gleaned here is illuminating for many users."(david_shaw)
      • "This is fantastic. Claude doesn't make it easy to inspect what it's sending..."(elphard)
  2. 关于企业级应用的讨论

    • 有评论指出企业级AI工具需求不足,数据治理是挑战
    • 关键引用:
      • "I'm surprised that there isn't a stronger demand for enterprise-wide tools..."(davidshaw)
      • "the governance on widespread AI use...is a difficult and ongoing problem"(davidshaw)
  3. 技术实现相关问题

    • 用户询问是否基于MitM Proxy实现,讨论SSL/证书处理
    • 关键引用:
      • "So is it just a wrapper around MitM Proxy?"(mrbluecoat)
      • "You don't need to mess with certificates..."(Havoc)
  4. 替代方案比较

    • 有用户提出其他实现方式(如LLMWatcher)和作为mitmproxy插件的建议
    • 关键引用:
      • "I wish this would've been a plugin/add-on instead of a standalone thing"(ctippett)
      • "here is my take on the same thing, but as a mac app..."(winchester6788)
  5. 功能需求建议

    • 用户希望增加与OpenTelemetry集成、支持Bedrock等功能
    • 关键引用:
      • "Any plans on allowing exports to OpenTelemetry apps..."(vitorbaptistaa)
      • "Does this support bedrock?"(someguy101010)
  6. 幽默/调侃性评论

    • 有用户对项目结构表示惊讶,也有人调侃商业模式
    • 关键引用:
      • "lmao WTAF is this? build/lib/build/lib/..."(lifetimerubyist)
      • "Dang how will Tailscale make any money..."(FEELmyAGI)

总结显示评论主要围绕工具实用性、技术实现、企业应用场景和功能扩展展开讨论,同时包含一些幽默反馈。