文章摘要
CrabTrap是一个开源LLM代理工具，可实时拦截AI代理的HTTP请求，根据策略评估并决定是否放行，确保生产环境中的AI代理安全运行。30秒即可完成部署，提供证书生成等便捷功能。
文章总结
以下是经过编辑整理后的中文内容，重点保留了CrabTrap的核心信息，删除了无关的导航菜单、法律声明和追踪像素等内容：
CrabTrap：生产环境中的安全代理
开源项目：安全部署AI代理的解决方案
核心功能
CrabTrap是一个基于LLM（大语言模型）的HTTP代理网关，专为保护生产环境中的AI代理而设计。它能实时拦截AI代理发出的每个请求，根据预设策略进行评估，并立即决定是否放行。
快速启动
只需30秒即可开始使用。通过以下命令克隆仓库并启动开发环境：
bash
git clone https://github.com/brexhq/CrabTrap.git
cd CrabTrap
make setup
make dev
系统将自动生成CA证书、构建Web界面，并启动包含PostgreSQL数据库的本地开发环境。
动态演示
观看CrabTrap如何实时决策：
- 根据静态规则或LLM判断拦截/放行请求
- 支持动态编辑策略（例如允许在特定Slack频道发消息）
- 完整记录每次评估结果
应用场景示例
策略模板：
"该代理是代码助手，可使用GitHub处理问题、发布消息和读取仓库数据。禁止删除仓库、向外部地址发送邮件或通过Slack发送消息。"
团队理念
Brex团队以快速填补技术空白为特色，欢迎志同道合的工程师加入（文末附招聘链接）。
（注：原文中关于企业银行服务、法律条款等无关内容已省略，仅保留与CrabTrap直接相关的技术信息。）
评论总结
总结评论内容如下：
支持LLM作为安全审查的观点
- 认为当前安全措施过于极端，要么全开放要么全封闭，LLM作为审查者提供了中间方案。
- 引用："You either give an agent a lot of access... or you lock it down so much that it's no longer useful." (yakkomajuri)
- 开源项目激发了创新灵感："making this open source is giving me many idea!" (Seventeen18)
反对LLM作为安全审查的观点
- LLM作为审查者本质上是概率性的，存在安全隐患，应基于确定性机制（如ACLs）。
- 引用："Needs to be deterministic. ACLs" (fareesh)
- "LLM-as-judge is fundamentally a probabilistic guardrail that is inherently limited." (yakkomajuri)
技术性质疑
- 审查者和代理使用相同模型家族可能导致共同漏洞。
- 引用："If both are Claude, you have shared-vulnerability risk." (ArielTM)
- 传输层审查无法覆盖全部攻击链（如文件读取阶段）。
- 引用："The credential has already left the filesystem... by the time the judge evaluates the outbound request." (edf13)
架构选择讨论
- HTTP代理在API调用场景有意义，但无法覆盖本地开发环境的安全需求。
- 引用："The architectural tradeoff is what the proxy can't see: file reads, shell spawns..." (edf13)
- 建议结合内核级控制与传输层审查："serious production deploys probably want both." (edf13)
实施细节质疑
- 对JSON转义防注入的有效性提出质疑。
- 引用引用代码注释："This prevents prompt injection via policy content..." (simonw引用的GitHub代码)
- 延迟与安全性的权衡问题："how CrabTrap handles the latency-vs-safety tradeoff" (babas03)
关键争议焦点：LLM作为审查层是否适合作为安全基元，以及传输层审查的覆盖范围局限性。