文章摘要
Workweave推出的模型路由器，可在50毫秒内将每个提示路由到最合适的模型，仅需更改端点即可将成本降低40%至70%。
文章总结
好的，这是根据您的要求，对原文进行中文重述和精简后的版本：
标题：Workweave Router：为智能体系统设计的模型路由器
核心功能： 这是一个轻量级的代理服务，能够为每一次请求自动选择最合适的AI模型。它通过一个本地运行的嵌入器（而非基于感觉的提示）进行智能路由，响应时间低于50毫秒，仅需更改一个端点即可将成本降低40-70%。
主要特点： * 智能路由： 基于Avengers-Pro算法，为每次请求从您启用的提供商中动态选择最佳模型。 * 多API兼容： 原生支持Anthropic Messages、OpenAI Chat Completions和Gemini API，包括流式传输、工具调用和视觉功能。 * 开源模型支持： 通过OpenRouter或任何兼容OpenAI的端点，支持DeepSeek、Kimi、GLM、Qwen、Llama、Mistral等模型。 * 安全与隐私： 您的提供商API密钥保留在本地，并经过加密存储。 * 可观测性： 内置OpenTelemetry（OTLP）追踪，可集成到Weave仪表盘或Honeycomb、Datadog、Grafana等工具。
快速开始：
1. 托管版（推荐）： 运行 npx @workweave/router 命令，即可将Claude Code、Codex或opencode等工具连接到托管的Weave Router。
2. 自托管版： 通过 make full-setup 命令，可在本地启动路由器和仪表盘（端口8080），并生成一个 rk_ 开头的路由器密钥。
集成方式：
* Claude Code / Codex / opencode： 可通过 npx @workweave/router 命令自动配置，或使用 make install-cc 进行本地配置。
* Cursor： 在设置中覆盖OpenAI Base URL为 http://localhost:8080/v1，并使用 rk_ 密钥。
* 开关控制： 安装后，可使用 npx @workweave/router off 等命令临时关闭路由，让客户端直连原始提供商。
关键概念：
* 上游密钥： 您的原始提供商密钥（如 sk-or-...），存储在 .env.local 文件中。
* 路由器密钥： 客户端发送的 rk_... 密钥，作为Bearer令牌进行身份验证。
技术细节： * 该项目使用Go语言编写，遵循ELv2许可证。 * 由工程智能平台Weave构建，被Robinhood、PostHog等公司使用。
评论总结
根据评论内容，主要围绕模型路由器的成本效益、缓存问题、实际效果和隐私安全展开讨论，观点分歧明显。以下是总结：
1. 成本与缓存问题（主要质疑） - 多数评论认为路由器会破坏缓存机制，导致成本增加。如评论1指出“you will have more cache misses (5min ttl)”，评论4认为“by routing to different models you give up on cache”，评论19强调“Higher the distinct model count in a conversation, more cache misses you accept”。 - 评论2质疑“how this is going to save money... might actually burn more money”，评论8认为直接使用Claude或Codex CLI在成本上更优。
2. 实际效果与适用性（存在分歧） - 支持方：评论15表示“This is basically what I need, a router. I’m tired of changing intelligence & speed levels manually”，评论24称赞“genuinely better than most people approaches”。 - 质疑方：评论7认为“I’m not convinced it would route to the right model based on my diction”，评论16指出“on the fly routing would beat testing and tuning and locking models”存疑，评论22要求提供A/B测试证据。
3. 技术实现与局限性（专业反馈） - 评论18指出“agentic coding... Changing mid-flight is costly”，评论23详细列出4点问题：缓存破坏、模型感知控制循环断裂、RL训练数据不足、缺乏公开评估。 - 评论19认为“two model primitive... is already sufficient”，评论20质疑“Wont this kill the kv cache?”。
4. 隐私与商业模式（重要关切） - 评论17提出“data privacy and confidentiality is not an issue”，认为企业项目使用此类代理存在风险。 - 评论11对营销方式“write ~all our code with AI”表示反感，评论26预测“Large model companies will likely build this and make it better”。
5. 替代方案与竞争 - 评论14推荐开源项目Murmur，评论12倾向使用OpenCode，评论29对比vLLM Semantic Router，认为其算法更成熟。
总体评价：评论者对模型路由器的价值存在显著分歧。支持者看重其自动优化能力，但多数专业用户质疑其成本效益（尤其缓存问题）、技术成熟度（代理控制循环、RL训练）和隐私安全性。建议开发者需谨慎评估实际场景中的缓存影响和模型切换成本。