Hacker News 中文摘要

RSS订阅

通过将代码转换为图像并让模型进行OCR识别,Fable成本降低60% -- 60% Fable cost cut by converting code to images and having the model OCR it

文章摘要

pxpipe是一个本地代理工具,通过将系统提示、工具文档和历史记录等密集文本内容渲染为PNG图片,利用图片token成本固定且压缩率更高的特性,将Claude Code的输入token减少约90%,从而降低59-70%的使用费用。

文章总结

好的,这是根据您的要求,对原文主要内容进行的中文重述,保留了关键细节,并删减了与核心主题无关的冗余信息。


项目名称: pxpipe

核心目标: 通过将文本上下文渲染为图片,大幅减少向AI模型(如Claude Code)发送的输入令牌(Token)数量,从而显著降低使用成本。

工作原理: 1. 利用定价差异: 图片的令牌成本由其像素尺寸决定,而非内部文字量。对于代码、JSON等密集内容,每个图片令牌可承载约3.1个字符,而每个文本令牌仅约1个字符。pxpipe利用此差异,将请求中体积庞大的部分(如系统提示、工具文档、历史记录)压缩为紧凑的PNG图片。 2. 本地代理: pxpipe作为一个本地代理运行,在请求离开您的机器前,自动重写并压缩请求内容。 3. 智能选择: 它并非压缩所有内容。系统会智能判断,仅对令牌密集的内容进行图片化处理,而保留稀疏或小体积的请求为文本,以最大化收益。

主要优势: * 显著降低输入令牌数: 这是最核心、最稳定的效果。例如,约25,000个文本令牌可被渲染为约2,700个图片令牌。 * 大幅节省成本: 基于当前定价,端到端账单可降低约59%至70%。在压缩后的请求上,节省可达72%至74%。 * 保持功能完整: 模型响应正常流式传输,pxpipe仅压缩输入请求,不修改模型输出。最近的对话轮次保持为文本,确保关键信息可读。

重要限制与诚实说明: * 有损压缩: 这是最关键的限制。从图片中精确回忆特定字符串(如ID、哈希值、精确数字)是不可靠的,模型可能会自信地给出错误答案。任何需要字节级精确返回的信息必须保留为文本。 * 效果依赖工作负载: 在令牌密集的内容(如代码、JSON)上效果显著,但在稀疏的英文散文上可能不划算。 * 模型兼容性: 主要针对Claude Fable 5模型优化,在该模型上表现最佳。其他模型(如Opus)的兼容性较差,默认关闭。

性能基准测试: * 算术与召回测试: 在Fable 5模型上,图片化后的算术准确率与文本持平(100%),令牌节省38%。在精确字符串召回测试中,Fable 5的图片召回率为13/15,而Opus为0/15。 * SWE-bench任务测试: 在10个SWE-bench Lite任务中,开启和关闭pxpipe均100%解决,但开启后请求大小减少65%。在19个更难的SWE-bench Pro任务中,开启pxpipe解决了14/19,关闭解决了15/19,差异属于运行间的随机波动,而非压缩导致。

使用方法: 1. 运行 npx pxpipe-proxy 启动本地代理。 2. 将Claude Code的API基础URL指向该代理。 3. 打开本地仪表盘可实时查看令牌节省、会话统计等信息。

总结: pxpipe是一个通过“文本转图片”策略,在特定工作负载下能大幅降低AI模型使用成本的实用工具。其核心价值在于令牌节省,但用户必须清楚其“有损压缩”的特性,并避免在需要精确信息回忆的场景中依赖它。

评论总结

根据评论内容,总结如下:

主要观点与论据:

  1. 技术发现与认可:部分评论者认为这是一种有趣且巧妙的技术发现(评论7:“That is hilarious and an amazing find”),并指出类似技术已被DeepSeek采用(评论1:“there's also a DeepSeek whitepaper on this technique”)。

  2. 定价漏洞与资源浪费:多数评论者批评这是一种利用定价漏洞的“黑客”行为,会导致资源浪费和成本上升。评论2认为:“This seems like a pricing hack that burns resources, that when the loophole gets closed the price of OCR will have to rise?” 评论12更严厉地指出:“it's clearly a workaround for a pricing failure... exploits and promotes waste”。

  3. 实际效果与成本问题:有评论者分享实际测试经验,指出虽然能减少输入token,但需要更多输出token,最终更昂贵且更慢(评论4:“you needed way more completion tokens, ultimately more expensive (and slower)”)。评论8也质疑其违反信息论:“seems really dumb and like it would need to violate basic information theory to work”。

  4. 对模型提供商的批评:评论5推测Claude后端可能已进行OCR处理,因此该技巧只是“token会计的漏洞”,并可能被修复。评论12将责任归咎于Anthropic:“blame falls on Anthropic for the poor pricing system”。

  5. 负面评价:部分评论者对代码质量或实现方式表示不满(评论3:“Ahhh my eyes the vibe coded readme”;评论10:“I cant get past that LLM intense slop text in the Github repo”)。

平衡性总结: - 支持方:认为技术巧妙,有类似先例(DeepSeek)。 - 反对方:多数批评其浪费资源、利用定价漏洞、实际成本更高,并可能被修复。 - 中立/技术性:关注实际效果(输入/输出token平衡)和模型提供商的定价策略问题。