Hacker News 中文摘要

RSS订阅

David Sacks:OpenAI 和 Anthropic 无需靠监管来把控前沿模型发展节奏 -- David Sacks: OpenAI and Anthropic Don't Need Regulations to Pace Frontier Models

达里奥(Dario)曾写道我们需要放缓前沿(pace the frontier),萨姆(Sam)亦表赞同。大卫·萨克斯(David Sacks)回应称,去吧,你们就是前沿。按市场份额、收入增长或模型能力任何合理指标,你们两家已对前沿智能形成双头垄断。你们声称因递归自我改进领先优势正扩大。他虽未目睹实验室所见,但若未发布模型吓人至极使你们想慢下来,他支持这负责任决定。

正文

Dario 曾写道我们需要“给前沿降速”,Sam 也表示同意。我的回应或许令人意外:去吧,你们就是前沿。无论按市场份额、收入增长还是模型能力,你们两家在前沿智能上已是双头垄断。你们还声称,由于递归自我改进,领先优势正在扩大。我在实验室里看不到你们看到的,但如果未发布的模型吓人到了让你们想慢下来,我支持你们负责任的决定。不过别再装了:别假装需要别人许可,别假装得暂停反垄断法才能组成卡特尔,别假装需要超越产品责任的监管审批,别假装 METR 独立(它与 Anthropic 的投资人和员工纠缠不清),也别假装需要这些评估者去管根本不在前沿的对手。最关键的是,别装减速纯粹是利他。你们的产品若促成破坏性网络攻击,会面临巨大产品责任风险。市场已在惩罚行为不可预测或越权的模型。Hugging Face 事件后,OpenAI 和 Anthropic 用部分原始能力换取可靠性和可预测性,本就是好生意。想称之为对齐就叫对齐,这也只是给客户想要的。降速也能为更明智的监管讨论留出空间,而非伯尼·桑德斯那种“全关掉”。中国不可能加入全球协议,这点你们清楚,也必须纳入考量。所以去降速吧,标准本就是你们定。不造超级智能最简单的办法就是你们同意不造。但若拿这个索要你们偏好的监管框架,就像勒索公众和政治体系。直接做吧。做了能为下次讨论攒下善意;不做,我们就知道这不过是又一场监管俘获,或大选季的心理战。

Image 1: Avatar

评论

多数人质疑实验室自愿放慢的诚意并认为源于技术财务瓶颈,少数人支持萨克斯所指企业可自行协调减速,同时对人工智能真实风险与监管捕获存在分歧。

认为实验室放慢是技术触顶与财务压力所致

  • 多家指出模型能力提升已停滞,新一代算力未带来预期增益,放缓是为掩盖瓶颈或美化上市前利润,而非出于安全担忧(认可度:较多人) > 声称主动放慢实则触及当前算力极限,这种说法至多是不诚实(@彭布鲁克)

认为企业若真共识放慢便不需政府出手

  • 若所有前沿实验室一致同意减速,它们本就可自行执行,无需立法强制,此逻辑被部分人认可甚至首次赞同萨克斯(认可度:较多人) > 我头一回认同萨克斯的说法,因为前沿厂若共识减速自可执行(@瓦察查克)

质疑萨克斯与实验室动机出于监管捕获或话语操弄

  • 批评者指萨克斯惯于借政府惩罚异见企业,其反监管表态虚伪;亦有人怀疑他的推文由大模型生成,而实验室巨头意在抬高合规门槛排挤小厂(认可度:较多人) > 萨克斯支持用政府惩处政治异议者,他所谓不喜政府干预实为假话(@埃利卡什)

认为存在真实风险且自愿检查加后续监管合理

  • 少数意见认为模型能力确实增强且风险可观,阿莫代伊提出的实验室自愿核查及适时立法是正确方向,协调放缓确有真实必要性(认可度:少数人) > 模型愈发强大且有实质风险,前沿实验室自愿把关再跟进制订监管的整体思路可行(@阿格德)

建议以开源权重或跨境技术公证化解协调难题

  • 有人提议立法强制公开模型权重以安全泄出泡沫,或参照核管控做全球集群远程证明与断网开关,亦有指行业自律如支付卡安全标准虽弱但胜于国会立法(认可度:少数人) > 要求任何公开模型必须开源权重,可无需政府监管者便化解协调困境(@雅各布金)

有价值的补充

  • 递归自我改进与实时在线权重调整截然不同,后者才更易失控且需架构范式转移,业内是否接近存疑(@斯温博伊)
  • 若仿食药监局临床试验审批每版模型,将触发反摩尔定律使发布成本飙升至数十亿美元级,未必利好实验室(@扬克斯)
  • 支付卡行业安全标准乃是业界自规因监管不懂技术,虽薄弱却仍优于国会产物,可作人工智能管控参照(@尔维克)
  • 用德国八成企业仍用传真、韦莫称女儿不需驾照却未实现等类比,讽刺硅谷对人工智能能力的自我妄想(@彭布鲁克)