招聘信息及与 Anthropic(Anthropic)高级安全官员的访谈显示,这家前沿人工智能实验室正建立广泛监控系统,监视反对人工智能快速发展的活动人士。除监控高管周边活动人士及公司实体资产附近抗议外,公司还采取“预罪”方式,试图在事件发生前预测,有时在犯罪前向警方报告嫌疑人。Anthropic 未回应评论。
正文
招聘信息和对Anthropic高级安全官员的采访显示,这家前沿AI实验室正在建立广泛的监控系统,用来盯梢反对AI快速发展的活动人士。
除了监视Anthropic高管周围的活动人士、盯梢靠近实体资产的抗议活动,公司还采取“犯罪前”策略,试图在事件发生前做出预测,有时甚至在罪案发生前就向警方报告嫌疑人。Anthropic未回应评论请求。
监视异见的计划,与它把自己包装成OpenAI负责任替代者的努力相悖。年初,国防部与Anthropic高调争执,因后者拒绝军方将其工具用于大规模国内监控和自主武器。随着Anthropic招聘“国家安全销售”岗位、寻求重启军方合同,紧张似乎缓解。加强对国内反对者的威胁监控,符合其重新聚焦国家安全。
Anthropic监控架构的一角在去年一次播客采访中暴露,参与者包括全球安全运营中心经理Keon Ellison、安全运营经理Zach Melvin,以及Anthropic合同方、风险检测公司Samdesk的CEO James Neufeld。
在关于威胁监控分析的广泛对话中,采访也涉及监视活动人士。Ellison说:“去年我们有高管去一座大城市,当时通过Samdesk收到情报说有计划的抗议。”原定抗议因许可问题提前。“Samdesk提前约60分钟通知我们组织者改了时间,”Ellison解释,“那额外一小时很关键。没有的话高管开完会就会撞进抗议中心。”
Ellison表示,Anthropic用这些数据为高管规划了备用路线,从酒店服务入口进入。“本可能是高压情境,通过Samdesk早期侦测和信息提供缓解了。”
Anthropic已开始例行向全国警察部门报告威胁,并于7月告诉《华尔街日报》:“我们通过重点关注人物流程长期追踪可疑行为,尽早发现升级模式。”据该报报道,“几名涉及报警事件的人已被Anthropic安全部门追踪”。
上月,《旧金山标准报》报道称,Anthropic向旧金山警方举报了一名男子,因他告诉Claude自己买了AR-15半自动步枪,并说CEO Dario Amodei“在瞄准镜里”。该报联系到此人时,他称自己“只是瞎玩”。
但Anthropic迅速对沮丧的Claude用户报警的同时,标准报也报道了一个关键细节:Anthropic以内部政策为由拒绝向警方出示实际消息。简言之,Anthropic因平台内言论举报了用户,却拒绝提供实际违法证据。
这种缺乏正当程序的前犯罪式警务,被Anthropic安全项目经理在播客中列为明确目标。“目标是从被动获取信息转为主动、预测、预防的威胁管控,”他说,“这是保护任何行业高价值目标所需的运营成熟度。”
Anthropic构建预测性安全机制的举动超越了高管层,延伸到其全球安全、情报与安保(GSIS)团队。上月的一份招聘信息显示,公司正寻找企业情报专家,“调查特定威胁、行为者和事件,产出评估,帮助员工在快速演变的威胁环境中保持领先和可防御地位”。
该岗位年薪18万至23万美元,职责包括“识别、评估、追踪和调查全球威胁,涵盖地缘政治不稳、恐怖主义、犯罪、行动主义、国家针对AI行业的行动,以及新兴安全趋势,包括对特定威胁、行为者和事件的深度研究与开源情报收集”。
Anthropic将情报收集扩张到全国乃至全球规模,与近期提升AI及其基础设施(包括数据中心和供电)标签等级的努力一致。关键基础设施认定将使AI等同于水、电和宽带。AI的支持者如美国人负责任创新组织(ARI)已敦促特朗普政府做出这一改变。按ARI的说法,AI“对美国至关重要,此类系统和资产的失效或摧毁会对安全、国家经济安全、国家公共卫生或安全或其组合造成削弱性影响”。
将前沿实验室纳入国家安全的硬壳,不仅会让Anthropic、OpenAI和Google更容易获取联邦执法和情报机构生成的情报产品,还会纵容这些公司塑造联邦机构对其底线(现已变为“关键基础设施”)所受威胁的看法。
不难想象,反对数据中心的跨党派联盟展开公民参与,焦点转向AI,会瞬间被贴上极端分子甚至恐怖分子的标签。Anthropic对此的应对是更加努力地开发能提供公众无法忽视的服务的AI。
“我确实同意公众对AI看法负面(这是个大问题),但不认为主要因为我或其他AI领袖警告风险,”Anthropic CEO Dario Amodei上月发推文称,“我认为根本是信任危机……普通人不信公司、政府或科技行业,总怀疑我们又在琢磨新法子坑他们。”
Anthropic正利用内部情报团队和AI驱动的实时抗议追踪来加强监视异见,同时也必须面对湾区写字楼外民众日益加剧的经济困境。上周,巡逻OpenAI和Anthropic园区的保安因薪资谈判停滞宣布授权罢工。Anthropic回应了一封全员邮件,称员工最好在家工作。
“旧金山谁靠每小时22美元活得下去?”代表湾区保安的工会SEIU-USWW主席David Huerta上周在集会上说。他周围保安高喊:“可耻。”
评论
社区对 Anthropic 被曝构建监控能力普遍持讽刺与警惕,多数人质疑其以安全对齐为名行压制异见之实,少数人认为报道煽动性过强、仅是常规企业安保。
认为Anthropic并非“好人”,实为政府监控延伸
- 多条评论指出 Anthropic 与 OpenAI 同 Palantir 类似,拿政府合同、技术用于战争与监控,讽刺其自称负责只是伪装,AI 是威权者梦想。(较多人) > AI是威权者的梦想,光明的未来由领袖达里奥引领!(@palmotea)
担忧技术易被政权滥用,今天用于善明天用于恶
- 评论认为当前政府可能用其压制异见,未来更糟政府会更方便维持权力,技术双刃剑本质决定风险。(较多人) > 今天用于善,明天可用于恶,下届政府更坏时这技术就方便新皇帝压制异见。(@varispeed)
认为报道夸大其词,Anthropic行为等同常规企业安保
- 剥离渲染后实际只是举报死亡威胁、雇佣安保、基于公开抗议许可避绕高管,微软等过去也如此,并非预罪监控。(少数人) > 这和其他大公司的安保有区别吗?头条是他们根据公开许可重排高管路线避抗议,另一件是举报死亡威胁用户。(@woah)
指出高管回避抗议反映权力阶层脱离民众逃避责任
- 评论认为屏蔽高管远离民众声音是权力者惯用模式,完全控制互动以免担责,将民主抗议视作高压情况荒谬。(较多人) > 屏蔽高管远离人民声音,权力者物理隔绝普通人以保护自己免负责任。(@emsign)
质疑空谈无实质行动改变现状
- 有人反问除了在论坛发帖还能做什么,暗示讨论无力。(少数人) > 如果只是论坛上多些文字,答案就是什么也不做。(@logans_gun)
有价值的补充
- 类比科幻中的 Samaritan 系统,暗指 Anthropic 正构建类似全域监控 AI。(@throwup238)
- 文章未明确监控范围是全互联网还是仅自家平台,提醒勿过度解读。(@smalltorch)