Hacker News 中文摘要

RSS订阅

反乌托邦式监控正在成为现实 -- Dystopian Surveillance Is Becoming a Reality

苹果(Apple)最近宣布新款苹果手表(Apple Watches)将推出名为音频智能(Audio Intelligence)的功能,常驻后台收听转录对话并于每日结束总结。尽管苹果已设保护保障手表主人隐私,但与开启音频智能的苹果手表用户交谈者可能在不知情下被录。作者认其功能对记日记或会议有用,但隐私隐患严重,不喜公开对话落他人设备摘要。此为设备愈先进时监控担忧长线中最新一例,多年智能手机、亚马逊Echo(Amazon Echo)等智能音箱及智能电视偷听之忧已久。

正文

苹果最近宣布,新款 Apple Watch 将推出一项名为「音频智能」的功能。它会一直在后台收听并转写对话,并在一天结束时生成摘要。虽然苹果为保护手表主人的隐私设置了一些防护措施,但任何与开启「音频智能」的 Apple Watch 佩戴者交谈的人,都可能在不知情、未同意的情况下被录音。

我能看出这个功能确实有用。比如写个人日记、记录商务会议讨论的内容等等。但我觉得它在隐私方面的影响很严重。

我不喜欢这样一种可能:我在公共场合说的话,或与他人交谈的内容,最后会变成别人个人设备上的一份转写摘要。而这只是漫长担忧清单上的最新一项——随着我们使用的设备技术越来越先进,这类问题不断出现。

事实上,多年来人们一直在担心智能手机、Amazon Echo 这类智能音箱,甚至智能电视会在我们不知情、未同意的情况下偷听。我已经记不清有多少次亲身经历或听别人讲过:刚和朋友或家人聊过某个话题,一上 Facebook 或其他社交平台,就立刻看到与那个话题相关的帖子和广告。

Meta 的 AI 眼镜引发过不小的风波,因为佩戴者相当于随身带着摄像机,能拍下他们看到的一切,以及看到的每一个人。

OpenAI 正在开发一款可穿戴设备,由曾任职苹果的 Johnny Ive 设计。它无疑会持续收听、录音,并把数据传回 OpenAI 的服务器,至于还会传到哪儿,谁也说不准。

而且,不管我们自己是否拥有或使用这些设备,我们都很可能越来越多地与使用它们的人打交道。

尽管到处安装 Flock 摄像头引发了不少争议,但它们最终可能会过时。因为监控设备不必再架在公共场所有意设置的杆顶。监控设备会挂在我们脖子上、塞在耳机里、嵌进眼镜中。我们会把它们戴在身上、揣在口袋里、装在车里。

这远远超出了乔治·奥威尔在反乌托邦小说《1984》中所设想的那种「电幕」的范围。而那个故事的结局也不怎么好。

评论

社区对苹果等公司的音频智能与可穿戴录音功能普遍表达隐私与法律担忧,少数人援引官方声明认为其设计已规避原始音频存储,另有一批意见指出个人抵制无效且监控已成社会基础设施。

认为常驻音频采集带来严重隐私与法律风险

  • 苹果手表等穿戴设备可能在未经同意下录制周围,违背多地录音法规;即便仅在个人设备生成摘要,也意味着云端留有记录可供执法传票或无令搜索,大规模收集加剧旧有问题。(认可度:较多人)
  • > 连苹果手表都可能理论上录制周围,不知这在有通话录音立法的州如何运作(@Shank)

认为苹果官方设计已保护隐私且不存储音频

  • 苹果声明其音频智能功能不创建或存储录音,原始音频对任何方不可见,仅生成排除敏感信息的摘要并端到端加密,连苹果也无法访问。(认可度:少数人)
  • > 音频智能功能不创建或存储录音,摘要端到端加密连苹果也无法访问(@HelloUsername)

认为智能音箱监听是阴谋论且反对滥用1984类比

  • 硬件与网络测试证明智能音箱并未持续监听,重复此说损害可信度;监控议题应换用如《华氏451》等其他反乌托邦作品讨论 Ring 摄像头等。(认可度:少数人)
  • > 智能音箱监听是蠢阴谋论,有人不断测试证明它们真没在听(@CobrastanJorji)

认为个人抵制无效且社区缺乏自省

  • 即便自己不用,周围人使用仍会使自己被记录,如同自建邮件服务器难挡对方用 Gmail;许多极客口头反监控,却因股权在构建监控的企业工作,少有自我反思。(认可度:较多人)
  • > 就像自建邮件服务器无济于事因为对方用 Gmail,个人不用的设备也难逃被记录(@hackingonempty)

认为大规模高清监控将导致寒蝉效应和构罪武器化

  • 一切行为被显微镜审视后,可从小过失或间接证据构造罪行,系统会倒转为“先有罪再找罪名”,成为控制与猎巫工具。(认可度:较多人)
  • > 当一切被显微镜审视,人必获罪,系统将变成先定罪再找罪名以猎巫(@tsunamifury)

认为解决途径在于法律政治而非技术

  • 需通过立法与政策规范采集行为,技术本身无法根治。(认可度:少数人)
  • > 解决方案是法律和政治,不是技术(@bradgessler)

有价值的补充

  • 历史类比:1960年提议人人带无线电追踪信标被嗤之以鼻,到2012年人们却争相拥有两部 iPhone,折射出对追踪的接受度演变(@nullc)
  • 现实执法:美剧《第一48》中警方直接调用 Flock 自动车牌识别数据,说明监控基础设施已日常化(@the_doctah)
  • 历史视角:有评论引述分析称,早期教会通过每周监控思想与控制书籍来维持权力,现代技术监控可视为同类思想控制的延续,而书籍曾打破该控制(@Create)