Hacker News 中文摘要

RSS订阅

我试图证明自己不是AI,但阿姨不信 -- I tried to prove I'm not AI. My aunt wasn't convinced

文章摘要

作者尝试向亲人证明自己不是AI生成的深伪产品,却发现连从小认识他的阿姨都无法确定电话那头是真人还是AI。这反映出当前AI技术已能以假乱真,甚至亲人之间都难辨真伪,引发人们对身份真实性的普遍担忧。

文章总结

标题:我试图证明自己是真人,但连我阿姨都不信

文章链接:https://www.bbc.com/future/article/20260324-i-tried-to-prove-im-not-an-ai-deepfake
发布时间:2026年3月25日

作者托马斯·杰曼进行了一项实验:他让从小看着他长大的阿姨通过电话辨别自己与AI合成声音的区别。尽管阿姨最初自信地认为电话那头是真人,但在得知可能是AI后,她的信心动摇了——这揭示了AI技术已发展到连亲人都难辨真伪的程度。

以色列总理内塔尼亚胡近期也面临类似困境。因一段视频中光线问题导致右手看似有六根手指(曾被视作AI伪造的标志),网络疯传他已死于导弹袭击。尽管他后续发布咖啡厅视频自证,仍无法平息质疑。专家分析指出,这些视频均为真实,但公众对AI的普遍怀疑已成新常态。

数字取证专家汉尼·法里德坦言,在远程视频通话场景下,几乎无法百分百确认对方是否为真人。面对这一困局,专家们给出的解决方案竟是一个返璞归真的方法:预先与亲友设定密语。法里德教授透露,他与妻子就备有此类应急密语。

数据显示,2023至2025年间AI诈骗案件激增20倍。从普通人到企业高管都成为受害者,英国工程公司奥雅纳甚至因"AI CFO"诈骗损失2500万美元。匹兹堡大学虚假信息研究主任塞缪尔·伍利指出,这种现象被称为"骗子红利"——质疑真实的成本远低于自证清白的代价。

文章结尾处,杰曼的阿姨坦言即便通话结束仍无法完全确信对方是真人。这个充满黑色幽默的实验揭示了一个严峻现实:在AI技术突飞猛进的今天,证明"我是我"正在成为数字时代的新难题。

(注:原文中关于乌克兰、加沙等地的地缘政治内容因与核心主题关联性较弱已做删减,保留了技术验证部分的核心案例和专家观点。)

评论总结

总结评论内容:

  1. 防范AI冒充的建议
  • 建议使用未公开的暗语验证身份(评论1:"This is why you need a phrase...to protect them from scammers")
  • 提出密码学验证方案(评论12:"Cryptographic proofs (digital signatures)")
  1. AI识别的困境
  • 认为识别AI已变得困难(评论2:"'spotting AI' is IMO an irrelevant skill...perceptually the flaws blend")
  • 指出现有验证方法存在漏洞(评论6:"every 'proof of humanity' test converges to the same bag of tricks")
  1. AI的社会影响
  • 担忧经济信任危机(评论5:"how much damage it will cause...no longer trust video calls")
  • 批评破坏社会信任(评论15:"damage AI is causing to public trust is insanely high")
  1. 技术解决方案争议
  • 提出24/7认证摄像头设想(评论3:"tamper proof authenticated cameras")
  • 质疑现有检测框架(评论6:"We keep building Voight-Kampff machines")
  1. 人性化验证尝试
  • 建议使用禁忌话题验证(评论9:"say something that would violate AI safety")
  • 展示手写体验证(评论10:"prove it via my bad handwriting")
  1. 政治相关争议
  • 批评BBC报道倾向(评论13:"article to whitewash Netanyahu")
  • 质疑内塔尼亚胡视频真实性(评论21:"all three Netanyahu videos are very sus")
  1. 幽默应对
  • 调侃验证网站(评论8:"Soon we can muse at realornot.com")
  • 讽刺性验证对话(评论11:"Show up in person, she's still not convinced")