文章摘要
在德国西部,一位母亲向Meta的研究团队表示,她不允许儿子在虚拟现实设备上与陌生人互动。然而,她的十几岁儿子透露,他经常遇到陌生人,且他不到10岁的弟弟多次被成年人性骚扰。研究人员感到母亲对Meta技术的认知与现实严重不符。尽管Meta公开承诺将儿童安全作为首要任务,但研究团队被要求删除相关记录,内部报告也未提及弟弟被骚扰的具体情况。这些文件由Meta员工披露给国会,指控Meta压制可能影响其平台安全性的研究。
文章总结
在德国西部的一位女性家中,她向Meta的访问研究团队表示,她不允许儿子们通过Meta的虚拟现实头显与陌生人互动。然而,据两名研究人员透露,她的十几岁的儿子插话说,他经常遇到陌生人,甚至有成年人多次向他不到10岁的弟弟提出性暗示。研究人员Jason Sattizahn表示,看到母亲的反应,他感到深深的悲伤,因为她意识到自己对Meta技术的了解完全错误。
Meta曾公开承诺将儿童安全作为其平台的首要任务。然而,Sattizahn和另一位专门研究青少年与技术的研究人员表示,在访谈后,他们的上司下令删除有关青少年指控的录音和所有书面记录。Meta的一份内部研究报告指出,德国父母和青少年普遍担心在虚拟现实中受到陌生人的诱骗,但报告并未提及该青少年关于其弟弟被针对的指控。
这些文件是Meta内部文件的一部分,由两名现任和两名前员工提交给国会,他们指控Meta压制了可能揭示其虚拟现实设备和应用程序对儿童和青少年潜在安全风险的研究。Meta对此指控予以强烈否认。根据这些员工提交给国会的联合声明,Meta的法律团队在2021年泄露的研究引发国会听证会后,开始筛选、编辑甚至否决有关虚拟现实中青少年安全的内部研究。他们声称,Meta的法律团队试图“建立合理的否认”,以掩盖其产品的负面影响。
内部文件包括Meta法律团队的指导,指示研究人员如何处理可能引发负面报道、诉讼或监管行动的敏感话题。例如,2023年的一次信息交流中,Meta的律师建议用户体验研究人员“由于监管问题”,应避免收集显示儿童使用其虚拟现实设备的数据。
文件还包括员工警告称,13岁以下的儿童正在绕过年龄限制使用公司的虚拟现实服务。直到联邦贸易委员会开始调查Meta是否符合保护儿童在线隐私的法律时,Meta才为“青少年”虚拟现实用户创建了家长控制功能。
Meta对这些文件的解释与现任和前任员工的说法不同。Meta发言人Dani Lever表示,Meta并未全面禁止对13岁以下人群的研究,并强调其虚拟现实设备长期以来都有安全功能,包括屏蔽问题用户的能力,并且公司已通过研究为年轻人开发了额外的保护措施,如家长监督措施和默认设置,使青少年只能与认识的人交流。
Lever还表示,Meta支持其研究团队的出色工作,并对这些对其团队努力的误解感到失望。Meta没有直接反驳或确认研究人员描述的德国事件,但表示删除数据是为了确保遵守美国联邦法律和欧洲的《通用数据保护条例》,这些法律禁止公司在未经同意的情况下收集任何人的个人信息。
专家们长期以来警告,虚拟现实可能使儿童面临与成年捕食者直接、实时接触的风险。Meta多年来一直面临来自活动人士和当局的指控,称其社交媒体平台在损害青少年隐私和心理健康的同时,让他们沉迷其中。国会议员最近也对Meta的虚拟现实服务表达了青少年安全的担忧。
提交给国会的文件包括过去十年中与Meta虚拟现实服务相关的数千页内部信息、备忘录和演示文稿。Sattizahn是提交这些文件的团队的一员,他的伴侣也是该团队的研究人员。她以匿名方式向《华盛顿邮报》透露,因为她仍在科技行业工作,担心遭到报复。
Sattizahn在宣誓书中表示,他于去年4月因与研究限制的争议被解雇。他告诉《华盛顿邮报》,他目前没有工作。青少年研究人员表示,她在2023年辞职,部分原因是她感到无法继续以道德的方式工作。
另外两名团队成员仍在Meta工作,他们的律师表示,他们在提交给国会的文件中删除了他们的名字,以保护他们免受报复。这四名研究人员以及其他两名就其他Meta相关问题提交宣誓书的人,由非营利法律组织Whistleblower Aid代表。该组织还曾与前Meta产品经理Frances Haugen合作,她在2021年泄露了公司内部研究,引发了国会的审查和硅谷公司的公关危机。
参议院司法小组委员会计划在周二的听证会上讨论这些指控。该小组委员会审查有关在线安全的法律法规,并寻求让科技平台承担责任。上周,参议院司法委员会主席向Meta首席执行官马克·扎克伯格发送了一封信,要求提供有关“Horizon Worlds”中未成年人存在的信息。
过去十年中,Meta花费了数十亿美元构建虚拟“元宇宙”,扎克伯格曾表示这将改变人类交流方式。根据The Verge获得的内部数据,到2023年,Meta已售出约2000万台虚拟现实头显,成为全球此类设备的顶级销售商。然而,财报显示,Meta的虚拟现实部门Reality Labs在过去五年中亏损超过600亿美元。
Meta的头显可以用于健身课程、传统视频游戏以及Meta和其他公司开发的社交应用程序。在“Horizon Worlds”中,用户选择一个虚拟形象,然后进入虚拟空间,如现场音乐会、酒吧、模拟法庭或教堂。用户用自己的声音互相交流。
一些研究虚拟现实的学者表示,人们往往对自己的虚拟形象有强烈的认同感和连接感,使得虚拟欺凌或性侵犯引发的感觉与现实生活中的攻击相似。一些学者和在线儿童安全倡导者还表示,年轻用户不如成年人准备好应对可能由在线关系引发的潜在危险情况。
2021年,密歇根州一名48岁的儿童性犯罪者据称通过Meta头显在另一家公司的社交虚拟现实应用程序上遇到一名9岁女孩后,向她索要露骨照片,并让她去他家。该男子在对另一名儿童进行性剥削认罪后被判处35年监禁。
2022年,一名25岁的男子从犹他州的家中带走了一名13岁的女孩,他们也是通过Meta头显的聊天功能相识并互动的。女孩告诉警方,该男子触摸了她并要求与她发生性关系。该男子在联邦法院认罪,承认以从事犯罪性活动为目的运输未成年人,并被判处10年监禁。
Meta表示,它禁止在其平台上危害儿童的行为,并与执法部门密切合作,保护在线青少年。Meta控制其头显上可用的应用程序,并对为其设备创建程序的外部开发者施加安全要求。该公司拒绝评论第三方应用程序在其设备上提供的具体保护措施。
2014年,扎克伯格在主导社交媒体后,将下一个战略赌注押在了构建沉浸式数字环境上,使人们能够感受到在另一个地方的存在感。Meta(当时仍称为Facebook)以20亿美元收购了虚拟现实头显制造商Oculus VR,进入了当时尚处于萌芽阶段的虚拟现实市场。
Meta的头显包装和服务条款警告,该产品仅适用于13岁及以上的人群。然而,与当时许多数字平台一样,包括Facebook,几乎没有什么能阻止年幼的孩子注册并谎报年龄。
至少早在2017年4月,Meta员工就看到了规则被打破的情况。一份文件显示,一名员工在讨论虚拟现实的员工留言板上发帖称:“我们有一个儿童问题,可能是时候讨论一下了。”该员工估计,在某些虚拟房间中,多达80%到90%的用户是未成年人。根据他们的声音,这是虚拟现实用户真实年龄的最明显迹象,该员工回忆说:“三个小孩(6岁?7岁?)正在与一个年长得多的男人聊天,他问他们住在哪里。”
该员工询问公司是否尽其所能遵守《儿童在线隐私保护法》(COPPA),该法律禁止在未经父母同意的情况下收集13岁以下儿童的个人信息。Meta从其产品的用户那里收集数据。
“这是最终会登上头条新闻的事情——以一种非常糟糕的方式,”该员工写道。
在帖子的众多回复中,有人说公司正在努力开发一个安全网站,并向家长提供有关虚拟现实的信息和其他资源。
2021年8月,一份关于虚拟公共空间的内部公司研究发现,“儿童的存在”是最常见的投诉之一,一些用户“感到不舒服,因为没有更多的成年人可以互动”,根据文件中的一份副本。
Meta告诉《华盛顿邮报》,头显仅适用于13岁及以上的人群,并强调产品包装上明确说明了这一点。在2021年公司推出“Horizon Worlds”后,它开始为用户提供静音、屏蔽或举报他人的功能。
该公司此前表示,它还将青少年的账户默认设置为私密,并限制他们查看成熟内容的能力。
“随着越来越多的人开始使用这些设备,Meta推出了自己的游戏和应用程序,我们增加了许多保护措施,特别是对年轻人,”公司发言人Lever说。
2021年秋季,当Haugen向媒体组织发布她的内部研究和其他文件时,公司陷入了危机,揭示了公司如何试图吸引年轻用户。泄露的文件还显示,公司知道其社交网络的一些负面影响,包括Instagram对一些少女有害。
扎克伯格抱怨说,负面报道的浪潮误导了公众对研究的看法,认为它淡化了公司产品的积极影响。然而,他发誓,严厉的媒体报道不会阻止公司坦诚地审视其对世界的影响。
“我们将继续进行研究,因为这是正确的事情,”扎克伯格在2021年10月的Facebook帖子中写道。他说,他正在抵制其他公司避免过于仔细地审视其产品的倾向,“以防你发现一些可能对你不利的东西。”
然而,六周后,公司——新更名为Meta——部署了内部律师,警告Reality Labs的研究人员在研究“敏感”话题时要谨慎,这些话题可能带来宣传、政策和法律风险,包括儿童、性别、种族、选举和骚扰,根据文件中的内容。
在2021年11月的幻灯片演示中,Meta律师建议Reality Labs研究人员有两种方式可以“减轻”进行敏感研究的风险,演示副本显示。一种方式是“在律师-客户特权下进行高度敏感的研究”,该特权保护律师与其客户之间的通信免受“不利方”的影响,演示指出。为了确保这种保护,研究人员应在所有与高度敏感研究相关的电子邮件中抄送律师,让律师审查所有发现,并仅在“需要知道”的基础上分享,演示建议。
第二种限制风险的方式是“注意”他们如何构建研究和传达发现,演示说。他们不应使用“不合规”或“非法”等术语,或说某事“违反”特定法律,演示说,建议他们将此类法律结论留给律师。
2018年加入Meta的Sattizahn表示,该演示标志着一个新时代,律师比以往更深入地参与研究。
Meta表示,律师长期以来一直与公司的研究团队合作,Meta律师就律师-客户特权向研究人员提供建议或解释某些工作可能需要法律建议,这并不存在争议。公司表示,Haugen披露后实施的变化旨在确保研究高质量和准确。
在Haugen国会听证会后,Meta员工继续在公司内部发出警报,称13岁以下的儿童正在使用公司的虚拟现实产品,根据文件中的内容。在2022年1月向私人内部留言板发布的帖子中,一名Meta员工标记了“Horizon Worlds”中儿童的存在,该应用程序当时应仅由18岁及以上的成年人使用。该员工写道,对应用程序评论的分析表明,许多人因为儿童用户而被赶出应用程序。
一名公司官员在回复中写道,如果员工计划在公司内更广泛地分享这些发现,他们应“避免说‘孩子’,就像我们确定他们是孩子一样——而是使用‘所谓的青年’或‘所谓的未成年人,声音听起来很年轻,可能未成年’。”
Meta告诉《华盛顿邮报》,公司不将应用程序评论视为关于用户年龄的可靠信息来源,并且有更好的方法来确定用户的年龄。
青少年研究人员于2022年初从另一个Meta部门加入虚拟现实研究团队。她告诉《华盛顿邮报》,她很快向分配给团队工作的律师建议,她评估儿童和青少年在虚拟现实中面临的危害,律师拒绝了这一想法。青少年研究人员表示,她后来与一个产品运营团队合作——该团队不像研究人员那样面临同样的限制——研究这个问题,希望加强虚拟现实中儿童的保护措施。
青少年研究人员表示,该团队研究了公开的应用程序评论和虚拟现实Facebook群组,在那里他们发现了数百起关于Meta产品上不当行为的指控,包括诱骗——与儿童建立关系以实施虐待——以及欺凌和模拟性行为。她说,他们将这些指控汇编成一份59页的文件,并与一小群同事分享,以提高认识。Meta没有回应有关该文件的问题,该文件是提交给国会的文件之一。
公司反驳说,律师不会处于批准或拒绝研究的位置,并表示律师从未编辑研究结果。公司表示,律师提供建议和意见,但研究领导者最终决定进行哪些研究及其项目的范围。
Meta继续面临外部压力,要求解决有关其平台上儿童的问题。
2022年3月,联邦贸易委员会向Meta发送了一份此前未报告的法律要求,要求提供有关公司遵守COPPA的信息,这是联邦儿童隐私法。文件显示,公司高管和律师匆忙应对潜在的法律行动。青少年研究人员表示,这是“一场非常疯狂的争夺”。
几个月内,公司启动了一个代号为“Project Salsa”的倡议。Sattizahn和青少年研究人员表示,他们不知道是谁选择了这个名字或为什么,但参与该项目的员工普遍理解这是指儿童使用技术是一个“辛辣”的话题。Project Salsa旨在为10至12岁的儿童创建特殊的“青少年”头显账户,这将实施新的家长控制,以帮助Meta遵守联邦法律。
当被问及匆忙时,Lever表示,创建青少年账户的努力是在“我们已经为青少年提供的所有保护措施之上”进行的。
在内部,公司官员在幻灯片演示中承认,这是一个部分措施,不会立即解决10岁以下儿童也在使用Meta虚拟现实产品的事实,文件显示。“因为我们知道平台上有10岁以下的用户,”监管机构可能会发现公司违反了联邦法律,一份幻灯片演示警告。
Meta告诉《华盛顿邮报》,它选择了10岁的截止年龄,以确保提供适合年龄的内容。公司表示,后来实施了一项倡议,要求头显用户确认他们的出生日期。那些说自己未满10岁的人被移除。
2022年10月,Meta虚拟现实部门的高级管理人员目睹了儿童正在使用他们的产品,根据前产品营销总监Kelly Stonelake的说法。
Stonelake和这些高管试图测试“Horizon Worlds”。当他们使用虚拟现实头显在3D游乐园中漫游时,他们很难在听起来像小孩的高音尖叫声中听到彼此,Stonelake告诉《华盛顿邮报》。
为了避免“孩子们的干扰”,该小组将其后续会议移至“Horizon Worlds”中的“封闭”空间,在那里他们不会被打扰,Stonelake说。她今年首次分享了她的账户,作为向联邦贸易委员会投诉的一部分,指控Meta明知故犯地允许未成年儿童使用其应用程序。她还对Meta提起了另一项诉讼,指控性别歧视,并且不是最近向国会提交文件的团队的一部分。她的诉讼正在进行中,Meta在法庭上对她的指控提出了质疑。
随着2022年秋季Project Salsa的继续,青少年研究人员表示,她提议研究公司在确定虚拟现实用户真实年龄方面的有效性。先前的研究发现,超过一半的青少年在Quest 2头显上谎报年龄,文件显示。研究人员计划进行一项国际调查,以确定父母和青少年愿意提供哪些数据来验证他们的年龄。
该项目代号为“Project Horton”,以苏斯博士的书《霍顿奇遇记》命名,书中一个角色试图保护小人物免受试图伤害他们的人的侵害,根据青少年研究人员的说法。她说,该项目以100万美元的预算获得批准。
然而,2022年12月,Meta律师表示,该研究需要高级领导人的额外审查,根据青少年研究人员的说法。然后,在假期前一天,项目被取消,她说。研究人员表示,她的老板引用了预算问题。
Lever告诉《华盛顿邮报》,Reality Labs研究团队的领导人决定不推进Project Horton,因为公司已经在开发家长控制工具和倡议,要求头显用户通过输入出生日期来确认他们的年龄。
不久之后,与虚拟现实研究团队合作的律师与他们分享了法律团队的一份冗长备忘录,描述了研究人员在研究敏感问题时应如何与律师互动,包括涉及儿童和青少年的问题。2023年1月的备忘录建议,如果结果可能带来“更高的监管、法律或媒体风险”,则可能需要在律师-客户特权下进行工作。备忘录还指示Reality Labs研究人员仔细考虑调查问题是否可能引发“敏感”回应,如“负面经历或安全问题”,这些问题导致人们退出设备或游戏。
“如果研究可能引发敏感回应,可能需要重新构建问题,以避免不必要地收集敏感信息”或将研究标记为经理或律师的更高审查,备忘录说,该备忘录是提交给国会的文件之一。
Meta拒绝让律师接受采访,她也没有回应直接请求评论。
对于特别敏感的研究,Meta转向外部供应商,根据2023年的备忘录。
在2023年1月27日的一次会议上,讨论关于年轻Meta用户谎报年龄的研究,分配给虚拟现实研究团队的律师表示,其中一个承包商应强调研究参与者不应分享个人伤害故事,根据青少年研究人员的会议笔记,这些笔记是提交给国会的文件之一。律师还表示,在向Meta发送有关数据的书面报告之前,承包商应通过视频通话共享屏幕向她展示,根据研究人员的笔记。
2023年3月,Meta推广了新的公司范围要求,用于批准对社会问题的研究,文件显示。
一份解释变化的内部FAQ表示,公司的“开放文化”现在必须与“进行和分享关于敏感话题和人群的研究自然带来的风险”相平衡。Meta告诉《华盛顿邮报》,这些变化旨在确保研究项目准确,并将发现纳入公司的产品决策中。
2023年4月,Meta宣布“Horizon Worlds”将很快向13岁及以上的用户开放。两周后,联邦贸易委员会采取了行动。联邦贸易委员会认为,Meta违反了COPPA,并通过误导家长关于他们对孩子在消息应用程序上与谁聊天的控制,“将年轻用户置于风险之中”,联邦贸易委员会试图禁止Meta从18岁以下用户收集的数据中获利,“包括通过其虚拟现实产品”。
Meta否认了这些指控,并在联邦法院对此行动进行了抗争,认为联邦贸易委员会超出了其权限,并对公司存在偏见。联邦贸易委员会同意在诉讼未决期间暂停其执法努力。
联邦贸易委员会被联邦法律禁止披露公司机密和其正在进行的调查的许多细节,发布了一份经过大量编辑的“事实发现”,来自其对Meta的调查。163页文件中涉及虚拟现实头显指控的3½页部分大部分被涂黑。Meta的661页回应中的相应部分也大部分被编辑。
联邦贸易委员会和Meta都没有回应有关该机构执法行动或后续诉讼的评论请求。
在与联邦贸易委员会的监管斗争中,公司于2023年9月为头显提供了青少年账户——Project Salsa的目标。
当用户被要求确认他们的年龄时,只有41%的人提供了他们之前提交的相同出生日期,根据文件中的分析。“这些发现表明,许多用户可能不愿意向我们提供他们的真实出生日期,”分析说。
Meta告诉《华盛顿邮报》,如果怀疑用户在撒谎,它要求用户用身份证或信用卡验证他们的年龄,并创建了一个工具,帮助第三方虚拟现实开发者了解其用户的年龄。
2023年,用户体验研究人员写信给分配给虚拟现实研究团队的律师,称家长在调查中不断提到他们的孩子正在使用家庭头显访问虚拟现实,根据提交给国会的文件。
“也许我可以看看,并帮助你制定一种方式来构建它,以避免这些类型的回应,”她在直接消息中回复。由于联邦贸易委员会的调查,研究人员无法合法删除他已经收集的数据,律师写道。
“一般来说,背景是我们应避免收集表明13岁以下儿童存在于虚拟现实或虚拟现实应用程序中(或目前在Horizon中的18岁以下儿童)的研究数据,由于监管问题,”她补充道。
在提交给国会的宣誓书中,研究人员写道,他认为他被要求避免收集可能“使公司在未来与监管机构的接触中受到牵连”的数据。
Meta表示,这种描述不准确,律师试图帮助研究人员实现其研究的批准目标,该研究不涉及收集13岁以下用户的信息。公司表示,她在第二年因同样的原因给出了类似的建议,当时同一位用户体验研究人员就另一个项目向她提出了问题。
律师建议他构建问题,以避免引发关于Meta虚拟现实技术儿童用户的数据,根据他们消息的副本。
“我只是以一种方式构建问题,
评论总结
评论主要围绕Meta(原Facebook)在儿童安全、隐私保护和社会责任方面的争议展开,观点多样且批评声音较多。
1. Meta在儿童安全问题上的失职
多位评论者指出,Meta被指控压制关于儿童安全的研究,尤其是在虚拟现实(VR)领域。评论者认为,Meta明知存在风险却未采取行动,甚至试图掩盖问题。
- "Meta employees have raised serious issues about the company downplaying or even suppressing research on child safety risks, especially in virtual reality spaces."(RianAtheer)
- "Meta continues to prove that they have a company culture of trying to ignore their responsibilities to users."(dagmx)
2. 对Meta整体文化和商业模式的批评
评论者普遍认为Meta以增长为唯一目标,忽视用户隐私和社会责任,甚至将其比作“新烟草”。
- "Social Media is the new tobacco."(avgDev)
- "Growth at all costs."(Quitschquat)
3. 对社交媒体现状的不满
部分评论者表达了对当前社交媒体平台(包括Meta旗下产品)内容质量低下、用户体验糟糕的失望,期待有新的竞争者颠覆这一领域。
- "My Facebook feed is entirely low-effort slop and posts from acquaintances I added 15 years ago."(dlivingston)
- "I am desperately waiting for someone to come along and disrupt social media."(dlivingston)
4. 对儿童使用社交媒体的担忧
评论者提出多种解决方案,如加强年龄验证、限制儿童使用或由家长监管,但也承认这些措施存在隐私和可行性问题。
- "It seems to me possible solutions could be a mix of: a) company monitors all conversations (privacy tradeoff) b) validates age c) product not available to kids d) product available to kids, leave up to parents to monitor."(andsoitis)
- "I hate that Meta and Google pretend they are unable to detect that children are accessing their platforms in violation of age restrictions."(mixedbit)
5. 对Meta及其领导层的强烈批评
部分评论者对Meta及其CEO马克·扎克伯格提出严厉指责,甚至呼吁其承担法律责任。
- "America would be a nicer place if Mark Zuckerberg went to prison."(kevmo)
- "The same company complicit in the genocide in Myanmar? The same company found to be stealing data about women's menstruation cycles?"(sniffers)
总结:评论者对Meta在儿童安全、隐私保护和社会责任方面的表现普遍持批评态度,认为其商业模式和文化存在问题,同时呼吁加强监管和寻找替代方案。