Meta努力让Instagram和Facebook对青少年更安全

   日期:2025-07-24     来源:本站    作者:admin    浏览:76    
核心提示:      多年来,meta一直在宣传自己招募和留住年轻用户的努力,因为他们纷纷涌向Snapchat和TikTok等竞争对手的社交媒体应用

  

  

  多年来,meta一直在宣传自己招募和留住年轻用户的努力,因为他们纷纷涌向Snapchat和TikTok等竞争对手的社交媒体应用。即使在由各州总检察长组成的联盟发起了一项调查,仔细审查该公司的社交网络对年轻人心理健康的影响之后,这种对年轻用户的推动也没有被阻止。

  但在meta内部,旨在吸引儿童和青少年的服务经常受到棘手辩论的困扰,根据《华盛顿邮报》以及现任和前任员工看到的内部文件,员工们在促进成长的同时保护弱势青少年的最佳方式上发生了冲突。其中一些人在描述内部事务时要求匿名。

  员工们说,一些衡量和回应他们认为有害但不违反公司规定的问题的努力受到了阻挠。公司领导人有时未能回应他们的安全担忧,或者反对他们认为会损害用户增长的提议。该公司还减少或分散了致力于保护所有年龄段用户免受问题内容侵害的团队。

  周二,关于如何安全地吸引孩子们使用社交媒体的内部争议将再次成为焦点,meta的一位前高级工程和产品负责人将在参议院听证会上就社交媒体与青少年心理健康之间的关系作证。

  阿图罗·巴姆贾尔预计将在参议院司法小组委员会作证,他试图说服meta首席执行官马克·扎克伯格(Mark Zuckerberg)等高级领导人采取他认为更大胆的行动,但这些行动基本上遭到了拒绝。

  41个州起诉meta,声称Instagram和Facebook会让人上瘾,伤害孩子

  “我认为我们正面临着一个紧迫的问题,13到15岁的孩子在社交媒体上的有害经历数量确实很大,”bassajar说。“如果你知道你要送孩子去的那所学校的欺凌、骚扰或不受欢迎的性侵犯的比率是我在给马克·扎克伯格(Mark Zuckerberg)的电子邮件中提到的,我认为你不会送孩子去那所学校。”

  meta发言人安迪·斯通在一份声明中表示,每天“meta内外都有无数人在研究如何帮助年轻人安全上网。”

  斯通说:“与家长和专家合作,我们还推出了30多种工具,以支持青少年及其家人获得安全、积极的在线体验。”“所有的工作都在继续。”

  Instagram和Facebook对儿童和青少年的影响正受到前所未有的审视。此前,41个州和华盛顿特区采取了法律行动,指控meta在其应用程序中植入了令人上瘾的功能,家长和学区也提起了一系列诉讼,指控这些平台在加剧青少年心理健康危机方面发挥了关键作用。

  在一片反对声中,meta继续追逐年轻用户。最近,meta降低了其衰落的虚拟现实产品的年龄限制,将其社交应用Horizon Worlds的最低年龄限制降至13岁,将Quest VR头显的最低年龄限制降至10岁。

  扎克伯格在2021年10月宣布了一项计划,为年轻人重组公司,并描述了一项长达数年的转变,即“让服务年轻人成为公司的北极星”。

  这种兴趣是在年轻人逃离现场时产生的。据爆料者弗朗西丝·豪根(Frances Haugen)披露的内部文件显示,该公司内部的研究人员和产品负责人制作了详细的报告,分析了招聘和留住年轻人方面的问题。在一份文件中,据报道,年轻人认为Facebook无关紧要,是为“40多岁或50多岁的人”设计的。

  超能力者不想去监视超能力者。孩子们正在为此付出代价。

  扎克伯格在2021年10月的声明中提到与TikTok的竞争时说:“我们的服务是为大多数用户提供最好的服务,而不是专门为年轻人提供最好的服务。”

  但员工们表示,围绕拟议中的安全工具展开的辩论,使公司对发展社交网络的浓厚兴趣,与保护用户免受有害内容侵害的需要形成了对立。

  Instagram正在宣传针对青少年的安全功能。精神健康倡导者并不买账。

  例如,一些工作人员认为,当青少年注册一个新的Instagram账户时,它应该自动成为私人账户,如果他们想要一个公共选择,就必须调整自己的设置。但据一位不愿透露姓名的知情人士透露,这些员工面临着来自公司增长团队领导人的内部阻力,他们认为此举会损害平台的指标。

  他们选择了一个介于两者之间的选择:当青少年注册时,私人账户选项是预先检查的,但他们可以很容易地恢复到公共版本。斯通说,在内部测试中,10个年轻人中有8个在注册时接受了私人默认设置。

  技术政策顾问、meta青年政策主管瓦什纳维·J (Vaishnavi J)说:“公司领导人很容易把尚未开发的青年市场视为推动增长的简单途径,而忽视了他们的具体发展需求。”

  J补充说:“公司需要打造年轻人可以自由使用的产品,而不必担心他们的身体或情感健康。”

  Facebook试图在儿童安全听证会之前尽量减少自己的研究

  2020年11月,当时还是meta顾问的bsamjar和Instagram幸福团队的成员想出了一种新的方法来处理欺凌、骚扰和不受欢迎的性侵犯等负面经历。从历史上看,meta通常依赖于“流行率”,即衡量违反公司规则的帖子被忽视的频率。meta通过计算Facebook或Instagram上关于违规内容的总浏览量的百分比来估计患病率。

  bsamjar和他的团队认为,流行率往往无法解释有害内容,这些内容在技术上并不违反公司的内容规则,并掩盖了罕见互动的危险,这些互动仍在给用户带来创伤。

  相反,bassajar和他的团队建议让用户自己定义负面互动,使用一种新的方法:糟糕的经历和遭遇框架。《华盛顿邮报》(The Washington Post)获得的文件显示,它依赖于用户讲述欺凌、不受欢迎的挑逗、暴力和错误信息等伤害的经历。《华尔街日报》最先报道了这些文件。

  在报告、演讲和电子邮件中,bassajar提供的统计数据显示,青少年用户的不良体验数量远远高于流行率。他在2021年10月给扎克伯格和首席运营官谢丽尔·桑德伯格的一封电子邮件中举例说明了这一发现,其中描述了他当时16岁的女儿如何在Instagram上发布了一个关于汽车的视频,并收到了一条评论,告诉她“回到厨房去”。

  “这让她非常难过,”巴姆贾尔写道。“与此同时,这条评论远没有违反政策,我们屏蔽或删除的工具意味着这个人会去其他个人资料,继续传播厌女症。”b

  贾尔说,他得到了桑德伯格的回复,承认这一评论的有害性质,但扎克伯格没有回应。

  在越来越多的审查中,Facebook暂停了Instagram儿童应用程序

  后来,巴姆贾尔又向Instagram负责人亚当·莫塞里(Adam Mosseri)提出了一些令人震惊的统计数据:13岁至15岁的青少年中,有13%的人在过去七天里在Instagram上遭遇了不想要的性挑逗。

  在他们的会议上,巴姆贾尔说,莫塞里似乎理解这些问题,但他的策略在meta内部并没有得到多大的支持。

  尽管该公司仍在使用流行率,但斯通表示,用户感知调查已经为安全措施提供了信息,包括一种人工智能工具,当用户的评论可能被认为是冒犯性的时候,它会在发布之前通知用户。该公司表示,它减少了未违反其规则的潜在问题内容的可见性。

  meta试图招募年轻用户并保证他们的安全,但却受到了一系列组织和市场压力的考验,因为安全团队——包括那些致力于儿童和青少年问题的团队——在裁员浪潮中被大幅削减。

  meta聘请了谷歌前高管帕夫尼·迪万吉(Pavni Diwanji)来领导公司的青少年产品工作。迪万吉曾帮助监督YouTube Kids的开发。据知情人士透露,她受命开发工具,让青少年在Instagram上的体验更好、更安全。

  但在Diwanji离开meta后,该公司将这些青少年安全产品的工作纳入了另一个团队的投资组合。meta还解散并分散了其负责任的创新团队——一群负责发现即将推出的产品的潜在安全问题的人。

  斯通说,许多团队成员已经转到公司内部的其他团队去处理类似的问题。

  bassajar不认为立法者应该依靠meta来做出改变。相反,他说国会应该通过立法,迫使该公司采取更大胆的行动。

  “每个家长都知道这有多糟糕,”他说。“我认为我们正处于一个绝佳的机会,可以通过两党立法。”

 
打赏
 
更多>同类文章

推荐图文
推荐文章
点击排行