【编者按】在数字时代的浪潮中，社交媒体平台的内容治理一直是公众关注的焦点。近日，meta宣布将引入更先进的人工智能系统来强化内容审核，逐步减少对第三方供应商的依赖。这一举措不仅标志着技术驱动的内容管理新时代的来临，也引发了关于AI在敏感领域应用的广泛讨论。从恐怖主义到儿童剥削，从欺诈到毒品交易，AI能否精准识别并高效处理这些复杂内容？meta的尝试或许将为行业树立新的标杆，但同时也带来了对透明度、准确性与人性化平衡的深刻思考。在科技与伦理的交汇点上，我们期待看到更多创新与责任并重的解决方案。meta周四宣布，将开始推出更先进的人工智能系统来处理内容审核，同时计划减少对第三方供应商的依赖。内容审核相关任务包括识别和移除涉及恐怖主义、儿童剥削、毒品、欺诈和诈骗的内容。公司表示，一旦这些更先进的AI系统在持续表现上超越当前的内容审核方法，将在其所有应用中部署。与此同时，将减少在内容审核方面对第三方供应商的依赖。meta在一篇博客文章中解释：“虽然我们仍会保留人工审核内容，但这些系统将能够承担更适合技术处理的工作，比如对暴力内容的重复审核，或应对不断变换手法的恶意行为，例如非法毒品销售或诈骗。”meta相信，这些AI系统能够以更高的准确性检测违规行为，更好地预防诈骗，更快速地响应现实世界事件，并减少过度审核。公司表示，AI系统的早期测试结果令人鼓舞，它们能检测到的成人性诱导内容是审核团队的两倍，同时错误率降低超过60%。系统还能识别和阻止更多涉及名人及其他公众人物的冒充账户，并通过检测新地点登录、密码更改或个人资料编辑等信号，帮助防止账户被盗。此外，meta称这些系统每天能识别并阻止约5000次诈骗尝试，这些诈骗通常试图诱骗用户泄露登录信息。meta在博客中写道：“专家将设计、训练、监督和评估我们的AI系统，衡量其性能并做出最复杂、影响最大的决策。例如，在最高风险和最关键决策中，如账户禁用上诉或向执法部门报告，人工仍将发挥关键作用。”这一举措出台之际，meta在过去一年左右的时间里一直在放宽内容审核规则，尤其是在唐纳德·特朗普再次上任总统后。去年，公司终止了第三方事实核查项目，转而采用类似X平台的“社区笔记”模式。同时，meta取消了对“主流讨论话题”的限制，并鼓励用户对政治内容采取“个性化”处理方式。此外，meta及其他科技巨头目前正面临多起诉讼，旨在追究社交媒体平台对儿童和年轻用户造成伤害的责任。meta周四还宣布，将推出meta AI支持助手，为用户提供24/7全天候服务。该助手将在全球范围内陆续登陆iOS和Android的Facebook与Instagram应用，并覆盖桌面端Facebook和Instagram的帮助中心。