路透华盛顿8月10日电- - -拜登政府周二表示，正朝着制定关键标准和指导方针，以及如何测试和保护人工智能系统迈出第一步。

　　美国商务部国家标准与技术研究院(NIST)表示，将在2月2日之前征求公众意见，以进行对确保人工智能系统安全至关重要的关键测试。

　　商务部长吉娜·雷蒙多(Gina Raimondo)表示，这项努力是拜登总统10月份关于人工智能的行政命令所推动的，旨在制定“围绕人工智能安全、保障和信任的行业标准，使美国能够继续在负责任地开发和使用这一迅速发展的技术方面引领世界。”

　　该机构正在制定评估人工智能的指导方针，促进标准的制定，并为评估人工智能系统提供测试环境。该请求寻求人工智能公司和公众就生成式人工智能风险管理和减少人工智能产生的错误信息的风险提供意见。

　　生成式人工智能——可以根据开放式提示创建文本、照片和视频——最近几个月让人兴奋不已，也让人担心它可能会淘汰一些工作，颠覆选举，并可能压倒人类和造成灾难性后果。

　　拜登的命令指示各机构为这种测试制定标准，并解决相关的化学、生物、辐射、核和网络安全风险。

　　NIST正在制定测试指南，包括所谓的“红队”在哪些方面对人工智能风险评估和管理最有利，并为此制定最佳实践。

　　多年来，外部红队一直被用于网络安全领域，以识别新的风险，这个术语指的是美国冷战模拟，其中敌人被称为“红队”。

　　8月，美国首次公开评估“红队”活动在一次重大网络安全会议期间举行，由人工智能村、SeedAI、人道情报组织。

　　白宫表示，数千名参与者试图看看他们是否“可以让这些系统产生不希望的输出或以其他方式失败，目的是更好地了解这些系统所带来的风险”。

　　该活动“展示了外部红队如何成为识别新型人工智能风险的有效工具，”它补充说。

　　(大卫·谢泼德森报道;编辑:Jamie Freed)

　　×