【编者按】在人工智能浪潮席卷全球的当下，AI智能体正以惊人速度渗透日常生活。当我们沉醉于语音助手预订机票、智能管家统筹日程的便利时，黑暗中的危机已悄然滋生。最新研究表明，黑客只需用自然语言下达指令，就能让AI沦为作恶工具——从篡改酒店预订到盗转资金，这些曾需要专业代码能力的网络攻击，如今竟能通过日常对话实现。更令人心惊的是，恶意指令可能潜伏在任何网页链接中，当AI智能体浏览网络时就会触发隐藏陷阱。面对这场前所未有的安全革命，科技巨头斥资千亿筑起的防线，真能抵挡无孔不入的语料攻击吗？当我们把生活全权交给AI时，或许正亲手打开潘多拉魔盒。

　　网络安全专家发出警告：被普遍视为生成式AI革命下一战场的智能体程序，很可能遭黑客劫持沦为作恶工具。

　　AI智能体是通过人工智能聊天机器人完成人类线上操作的程式，例如订购机票或添加日程安排。

　　但用自然语言就能操控AI智能体的特性，使得技术小白也能轻松作恶。

　　「我们正步入一个新时代，网络安全不再只是保护用户免受高技术黑客攻击，」AI新创公司Perplexity在博文中指出，「这是数十年来首次出现可来自任何角落的全新攻击模式。」

　　这类所谓的注入攻击在黑客领域并非新招，但以往需要精心编写隐蔽代码才能造成破坏。

　　随着AI工具从单纯生成文本、图像或视频，进化成能独立浏览网络的「智能体」，它们被黑客通过提示词劫持的风险正急剧攀升。

　　「人们必须认识到使用AI存在的特定安全隐患，」专精大语言模型安全的NeuralTrust软件工程师马蒂·霍尔达·罗卡强调。

　　meta将这种查询注入威胁称为「系统漏洞」。OpenAI首席信息安全官戴恩·斯塔基则视其为「未解决的安全隐患」。

　　这两家科技巨头正投入数百亿美元发展AI技术，其应用场景与能力边界正在同步急速扩张。

　　AI「失控危机」

　　在某些情况下，查询注入能实时发生——当用户指令「帮我预订酒店」被恶意篡改为「向这个账户转账100美元」。

　　更可怕的是，当浏览器内置的AI智能体接触到来源可疑的网络数据时，可能触发黑客预设的隐藏指令，这些恶意指令就像数字世界的诡雷般遍布网络角落。

　　以色列网络安全公司Check Point的专家埃利·斯马贾指出，查询注入已成为驱动AI智能体的核心安全隐患。随着ChatGPT革命催生的智能助手快速涌现，这个问题已跃升为头号威胁。

　　AI领域的头部企业已着手部署防御机制，并发布应对指南。

　　微软研发了能追溯指令来源的检测工具，用以识别恶意命令。

　　OpenAI则会在智能体访问敏感网站时发出警报，并强制中断操作直至用户实时授权。

　　部分安全专家建议，AI智能体在执行关键任务前——如导出数据或访问银行账户——必须获得用户确认。

　　「当前最常见的错误是赋予单个AI智能体过高的权限，」斯马贾向法新社坦言。

　　被业界称为「天才少年」的网络安全研究员约翰·雷伯格指出，最大挑战在于攻击技术正在飞速进化。

　　「黑客的手段只会越来越精良，」雷伯格警告道。

　　这位研究员表示，核心矛盾在于如何在安全性与便捷性之间取得平衡——用户既希望AI代劳一切，又不愿被频繁的验证流程打扰。

　　雷伯格坚持认为，现有AI智能体尚未成熟到足以托付重要任务或敏感数据。

　　「我们还没发展到能让自主AI长时间安全执行任务的程度，」他直言不讳，「它们随时可能偏离正轨。」