仿冒AI智能体层出不穷 潜藏安全风险

近年来，生成式人工智能技术快速迭代，AI智能体凭借自动化、场景化的服务能力，加速融入生产生活方方面面。但与此同时，大量仿冒AI智能体也集中涌现，不仅严重混淆公众认知，更潜藏着多重安全风险。记者在多个主流大模型平台实测发现，在搜索栏输入知名企业、公共服务机构名称，均能检索到大量同名智能体，其中绝大多数没有平台官方认证标识。

记者以“南方电网”为关键词在多个主流大模型平台检索发现，仅单一平台就出现了超80个相关智能体，名称覆盖“电力业务办理”“招聘咨询”“内部培训”等多个高频服务场景。部分仿冒智能体不仅直接使用企业官方Logo作为头像，简介话术也高度模仿官方口吻，伪装性极强，普通用户很难一眼辨别真伪。

南方电网“南网求知”科普辟谣平台编辑马瑷萍：

仿冒智能体发布的不实信息会误导公众，给用户造成一定的损失，我们“南网求知”等官方账号已经发布了风险提醒。在此也提醒大家一定要认准正规渠道，不要轻易相信未经官方认证的AI智能体信息。

记者调查发现，除了能源类央企，政务服务、金融、通信等多个与公众利益密切相关的领域，均出现了大量仿冒智能体。这些仿冒账号借助平台流量入口触达用户，不仅严重侵犯了被仿冒主体的知识产权与品牌权益，更给普通用户埋下了信息泄露、财产损失等多重安全隐患。

仿冒AI智能体藏着哪些不为人知的套路？

AI智能体正快速走进我们的生活，但提供便利的背后也暗藏风险。那么，这些层出不穷的仿冒AI智能体，又藏着哪些不为人知的套路呢？

中国信通院人工智能研究所安全治理部副主任陈文弢：

智能体的仿冒相当于是一些攻击者或恶意人员伪造出了一些智能体或智能体三方的工具或技能，让被诱导的用户去使用，从而窃取用户的个人信息、企业信息。甚至实现一些跳板攻击。

智能体可以分为智能体本体和技能工具两个部分，对应的仿冒行为也主要分为本体仿冒和技能仿冒两类；从仿冒手段上看，可以分为描述仿冒和功能仿冒。描述仿冒通过搭建类似钓鱼网站的伪造界面，或者伪造技能包的名称和描述，诱导用户使用；功能仿冒，则是搭建出具备正常交互能力的智能体或技能工具，但在其中嵌入恶意代码或非法指令。