封面新闻记者 张越熙

跟着AI从实质生成迈向自主实施，安全问题正从模子输出膨大到活动驱散、权限管制和系统处治。智能体开动自主调用器具、运行代码、见地任务，模子也逐步具备意会图像、文本等多模态信息的智力，AI系统的智力鸿沟不停拓展，也带来了新的安全挑战。

7月13日，蚂蚁AI安全现实室布告开源智能体安全护栏SingGuard-NSFA，并同步败露多模态安全护栏SingGuard的详备信息。两款模子分袂面向“自主实施的智能体”和“多模态交互的大模子”两大场景。

夙昔一年，教唆词注入、权限阔绰、坏心代码实施、数据长远等安全事件捏续出现。从Amazon Q教唆词投毒、Microsoft Copilot数据长远，到开源智能体OpenClaw暴流露的教唆词注入风险，王人表理智能体自主性越强，安全风险的放大效应越彰着。

2025年12月，OWASP发布《智能体欺骗安全十大风险》，系统梳寡言能体私有安全胁迫；2026年5月，国度网信办、国度发展改进委、工业和信息化部酌量印发《智能体表率欺骗与改进发展实施意见》，初次从国度层濒临智能体安全处治提议明确条款。

在这一配景下，这次开源的两款安全模子，旨在为大模子和智能体提供愈加完善的底层安全智力。跟着智能体从“回报问题”逐步走向“自主处事”，AI开动调用器具、实施代码、编排多步任务，安全风险依然不仅停留在实质层面，而更多体当今活动层面。教唆词注入、明锐信息窃取、坏心代码实施、资源消耗、权限阔绰等问题，传统实质审核体系难以灵验遮蔽。

针对这一痛点，SingGuard-NSFA，在智能体实施算作之前完成及时安全检测，从肯求阻挠和反映兜底两头构建活动安全驻防体系。

SingGuard-NSFA基于CIA（守秘性、竣工性、可用性）原则，勾通OWASP等国外安全指南，将智能体风险细分为7大类、28个中类和185个具体场景，并种植遮蔽133种话语、近10万条样本的智能体安全评测体系。

在技能完毕上，SingGuard-NSFA兼顾了安全审计和及时驻防两种需求。它提供两种使命形状：一种形状不错逐条生成详备的风险分析论说，便捷过后审查和合规纪录；另一种形状则能在50毫秒控制完成单次风险判定，适合线上高并发场景下的及时阻挠。并提供0.8B、2B、4B、9B四种模子鸿沟，自高不同部署需求。

与智能体操作安全并行的另一条防地，是多模态交互场景下的实质安全。本年6月，Anthropic发布旗舰模子Claude Fable 5，数日内即被计议者用Unicode字符和西里尔字母替换明锐词绕过了安全护栏——模子能复原愉快，分类器却视其为生疏拼写，系统教唆词因此被套出。这标明，模子越能读懂变形翰墨、图片和跨模态信息，传统要道词识别式的护栏就越力不从心。

SingGuard恰是为此打算的多模态安全护栏。它面向文本、图片及跨模态实质种植调和安全判断框架，可识别报复者将坏心算作荫藏在翰墨、图片等不同模态中的复杂报复。同期援助运行时动态加载当然话语安全规定，无需从头锤真金不怕火模子即可完陋习定更新，更适用于规定捏续演进、业务流量较大的分娩环境。

中国信通院东说念主工智能计议所安全处治部副主任呼娜英示意，跟着大模子从实质生成迈向自主实施九游会J9，AI安全正从实质审核延迟至活动管控和系统处治，成为智能体鸿沟化欺骗的伏击基础智力。