当AI还停留在对话框里，企业关心的是它能不能给出正确的答案。当AI开始接入知识库、调用业务工具、操作企业系统，问题就变了：它是否访问了不该访问的数据？是否执行了不该执行的指令？出了问题，能否及时发现、拦截和追溯？
AI能力的边界在扩大，安全治理的边界也必须跟上。
11 月 3 日，2026 年世界互联网大会“互联网之光”博览会在浙江乌镇举行。网易智企亮相本届大会，首发基于易盾双向架构的 AI 原生安全产品体系，并提出一个判断：安全必须从“管住 AI 说的话”，走向“管住 AI 做的事”。
这一 AI 原生安全产品体系，已获 2026 年世界互联网大会“互联网之光”博览会互联网之光发布厅颁发的“首发成果证书”。
AI 开始“动手”，安全不能只守住模型出口
在精品首发论坛上，网易智企副总经理，易盾业务负责人朱浩齐以《基于双向AI安全架构的 AI 原生安全产品体系》为题发表主题分享。
朱浩齐指出，AI 已深入营销、客服、办公、研发、知识库、身份核验、交易运营等核心业务链路。过去，安全治理主要围绕内容、账号、设备展开；如今，AIGC 内容风险、深度伪造、自动化黑产、模型越狱、敏感数据泄露、Agent 越权执行，正成为新的挑战。传统安全思路是防外部入侵，而 AI 进入业务之后，AI自身也可能成为风险源。
这对企业安全能力提出了新要求：不能只发现问题，还要能理解风险、判断意图、实时处置、审计追踪、持续运营。
针对这一趋势，易盾提出双向AI安全架构，核心是：AI for 安全，安全 for AI。
AI for 安全：用 AI 重新提升安全能力。 借助垂类模型、多 Agent 协同与多模态理解，AI 可以自动分析内容与威胁数据、生成并验证安全策略，安全人员从依赖人工写规则，转为对运行结果做验收确认。朱浩齐在现场说：“要用AI来对抗，要用魔法打败魔法。靠人去对抗AI，是根本对抗不过来的。”
安全 for AI：用安全能力保障 AI 可控运行。 围绕大模型输入输出、身份交互、数据访问、智能体的工具调用与行为执行，建立内容检测、意图识别、权限控制、风险拦截与审计追踪能力，让AI在明确的边界内运行。
两个方向共享同一个底座，即易盾在内容安全、业务风控与安全运营领域的长期积累。在此基础上，易盾构建了覆盖三层的 AI 原生安全产品体系，该体系已作为“首发成果”，获互联网之光发布厅颁发证书：
AI 内容与数据安全： 守护 AI 生成、传播、引用和处理的内容与数据可信，包含 AI 内容审核、AI 内容分析、CMA 审核智能体等。
AI 交互与身份安全： 守护人与 AI、人与业务系统之间的交互可信，包含 AI 业务风控、设备指纹、行为式验证码、DeepGuard 人脸鉴伪等。
AI 模型与智能体安全： 守护模型交互、工具调用与智能任务执行可信，包含大模型安全围栏、智能体安全平台、智能体供应链安全等。
从 AI 生成的内容、AI 接触的数据，到 AI 执行的行为，安全能力被延伸到 AI 应用的多个关键环节。
三项首发：每一项都对着一个真问题
CMA 审核智能体：让海量审核从“人海战术”走向人机协同
面对持续增长的内容审核需求，单靠人工，效率与稳定性很难兼顾。CMA（Content Moderation Agent）以自研内容安全大模型结合多类专项小模型，构建“研判—分流—处置—反馈—优化”的审核闭环，支持 7×24 小时运行与快速横向扩容。
在某客户的投诉工单审核场景中，面对月均 250 万 + 的工单量，采用“ CMA 智能体初审+人工复核”后，平均出审时长由纯人工审核的 35.7 分钟缩短至 12.3 分钟，审核准确率达 99.2%。在短剧审核场景，日审核量 10w+ 分钟数，审核效率提升 70%+ ，审核准确率 99%+ 。
这意味着，机器承担高频、重复、标准化的初审，人工把精力放在复杂语境理解、争议判断和高风险内容处置上。
DeepGuard 人脸鉴伪：伪造越来越真，安全需要更强的“理解力”
AI换脸、屏幕翻拍、打印照片、3D面具、摄像头劫持、视频注入，身份伪造手段不断翻新。传统鉴伪依赖预设特征寻找痕迹，面对没见过的生成方式，泛化能力有限。
DeepGuard 基于视觉理解，从“寻找已知伪造痕迹”走向“理解内容、发现不合理之处”，并融合 Deepfake 检测、AI 水印识别、静默活体与注入攻击环境检测，做多模态联合决策。
该能力通过中国信息通信研究院“可信 AI ”人脸鉴伪能力专项评测，获评“卓越级”，评测覆盖生成式攻击、呈现攻击与注入攻击；阶段性测试中，屏幕翻拍、怼屏攻击召回率达 99% 、精度 96%。
AI 应用与智能体安全：从管住输入输出，到管住工具调用与行为执行
如果说传统大模型内容安全解决的是 AI “说什么”，Agent 安全要解决的则是 AI “做什么”。
易盾通过大模型安全围栏守住输入输出；通过 Agent Guard 覆盖意图一致性校验、权限控制、工具调用风险检测与行为拦截；通过智能体安全平台实现资产发现、Skill/MCP 供应链安全检测与敏感数据防泄露。针对企业普遍存在的“影子 AI ”与资产不可见问题，平台从 AI 资产安全和 AI 运行安全两个维度统一纳管，并提供拦截、复核、告警、脱敏等处置能力，让 AI 资产可见、可管、可追溯。
在能力验证上，易盾获得 UbiComp 2026 可信 AI 国际评测“敏感信息识别与隐私合规”赛道第一名，及东盟 AI 安全攻防大赛AI智能体安全攻防赛优秀奖。
体系怎么搭之外，企业今天应该怎么做
如果说朱浩齐回答了“AI 安全体系应该怎么搭”，那么在红亭安全论坛上，网易智企·易盾内容安全负责人饶晓艳回答的是“企业今天应该怎么做”。
她以《大模型规模化应用中的安全治理实践》为分享主题，从真实业务出发，拆解大模型从试点走向规模化的三个关键问题。
第一，风险在变：从内容、数据到执行行为。 AIGC 内容生产阶段，风险在“量”，治理重点是内容审核、生成标识与传播追溯；知识与业务辅助阶段，风险在“数据”，重点是最小数据权限、知识溯源与人工复核；Agent 任务执行阶段，风险在“动作”，重点是任务级授权、操作确认与执行审计。AI从“说”走向“做”，风险也从“说错话”走向“做错事”。只在模型输出端设一道关，已经不够。
第二，意图要识别：不能只靠关键词。 恶意指令可能伪装成普通问答、角色设定，也可能藏在网页、文件、API、Tool 或 MCP 的返回内容里。安全系统需要同时识别关键词、指令结构与语义意图，分清什么是“任务数据”，什么是“行为指令”。
第三，防护要全链路：让安全进入每一个关键环节。 饶晓艳分享了四项实践：Prompt 注入防护，分别在模型调用前和上下文组装前设防；输入输出分类分级管控，不是一拦了之，而是分级处置，输出则边生成边检测，通过的先上屏，存疑的复审，高风险的撤回并拒答；语料清洗，训练数据进入模型前经过敏感隐私识别、字段级脱敏与语料AI机审三道防线；多模态身份鉴伪，应对复杂的身份伪造场景。
饶晓艳分享道：“整个AI的风险是越来越高的：AI进入业务越来越深，攻击门槛越来越低，攻击速度越来越快。”
让 AI 安全成为智能化升级的基础能力
两场分享，一场聚焦体系架构，一场聚焦企业实践，共同指向一个趋势：AI 安全正从保障模型输出的内容安全，走向覆盖数据、身份、模型与智能体行为的体系化治理。
朱浩齐表示，易盾的发展伴随着国内 AI 产业从单点问答走向规模化应用的全过程。未来，易盾将继续推动安全能力从单点检测走向体系化治理，从产品供给走向场景价值，从项目交付走向规模化复制，从被动防护走向持续运营，助力降低AI应用风险，支撑AI产业高质量发展，创造更大的经济效益与社会效益。
AI 正在获得越来越强的行动能力，安全也必须拥有与之匹配的理解力、判断力和治理能力。正如朱浩齐分享所言：“如果有一天AI技术变成水电煤一样，成为生活中的基础能力，那我也希望易盾的安全能力能融入日常生活，并且最好是无感知的。”当 AI 开始替企业做事，安全不仅要知道 AI 说了什么，更要知道 AI 正在做什么，以及它是否应该这样做。
关于网易智企·易盾
网易智企·易盾是网易智企可信安全底座，成立于2016年，长期专注于数字内容安全、智能风控与AI安全领域，服务超40万开发者与数千家付费客户，是《生成式人工智能服务安全基本要求》国家标准起草单位之一。
恒正网配资提示：文章来自网络，不代表本站观点。
