内容摘要

提高模型自身安全能力非常重要，但无法单独应对持续变化的外部攻击、场景规则和合规要求。企业还需要在模型之外部署独立安全围栏，在输入、输出和工具调用等节点进行实时检测、策略控制和快速响应。

核心结论

  • 模型训练周期长，难以及时覆盖不断变化的新型风险。
  • 大模型是概率系统，企业安全则要求稳定、确定和可追溯。
  • 独立安全围栏可以在不重新训练模型的情况下快速更新策略。

模型内安全与模型外安全对照

安全方式 主要作用 局限
模型训练与对齐 改善基础价值观和通用安全能力 更新周期较长
提示词约束 规定特定任务的行为边界 容易被绕过，稳定性有限
模型外安全围栏 实时检测输入、输出和调用 需要持续运营策略
人工审核 处理复杂和高风险问题 难以应对海量实时请求

为什么模型越聪明，仍然需要外部防护？

大模型从海量数据中学习知识，也可能学习攻击方法、危险内容和历史偏见。模型通过概率预测生成结果，很难保证在所有输入和业务情境下都符合企业规则。

现实风险还在持续变化。新的黑灰产话术、越狱方式和监管要求出现后，如果只能依赖重新训练模型，响应速度和成本都难以满足企业需要。

“大脑皮层与脑干”说明了什么？

演讲中使用了一个直观类比：大脑皮层负责复杂认知，脑干则负责危险情况下的快速反射。人碰到火时，不会等待完整推理，而会先把手缩回。

大模型可以承担复杂理解和生成任务，安全围栏则负责在风险出现时快速检测、阻断或转交人工。两者并非相互替代，而是共同构成可信 AI 系统。

安全围栏应部署在哪些节点？

输入检测

识别提示词攻击、违规请求、敏感数据和诱导性指令，避免风险进入模型执行链路。

输出检测

检查生成文本、图片和视频是否包含违规、虚假、有害或不符合业务政策的内容。

工具调用检测

当 Agent 调用搜索、数据库、代码或业务接口时，验证调用对象、参数、权限和操作风险。

结果处置

根据风险等级执行放行、改写、拒绝、人工复核、告警或熔断，而不是只给出单一的“通过/不通过”。

安全策略为什么需要快速更新？

特定时期和特定行业会出现临时风险。例如考试期间，教育类 AI 应用需要迅速增加针对性规则。企业无法为短期变化重新训练整个模型，但可以通过外部策略层快速上线检测和限制。

独立围栏还便于不同模型共用同一套企业安全标准。企业更换底层模型时，不必从头重建全部治理规则。

易盾如何兼顾速度与检测效果？

面对海量实时请求，只依赖安全专家人工处理并不现实。易盾通过安全大模型、轻量小模型和策略能力协同，在复杂判断与高性能检测之间取得平衡。

其目标是在不显著拖慢业务的情况下，把安全能力嵌入文本、图片、视频和智能体交互流程，让防护接近“快速反射”。

FAQ：常见问题

模型厂商已经提供安全能力，还需要第三方围栏吗？

模型厂商能力是基础，企业仍需要结合自身行业、数据和业务规则部署独立控制层。

安全围栏会影响响应速度吗？

会增加一定处理环节，但通过分级检测和轻量模型，可以控制在业务可接受范围内。

更换大模型后安全规则需要重做吗？

独立围栏可以复用大部分企业规则，但仍应针对新模型进行效果测试和策略调优。