图片

70年前，人工智能概念首次提出；70年后，人工智能正在迎来前所未有的发展浪潮。

 

7月17日，2026世界人工智能大会暨人工智能全球治理高级别会议在上海顺利开幕。会上国家主席习近平发表题为《携手构建公正合理的全球人工智能治理体系》的主旨讲话，围绕人工智能创新发展、安全可控、全球治理等方向提出重要观点。

 

讲话指出，当前全球人工智能技术创新进入前所未有的活跃期，既蕴含巨大机遇，也面临治理挑战；要高度重视人工智能引发的各类内生和衍生风险，推动构建法律法规、技术监测、风险预警、应急响应体系，确保人工智能始终处于人类控制之下。

 

图片来源于：科技日报

 

这一趋势释放出一个重要信号：人工智能的发展正在从单纯追求技术能力，进入创新与治理并重的新阶段。随着AI从技术探索走向产业应用，安全、可靠、可控不再只是技术发展的附加要求，而正在成为人工智能规模化落地的重要基础。

 

过去，行业关注的是：AI能做什么？而未来，产业需要进一步回答：AI如何安全地做？如何从能力创新走向可信应用？从技术突破走向治理协同？

 

 

AI安全治理进入新阶段

 

人工智能的发展，正在重新定义安全问题的边界。

 

在生成式AI发展的早期阶段，行业关注重点主要集中在模型输出安全，包括生成内容是否准确、是否符合应用规范、是否存在敏感信息泄露等问题。这一阶段，AI安全更多解决的是“模型输出结果是否可信”。

 

但随着大模型能力不断增强，人工智能正在从内容生成工具逐渐演变为具备理解、规划和执行能力的智能系统。尤其随着智能体（Agent）逐步进入企业业务场景，AI开始连接数据、调用工具、执行任务，安全风险也正在从内容层向行为层扩展。

当AI开始参与真实业务流程，企业面对的问题已经不只是“AI生成了什么”，更包括“AI接收了什么信息”、“AI调用了什么资源”、“AI执行的行为是否符合预期”、“整个过程是否能够被追溯”等。

 

这意味着，AI安全正在从“内容治理”走向“智能治理”，安全边界也正在从模型输出扩展至AI运行全过程。

 

  • AI安全正在从模型输出安全走向全链路治理

随着AI应用逐渐深入业务场景，风险已经不再集中于最终输出环节，而是贯穿模型输入、数据处理、推理生成、工具调用和业务执行等多个阶段。

 

例如，在输入阶段，提示词注入、恶意诱导等问题可能影响模型判断；在数据阶段，知识污染、敏感信息泄露等风险可能影响模型可靠性；在应用阶段，智能体调用外部工具、访问业务系统时，也可能产生权限失控和任务偏移等问题。

 

因此，AI安全需要从单点防护走向全生命周期治理，不仅关注最终结果是否安全，更需要关注整个智能系统运行过程是否可控。

 

  • AI安全正在从模型能力提升走向模型之外的安全控制

随着模型能力持续增强，人工智能正在具备更强的理解、推理和执行能力，但能力提升并不意味着风险自然消失。

 

尤其是在智能体时代，AI不再只是完成一次问答，而可能自主拆解任务、调用外部能力并影响真实业务流程。这要求行业重新思考AI安全边界：如何让AI拥有更强能力，同时确保其始终按照预期运行？

 

安全不应只是模型自身能力的一部分，而需要建立独立于模型之外的治理机制，通过明确规则、约束行为和风险控制，让人工智能在释放价值的同时保持安全可控。

 

  • AI治理正在从发现风险走向持续治理

人工智能系统具有持续变化的特点。模型会不断迭代，数据环境持续变化，应用场景不断扩展，新的风险形态也会随之出现。

 

因此，AI安全不能停留在一次性的风险检测和问题处置，而需要形成动态演进的治理体系。

 

从风险发现，到风险评估；从风险处置，到策略优化；从单点防护，到体系化管理，未来企业需要的不只是能够识别问题的安全能力，更需要能够持续感知风险、管理风险、优化风险的长期治理能力。

 

这也是本次大会主旨讲话着重提出构建法律法规、技术监测、风险预警、应急响应体系的重要意义所在，与《全球人工智能治理倡议》持续完善 AI 长效治理的核心思路一脉相承：人工智能越深入产业核心，越需要与其智能水平相匹配的治理能力。

 

从内容安全到智能治理，探索可信AI规模化落地路径

作为2026世界人工智能大会合作伙伴，7月20日，网易智企将大会现场举办“用可信AI构建企业新智生产力”专题论坛，围绕AI从技术创新走向产业实践过程中面临的新挑战，邀请产业专家、技术伙伴共同探讨可信AI发展的未来路径。

 

 

随着人工智能加速进入企业核心业务场景，AI正在从辅助工具逐步演变为连接业务流程、参与决策执行的重要生产力。与此同时，AI应用的复杂性也在不断提升，如何让智能系统在开放环境中保持稳定运行，如何建立与智能水平相匹配的治理机制，正在成为产业规模化应用过程中必须面对的重要课题。

 

论坛期间，将围绕AI安全发展趋势、智能时代治理挑战以及企业可信AI建设方向展开深入交流。随着AI从大模型进一步走向智能体，人工智能正在从“生成内容”迈向“理解任务、调用工具、执行流程”的新阶段，企业需要关注的不仅是AI是否具备完成任务的能力，更需要思考如何定义智能系统的运行边界，如何保障其行为过程可管理、可追溯。

 

面向这一趋势，可信AI的发展需要从单一能力建设走向系统化治理。一方面，安全能力需要从内容防护向智能治理演进，让风险管理覆盖AI应用全过程；另一方面，需要构建与智能水平相匹配的治理体系，通过持续评估、动态优化和长期运营，让AI应用在复杂业务环境中保持稳定性与适应能力。

 

未来，人工智能的发展不仅需要持续突破技术边界，也需要建立与之相适应的治理体系。网易智企·易盾将持续探索可信AI治理实践，与行业共同推动人工智能向更加安全、健康、可持续的方向发展，助力AI技术更好服务产业创新与社会进步。

📍 展览信息

展位地址：上海世博展览馆 H4馆-126

展览时间：2026年7月17日-7月20日

 

图片
 
作为网易旗下一站式企业 AI 应用服务提供商，网易智企倾力打造企业 AI 实战栏目——「AI 实战派」，聚焦 AI 在真实业务中的落地应用，通过实战教学、案例拆解、研讨交流等多元形式，将前沿的 AI 技术转化为真实的业务动能，为企业管理者、业务决策者和一线实践者提供可迁移、可复用的实战方法论与深度洞察。