从情绪智能到安全共生，构建AI硬件下的信任秩序

近期，由AING硬迹主办的2025 AI硬件生态大会在深圳圆满举办。大会以“智联万物·创享未来”为主题，汇聚了来自投资机构、硬件厂商、技术平台与内容生态等核心力量，共同探讨AI与硬件融合的发展趋势与创新方向。

在演讲环节，网易数智AIGC安全产品负责人陈谌带来题为《大模型驱动硬件进化的新起点：情绪价值的创新与新的安全挑战》的分享。他从AI与硬件融合的情绪化趋势出发，深入剖析了AI如何在情绪智能与安全信任之间，找到技术的平衡点。

过去一年，AI硬件行业最热的关键词之一，莫过于“情感陪伴”。从AI玩具到语音助手，从虚拟宠物到互动屏幕，越来越多的设备开始具备“陪伴”和“共情”的能力。

据IDC数据显示，截至2025年，智能玩具市场规模已达到250亿美元，其中AI相关产品占比约三成。而在这些AI产品中，与生成式AI相关的市场规模约为25亿美元。AI正在让传统玩具与互动硬件焕发新的生命力，也成为厂商争相布局的新焦点。

支撑这一趋势的，是AI在“情绪理解”与“情绪生成”能力上的突破。通过语言、表情、语气与情境的协同建模，AI开始学会从更细腻的维度理解用户意图，甚至感知情绪背后的心理状态。例如，在AI世界模型中，用户只需一句话，就能生成具备情感氛围与交互逻辑的沉浸式3D空间；在跨物种交互产品中，诸如Traini狗语翻译器等智能终端，让AI从语义理解延伸到情绪沟通，实现了真正的“听懂”与“回应”。

与此同时，情感陪伴类AI产品的受众也在发生变化。未成年和青少年正在成为这一领域的主要用户群体，他们对智能体的接受度更高，也更容易在长期交互中建立情感依赖。

当AI被赋予更多的情感属性，它所承载的风险与责任也在同步放大。因此，如何守住信任与安全的边界成为了行业必须正视的新命题。

当AI开始“懂人心”，安全与伦理问题也随之而来。

情感陪伴类AI虽然带来了温度与治愈，但其边界同样需要被清晰界定。在海外，曾有青少年长期与AI情感模型对话后出现自伤倾向；在国内，一些青少年在AI平台上因误导性内容陷入情绪依赖或敏感认知偏差。从这些来看，AI在成为“情绪共鸣”新媒介的同时，也可能成为“情绪放大”的风险源。

面对这些挑战，各国监管机构也在加快行动。欧盟《人工智能法案》（AI Act）已将“针对未成年人的情感识别系统”列为高风险AI应用，美国FTC也要求几家大型企业的AI陪伴产品必须披露盈利模式与风险防控方案，以防止用户情绪被利用或误导。

国内在AI治理方面的体系同样日趋完善。监管部门陆续出台《生成式人工智能服务管理暂行办法》、《生成式人工智能服务安全基本要求》等政策文件，为行业确立了合规与安全边界。目前，大模型产品在上线前需完成备案，对涉及政治、意识形态、违法违规内容等“红线问题”实行强制拦截，而在价值观引导、公共事件、历史知识等领域，则要求模型具备准确性与正向引导能力。

值得一提的是，网易易盾深度参与了国标 GB/T 45654—2025《网络安全技术 生成式人工智能服务安全基本要求》的编制工作，在内容治理与风控体系等方面提供了关键技术支持。

“AI陪伴不是让用户逃离现实，而是帮助他们更好地回到现实。”陈谌强调，智能的发展必须以伦理与责任为前提，也意味着AI在理解人类情绪的同时，需要建立起以下几点自我约束机制：

• 纠偏能力：当用户情绪出现负向波动时，系统能进行语义降温与心理安抚；
• 边界意识：在面对敏感话题或价值判断时，主动回避与反问，而非延展误区；
• 可解释性：让用户理解AI为何做出某种回应，从而降低心理依赖风险。

只有当AI在回应人类情绪时具备自我审查和自我管控的能力，才能真正成为被信任的智能伙伴。

安全治理不仅是防御，更是持续创新的前提。面对AI硬件的多样化场景与复杂生态，网易易盾构建了覆盖从云到端的全链路内容安全体系，实现从风险识别到治理闭环的全流程守护。

在端侧层面，易盾具备内容检测、模型修复与日志追溯功能，能够在离线或弱网环境下完成敏感内容识别与风险阻断。系统采用轻量级算法与本地加密机制，在不牺牲响应速度的前提下实现实时防护。

在算法层面，网易易盾基于自研的安全大模型，构建了 “标识识别 + AI生成检测模型” 的双重检测体系，可有效区分AI生成内容与真实内容，识别准确率达到98.5%。多模态识别机制让文本、语音、图像与视频的情绪偏差可被同时检测，从而实现语义、语气与情绪的同步判断。目前，该体系已全面对接即将于2025年11月实施的国标，并在医疗、教育等场景中也提供了成熟的内容风控基线。

在云端层面，网易易盾构建了融合模型审查、语义追踪与安全决策的智能检测网络，能够对大规模AI内容进行分钟级监测与动态修复。通过模型审计与闭环追踪机制，任何生成内容都可被快速定位与溯源，实现从识别、预警到修复的全流程治理。

整个体系的核心目标，不仅是“管控内容”，更是“治理行为”。AI生成不再是“生成即发布”，而需经过从算法到输出的全链路评估。

AI硬件的进化正从性能的比拼，迈向理解与信任的重构。情绪智能的出现，让科技具备了温度，而安全治理，则决定了这份温度能否被信任、被长期延续。

未来，网易易盾将持续以技术创新和内容安全为核心驱动力，完善AI治理体系，助力行业构建更加开放、透明、可信的智能生态，让人工智能的发展回归本源——以安全为基，以信任为桥，让科技更懂人，也更值得被信赖。