admin 所有版权归中国经济网所有。
中国经济网新媒体矩阵
网络广播视听节目许可证（0107190）（京ICP040090）
2025年11月8日，在世界互联网大会乌镇峰会上，360数字安全集团正式发布《大模型安全白皮书》（以下简称“白皮书”）。本文首次系统描述了大规模模型运行时的五大风险，并建设性地捍卫了外部构建“基于模型”的动态屏障、内部构建“平台原生”安全基础的核心理念。它基于实战，提供可实施的安全解决方案。有助于构建大规模模型应用的全链路安全防线，推动人工智能产业朝着“安全、友好、可靠、可控”方向不断发展。五个关键风险：大模型安全是多维度的问题日益复杂，挑战呈指数级增长。随着大规模模型技术加速渗透到政府、金融、能源、医药等各大行业，有一个不容忽视的现实：人工智能越智能，安全风险就越致命。白皮书从2025年国内外发生的典型大规模模型安全事件入手，系统总结了威胁大规模模型安全的五大风险。一是基础设施安全风险，如设备控制、供应链漏洞、拒绝服务攻击、计算资源利用等。二是违反核心价值、虚假非法内容、大规模模型假象、即时注入攻击等安全风险。 ETC ;第三类是基于数据和洞察的安全风险，其中数据泄露、未经授权的访问、隐私侵犯和知识产权问题成为日益突出。第四类是智能代理的安全风险。智能机器学习 随着代理变得更加自主，调用插件、调度计算能力和传输数据等安全边界变得越来越模糊。最后，还有用户侧的安全风险，如权限控制、API调用监控、恶意脚本执行、MCP执行安全等。这些风险相互交织，形成传统安全解决方案难以应对的复杂威胁矩阵，严重威胁个人权利、企业发展乃至国家安全。筑牢防线：“插件安全+平台原生安全”双轨安全体系面对上述复杂挑战，白皮书结合实践经验提出“插件安全+平台原生安全”双轨治理策略。一是作为AI“外保镖”，灵活应对实时响应风险。后者就像人工智能的“内置装甲”，从零开始构建坚实的安全基础，两者共同构成全联动的防护网络。插件安全侧重于模型的外部保护，“以模型控制模型”，实现对计算主机、软件生态、输入输出内容、模型幻象的监控和主动防御。这种方法有两个主要优点。首先，适应性强，实施成本低，可以作为通用组件快速接入不同的业务环境，避免重复开发。其次，响应速度快，具有独立的监控和拦截机制，可以在毫秒级实时识别和拦截异常算力消耗或恶意内容等威胁。平台原生安全聚焦于大规模模型数据、知识库、代理和客户端，将安全能力嵌入到核心组件中nts 并加强支持组件的安全性和所有流程的合规性控制。 360企业级知识提供的座席数据库、座席构建/运营平台、座席客户端等产品就是基于这一理念开发的。安全深度融入平台最底层，充分满足国家和行业合规要求，为代理应用提供全链路保障。简单来说，可插拔安全就像是施工后安装的防盗系统，而平台原生安全就像是施工过程中内置的防火结构。它们共同为大型模型从外到内打造了一道安全防线。通过该系统，360提供主动检测和动态演进的安全检测能力，有效应对大型、复杂和变化的安全威胁模型。纵深防御：保护大型防盗门的 7 个关键功能。 360提供基于大规模模型安全核心理念：外部风险防范、内部加固架构的大规模模型安全综合解决方案。该解决方案利用七大核心产品能力，形成了既“可扩展”又“平台原生”的完整防御系统。其中，“附加”安全功能可以通过外部工具实现快速、灵活的动态保护，而不会违反大规模模型的原生架构。该体系下，大模型卫士算力主机安全系统、检测系统、防护系统、幻觉检测缓解系统四大重点产品共同构筑外部屏障，重点解决算力劫持、供应链中毒等大规模模型基础设施风险，以及即时文字注入、模型幻觉、非法内容等大规模模型内容风险，保护算力层内容。实时层层监控和主动防护。 “平台原生安全”为大规模模型应用注入了“安全基因”，就像在组件深处构建了保护。这一理念体现在三个主要平台产品中。企业级知识库为您的数据和知识提供关键的安全性。我们的代理创建和运营平台可确保您完全控制代理行为。然后，代理客户端创建针对用户输入的安全防线。三者共同从底层架构解决数据泄露、代理行为失控、设备利用等内生安全挑战，为人工智能应用稳定可靠运行奠定内生基础。如今，据报道，360 正在将这一能力部署到多个行业，包括政府、金融和制造，将真正大规模模型的安全性从“理论转变为实际解决方案”。可以实施和使用的系统”。未来，360将与产学研合作，共同推动安全标准建设和技术共享，合作构建安全可信的AI生态系统。用人工智能让世界更安全、更美好。