360发布大模型安全方案,引领产业新革命安全护航|TodayAI

人工智能新闻4个月前更新 TodayAI
1,354 0 0
PonderAI-智能助手

360发布大模型安全方案,引领产业新革命安全护航|TodayAI

在数字化的浪潮之下,大模型技术作为新一代的生产力核心,正驱动着工业革命的新浪潮。随着其应用范围的不断扩大,伴随而来的安全问题也变得日益严峻,迫切需要有效的安全保护措施和体系化的安全框架来保障其安全运行。

2024年3月20日,360数字安全集团在其大模型3.0版本发布会上,推出了一套全新的大模型安全防护解决方案。此方案不仅展现了360在大模型安全领域的先进实践和理论创新,还包括了一整套系统化的安全框架和核心技术。

面对大模型带来的全新安全挑战,360提出了需要采取全新战略来应对。这些挑战不仅包括传统的网络和数据安全问题,还包括由大模型特性引起的内容可信性、模型失控以及合规性等问题。360数字安全集团副总裁李博指出,要深入理解和解决这些由大模型特性引起的安全问题,需要从大模型本身出发,构建原生的安全机制。

为了实现大模型的安全,360首先提出了四大安全原则:可靠、可信、向善和可控,并据此提出了一套核心战略。这包括建立一个双轮驱动的体系,既注重网络与数据的安全,也强调大模型内容的安全;在大模型内部嵌入安全机制,采用小模型技术来保障大模型的安全;同时,还要建立一个大模型安全实战评估体系,以及以服务运营为核心的持续治理体系。

360还提出了一个全面的大模型安全能力框架(AISF框架),旨在提供一套完整的解决方案来保护大模型的安全。这个框架分为两大部分:一部分是传统的网络与数据安全能力,另一部分是嵌入到大模型内部的原生安全能力。通过这套框架,360希望能为有需求的行业客户和合作伙伴提供标准化的安全产品和服务,最大限度地发挥360大模型安全成果的价值。

360的大模型安全解决方案已经在多个行业中得到了实际应用,不仅获得了政府机构的认可,也为这些行业的数字化转型提供了强有力的安全保障。随着数字化时代的深入发展,大模型技术的安全将变得越来越重要。360的这一系列安全解决方案的成功实践,不仅为行业树立了安全建设的典范,也为整个行业的安全发展指明了方向。未来,360将继续在大模型安全领域发挥领导作用,为构建一个更加安全可靠的数字化世界贡献力量。

© 版权声明

相关文章