安全大模型3.0来了,360拳打老对手

2024-03-21 10:16:16   来源:北京商报   评论:0   [收藏]   [评论]
导读:  虽然频繁跨界,但360从未忽视老本行。3月20日,360发布了360安全大模型3 0,可对结果进行纠错和能力增强。2023年8月,360发布安全大模型时强调可交付,此次的3 0版本主打可实现AI实战应用。根据MarketsandMa
  虽然频繁跨界,但360从未忽视老本行。3月20日,360发布了360安全大模型3.0,可对结果进行纠错和能力增强。2023年8月,360发布安全大模型时强调可交付,此次的3.0版本主打可实现AI实战应用。根据MarketsandMarkets的报告,全球网络安全中的AI市场规模预计将从2020年的88亿美元增长到2026年的382亿美元。在国内360、奇安信(36.410, 0.15, 0.41%)、深信服(81.300, 2.82, 3.59%)等头部安全厂商都已发布AI+安全产品,2024年产品全面铺开后,竞争加速已是共识。

  从可交付到实战应用

  “我们参考了人类大脑的运行逻辑”,在介绍360安全大模型3.0时,360首席科学家兼360数字安全集团CTO潘剑锋多次强调。在他看来,当前安全行业主要存在产品协同困难、安全能力不足、运营效率低下、安全专家缺乏等问题。传统安全和现有安全大模型都存在短板,无法很好地解决这些痛点。

  为此,360的解决方案是数据制胜、小切口大纵深、类脑分区协同(CoE)和工具增强(TAG)。在解释类脑区分时,潘剑锋花的时间最多,简单来说,是基于数据、知识、算力,训练出不同能力的分区,“对应语言中枢,实现像语言翻译、文本摘要、意图识别等能力;规划中枢实现程序生成、方案规划、目标拆解能力,可应用在很多复杂的任务当中;判别中枢实现信息抽取、逻辑推理、是非判断、研判检测能力;道德中枢围绕内容安全,实现情感分析、道德法律能力;记忆中枢可以提供相应的记忆信息”。

  基于类脑分区协同设计的安全大模型框架,可以解决任务冲突问题,达到多任务最优性能,且实现能力突破。在上述框架下,360以安全大模型为“大脑”,构建智能体框架,通过任务编排、指令调度、记忆存储等能力,调用安全知识、工具,模仿人类“慢思考”的过程,对安全大模型的结果进行纠错和能力增强。

  值得注意的是,360安全大模型强调的重点变了,从2023年刚发布时的可交付,变成目前的可实现AI实战应用。可以这样理解:1.0版本提供安全问答、安全副驾驶等功能,引入智控系统来对接外部的安全产品及安全工具,2.0阶段改进了安全智能体,对智能化、自动化方向的探索,3.0版本强调战法及能力体系。

  具体到实战,潘剑锋把360安全大模型的工作步骤拆解成八步,威胁猎杀/威胁狩猎、安全大模型猎杀任务的生成、规划编排、逆向追踪溯源、智能体正向梳理还原攻击链、APT画像、输出结果的内容检测、记忆中枢记忆工作过程。

  中国信息协会常务理事朱克力告诉北京商报记者,“这种演进是理论到实践的深化过程,3.0版本要求安全团队更好地与AI系统协同工作”。

  以运营为切入口

  新技术带来新挑战,新挑战催生新战法,这本就是矛和盾的关系。谈到AI时代网络安全的切入口,“传统安全的本质还是一种系统集成的思维(卖货思维),它忽视了正常的企业安全运营,喜欢给客户堆砌很多产品。实践证明,如果没有真正的运营,这些产品也不可能自动地抵御各种高精尖的外来攻击”,360数字安全集团副总裁张锦章表示。

  强调运营的不只张锦章。根据赛迪顾问发布的《中国安全大模型技术与应用研究报告(2023)》,国内安全厂商在积极探索大语言模型在安全领域的应用。目前,落地场景以安全运营为主,一类是由安全大模型扮演“安全运营专家”的角色,结合安全知识库,形成Copilot助手类产品。另一类是利用安全大模型提升安全检测及防御工作效率,涵盖入侵检测、恶意软件检测、漏洞扫描、暴露面监测等安全任务。

  据不完全统计,目前发布安全大模型或相关产品的企业包括奇安信、安恒科技等。

  其中,奇安信于2023年8月推出了基于奇安信大模型的Q-GPT安全机器人(12.350, -0.04, -0.32%)和大模型卫士,该机器人相当于“虚拟安全专家”,大模型卫士集安全风险发现、大模型访问控制、数据泄露管控、违法违规行为溯源、大模型应用分析等为一体。安恒科技的安全垂域大模型“恒脑”于2023年8月发布,主要应用于产品优化和安全服务效能的提升,以及网络安全科普、教学等场景。

  在顶象技术业务安全专家田际云看来,国内网络安全产品同质化比较严重,属于红海市场,但两个方向是未来的重点,“一是和数字业务贴近的安全,比如数字业务安全、AI安全,二是安全运维,因为威胁是动态的,风险是不断更迭的,安全也需要动态保持更新”。基于上述观点,田际云认为,国内安全大模型跟安全情报、漏洞挖掘、模拟攻击或安全攻击测试、安全客服结合比较契合。

  在解释为什么安全运营是AI+安全的结合点时,华金证券相关报告称,安全运营是安全行业自动化程度最低的领域:在一个网络安全系统的各个组成中,防火墙、端点安全等单点的安全产品已经具备了较高的自动化水平,而安全运营本是自动化程度最低的一环。报告指出,2023年处于大模型+安全产品测试与市场推广的初期,预计2024年产品将全面铺开。

分享到:
责任编辑:zsz

网友评论