360曝AI首战成绩单 “安全智能体(AI Agent)1分钟秒杀APT”刷屏

昨日,《AI首战!360安全智能体(AI Agent)首秀:1分钟内自动捕获APT组织》相关话题和文章在网络安全圈内被刷屏,老周2023年一直对外强调的360的AI能力交出了第一份轰动行业的“战绩”。

这份成绩单到底有多少含金量?让我们细细说来。
2022年,ChatGPT的发布引领了大模型应用突破;2023年,“百模大战”开启了AIGC元年。

作为大模型落地场景之一,安全行业垂直大模型发展迅速,与此同时,安全大模型的能力边界逐渐显现,“像专家一样运营安全”成为行业对安全大模型的新期待。由此,Agent智能体进入大众视野,在基于大模型的AI Agent赋能下,安全行业迎来了智能主义时代。

一、安全大模型发展步入深水区

2023年被称为AIGC元年,大模型浪潮席卷全球,B端产业垂直大模型逐渐成为主战场。据IDC调查显示,网络安全是生成式人工智能影响最大的行业之一,国内外安全厂商积极探索大模型应用,安全大模型百花齐放。然而,经过一段时间的发展,安全大模型的能力边界逐渐显现。在功能方面,仅有安全问答、告警解读等单一功能的安全大模型难以解决用户痛点;在认知方面,缺乏海量安全语料库训练的大模型存在知识瓶颈,安全专业能力差强人意;在成本方面,安全大模型训练微调和部署的资源消耗依然较大,中小企业难以承担高昂的投入。

基于此,安全大模型的推广落地亟需优化升级,Agent智能体进入人们视野。基于大模型的AI Agent展现出自主思考决策和执行安全工具的能力,有望从根本上解决用户痛点问题,由此步入智能主义时代。

二、让大模型像人一样工作,AI Agent开启智能化安全服务新范式2.1 AI Agent:更独立、更智能的AI应用Agent智能体是一种能够感知环境、进行决策和执行动作的智能实体。

大模型时代的到来加速了AI技术的平民化,也为Agent的突破带来契机,Agent跨入基于大模型的智能体阶段。目前,大部分AI与人类的交互模式,已从工具型AI发展至助理式AI,各类AI副驾不再是机械地完成人类指令,而是可以参与人类工作流,与人类协同工作。而基于大模型的AI Agent则更加独立,可以在一定业务场景中自主调用资源完成任务,人类在其中更多起到监督和评估作用,尽管AI Agent会承担大部分工作量,但人类仍然发挥主导作用。

相较于大模型回答效果与用户指令的强相关,AI Agent只需给定一个目标,即可针对目标独立思考、获取知识、自主研判并做出行动,它会根据给定任务详细拆解计划步骤,并依靠来自外界反馈和专家引导,通过自主思考,自己给自己创建指令,来实现目标。2.2 安全Agent:自动化运营核心驱动力智能体可以拆分为大模型、规划、记忆与工具使用四个组件部分。大模型是能够理解任务并进行决策的“大脑”;规划模块则负责分解任务、制定行动计划,以及检查、监督和改进计划;记忆模块负责存储上下文信息、专家知识、用户干预信息等,确保任务执行过程中前后目标一致;工具使用模块则是智能体的“双手”,能利用外部资源或工具执行任务。随着大模型展现出上下文学习、推理和思考链等多种类似于人类思考方式的能力,以安全大模型为核心的安全智能体,使解决垂直领域复杂问题、实现自然语言交互任务成为可能。安全智能体综合利用大模型的生成能力和专家的经验,灵活自适应地编排任务方案,实现对安全工具的调用,从而形成智能化运营的能力。相较于简单的AI工具,AI智能体具有更广泛的应用、更灵活的交互以及更强大的能力,使其更全面的满足用户需求并适应不断变化的环境,帮助用户从日常任务和重复劳动中解放出来。同时,通过训练的安全垂直类的智能体可以实现低成本规模化复制,其独立分析、计划和解决问题的优势,进一步降低技术门槛,真正帮助用户提升安全能力、提高运营效率。2.3智能化安全服务开启数字安全新范式在基于智能体的智能系统中,人类负责设定目标、提供资源和监督结果;智能体负责完成任务拆分、工具选择和进度控制,智能体和各类工具的调用组合,可以实现场景自动化能力。在安全领域,安全智能体+安全工具的组合形成基于智能体的自动化安全运营服务,正式开启“智能主义”的数字安全新范式。其中,安全智能体负责规划分解、任务执行、工具调用、记忆增强等工作;安全工具负责漏洞扫描、样本检测、流量分析等具体功能的实现。两者构成了一个有机的整体,随着智能体水平的不断提升和安全工具的持续扩充,整个系统的安全能力不断提高。

对于安全智能体来说,大量高质量的安全数据、样本、特征等数据语料喂养的安全大模型是智能体产出正确安全知识的基础,基于大模型,智能体对任务进行分解和规划,并通过反思和自省不断优化提升;其次,拥有广泛实战对抗能力的专家对智能体的干预和引导,则帮助智能体优化编排剧本,持续提升处置能力;第三,将实战经验沉淀的丰富的技战术知识图谱与大模型相结合,可以帮助智能体确保解决已知安全问题的精度;最后,智能体与大模型最大区别在于能够使用外部工具拓展模型能力,所以,丰富优质的安全工具是帮助智能体体系化解决复杂安全问题的关键。

三、未来已来,360安全智能体推进安全跨时代

3.1 从安全大模型到安全智能体的跃进

2023年6月,360发布认知型通用大模型360智脑4.0,并宣布360智脑已接入360旗下产品全家桶;8月,360发布国内首个可交付的安全行业大模型——360安全大模型。2024年,《仅需一分钟,360安全智能体完成了智能化APT猎杀》使360安全智能体进入大众视野:某金融单位疑似遭到APT组织攻击,几乎同一时间,安全运营人员就收到了来自360安全智能体的告警信息和包含攻击溯源、受害资产等内容的完整分析报告。

360安全智能体,是基于360安全智脑大模型的智能体系统,能提供目标理解、逻辑推理、效果评估和知识记忆等能力,支持连接、配置、驱动、协同各类安全工具产品,显著提升单个产品和系统整体的安全能力。至此,360率先完成从安全大模型到安全智能体的跃进。

3.2 360安全智能体:引领智能化安全服务

360安全智能体以360安全智脑大模型为核心,以任务编排引擎、任务生成引擎、监督评测引擎、指令调度引擎、记忆存储、执行反馈等为组件,综合利用360安全智脑大模型的生成能力和专家经验,灵活自适应地编排任务方案,实现对安全工具的准确调用,从而形成智能化安全运营的能力。

提及影响安全智能体的“数据、专家、工具”三大要素,360已沉淀多年,久经市场考验。展开来说:首先,360积累了全球规模最大的安全大数据、最广泛的样本、最丰富的威胁行为特征,并将这些数据、样本、特征训练到大模型中,使得360安全智能体具有先天的安全基因优势;

其次,360安全专家拥有近20年攻防实战经验,沉淀形成攻防技战术图谱,一方面内化为安全大模型的能力,另一方面储存至安全智能体记忆模块,持续增强安全智能体编排能力;最后,基于360深耕安全垂类场景,360安全智能体可以适配、控制、协作各类型安全工具,体系化地解决复杂安全运营问题。

3.3 小切口、大纵深,安全智能体稳步向前

大模型步入深水区,安全智能体的发展道阻且长。为此,360立足“小切口、大纵深”方法论,以“安全场景适用度”为指标依据,构造适合大模型特性的高价值安全场景,推进安全智能体的落地应用。目前,360安全智能体已经突破了自动化威胁狩猎、自动化安全运营等场景的各难点步骤,实现了场景自动化。运营人员负责设定目标、提供资源和监督结果,安全智能体完成任务拆分、工具选择和进度控制等,把执行结果返回给运营人员,安全技术门槛进一步降低,真正实现安全能力的提升和运营效率的提高。

360指出:“人工智能发展路上,智能体崭露头角。360安全智能体推进安全跨进智能时代,360探索数字安全的脚步从未停止,时间将是最好的答案。”(2024.1.26数说安全发布)

发表回复