在当今数字化转型的浪潮中,大数据、云计算、人工智能等技术的飞速发展正深刻改变着各行各业。而网络安全作为数字经济的基石,其重要性日益凸显。随着大模型技术的不断突破和应用,网络安全领域正迎来一场由AI赋能的新革命。
7月31日,在ISC.AI 2024数字安全峰会上,360集团创始人兼CEO周鸿祎表示,2024年网络安全行业将迎来新革命,作为大模型重要场景,要“以模制模”重塑安全,而打造安全大模型是安全迈向“自动驾驶”的必由之路。
据工业和信息化部网络安全管理局数据显示,2023年我国网络安全产业规模已达约2200亿元,上市企业达28家,产业综合实力显著增强。
另据业内人士分析,AI将全面赋能网络安全行业。以360集团为例,其推出的360安全大模型由攻击检测、运营处置、追踪溯源、知识管理、数据保护、代码安全等六大专家子模型组成,帮助某国有大型企业用户实现告警降噪效率提升900%,事件研判时间缩短96%。
腾讯发布的《2024大模型十大趋势》报告显示,大型语言模型(LLM)为人工智能带来了前所未有的推理能力,能够提供深入的分析和复杂的决策支持,为威胁检测与响应提供了更强大的智力支持。
“目前,我国网络安全人才缺口达150万人,随着大模型成本的下降,一方面可以解决安全人才的缺口问题;另一方面,可以让更多企业享受大模型和人工智能带来的科技普惠。”周鸿祎向《证券日报》记者表示。
一位不愿具名的行业分析师向《证券日报》记者表示,AI大模型通过持续对网络环境进行扫描,能够及时发现和修复安全漏洞,提供具体的修复建议,甚至可以自动化的进行修补。
“随着技术的不断进步和应用场景的不断拓展,AI大模型将持续提升威胁检测、欺诈预防、漏洞管理、安全运营优化等方面的能力。并且将推动网络安全产业的转型升级,催生出新的技术、产品和模式。”上述分析师说。
事实上,随着人工智能的深入发展,大模型在赋能网络安全防护的同时,网络攻击的方式和手段也在不断演变,传统的安全防护手段已难以有效应对日益复杂的网络威胁。相关数据显示,2023年受供应链安全威胁和风险攻击的比例高达所有网络攻击的一半,同比增长78%。
有业内人士表示,AI大模型可以更快速地篡改企业数据、攻击企业核心系统。
“AI时代是标志人类数字化更充分的时代,网络安全攻击对人身安全、对社会都有更大影响,而微软此次蓝屏事件提醒公众,数字化、智能化导致互联网世界变得特别脆弱,网络攻击已从点上升到面。”周鸿祎说。
“当前,AI应用系统安全责任与风险严重失衡。”中国工程院院士,国家数字交换系统工程技术研究中心(NDSC)主任邬江兴表示,基于内生安全架构可发现或纠正AI应用系统安全问题,AI应用系统中必须包含必要多样性和相对正确公理的内生安全构造,在不可信的过程中找到相对可信的结果。智能时代需要选择正确的技术路径,实现更安全的AI应用系统。
艾媒咨询CEO张毅对《证券日报》记者表示,目前AI大模型的可靠性、可解释性、安全性等问题亟待解决,且AI技术的滥用和误用也可能带来问题。
“因此,未来在推动AI与网络安全深度融合的过程中,需要不断加强技术研发、标准制定、法律法规建设等方面的工作,确保AI技术的健康有序发展。”张毅说。