“人工智能算法模型存在‘三不可’的基因缺陷，即不可解释性、不可判识性以及不可推论性。”11月1日，2024绿盟科技TechWorld智慧安全大会在京召开，中国工程院院士邬江兴在会上表示，AI赋能技术有着极其丰富的应用空间，也带来了前所未有的安全挑战。
“人工智能已经成为网络空间安全发展的关键变量。”中国科学院院士冯登国也表示，人工智能技术已经从较为单一的算法发展阶段跨越到了软件、硬件与应用场景相结合的全方位、一体化的发展阶段，应对网络空间安全形势变化，需要更坚实、富有弹性的网络空间安全保障体系。
人工智能广泛应用会带来哪些安全隐患？如何应对人工智能带来的安全挑战？大会设置1场主论坛和2场专题论坛，院士专家、行业大咖围绕网络安全前沿科技、数智赋能发展路径展开研讨。
AI算法持续更迭带来新的安全挑战
“在一些情况下，大模型生成的文本虽在语义或句法层面看起来合乎逻辑，但实际内容可能是错误的或无意义的。这类‘幻觉问题’是所有大模型共同的固有问题，”冯登国表示，大模型的“幻觉”缺陷导致大量错误信息涌现也是大模型带来的主要安全风险之一。
此外，针对关键信息基础设施的网络攻击变得更加自动化和智能化；AI算法的更新迭代也使得传统安全分析技术无法适应人工智能领域出现的新算法和新模型。
与此同时，数据作为数字经济时代的关键新兴生产要素，保障数据安全已成为事关国家安全与经济社会发展的重大问题。国家工业信息安全发展研究中心首席专家、数据安全所所长李俊表示，工业企业数字化、网络化、智能化加速推进，也使得工业数据载体漏洞和后门、非受控运维等数据安全风险日益突出。在此形势下，行业主管部门已构建工信领域数据安全“1+5”政策体系，加快数据安全监管技术能力建设与实践落地。
加强人工智能在安全领域的应用
AI的应用具有双面性，既会带来新品种“漏洞”，也可用于应对安全挑战。AI系统在安全保障方面的应用已经得到了广泛认可。许多专家和院士在讨论中提到，AI在安全领域的支撑作用日益增强。
“人工智能可以自动化许多网络安全任务，如威胁检测、事件响应和漏洞分析。这种自动化不仅提高了工作效率，还减少了人为错误的可能性，使得网络安全团队能够更有效地应对大量的安全告警。”绿盟科技天枢实验室主任研究员顾杜娟博士表示，AI还可以帮助识别新型攻击手段和策略，尤其是利用机器学习和深度学习技术来检测和应对复杂的网络攻击。绿盟科技通过AI创新推出了一系列创新成果和方案，如风云卫AI安全能力平台集成了机器学习研究经验、攻防知识、威胁情报积累、实战化专家能力等要素可进一步助力网络安全实现智能化。
“AI赋能网络空间安全，为安全工作提供新工具、新源泉。”冯登国指出，针对AI赋能攻击技术、恶意代码生成、僵尸网络攻击等新形势新挑战，AI赋能防御技术可大幅提升防御的能力和水平，也可有效提高威胁检测与响应能力。
（图片由大会主办方提供）
电信与信息服务业务经营许可证060344号主办单位：《中国高新技术产业导报》社有限责任公司