■ 中国工业报记者 张 楠
   在科技的浪潮中，人工智能 （AI）正以“疯狂”的速度 “席卷而来”，带给我们生活便捷的同时，也对数据安全造成了威胁。当今，AI技术的恶意使用呈现出惊人的增长，给个人、企业乃至国家安全带来了严峻挑战。
   2月29日，奇安信对外发布的 《2024人工智能安全报告》（以下简称 《报告》）显示，2023年，基于AI的深度伪造欺诈暴增3000%，基于AI的钓鱼邮件增长1000%；已有多个有国家背景的APT组织利用AI实施了十余起网络攻击事件。
AI潜在风险亟待重视
   被视为第四次科技浪潮的核心技术的AI，正带来巨大潜在威胁与风险。
   《报告》研究发现，人工智能技术的恶意使用快速增长，在政治安全、网络安全、物理安全和军事安全等方面构成严重威胁。
   考虑到网络空间固有的脆弱性及网络攻击所造成的威胁的不对称性，网络威胁日益受到关注。威胁包括网络钓鱼、中间人、勒索软件和DDoS攻击及网站篡改。此外，人们越来越担心恶意行为者滥用信息和通信技术。威胁行为者可以利用人工智能系统来提高传统网络攻击的效力和有效性，或者通过侵犯信息的机密性或攻击其完整性、可用性来损害信息的安全。
   再比如物理威胁，过去十年中，网络技术让日常生活日益互联，这主要体现在物联网 （loT）的出现。在这个互联的世界中，无人机已经开始送货，自动驾驶汽车也已经上路，医疗设备也越来越多地采用了AI技术，智能城市或家庭环境中的互连性及日益自主的设备和机器人极大地扩大了攻击面。所有智能设备使用了大量的传感器，AI相关的技术负责信息的解析，并在此基础上通过AI形成自动操作决策。一旦AI系统的数据分析和决策过程受到恶意影响和干扰，则会对通常为操作对象的物理实体造成巨大的威胁，从工控系统的失控到人身伤害都已经有了现实案例。
   《报告》深入研究了基于AI的深度伪造（Deepfake）、黑产大语言模型基础设施、恶意软件、钓鱼邮件、虚假内容和活动生成、硬件传感器安全等12种重要威胁，对其技术原理、危害情况、真实案例等进行了深入的剖析，旨在让业界更全面的认识到AI普及带来的两大主要挑战：一方面放大了现有威胁，比如钓鱼邮件、恶意软件等；另一方面是引入了新型威胁，如AI深度伪造等。
   《报告》认为，AI与大语言模型本身伴随着安全风险，业内对潜在影响的研究与重视程度仍远远不足。全球知名应用安全组织OWASP发布大模型应用的十大安全风险，包括提示注入、数据泄漏、沙箱不足和未经授权的代码执行等，亟需业内的高度重视和积极应对。
   从安全行业、监管机构、政企机构、网络用户等群体角度，《报告》给出了应对AI威胁的建议。其中安全行业需继续发挥能力优势，确保人工智能本身的安全性，并积极利用人工智能用于安全防护；监管机构需要对AI的潜在风险与影响保持持续关注，在制度和法规上及时提供支持；政企机构需及时部署AI安全框架和解决方案，以及AI安全评估服务和检测工具，还要依托AI推动安全升级；网络用户在尝试最新AI应用的同时，同样需要更新安全知识，形成良好的安全习惯。
   奇安信安全专家认为，AI技术将会推动安全领域发生范式变革，全行业需启动人工智能网络防御推进计划，包括利用防御人工智能对抗恶意人工智能，以扭转 “防御者困境”。
探索 “AI+安全”创新应用
   对于一个影响深远的新技术出现，人们一般倾向于在短期高估它的作用，而又长期低估其影响。AI，正是这样一类技术。
   在奇安信集团董事长齐向东看来，人工智能是新一轮科技革命和产业变革的核心技术，将为推进中国式现代化注入强大的动力，也将深刻改变国家的安全格局。人工智能大幅降低了网络攻击门槛，“AI写代码可以让不懂网络技术的人变成黑客，让低水平的黑客变成高级黑客。”
   齐向东建议，大力探索 “AI+安全”创新应用，抢占国家安全的人工智能战略制高点，提高我国应对网络空间安全风险与不确定性的能力，护航中国式现代化行稳致远。研发的关键路径是联合创新，要围绕攻防实战和应用场景实现 “AI+安全”尖端技术研发突破。他建议鼓励各行业头部企业与专业安全厂商以及院校、科研机构结成创新联合体，在关键行业选取典型场景开展联合创新，在实战中推动 “AI+安全”进入越用越强的良性循环。
   与此同时，强化政策牵引，推动 “AI+安全”技术创新产品研发突破和落地应用。例如，设置专项基金，对研发创新 “AI+安全”产品的企业，给予政府基金、贴息贷款或科研项目等支持；对率先取得技术突破、实现成果转化的科研机构和企业给予奖励；对积极使用相关技术、产品和服务的企业给予补贴。
   人才方面，应壮大 “AI+安全”领域的实战型、复合型人才队伍。齐向东表示，随着AI技术的普及和应用领域不断扩展，我国AI人才严重短缺。工信部数据显示，人工智能不同技术方向岗位的人才供需比均低于0.4，其中智能语音和计算机视觉岗位人才供需比分别为0.08、0.09，相关人才极度稀缺。建议充分发挥民营企业在人才培养上的优势，鼓励成立校企共同体，在实践中培养更多大数据、人工智能、网络安全等新兴产业的领军人才。