英国国家网络安全中心(NCSC)警告称，未来两年，恶意使用人工智能几乎肯定会导致网络攻击的数量和影响增加，尤其是勒索软件。
该机构是GCHQ的一部分，在发布的威胁评估中透露了这一消息，人工智能对网络威胁的近期影响。它由机密情报、行业知识、学术材料和开源情报汇编而成，列出了特定事件或事态发展发生的概率。
NCSC声称，人工智能已经被威胁行为者使用，生成式人工智能(GenAI)即服务产品正在地下网络犯罪中开发。这是一个令人担忧的问题，因为它可能使资源不足的威胁行为者发动有效的攻击。
然而，报告指出，与此同时，公开可用的人工智能模型正在推动诸如鱼叉式网络钓鱼等较低复杂性的攻击。报告称，在接下来的两年里，这种能力将继续降低新手网络犯罪分子、黑客活动分子和雇佣黑客的进入门槛，使他们能够初步访问、侦察和改进对受害者的目标定位。
这将增加围绕勒索软件的网络风险，这在过去被NCSC描述为英国最直接的威胁。
NCSC表示，在短期内，由于缺乏训练数据，人工智能用于开发恶意软件/漏洞、研究漏洞和实现横向移动将仅限于更有能力的威胁行为者。
然而，情况不会永远如此。到2025年，对人工智能进行高质量数据培训仍将是其在网络作战中有效使用的关键。自动侦察目标、社会工程和恶意软件的扩展障碍主要都与数据有关。
但到2025年及以后，随着成功渗透的发生，为人工智能提供的数据几乎肯定会得到改善，从而实现更快、更精确的网络行动。
NCSC警告称，这反过来将对网络防御者的网络弹性工作产生重大影响，因为在发布补丁后，漏洞被利用的速度更快，而且更难区分真实电子邮件和欺诈电子邮件。
报告称，唯一的亮点是人工智能也将有助于网络防御。
NCSC首席执行官Lindy Cameron表示:“人工智能在网络攻击中的新兴应用是一种进化，而不是革命性的，这意味着它会增强勒索软件等现有威胁，但不会在短期内改变风险格局。由于国家信息中心尽其所能确保人工智能系统的设计安全，我们敦促组织和个人遵循我们的勒索软件和网络安全卫生建议，加强防御，提高抵御网络攻击的能力。”
