微软与OpenAI联合揭示，黑客正利用ChatGPT等大型语言模型（LLM）来优化和升级他们的网络攻击手段。在一项新发布的研究中，两家公司发现，由俄罗斯、朝鲜、伊朗和中国支持的组织正尝试使用这些人工智能（AI）工具来研究目标、改进脚本，并构建更为强大的网络攻击技术。
AI助力网络攻击升级
据外媒报道，与普遍担忧的不同，这些国家并非直接利用AI生成攻击，而是通过AI来完善其现有的攻击技术。这包括起草电子邮件、翻译文件以及调整程序代码等。微软和OpenAI在声明中指出：“网络犯罪组织、国家威胁行为者以及其他对手正在探索并测试不同的AI技术，试图挖掘其潜在价值，并了解可能需要规避的安全控制措施。”
俄罗斯的动向
与俄罗斯军事情报部门有关联的黑客组织“奇幻熊”（STRONTIUM）被发现利用LLM“研究卫星通信协议、雷达成像技术以及具体技术参数”。微软表示，该团队还一直在使用LLM来自动化或优化技术操作，包括完成“基本脚本任务，如文件操作、数据筛选、正则表达式处理和并行处理”。
朝鲜、伊朗、中国的活动
此外，一个名为“Thallium”的朝鲜黑客组织一直在利用LLM研究公开报告的漏洞和目标组织，并为网络钓鱼活动起草内容。名为“Curium”的伊朗组织则使用LLM生成网络钓鱼电子邮件，以及编写能够逃避防病毒软件检测的代码。而中国的黑客也利用LLM进行研究、编写脚本、翻译，并改进现有工具。
AI网络攻击的未来趋势
尽管目前AI在网络攻击中的应用仍受到限制，但微软对AI未来的潜在用例，如语音模仿，发出了警告。微软表示：“AI驱动的欺诈是另一个关键问题，语音合成就是一个例子。仅需要三秒的语音样本就可以训练模型，使其产生听起来像任何人的声音，即使是像语音信箱问候语这样无害的内容也可能被用来获取足够的样本。”
微软的应对措施
针对这一威胁，微软计划利用AI来应对攻击。微软首席检测分析经理Homa Hayatyfar表示：“AI可以帮助攻击者提高攻击的复杂性，并且他们有资源来发动攻击，但我们也使用AI来保护、检测和响应。”为了识别漏洞、更好地理解网络安全工具每天产生的大量信号和数据，微软正在开发一款专为网络安全专业人员设计的新AI助手“Security Copilot”。