新的美国国家安全局网络安全信息表针对人工智能系统安全

美国国家安全局（NSA）公布了一套全面的指南，旨在加强组织内部人工智能（AI）系统的安全性，特别是那些涉及国防工业的组织。这份指南被封装在一个名为“安全部署AI系统：部署安全和弹性AI系统的最佳实践”的网络安全信息表（CSI）中，标志着NSA人工智能安全中心（AISC）的一项重要举措。AISC成立于上个秋天，作为网络安全合作中心（CCC）的一部分，其使命是促进政府与行业之间的合作，以保护国防工业基地。


http://www.nsa.gov/Press-Room/Press-Releases-Statements/Press-Release-View/Article/3741371/nsa-publishes-guidance-for-strengthening-ai-system-security/
需要专门的AI安全措施
NSA的指南强调了AI系统所面临的独特安全挑战，这些系统容易受到与传统IT系统不同的一系列攻击途径的影响。
1.根据CSI，“针对AI系统的恶意行为者可能会使用独特于AI系统的攻击途径，以及针对传统IT使用的标准技术。
2.”这种区分至关重要，因为AI系统可能会通过对抗性机器学习攻击（旨在改变算法行为）、旨在绕过安全机制的生成性AI攻击，以及供应链攻击（虽然与影响软件的攻击类似，但对AI有独特的影响）而受到损害。安全供应商Hidden Layer的一份报告突显了解决这些漏洞的紧迫性，揭示了去年有77%的公司报告其AI系统遭到破坏。
实施指南
NSA的指南强调了对AI系统安全采取主动和全面的方法，倡导在部署前和部署期间持续监控和验证AI系统。主要建议包括保护暴露的API、积极监控模型行为、保护模型权重、执行严格的访问控制，以及定期进行用户培训、审计和渗透测试。CSI强调，保护AI系统是一个持续的过程，需要组织识别风险、实施适当的缓解措施，并持续监控潜在问题。3通过遵循这些做法，组织可以显著降低部署和运营AI系统所带来的风险。

2024年人工智能威胁环境报告
https://hiddenlayer.com/threatreport2024/