微软宣布推出Counterfit，这是一款用于AI系统安全性测试的自动化工具

网络安全处于Microsoft的最前沿由于复杂但恶意的行为者对网络的攻击不断增加。该公司正在不断更新其安全基础架构，以保护自己免受威胁，并建议其合作伙伴也这样做。

组织工具的一个被忽视的方面通常是其AI系统的安全性。微软计划通过发布名为Counterfit的新工具来解决此问题。

Counterfit是由Microsoft创建的开源工具自动化组织的AI系统的安全测试。最终的目标是给公司以高度的信心，因为它们在各个行业中的使用量很高，因此它们的人工智能系统是可靠且可靠的。微软 指出，在接受调查的28​​个组织中，有25个组织感到他们没有适当的机制来保护AI系统，并且其安全专业人员没有足够的能力来应对针对它们的威胁。

反适应最初是从一组可用于攻击AI模型的脚本开始的。微软最初是在自己的内部测试中使用它的，但是现在，Counterfit已经发展成为一种自动化工具，可以大规模攻击多个AI模型。该公司表示，它已经成为自己的AI红队运营的主要工具，使用它来执行和自动化当前正在开发和生产中的AI服务的对抗性安全测试。

使用Counterfit的好处是它与环境，模型和数据无关。这意味着它可以在本地，云端边缘中使用，以测试实际上取决于包括文本和图像在内的任何形式的输入数据的任何类型的AI模型。

微软已经表明，对于使用Metasploit或PowerShell Empyre的安全团队来说，Counterfit易于使用。它可以用于渗透测试和漏洞扫描，还可以将攻击记录到AI模型，以便数据科学家可以利用其遥测技术进一步增强其AI系统的安全性。

您可以在此处访问开源项目的GitHub页面，以了解有关Counterfit的更多信息以及如何在组织中进行部署。