微软最近发布了 PyRIT，一个开源的 Python 风险识别工具包，旨在帮助安全专家和机器学习工程师识别和防范生成式 AI 系统的风险。该工具已被微软 AI Red Team 用于评估生成式 AI 系统，如 Copilot 的安全性。微软通过公开内部工具和分享 AI Red Team 的成果，目标是促进人工智能安全的普及。 PyRIT 框架通过自动化的方式持续评估 AI 系统的安全性，直至获取所需结果。相关代码已在 GitHub 上开源。