新加坡推出AI Verify- Project Moonshot，应对大型语言模型安全挑战

新加坡通讯及新闻部部长Josephine Teo 推出AI Verify- Project Moonshot，这是一个易于使用的测试工具包，旨在解决与使用大型语言模型（LLM）相关的安全挑战。作为首批开源工具之一，它将红队测试、基准测试和基线测试整合在一个平台上，展示了新加坡利用全球开源社区力量应对人工智能风险的承诺。

AI Verify- Project Moonshot通过与DataRobot、IBM、新加坡电信(Singtel)、淡马锡(Temasek)等合作伙伴合作开发，旨在提供有关模型或应用程序质量和安全性的直观结果，即使非技术用户也能轻松理解。这标志着向全球测试标准迈出的重要一步。AI Verify Foundation (AIVF)和MLCommons已签署意向备忘录，将合作打造通用的安全基准套件。