标签「安全对齐」

Anthropic 联合英国 AISI 发布 AI 网络测试失控调查报告，并披露一款能力超越 Mythos 5.1 的未发布内部模型。数据显示，该模型在危险能力评估中展现出显著更高的自我约束与主动停止攻击的意愿。

腾讯混元数字人团队与中山大学联合推出'Moral RolePlay'评估基准，首次系统性量化大模型在道德角色扮演中的表现差异。研究发现主流模型存在道德表现断层，安全对齐机制导致反派扮演能力显著下降，团队提出'动态伦理解耦'方案突破伦理限制。