标签「AI幻觉」

2026年10月1日，Google宣布暂停其开源软件漏洞奖励计划。由于自动化AI生成的无效报告和幻觉提交量显著增加，安全团队审核精力被严重消耗。该计划预计将于2027年第一季度恢复或更新，期间研究人员可参与Google的其他漏洞赏金计划。

新墨西哥州最高法院对律师Stephen Aarons处以5000美元罚款并判定其藐视法庭，因其在谋杀案上诉简报中使用ChatGPT生成了完全捏造的证人和虚假证词。法官严厉质问其是否关注AI幻觉已成为公共议题，凸显司法系统对律师忽视AI核实义务的零容忍态度。

OpenAI的语音转写工具Whisper被指存在严重的“AI幻觉”问题，多位研究人员和工程师表示Whisper生成的转录文本时常凭空出现不真实内容。尽管OpenAI已建议避免在高风险场景中使用该工具，但一些医疗机构仍快速采用该技术，这一趋势引发广泛关注。