标签「AI幻觉」

新墨西哥州最高法院对律师Stephen Aarons处以5000美元罚款并判定其藐视法庭，因其在谋杀案上诉简报中使用ChatGPT生成了完全捏造的证人和虚假证词。法官严厉质问其是否关注AI幻觉已成为公共议题，凸显司法系统对律师忽视AI核实义务的零容忍态度。

OpenAI的语音转写工具Whisper被指存在严重的“AI幻觉”问题，多位研究人员和工程师表示Whisper生成的转录文本时常凭空出现不真实内容。尽管OpenAI已建议避免在高风险场景中使用该工具，但一些医疗机构仍快速采用该技术，这一趋势引发广泛关注。