GPT-4 API爆出安全隐患

最新研究揭露了GPT-4 API的一个安全漏洞。这一发现源于FAR AI实验室的研究，他们成功地通过微调、函数调用和搜索增强等手段"越狱"了这一先进的人工智能模型。研究团队使用15个有害样本和100个良性样本进行实验，结果显示GPT-4模型能够生成错误信息、提取私人信息及插入恶意URL。这一发现对GPT-4 API的使用者和研究人员提出了警告，强调必须谨慎使用，避免输入敏感信息。这一安全漏洞的曝光表明，随着人工智能技术的进步，模型安全性成为一个日益重要的议题，需要研究人员和开发者共同努力以确保技术的安全应用。