OpenAI推出GPT-Red:通过自动化提示注入测试强化GPT-5.6 Sol
OpenAI披露了内部自动化红队模型GPT-Red的详细信息,该模型可规模化发现提示注入漏洞,旨在工具广泛部署前修复问题。AI公司表示:”GPT-Red是一个强大的红队模型,我们之前的模型非常容易受到其提示注入攻击。我们使用GPT-Red对GPT-5.6进行对抗性训练,使其对提示注入更加稳健。”
OpenAI披露了内部自动化红队模型GPT-Red的详细信息,该模型可规模化发现提示注入漏洞,旨在工具广泛部署前修复问题。AI公司表示:”GPT-Red是一个强大的红队模型,我们之前的模型非常容易受到其提示注入攻击。我们使用GPT-Red对GPT-5.6进行对抗性训练,使其对提示注入更加稳健。”