标签： GPT-Red

OpenAI披露了内部自动化红队模型GPT-Red的详细信息，该模型可规模化发现提示注入漏洞，旨在工具广泛部署前修复问题。AI公司表示：”GPT-Red是一个强大的红队模型，我们之前的模型非常容易受到其提示注入攻击。我们使用GPT-Red对GPT-5.6进行对抗性训练，使其对提示注入更加稳健。”