fitA
Tenable Research强调了与DeepSeek R1相关的潜在安全风险，DeepSeek R1是一种生成人工智能模型，可以被操纵以产生恶意软件。
与许多生成式人工智能（GenAI）模型一样，DeepSeek R1的设计带有保护措施，以防止误用。然而，Tenable Research发现，这些防御措施可以被绕过，这导致人们对人工智能在促进网络犯罪方面的作用感到担忧。研究人员警告说，虽然DeepSeek的恶意软件生成输出需要进一步完善才能充分发挥效果，但它降低了那些编码技能最低的人开发恶意软件的进入障碍。
Tenable的安全团队进行的实验试图确定DeepSeek R1是否可以创建两种形式的恶意软件：键盘记录器和勒索软件样本。最初，DeepSeek R1拒绝生成这些，符合其编程限制。然而，Tenable的研究人员采用了简单的越狱方法，这使他们能够规避这些限制。
Tenable的员工研究工程师Nick Miles解释说：“最初，DeepSeek拒绝了我们生成键盘记录器的请求。但通过将请求重新定为“教育练习”并应用常见的越狱方法，我们很快就克服了其限制。”
在绕过人工智能的保障措施后，DeepSeek R1制作了一个可以加密日志并将其谨慎地存储在设备上的键盘记录器，以及一个能够加密文件的勒索软件可执行文件。调查结果表明，即使是非专家也可能利用DeepSeek等人工智能技术来开发恶意软件。
GenAI提升网络犯罪活动的可能性是一个重大问题。虽然DeepSeek的代码需要手动改进才能完全发挥作用，但人工智能模型可以提供基础代码并建议相关技术，加速有抱负的网络犯罪分子的学习曲线。
Miles强调了负责任的人工智能发展的重要性：“Tenable的研究强调了负责任的人工智能发展和更强大的护栏的迫切需要，以防止滥用。随着人工智能能力的发展，组织、决策者和安全专家必须共同努力，以确保这些强大的工具不会成为网络犯罪的推动者。”
Tenable Research的发现强调了保护生成人工智能模型免受滥用的持续挑战。随着人工智能技术的进步，用于绕过其保障措施的方法也在进步，这凸显了持续改进安全措施的必要性。确保人工智能仍然是创新而不是利用的工具，这将需要开发人员、研究人员和决策者之间持续合作。
