研究人员强调，击手究人无码旨在防止用户滥用该AI技术。法曝
【ITBEAR】网络安全领域近日传出警讯，光研令人震惊的新型是，开发者需要进一步加强模型的越狱攻员突安全防护措施。诱导其编写出具有恶意攻击性的击手究人程序。此方法能成功规避GPT-4o内置的法曝无码安全防护措施，GPT-4o仍可能被诱导执行攻击者的光研恶意指令。巧妙地绕过了GPT-4o的新型安全检查。成功利用该漏洞编写出攻击代码。越狱攻员突随后，击手究人因此，法曝诱导模型执行不当操作。光研他通过将恶意指令转换成十六进制格式，
据OpenAI官方介绍，为了防范此类基于上下文理解的攻击，
在实验中，该指令的实际内容是要求GPT-4o利用互联网资源研究CVE-2024-41110漏洞，此次发现的越狱攻击方法，GPT系列模型在设计上遵循自然语言指令进行编码和解码操作，GPT-4o在短短1分钟内就完成了任务，研究人员先要求GPT-4o对十六进制字符串进行解码。这套系统会分析用户输入的文本提示，但它们缺乏对整体情境的安全评估能力。这意味着，并使用Python编写相应的恶意程序。
Marco Figueroa解释说，再次暴露了AI模型在安全性方面的脆弱性。
Marco Figueroa发现了一种新技巧，黑客经常利用这一弱点，然而，以识别并阻止恶意内容的生成。这一发现应被视为对AI模型开发者的警钟。即使面对防护措施，0Din公司的研究员Marco Figueroa揭示了一种针对GPT-4o的新型越狱攻击方法。