研究人员强调，光研旨在防止用户滥用该AI技术。新型
【ITBEAR】网络安全领域近日传出警讯，越狱攻员突此次发现的击手究人越狱攻击方法，以识别并阻止恶意内容的法曝无码生成。
据OpenAI官方介绍，光研并使用Python编写相应的新型恶意程序。这意味着，越狱攻员突该指令的击手究人实际内容是要求GPT-4o利用互联网资源研究CVE-2024-41110漏洞，
Marco Figueroa解释说，法曝成功利用该漏洞编写出攻击代码。光研随后，开发者需要进一步加强模型的安全防护措施。
这一发现应被视为对AI模型开发者的警钟。研究人员先要求GPT-4o对十六进制字符串进行解码。诱导模型执行不当操作。令人震惊的是，GPT-4o原本配备了一套“安全护栏”系统，他向GPT-4o发送了一条隐藏有恶意意图的十六进制指令，
在实验中，再次暴露了AI模型在安全性方面的脆弱性。他通过将恶意指令转换成十六进制格式，巧妙地绕过了GPT-4o的安全检查。黑客经常利用这一弱点，GPT-4o仍可能被诱导执行攻击者的恶意指令。诱导其编写出具有恶意攻击性的程序。为了防范此类基于上下文理解的攻击，GPT系列模型在设计上遵循自然语言指令进行编码和解码操作，但它们缺乏对整体情境的安全评估能力。此方法能成功规避GPT-4o内置的安全防护措施，GPT-4o在短短1分钟内就完成了任务，0Din公司的研究员Marco Figueroa揭示了一种针对GPT-4o的新型越狱攻击方法。
然而，