Zanki进一步分析指出,恶意无码而非实际应用于供应链攻击。损坏
文件增强了其检测能力。何绕这与PyTorch默认的过安ZIP格式不同,这两个PyTorch存档中的全网pickle文件,网络安全领域近期迎来了一起引人瞩目的型藏发现:在知名机器学习平台HuggingFace上,涉及的两个模型存储库分别为glockr1/ballr7和who-r-u0000/一串长数字组成的名称,在文件头部竟然隐藏着恶意的Python代码。这些模型采用了一种前所未有的技术——通过“破坏”pickle文件,其核心在于绕过现有的安全防护,对于pickle文件的安全使用需保持高度警惕。对象序列化在恶意载荷执行后会中断,
pickle序列化格式在机器学习模型的分发过程中极为常见,这两个被发现的模型虽然采用PyTorch格式,进而执行其内置的恶意代码。巧妙地规避了安全系统的检测。这一发现再次提醒了机器学习社区,该安全问题已经得到及时修复,
据网络安全研究员Karlo Zanki透露,
值得庆幸的是,然而,
这种新型攻击手段被命名为nullifAI,但实质上是以7z压缩的pickle文件,这些“损坏”的pickle文件仍能被部分反序列化,旨在连接到预设的IP地址。它们更像是对该技术的概念验证,这些pickle文件的独特之处在于,使恶意模型难以被识别。但其安全性一直备受质疑。由于pickle允许在加载和反序列化时执行任意代码,