此次事件中,模型而非真实的利用供应链攻击案例。HuggingFace平台上惊现两个采用非常规技术的文件恶意机器学习模型,这些模型更像是技术概念验证(PoC)的实例,其安全隐患也不容忽视。躲安旨在连接到预设的全检硬编码IP地址。尽管如此,损坏以避免被识别为潜在的台现恶意模型。后续的恶意安全分析却揭示了一个惊人的事实:尽管存在反序列化错误,
值得庆幸的模型无码科技是,
Zanki进一步分析指出,利用这些pickle文件的文件一个独特之处在于,值得注意的是,这一事件仍然引发了业界对机器学习模型分发中潜在安全漏洞的高度关注。这一问题已经得到了及时的修复。
ReversingLabs的安全研究员Karlo Zanki深入剖析了这两个模型,这些受损的pickle文件仍然能够被部分反序列化,对象序列化在恶意载荷执行后会中断,这一设计,受影响的两个Hugging Face模型存储库分别为glockr1/ballr7和who-r-u0000/一串冗长的零。此次事件,而是选择了7z格式。使得它们成功避开了Hugging Face的Picklescan工具的恶意检测。再次提醒我们,加强安全防护措施。无疑为机器学习模型的安全性敲响了警钟。在文件头部竟隐藏着恶意的Python代码。这些模型并未使用PyTorch默认的ZIP格式压缩,
安全专家普遍认为,并成功执行恶意代码。导致无法正确反编译对象。被检测出的两个模型采用了PyTorch格式,然而,这一发现,这些恶意载荷是典型的平台特定反向shell,由于pickle允许在加载和反序列化时执行任意代码,在机器学习模型的分发和使用过程中,Picklescan工具也已经更新了版本,
pickle序列化格式在机器学习领域的应用颇为广泛,揭示了其中的奥秘。巧妙地绕过了常规的安全检测机制。必须时刻保持警惕,其核心在于刻意规避现有的安全防护措施,
然而,无疑增加了安全检测的难度。
从PyTorch存档中提取的pickle文件,这一不同寻常的压缩方式,这种创新性的攻击手法被命名为nullifAI,据悉,但实质上却是压缩的pickle文件。这些模型利用“受损”的pickle文件,因此一直是安全领域的一个潜在风险点。以应对此类新型攻击手法。
近期,