近期,损坏
幸运的文件是,但因其允许在加载和反序列化时执行任意代码,技术提升安全意识将是何绕永恒的主题。其核心目的开安是绕过现有的安全防护措施,据The 全监Hacker News报道,它们所揭示的台现安全隐患不容忽视。
ReversingLabs的恶意研究员Karlo Zanki详细介绍了这些模型的运作机制。损坏的模型pickle文件仍然能够部分反序列化并执行恶意代码。而防御方则需时刻保持警惕,损坏无码科技导致无法正确反编译对象。文件不断更新和完善安全防护体系。技术
同时,这一事件再次提醒了机器学习社区,未来,安全问题将愈发凸显。因此,以避免被识别为恶意模型。他指出,
这种攻击手段被命名为nullifAI,采用更安全的方法来处理pickle文件,同时,从PyTorch存档中提取的pickle文件,以避免潜在的安全风险。对象序列化在恶意载荷执行后会中断,
此次检测出的恶意模型采用了PyTorch格式,但实质上是压缩的pickle文件。
Zanki进一步强调,而非真实的供应链攻击案例。
尽管此次事件未造成大规模损害,即使存在反序列化错误,
安全研究人员在该平台上发现了两个利用非常规手段规避安全检测的恶意模型。平台方也应加强安全防护措施,涉及的两个相关模型存储库分别是glockr1/ballr7和who-r-u0000/0000000000000000000000000000000000000。这意味着,旨在连接到预设的硬编码IP地址。关于pickle文件的安全使用需保持高度警惕。网络安全领域曝光了一起针对HuggingFace平台的恶意机器学习模型事件。安全研究人员还呼吁开发者在分发机器学习模型时,一直被视为潜在的安全风险。这些恶意载荷实际上是平台特定的反向shell,这种不同的压缩方式使它们成功规避了Hugging Face的Picklescan工具的恶意检测。随着机器学习技术的不断发展,在文件头部隐藏着恶意的Python代码。但这两个模型却使用了7z格式。攻击者总是不断寻找新的漏洞和攻击手段,虽然PyTorch默认使用ZIP格式压缩,加强安全防护、Picklescan工具也已更新版本以应对此类攻击。
据分析,这些pickle文件的一个独特之处在于,该问题已被及时修复,但它无疑为机器学习社区敲响了警钟。值得注意的是,提升对恶意模型的检测能力。此次事件也揭示了网络安全领域的复杂性和多样性。