数百万MetaLLamaAI平台用户可能面临HuggingFaceAPI泄露的风险

  • 发布时间:2024-01-10 11:18:52 来源:
标签:
导读 研究人员透露,数千个有效的API令牌暴露在人工智能项目的开源存储库中,这可能使黑客能够轻松访问主要企业帐户。LassoSecurity的一份报告称

研究人员透露,数千个有效的API令牌暴露在人工智能项目的开源存储库中,这可能使黑客能够轻松访问主要企业帐户。

LassoSecurity的一份报告称,该访问可能已用于供应链攻击,在HuggingFace平台上运行了多次子字符串搜索并手动收集返回的API令牌。

然后,通过使用whoamiHuggingFaceAPI,研究人员能够了解令牌是否有效、它们属于谁、所有者的电子邮件是什么以及他们拥有什么权限。

研究人员总共发现了至少1,500个API令牌,使他们能够访问700多个企业帐户。大多数令牌(655)具有写入权限,允许攻击者修改他们在存储库中找到的文件。这655个代币属于77个组织,其中包括名人Meta。

那么,黑客如何利用这些API令牌呢?研究人员表示,攻击者可以利用它们来窃取或毒害训练数据,甚至窃取人工智能模型。TheRegister在其文章中声称,谷歌的Gmail反垃圾邮件过滤器适用于“经过可靠训练的”人工智能模型,如果训练数据受到损害,可能会导致垃圾邮件或恶意电子邮件进入人们的收件箱。

该出版物还声称此类数据中毒可能会导致网络流量遭到破坏。“如果网络流量未被正确识别为电子邮件、网页浏览等,则可能会导致资源分配不当和潜在的网络性能问题。“

他们得出结论,在分析过程中,研究人员窃取了10,000多个私人模型。

“这次泄露的影响是深远的,因为我们成功获得了对MetaLlama2、BigScienceWorkshop和EleutherAI的完全访问权限,包括读写权限,所有这些组织都拥有下载量数百万次的模型-这一结果使得LassoSecurity的安全研究员BarLanyado表示:“组织容易受到恶意行为者的潜在利用。”

‍“局势的严重性怎么强调都不为过。”

  • 免责声明:本文由用户上传,如有侵权请联系删除!