周五下午晚些时候,人工智能初创公司Hugging Face表示,其安全团队在本周早些时候检测到对Spaces的"未经授权访问",Spaces是Hugging Face用于创建、共享和托管人工智能模型和资源的平台。
Hugging Face 在一篇博文中说,这次入侵与 Spaces 秘密有关,即作为解锁账户、工具和开发环境等受保护资源的密钥的私人信息。
作为预防措施,Hugging Face 已撤销了这些机密中的一些令牌(令牌用于验证身份)。令牌被撤销的用户已经收到了电子邮件通知,并建议所有用户"刷新任何密钥或令牌",并考虑改用细粒度访问令牌,Hugging Face 声称这种令牌更安全。
目前还不清楚有多少用户或应用程序受到潜在漏洞的影响。
"我们正在与外部网络安全取证专家合作,调查这一问题,并审查我们的安全政策和程序。我们还向执法机构和数据保护机构报告了这一事件,"Hugging Face 在帖子中写道。“我们对此次事件可能造成的干扰深表遗憾,并理解它可能给您带来的不便。我们承诺将以此为契机,加强我们整个基础设施的安全性”。
Hugging Face 的发言人在一封电子邮件声明中说:“在过去几个月里,我们看到网络攻击的数量明显增加,这可能是因为我们的使用量大幅增长,人工智能正成为主流。技术上很难知道有多少Spaces机密被泄露了。”
Hugging Face 是最大的人工智能和数据科学项目合作平台之一,拥有超过一百万个模型、数据集和人工智能驱动的应用程序,在其安全实践方面面临越来越多的审查。
今年 4 月,云安全公司 Wiz 的研究人员发现了一个漏洞(已被修复),攻击者可以在 Hugging Face 托管应用程序的构建时间内执行任意代码,从而检查机器上的网络连接。今年早些时候,安全公司JFrog发现有证据表明,上传到Hugging Face的代码在终端用户机器上暗中安装了后门和其他类型的恶意软件。安全初创公司 HiddenLayer 发现,Hugging Face 表面上更安全的序列化格式 Safetensors 有可能被滥用来创建破坏性的人工智能模型。
Hugging Face最近表示,它将与 Wiz 合作,使用该公司的漏洞扫描和云环境配置工具,“目标是提高我们平台和整个 AI/ML 生态系统的安全性”。