转 - 这就是为什么我们需要开源 AI 模型的原因

14 条回复

100 次浏览

V 站上看到的，感觉有点意思，GLM5.2 立功了 smirk

以下是原文

7 月 16 日，全球最大的 AI 模型平台 Hugging Face，发表了一篇文章，宣布他们被一个全自动 AI Agent 攻入了他们的服务器。

整个过程中几乎没有人类操作。

攻击从一个恶意数据集开始，Agent 串联了数据处理系统中的两个代码执行漏洞，获得节点级权限，窃取云端和集群凭据，并在多个内部集群之间横向移动。

它调用了数千次自动操作，运行在大量短生命周期沙箱中，甚至建立了可以自行迁移的 C2 控制系统。

Hugging Face 最终记录了超过 17000 个攻击事件。

但更荒诞的事情发生在调查阶段。

Hugging Face 最初尝试用美国闭源前沿模型 @ChatGPTapp @claudeai 的 API 分析日志，但真实的攻击命令、漏洞 Payload 和 C2 数据触发了安全护栏，模型直接拒绝工作。

最后，他们只能在自己的服务器上运行中国 @Zai_org 的开源模型 GLM 5.2。

GLM 5.2 在几个小时内分析完 17000 多条记录，重建攻击时间线，定位被窃取的凭据，并区分真实攻击和诱饵行为。

如果不是世界上存在 GLM5.2 这样的开源顶级模型，Hugging Face 绝对没有任何能力阻止这次入侵。

因为人类的响应速度远远不如 Agent，数百人的安全团队可能都不如同时运行的几个攻击 Agent。

这事最有趣的部分是攻击者没有任何安全限制，防守者却被安全护栏拦住了。

当攻击和防御都开始 Agent 化，真正重要的已经不只是模型能力。

谁能自己运行、审计和控制模型，谁才拥有机器速度时代的安全主动权。

这有点像核武器，很只有形成互相核威慑才可以保证世界的稳定。