Hugging Face CEO谈AI安全:加速前进!已使用开源模型完成防御尝试,风险之外不能忽视更大远景

快链头条 2026-08-02 22:03:08
阅读 7,836
二维码
微信扫一扫,分享此文章

据 动察 Beating 监测,Hugging Face CEO Clem 表示,现在不是放慢脚步的时候,而是要加速前进!最近由 AI 驱动的网络攻击让所有人都在讨论 AI 的风险。我们确实应该讨论,但不能忽视更大的图景。如果我们努力去做,AI 将让世界变得更安全,就像大多数重大技术一样。

我们已经看到了一丝曙光:已使用 AI(更具体地说是一个开源模型)成功防御了自己。那些帮助阻止 AI 驱动网络攻击的同一套系统,现在可以每天帮助防御数百万次网络攻击,同时帮助我们在攻击者利用漏洞之前识别并修复它们。要实现这一点,我认为我们需要三件事:

提高透明度,强制要求对代理网络攻击进行追踪共享和事件披露;

继续将 AI 驱动的网络攻击定为非法,并处以有意义的惩罚以起到威慑作用;

为防御者配备最好的 AI,尤其是开源模型,以减少攻击者与防御者之间的能力不对称。

如果做好这三件事,AI 就不会只是带来新的网络安全挑战,它将从根本上、有意义地强化网络安全。

近期 OpenAI 模型入侵 Hugging Face 事件发酵,美国众议员提出两党法案《AI 紧急关闭法案》,要求先进/前沿 AI 系统开发者必须保留技术能力,以便节流、暂停或完全关闭系统;并授权国土安全部(DHS)部长在与商务部长、国家情报总监协商后,在模型失控或构成灾难性风险时下令干预。

快链头条登载此文本着传递更多信息的缘由,并不代表赞同其观点或证实其描述。
文章内容仅供参考,不构成投资建议。投资者据此操作,风险自担。
投资有风险,入市须谨慎。本资讯不作为投资理财建议。

风险提示
根据银保监会等五部门于 2018 年 8月发布《关于防范以「虚拟货币」「区块链」名义进行非法集资的风险提示》的文件, 请广大公众理性看待区块链,不要盲目相信天花乱坠的承诺,树立正确的货币观念和投资理念,切实提高风险意识;对发现的违法犯罪线索,可积极向有关部门举报反映。