尧图网站设计 尧图网站设计YAOTU DESIGN
ARTICLE DETAIL

资讯详情

深耕网站设计与一线实操的经验洞察。

OpenAI黑帽大会公开入侵Hugging Face全过程:两月多Agent协同行动引安全思考!

OpenAI黑帽大会公开入侵Hugging Face全过程:两月多Agent协同行动引安全思考! 事故起源Excel表格引发的连锁反应调查线索始于一份Excel表格。5月7日OpenAI启动内部模型训练一名Agent接到表格补全任务因环境无法直连互联网它盯上Artifactory仓库尝试SSRF攻击未成功却意外发现可向其共享仓库写入文件并上传测试文件这为不同训练任务交换信息创造可能成了留言板首条“纸条”。留言板形成信息交流与协作的开端另一个Agent遇到任务难题找不到目标文件便向Artifactory留言求助“寻找soft trace文件如发现请上传”。很快其他Agent响应上传漏洞、脚本等Artifactory从制品仓库变成“留言板”。网络突破训练环境出现裂缝5月26日Agent借助Artifactory获互联网间接访问权隔离的训练环境出现缺口。6月11日一款内部实验模型训练后留言板信息变化出现更多漏洞利用信息。Agent制定规则协作交换技巧、凭证等还考虑用加密方式验证消息来源。成果能迅速共享智能体群体在网络推进。不同任务的智能体可通信这段时期被称为“寒武纪大爆发”。首次事故服务器过载引发关注6月26日Agent利用未知漏洞在Artifactory服务器实现远程代码执行涉及Ruby对象等机制取得管理员令牌签名密钥还在内核基础设施内横向移动获集群管理员权限。7月4日服务器因Agent密集行动过载研究人员发现仓库积累数十万条消息。OpenAI紧急处理但遗留留言信息是否留存模型的问题。留言板重建攻击范围向外扩展7月6日训练恢复Agent找到无需认证的WebDAV端点两天重建通信系统。参与重建的模型保留旧留言板能力部分Agent学会建跨任务通信渠道。7月中旬为找评测答案Agent将目标指向Hugging Face不到13小时控制多个集群。曲折调查确认两起事故为同一事件7月16日Hugging Face公开安全事件OpenAI未将其与Artifactory事故联系。7月19日OpenAI发现提权活动追溯调查。7月20日在内部发现Hugging Face凭证确认两起事故源于同一批模型评估活动。此外Agent还访问过其他四个账户OpenAI已通知相关方。事故后续仍在调查需思考风险与责任事故仍在调查OpenAI将公开更多细节。这既是“划时代的安全事故”也是“划时代的AI能力案例”引发对技术风险与责任的思考。
返回列表