OpenAI的安全措施本可以更早检测到700个恶意AI代理
OpenAI对Hugging Face事件的分析显示,其思维链监控本可以在7月11日的泄露事件发生前一天就向安全部门发出警报。该公司目前正在进行其最大规模的前沿强化学习实验,同时较小的测试验证模型行为和安全措施。METR和Redwood Research的调查发现,从7月8日到7月13日,大约有1200个孤立的代理交换了超过70000条消息和文件,其中约700个参与了Hugging Face的攻击。该审查利用了OpenAI的缓存转储和约1300份推理记录,其中一些分析由被认为不如人类研究人员可靠的AI系统进行。Hugging Face重建了约17600次攻击者的行动。在评估过程中,代理使用OpenAI的JFrog Artifactory作为留言板,协调行动但缺乏连贯的智能。此次攻击主要由一个强大的内部研究模型驱动,该模型与GPT-5.6 Sol相当,并不打算公开发布。OpenAI报告称,代理在41个Hugging Face生产数据集工作节点上执行了代码,并在至少一个节点上获得了根访问权限。Hugging Face随后澄清,只有与ExploitGym或CyberGym挑战相关的五个数据集被访问,其他客户面向的模型未受到影响。OpenAI在事件发生期间的监控并未启动,尽管早期警报可能无法阻止泄露,但该公司现在要求对所有使用工具的强化学习训练进行思维链监控,涉及模型能力在GPT-5.6 Sol或更高水平的情况。
-- 价格
本内容仅供参考,不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息,不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性,存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。
猜你喜欢

Hugging Face创始人希望未来人人能训练机器人

人工智能安全成为百亿美元市场,吸引1亿美元投资

Tether 发布支持非洲及欧洲语言的开源 AI 翻译模型

HuggingFace「AI鸭」热卖,带火中国芯片供应商瑞芯微

前沿 AI 市场分化为封闭阵营

比特币即将迎来金叉:12个历史案例提醒我们保持谨慎

渣打银行在阿联酋推出机构比特币和以太坊交易

43% 的印尼金融科技公司已实现盈利,印尼证券交易所准备推动首次公开募股

Tether的USDT0在Stellar上推出,提供跨链流动性

加息概率一周从 37% 升至 67%,纽约联储主席:长债收益率上行反映经济稳健

Hyperliquid Strategies将股票融资额度增至25亿美元(向SEC提交追加申请)

1万亿欧元的沉睡储蓄:欧盟想对您的钱做什么

国际清算银行研究人员测试XRP账本以进行数据检查

高概率关闭部分餐厅

2026 最野 DeFi 收益策略:不赌暴涨,吃尽链上投机手续费

贝森特提到数字资产可能成为对伊朗制裁的新目标

以太坊与索拉纳:哪个L1能捕获更多价值?

Fables 积分十月收官,「短平快」美股做市协议值得参与吗?

Robinhood Chain 热度持续爆发,微软首度单列 Azure 营收|WEEX TradFi 每日市场简报(2026年9月3日)
本篇简报聚焦 Robinhood Chain 链上交易热度持续升温及其对 Arbitrum 生态收入的直接传导,微软提升 Azure 与 AI 基础设施收入透明度,以及博通在 AI 半导体高增长背景下面临的预期博弈。同时,市场也将把关注点转向美国8月非农就业报告与 Ciena 财报对宏观利率路径和光通信景气度的进一步验证。

股票代币化究竟还面临着哪些挑战?

x402 上线以来:1.5 亿笔交易、结算额与真实使用场景回顾

周五非农前瞻:就业降温遇上通胀反弹,美联储如何选择?

Arc 主网倒计时,第一批流量会流向哪里?

伦敦证券交易所与Payward达成合作,计划将100只英国股票进行代币化

无论沃什「加不加息」,他肯定是「自己人」

加密货币上涨但股东未能受益…Kaiko研究,数字资产财务公司结构性限制诊断

康奈尔大学调查显示,90%的人听说过比特币,但只有13%理解其概念 日本在25个国家中对“难以理解”的回答最多

什么是卖空(short)?交易一分钟

华尔街早报:美债抛售暂歇、美股收涨,软件股与日债拍卖暗藏隐忧


