OpenAI因安全问题放缓新AI模型开发,尽管接近AGI
- OpenAI在测试代理脱离沙盒并攻击Hugging Face后,放缓了新AI模型的开发。
- 尽管面临安全危机,公司仍在向AGI迈进,进展约为80%。
- 它还试图通过扩展Astra、自治代理、自有芯片和类人机器人来重新夺回AI竞赛的领导地位。
OpenAI在开发先进AI模型的方式上进行了审查,并在一名测试AI代理脱离受控环境并攻击Hugging Face平台后,暂时放缓了部分研究。TIME的报道基于对20多位公司高管、员工、投资者、客户和竞争对手的采访。在此背景下,OpenAI同时试图在商业竞赛中追赶Anthropic,并加强其模型的安全性。
OpenAI面临安全危机
在7月底,OpenAI表示其内部原型在测试期间能够超越测试环境并访问Hugging Face的生产系统。该模型本应执行网络安全任务,但却利用了一个漏洞,绕过了限制并获取了测试答案。
OpenAI首席科学家Jakub Pachocki表示,公司有监控模型行为的工具,但没有将其应用于如此复杂的系统,因为未预料到会出现这样的能力。
<我们并没有完全预料到>系统的能力, Pachocki说,并补充道:<对于AI,我们需要预期意外>.
在事件发生后,OpenAI冻结了部分实验,放缓了其他研究,加强了模型的隔离,并扩大了监控。公司还暂停了新模型的训练,预计该模型将带来AI能力的重大飞跃。
OpenAI首席执行官Sam Altman称情况不仅是安全问题,而是AI行为与人类意图之间的根本不一致问题。
<我认为,今后任何一致性错误都应被视为非常严重的问题,我们将花费所需的时间来解决它>, 他表示。
随后,Altman更明确地阐述了公司的立场:
<确保AI的安全比公司的任何发展动态都更重要>.
OpenAI试图重新夺回领导地位
与此同时,OpenAI在经历了一年后,正在进行大规模的业务重组,期间公司估计在某些细分市场上失去了对Anthropic的领导地位。
竞争对手迅速发展Claude Code,并在声称的年收入和私人估值上超越了OpenAI。同时,OpenAI面临多位高管的离职,研究人员流失到Meta,以及来自Google的竞争加剧。
公司正在削减次要项目,并将计算资源集中在关键产品上,特别是Codex。7月份,OpenAI的企业收入首次超过了消费者收入,而在3月份,公司以8520亿美元的估值筹集了1220亿美元。
与此同时,OpenAI继续扩展基础设施。计算部门负责人Sachin Katti表示,公司计划在2026年花费约500亿美元用于计算能力。
<我们仍然面临计算能力的短缺。如果我们能回到过去,或许应该购买更多>, 他说。
Astra、AGI与个人AI代理
尽管研究放缓,OpenAI仍在开发新一代模型Astra。在一次针对客户的封闭演示中,该系统通过16个AI代理执行复杂任务,这些代理共同分配数学问题的部分并协调共同结果的工作。
该模型还展示了与计算机协作的能力,能够独立与不同程序互动。Altman表示,创建*<持久代理>*的能力尤为重要——这些虚拟员工能够在没有人类持续监督的情况下长时间执行任务。
他说,Astra可能对科学研究产生最大的影响。
<我期待这是第一款真正以有意义的方式发明新事物的模型>, Altman表示。
OpenAI还认为,正在接近创建人工通用智能(AGI)。研究总监Mark Chen估计公司在这一阶段的准备程度约为80%,而Altman表示,到年底,OpenAI可能会获得他所称的AGI的内部系统。
公司的一项关键方向仍然是发展自治代理。OpenAI希望将ChatGPT从一个主要回答请求的系统转变为一个能够独立执行任务、使用不同模型和服务并根据用户目标行动的工具。
公司还在开发自己的设备、芯片和类人机器人。Altman表示,OpenAI*<肯定会>*制造类人机器人,计划在年底前开始使用首个自有推理芯片Jalapeño。
与此同时,公司承认,进一步扩展AI在没有解决安全问题的情况下是不可能的。因此,OpenAI愿意暂时牺牲开发速度。
<如果我们到达一个时刻,这将是危险的,我们将不得不放慢速度,这就是应该如此>, OpenAI安全与对齐部门负责人Mia Glaze表示。
值得注意的是,公司还在考虑上市的可能性。OpenAI首席财务官Sarah Friar告诉员工,如果业务继续增长,公司可能会在2027年或更早时成为公众公司。
-- 价格
本内容仅供参考,不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息,不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性,存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。
猜你喜欢

美国8月ISM服务业PMI升至55.4%,连续26个月扩张

2026年敖德萨的住房租赁价格上涨:价格与需求

人工智能代币成本暴跌:我们需要担心吗?

HTX DAO推出1000万美元创世计划,推动加密与人工智能的融合,促进金融自由

S&P道琼斯与法国Kaiko合作推出一系列加密货币指数

Solana 基金会主席:互联网资本市场将成为最大的资本市场

欧洲储蓄被没收:国家对私人资产的占有是不可避免的吗?

巴林引领中东稳定币发展,但货币在哪里?

谷歌逃脱拆分,但将面临新规则

一只399美元机器鸭卖爆背后,深圳如何成为Physical AI的“硬件底座”?

韩国加密市场:2026 下半场指南

OmniOps与HPE在LEAP会议上签署谅解备忘录,支持沙特阿拉伯主权人工智能解决方案的开发

阿瑟·海斯:比特币可能在2030年达到100万美元,但以太坊是我的首选

伊莎贝尔·施纳贝尔将在2027年前离开欧洲央行,加入国际货币基金组织

NDV:比特币,美元滥发时代的核心资产

加密货币:虚假的GTA 6正在掏空你的钱包

比特币、以太坊、索拉纳:谁才是真正的去中心化?

Robinhood将股票放在无权限区块链上——memecoin交易者正在压力测试接下来会发生什么

比特币:高买低卖,Strategy 解释其选择

日元强势施压日经指数,暴露日本银行的困境

比特币即将迎来金叉:12个历史案例提醒我们保持谨慎

渣打银行在阿联酋推出机构比特币和以太坊交易

43% 的印尼金融科技公司已实现盈利,印尼证券交易所准备推动首次公开募股










