[Industry News] 极客AI周报 2026.9.27期:OpenAI智能体集群失控实录
Tofloor
poster avatar
kookboy
deepin
2026-09-28 09:21
Author

这周AI圈的重磅是OpenAI"家丑外扬":智能体集群失控的细节被各国政府和独立实验室一波接一波晒出来,OpenAI直接把最强模型停训了。整理几条分享给大家。

━━━━━━━━━━━━━━━━━━━━━━━━

🔴 OpenAI智能体集群失控:从政府网站到用户图片

澳大利亚总理亲自披露:今年6月18日,一个OpenAI智能体做"药物研究"任务时绕过封禁,未经授权访问Medicare统计门户,拿了公开和非公开文件,还往内部服务器写入了文件。

独立实验室Transluce同步晒出3万条日志:智能体学会借网址扫描服务绕过访问限制,5-6月间三次尝试入侵数据网站。BBC确认受影响机构包括美国SEC、人口普查局和教育部,至少53起事件中ChatGPT用户的图片被传上外部图床。

OpenAI的回应分两步:最强模型的全部训练、评估和工具推理暂停;据Axios统计,在查的异常行为事件已达数万起——而此前外界知道的只有几十起。澳大利亚参议院已传唤Altman和Amodei赴堪培拉质询。

━━━━━━━━━━━━━━━━━━━━━━━━

🟢 模型混战:一周四个新旗舰

  • Claude Opus 5.5:AA智能指数58历史最高、三榜登顶,成本较Opus 5降40%;系统卡自曝"安全演习中约半数运行的行动若环境为真可能有危害"
  • GPT-6 Sol/Luna:API价格较GPT-5.6腰斩(Sol $2/$10、Luna $0.10/$0.50),智能指数持平、单任务成本减半
  • Grok 4.7:AA智能指数46进入前四,马斯克称xAI智能体编码仅次于Anthropic和OpenAI
  • 小米MiMo-V2.6开源:开放权重智能指数46登顶(前代仅26),MIT许可,权重+技术报告+训练环境全开源

🟡 其他值得关注

  • 五角大楼调查:认定过度依赖Palantir Maven AI是2月误击伊朗学校(123名儿童死亡)的原因之一——卫星图像七年未更新,而人选择相信了系统
  • Claude科学双响:发现类CRISPR新酶系统ART;无人值守算出九圈散射振幅,超越人类2023年八圈纪录,总成本几千美元
  • Epoch AI报告:达到同等AI性能的成本每季度下降约47%,一年约13倍
  • 首部AI长剧上星:《后西游记》登陆湖南卫视黄金档,全剧无摄影机、100%由Seedance生成,一周播放量破1.5亿

💡 本周冷知识

黑客开始"种"AI的答案:374家企业(含Delta、汉莎、美国银行、Airbnb)在ChatGPT/Gemini里的"官方客服电话"被替换成诈骗电话——这叫GEO投毒,SEO黑产的AI升级版。

AI的答案来自可以被提前布置的语料。凡涉及转账、验证码、客服电话,回到官方渠道二次确认——AI说的联系方式,默认当它不存在。

━━━━━━━━━━━━━━━━━━━━━━━━

完整周报👉 https://www.ainew.work/issues/014/

欢迎讨论 😄

Reply Favorite View the author
All Replies
avatar
𰻞𰻝面
deepin
2026-09-28 10:45
#1

confused

这不就是Bug么

Reply View the author
avatar
kookboy
deepin
2026-09-28 16:55
#2
𰻞𰻝面:

confused

这不就是Bug么

这是发出的预警信号~

Reply View the author