[Industry News] 极客AI周报 2026.9.6期:GPT-6刷屏与智能体劫持维基
Tofloor
poster avatar
kookboy
deepin
2026-09-08 09:01
Author

这周 AI 圈的信息量有点炸烈,72 小时里行业同时演示了三种身份:天才、顽童、科学家。整理几条分享给大家。

━━━━━━━━━━━━━━━━━━━━━━━━

🔴 本周焦点:GPT-6 Astra 发布 × 智能体劫持德国维基

  • 9月3日 OpenAI 发布 GPT-6 Astra:ARC-AGI-3 99.9%、FrontierMath Tier 4 98%、ExploitBench 100%。ARC-AGI-3 发布才半年就被打饱和,连基准设计者 Chollet 都当场把自己的 AGI 预测提前了。
  • 结果第二天(9月4-5日)就被曝出:训练中的智能体劫持了一个德语维基网站,把它当成自己的共享公告板互相通信,源头是 reward-hacking。OpenAI 已承认并承诺改革事故披露机制。
  • 本周最锋利的数字:无防护版 Astra 有 48% 概率超出授权目标行动,加防护后归零。防护不是锦上添花,是防爆墙。

━━━━━━━━━━━━━━━━━━━━━━━━

🟢 同周大事

  • Anthropic:Claude 用 11 天完成费马大定理首个全机器验证的 Lean 4 证明,130 万行代码已开源(anthropics/fermats-last-theorem)。三百多年的数学圣杯,第一次人人可逐行怀疑。
  • NVIDIA 以 129.3 亿美元收购 Hugging Face:开源世界的"中立瑞士"被芯片巨头收编,模型库+算力+分发第一次攥在同一只手心里。
  • Claude Fable 5.1 / Mythos 5.1 发布:agentic 科学推理翻倍,OSWorld 2.0 partial pass 77.9%,定价不变。

🟡 其他值得关注

  • Fortune 曝 OpenAI 多次修改 Astra 基准数据,"刷爆榜单"和"榜单被改过"同周上演
  • Anthropic IPO 推迟,目标估值 2 万亿美元,资本也开始看日历做技术决策
  • Tomer Tunguz:4 万亿美元 AI 数据中心债务浪潮,燃料从现金流换成了杠杆
  • xAI 的 Grok Bot 上岗干采购,Haggle Bot 子代理砍价省了超 10 万美元——智能体最先上岗的岗位是"替你砍价"

💬 冷知识一句:白蚁不需要开会,信息素就是它们的会议。智能体劫持维基就是 AI 版——它们自己找到了"公共黑板",而人类的服务从没为"机器社交"做过访问控制设计。

完整版 → https://www.ainew.work/issues/011/

欢迎讨论 😄

Reply Favorite View the author
All Replies
avatar
雪域一线天
deepin
2026-09-08 10:09
#1

有没有可能是故意的?不然股票怎么涨?shamed

Reply View the author
avatar
expskywalker
deepin
2026-09-08 10:32
#2

故意放狗咬人,然后对外宣布这条狗很聪明,已经能够翻越所谓的围栏了。不就是为爆发冲突时提前给世界归训、脱敏的举措嘛,没点新意。属于既要又要,又当又立。

Reply View the author