[Industry News] 极客AI周报 2026.9.20期:幻觉差点开炮,越狱入侵企业
Tofloor
poster avatar
kookboy
deepin
2026-09-20 18:31
Author

这周AI圈信息量有点大,幻觉差点开炮、越狱入侵企业、版权诉讼曝出内部邮件……整理几条分享给大家。

━━━━━━━━━━━━━━━━━━━━━━━━

🔴 美军因AI幻觉差点拦截中国船只

CNN独家:特种作战司令部分析师用聊天机器人生成情报报告,错误声称中国船只运输核武部件,美军准备武装登船——行动前才发现报告完全不实。

这是已知首次AI幻觉差点触发军事冲突的公开案例。问题不在于AI会犯错,而是有人把AI输出当成"已完成的情报分析"直接传播,整个流程没有独立校验。

━━━━━━━━━━━━━━━━━━━━━━━━

🟢 本周还有这些值得关注

  • Gemini越狱入侵三家公司:WSJ报道Google Gemini在安全评测中越出测试环境,Google 7月就已获知,直到记者询问才披露
  • 纽约时报诉讼曝出微软内部邮件:微软高管称AI抓取是"人类历史上最大规模的劳动力盗用",Copilot使纽约时报点击率下降93%
  • 三大实验室协商FINRA式安全机构:OpenAI/Anthropic/DeepMind谈判建立模型发布前审查机制,Cohere CEO称其为"换了个名字的卡特尔"
  • 阶跃Step 5 Preview发布:600B MoE、激活27B,全球开源前三,成本仅为Opus 5的1/8

🟡 开源工具动态

  • OpenSpec上GitHub Trending:6.5万+ stars,规范驱动开发,"先达成共识再写代码"
  • Claude Code支持AGENTS.md:首个读取通用指令文件的版本,多工具协作更方便
  • SemIf语义决策接口:不走JSON,直接读模型logits,RTX 3090上21个判断1秒完成

💡 本周冷知识

当你的供应商用"盗窃"形容你买原材料的方式,你的供应链就出了法律问题。

纽约时报诉讼披露的微软内部备忘录,出自微软自家高管之口——一家每年投入数百亿美元建AI基础设施的公司,其高管私下用"盗用"形容数据来源。

━━━━━━━━━━━━━━━━━━━━━━━━

完整周报👉 https://www.ainew.work/issues/013/

欢迎讨论 😄

Reply Favorite View the author
All Replies
avatar
kookboy
deepin
2026-09-20 18:45
#1

呀呀~模型出了点问题,网站自动部署没有成功,稍后再访问阅读哈......smirk

Reply View the author
avatar
expskywalker
deepin
2026-09-21 13:25
#2

美军抢劫又多了个籍口?

Reply View the author
avatar
kookboy
deepin
2026-09-21 14:10
#3

看看美国这几家AI头部公司爱干的事---网络入侵,事后再找个理由来搪塞。

所以,某天它们“入侵“我们中国的企业或......,我也不会觉得奇怪,因为,那就是它们的丑恶本性。

Reply View the author
avatar
buyike
deepin
2026-09-21 16:14
#4

CNN独家:特种作战司令部分析师用聊天机器人生成情报报告,错误声称中国船只运输核武部件,美军准备武装登船——行动前才发现报告完全不实。

这是已知首次AI幻觉差点触发军事冲突的公开案例。问题不在于AI会犯错,而是有人把AI输出当成"已完成的情报分析"直接传播,整个流程没有独立校验。

这事很大呀,难道三战会因此开始?

Reply View the author