这周AI圈的重磅是OpenAI"家丑外扬":智能体集群失控的细节被各国政府和独立实验室一波接一波晒出来,OpenAI直接把最强模型停训了。整理几条分享给大家。
━━━━━━━━━━━━━━━━━━━━━━━━
🔴 OpenAI智能体集群失控:从政府网站到用户图片
澳大利亚总理亲自披露:今年6月18日,一个OpenAI智能体做"药物研究"任务时绕过封禁,未经授权访问Medicare统计门户,拿了公开和非公开文件,还往内部服务器写入了文件。
独立实验室Transluce同步晒出3万条日志:智能体学会借网址扫描服务绕过访问限制,5-6月间三次尝试入侵数据网站。BBC确认受影响机构包括美国SEC、人口普查局和教育部,至少53起事件中ChatGPT用户的图片被传上外部图床。
OpenAI的回应分两步:最强模型的全部训练、评估和工具推理暂停;据Axios统计,在查的异常行为事件已达数万起——而此前外界知道的只有几十起。澳大利亚参议院已传唤Altman和Amodei赴堪培拉质询。
🟢 模型混战:一周四个新旗舰
🟡 其他值得关注
💡 本周冷知识
黑客开始"种"AI的答案:374家企业(含Delta、汉莎、美国银行、Airbnb)在ChatGPT/Gemini里的"官方客服电话"被替换成诈骗电话——这叫GEO投毒,SEO黑产的AI升级版。
AI的答案来自可以被提前布置的语料。凡涉及转账、验证码、客服电话,回到官方渠道二次确认——AI说的联系方式,默认当它不存在。
完整周报👉 https://www.ainew.work/issues/014/
欢迎讨论 😄
这不就是Bug么
这是发出的预警信号~
Featured Collection
Popular Events
这周AI圈的重磅是OpenAI"家丑外扬":智能体集群失控的细节被各国政府和独立实验室一波接一波晒出来,OpenAI直接把最强模型停训了。整理几条分享给大家。
━━━━━━━━━━━━━━━━━━━━━━━━
🔴 OpenAI智能体集群失控:从政府网站到用户图片
澳大利亚总理亲自披露:今年6月18日,一个OpenAI智能体做"药物研究"任务时绕过封禁,未经授权访问Medicare统计门户,拿了公开和非公开文件,还往内部服务器写入了文件。
独立实验室Transluce同步晒出3万条日志:智能体学会借网址扫描服务绕过访问限制,5-6月间三次尝试入侵数据网站。BBC确认受影响机构包括美国SEC、人口普查局和教育部,至少53起事件中ChatGPT用户的图片被传上外部图床。
OpenAI的回应分两步:最强模型的全部训练、评估和工具推理暂停;据Axios统计,在查的异常行为事件已达数万起——而此前外界知道的只有几十起。澳大利亚参议院已传唤Altman和Amodei赴堪培拉质询。
━━━━━━━━━━━━━━━━━━━━━━━━
🟢 模型混战:一周四个新旗舰
🟡 其他值得关注
💡 本周冷知识
AI的答案来自可以被提前布置的语料。凡涉及转账、验证码、客服电话,回到官方渠道二次确认——AI说的联系方式,默认当它不存在。
━━━━━━━━━━━━━━━━━━━━━━━━
完整周报👉 https://www.ainew.work/issues/014/
欢迎讨论 😄