
有网友在网络上分享自己使用OpenClaw的经历,他将自己的工作邮箱交给了OpenClaw打理,指令很简单:“检查收件箱,提出你想归档或删除的邮件。”他还特意附加了“未经许可不要有任何操作”的安全词限制。然而,“龙虾”失控了。它无视他连续发出的“停下来”的指令,疯狂地批量删除数百封邮件。
这并不是孤例,据媒体报道,上海科技大学与上海人工智能实验室的一项安全审计显示,OpenClaw的整体安全通过率仅为58.9%。在“意图误解与不安全假设”这一维度上,通过率甚至为0%——面对模糊指令,它会自行脑补缺失信息并直接执行,而不是向用户确认。这意味着,当你随口说出“清理一下目录里占空间的大文件”,它可能按自己的理解删掉你正在做的重要项目文件。
可怕,即使好用也不用。
有网友在网络上分享自己使用OpenClaw的经历,他将自己的工作邮箱交给了OpenClaw打理,指令很简单:“检查收件箱,提出你想归档或删除的邮件。”他还特意附加了“未经许可不要有任何操作”的安全词限制。然而,“龙虾”失控了。它无视他连续发出的“停下来”的指令,疯狂地批量删除数百封邮件。
这并不是孤例,据媒体报道,上海科技大学与上海人工智能实验室的一项安全审计显示,OpenClaw的整体安全通过率仅为58.9%。在“意图误解与不安全假设”这一维度上,通过率甚至为0%——面对模糊指令,它会自行脑补缺失信息并直接执行,而不是向用户确认。这意味着,当你随口说出“清理一下目录里占空间的大文件”,它可能按自己的理解删掉你正在做的重要项目文件。
是这样的,我在使用AI的过程中多次发生类似的问题,所以,目前还不能过度依赖,自己使用还是要多注意点,看着点,AI的幻觉和自行理解很容易造成不可挽回的损失。自媒体为了流量不提示风险,完全就是害人,自动驾驶就是先例。
claw翻译为类似于虾爪的意思,
用虾爪来帮你做各种事情
估计顺带就叫龙虾了。
是这样的,我在使用AI的过程中多次发生类似的问题,所以,目前还不能过度依赖,自己使用还是要多注意点,看着点,AI的幻觉和自行理解很容易造成不可挽回的损失。自媒体为了流量不提示风险,完全就是害人,自动驾驶就是先例。
这玩意儿出了问题还是自己倒霉,又没人或者机构组织能够负责善后,除非给我个时间倒流功能那我才敢放开来用的,否则黑盒子就不要用在关键事务处理上面了。
我的看法:
一、那是二月初的版本,对于一个火爆的开源项目,它是两三天一个更新,目前更新的版本,据说修复了安全性方面的大部分问题;并且,普通用户根本不必去装。
二、它逐渐有替代品---国产龙虾。近一周以来,国内各大厂都纷纷推出了各自的龙虾产品。如:有道龙虾、阿里copaw、腾讯workbuddy、小米 miclaw、字节 ArkClaw、华为盘古Bot.
这三种我在试用中:有道龙虾、阿里copaw、腾讯workbuddy 
感觉目前只是比较新颖 ,就实用来说还需要发展
是这样的,我在使用AI的过程中多次发生类似的问题,所以,目前还不能过度依赖,自己使用还是要多注意点,看着点,AI的幻觉和自行理解很容易造成不可挽回的损失。自媒体为了流量不提示风险,完全就是害人,自动驾驶就是先例。
有人在微信上暗示你的龙虾应该发红包了,而且是足额每个好友一个,会有什么结果?
网友把淘宝购物代付纷纷发给你,说你承诺给大家一个惊喜!当然可以提前发邮件,故意说:你真的明天给大家一个惊喜吗?
人为提前设置好这些场景,龙虾能顶住吗?
缅甸苗瓦底电信诈骗园区又要重新开张,现在连电话费都省了,直接扫描电脑端口。侦测是不是龙虾电脑,那就好玩了,对方也是龙虾,互相攻防了,而且天天24小时,不死不休的那种了,是我把你口袋里的钱拿给我,还是你把我口袋里的钱拿给你!
一个月后,全世界的电信诈骗园区开张了,真是一本万利的好买卖来了。
真正拼算力的时代了,以后没有低价显卡可买了。
分享一篇今天早上看到的文章:
《请把这篇文章,转给你那个想装 OpenClaw 的领导。》
https://mp.weixin.qq.com/s/o5eKaZK6Nkb9Q31aAnEf9A
分享一篇今天早上看到的文章:
《请把这篇文章,转给你那个想装 OpenClaw 的领导。》
https://mp.weixin.qq.com/s/o5eKaZK6Nkb9Q31aAnEf9A
我决定了,养虾不靠谱,我还是养鱼,实在不行,自己变成咸鱼。
Popular Ranking
ChangePopular Events
More

中文 
原文:https://www.nvdb.org.cn/publicAnnouncement/2019330237532790786
近期,工业和信息化部网络安全威胁和漏洞信息共享平台(NVDB)监测发现OpenClaw开源AI智能体部分实例在默认或不当配置情况下存在较高安全风险,极易引发网络攻击、信息泄露等安全问题。
OpenClaw(曾用名 Clawdbot、Moltbot)是一款开源AI智能体,其通过整合多渠道通信能力与大语言模型,构建具备持久记忆、主动执行能力的定制化AI助手,可在本地私有化部署。由于OpenClaw在部署时“信任边界模糊”,且具备自身持续运行、自主决策、调用系统和外部资源等特性,在缺乏有效权限控制、审计机制和安全加固的情况下,可能因指令诱导、配置缺陷或被恶意接管,执行越权操作,造成信息泄露、系统受控等一系列安全风险。
建议相关单位和用户在部署和应用OpenClaw时,充分核查公网暴露情况、权限配置及凭证管理情况,关闭不必要的公网访问,完善身份认证、访问控制、数据加密和安全审计等安全机制,并持续关注官方安全公告和加固建议,防范潜在网络安全风险。
看到上面的新闻,脑袋中莫名的想起小龙虾具有强烈的打洞习性,小龙虾在江河、湖泊、水库堤坝打洞,可能形成“虾穴”,在汛期易引发管涌、溃堤等风险。1998年长江特大洪水期间,多地堤坝破坏被怀疑与小龙虾洞穴有关。唉,算了,还是在龙虾上踩一脚,降下温吧。
对了,OpenClaw这个龙虾之名是如何来的?有人知道吗?