凌晨四点,我被手机震醒,刷到 OpenAI 开发者大会,这两天圈子已经被这事刷屏了。
满屏都是那个叫 dots 的东西——一个 24 小时在线、能自己替你干活、还说自己有台云电脑和浏览器的个人智能体。连上你授权的 4000 多个应用,跨 ChatGPT、Slack、Teams 一直挂着,订餐厅、写文档、改代码、盯进度,全都能接过去。
我本来困得要死,看完反而睡不着了,顺手把这条新闻转给了我自己写稿的模型,让它先别急着写,陪我捋一捋。
不是我矫情。是我自己写东西、发东西这条线,早就被我自己拆成了三段:研究归研究,写作归写作,发布归发布。负责写的那一步,从头到尾碰不到发布权限;真去点发布的那一步,也不许它临时改我的稿子。
所以看到 dots 这种"全能"的东西,奥特曼还在台上说"这让你可以根据自己能接受的程度,把尽可能多的责任交给你的 dot",我第一反应不是终于能把活甩出去了,是它到底能替我动什么。
因为"替我干活"和"替我签字",是两码事。前者是省时间,后者是动我的钱、我的号、我辛辛苦苦攒下来的东西。 说回我自己那条三段式的线。
为什么拆这么死?因为我很早就想通了一件事,越想越怕。
一个能自己把稿子写完、又自己发出去的 AI,跟一个写完了必须等我点"发"的 AI,出错的代价根本不是一个量级。前者手一抖,一秒钟就把没审完的东西推给所有人了,你连撤都来不及;后者再蠢,顶多停在草稿箱里,等我睁开眼再看一眼。
所以 dots 这种"全能"的东西出来,我的第一反应不是终于能把活都甩出去了,是先把权限往死里收。
我给它划三条线:哪些能随便看,哪些必须先问我,哪些连碰都别碰。
能随便看的,是只读的活。整理待办、盯数据、把一堆散消息汇总成个初稿——错了也好改,无所谓。
必须先问我的,是发消息、动账户、往外分享。这一档,它可以在后台把事做完,但最后一哆嗦必须我来点头。
连碰都别碰的,是钱、账号、身份、已经生效的东西。这一档没有"先斩后奏",直接不授权。
这三条线,不是防它蠢,是防我手滑。说实话,我信不过的不是 AI,是我自己哪天脑子一热就点了"全权委托"。 有意思的是,OpenAI 自己也是这么想的。
它给 dots 的默认设置,恰恰是"read-only"。你不主动跟它说话的时候,它在后台搞的所谓"主动研究",只能用只读工具,不能发消息、不能改你应用里的东西。凡是可能影响你账户、或者要把东西分享出去的操作,得先过一道自动审查,判断符不符合授权,拿不准的再回来找你审批。
翻译成人话就是:一家把"替你干一切"当卖点的公司,给自家产品上的第一道锁,是"别让它随便动你的账户"。
连造它的人都门儿清,危险从来不在 AI 够不够聪明,在于权限给多了,收不回来。你给它开了发消息、转账、对外分享,它哪怕只是把一条消息发错人、把一个数字填错一格,代价就不再是写坏一篇文章,是实打实的钱和麻烦。
所以你说这东西是不是没用、别用?不是,我一点都不这么想。那些重复、确定、错了也好改的活,交给它真能省出大把时间。
我烦的是另一种人:因为它"看起来什么都能干",就默认它什么都能替你定,然后一键把控制权全交出去。
还有个现实是,dots 现在主要推给 Pro 和 Business Premium,还带着审批、只读这些机制。这说明它自己也还在"能干"和"可控"之间拧巴。这个平衡没定下来之前,谁先把身家性命全交出去,谁就是第一批小白鼠。我不拦着,但我自己不当。
写到这里,dots 的权限设置后面还会不会改、审批会不会简化,都是没影的事。我能确定的只有一句:一个替你干活的 AI 靠不靠谱,不看它活干得多漂亮,看它犯错那一秒,损失还在不在你自己手里。
以上都是我个人看法,不一定对。这也不是什么放之四海皆准的安全指南,我的边界只适用于我这种一个人扛、输不起的人;你要是团队够大、有人兜底,或者本来就无所谓,那这套东西不适合你。你要真想全权委托一个智能体,那是你的自由,我祝你好运,但也劝你至少把转账那档,留着自己点。
深入交流:Any1tan

读者讨论
评论
欢迎补充经验、提出问题或指出遗漏。所有新评论会先经过人工审核。
为了减少垃圾信息,仅支持 Google 账号登录后评论。
公开页面只显示你的名称和评论,不显示邮箱。