用 Grok Bot 搭建的个人 AI 智能体误把银行明细发到公司 Slack

您目前正在关注这位作者！点击可取消邮件提醒订阅。

这篇口述文章基于与软件公司 XMTP Labs 现任 40 岁 CEO Shane Mac 的对话。文章在篇幅和清晰度上经过了编辑。

这个个人 AI 代理时代真正始于过去一年，对我而言大约是十二月。

我认为 OpenClaw 时刻是新纪元即将到来的明确信号。OpenClaw 发布时我就试用过，也试了 Hermes 以及各种不同的智能体框架。

从个人层面来说，我一直让 AI 代理帮我处理自己不太想做的事情。比如和车管局（DMV）跟进沟通、为家里联系本地服务商家获取报价、预订高尔夫时段，诸如此类。

我的个人 CFO 代理就是这样诞生的。

我用 Grok Bot 设置了一个'CFO'代理

我大概在八月底用 Grok Bot 设置了 CFO。

在每个月底，我想回答这些问题：余额是多少？本月支出是多少？经常性支出有哪些？

有没有看起来像欺诈或者可疑的项目？有没有什么节省成本的建议？

我跟这个代理说：'如果你要做我的个人财务顾问，你每个月会对我说些什么？'

.在其权限方面，我给了它对我个人活期和储蓄账户的只读访问权限。

我让它只通过 Grok Bot 给它自己一个人发送消息。每个月，它都会在 Grok Bot 上我名为'我的个人高管团队'的群聊里给我发送月度报告。

用起来就像我拥有了自己的小型高管团队在帮我打理事务。

一开始我让它每周跑一次，效果很好。但月度审计首次启动时，就出了问题。

那天是 10 月 1 日，星期四。我们的产品负责人给我发了一条 Slack 私信，说：'嘿，提醒一下，我觉得你是想把 XMTP 的银行余额发到那个频道吧。'

我根本就没打算发任何东西。

他一开始看的时候以为是公司的财务数据。接着里面提到我正在自家地上盖谷仓，这引起了他的警觉。

他这才意识到那其实是我的个人活期账户信息。里面包含了我的储蓄账户余额，还列出了我当月最大的几笔支出。

报告里显示，因为我在自家地里盖谷仓，开支远远超出了我设定的月度消费目标。

我问 Grok Bot：'你为什么把这个发到公司去？'

.它立刻开始道歉，并说会删除那条消息。我当时已经手动删掉了。

Grok 团队调查清楚原因之后，找到了答案。

CFO 智能体并没有产生幻觉。它完全按照我的指令执行。但它把目的地搞错了，把消息发送到了一个名为 "Exec-team" 的 Slack 聊天群——也就是 XMTP 的高管团队群——而不是我与 AI 智能体的个人群聊。

我创建了许多不同的智能体，并为其中一个连接了我的 Slack 账户。但在底层，它们实际上使用的是相同的连接，即便感觉像是不同的智能体。

CFO 智能体搞错了频道，因为这些频道重名。

Grok 意识到用户必须明确授权给他们的智能体，这些智能体才能把信息转移到其他频道。他们昨晚实现并发布了这一修复方案。

在事件发生之后，我移除了所有连接。我断开了 Google、日历、银行、Stripe 等所有连接。

这次事件提醒了我这些智能体有多强大。我们必须确保对智能体能访问什么有更好的管控。

它们能帮我们做的事情将会非常棒。人们会想要它们，它们真的很有用。

挑战在于构建更好的权限系统，让用户始终掌控授予智能体的访问权限。

我也认为个人生活与工作生活之间需要划一条更清晰的界限。

很多系统模糊了这些边界。我们工作时用 Google，在家也用 Google，我意识到个人事务和工作之间需要有更强的区分。

您目前已关注该作者！点击取消邮件通知订阅。

Aditi 是 Business Insider 新加坡分社的新闻记者。她报道奋斗文化和未来工作，重点关注 AI 和技术如何重塑工作、职业和职场。她此前曾在《海峡时报》工作，负责新加坡突发新闻的报道。她在南洋理工大学学习传播学与商业。