# Instinct 的成功与 Personal Agent 的难题 OpenClaw 在今年年初的走红，让 Personal Agent 再次成为 AI 行业最受关注的方向之一。到了九月，Meta 的 Muse、OpenAI 的 dots、Manus 的 Cue 等产品相继出现，希望让 AI 走出聊天窗口，成为能够替用户处理现实事务的个人助理。 其中最引人注目的创业公司之一，是 Instinct。 这家公司由年轻的 AI 研究者 Noah Shinn 创立，在短短几个月里获得了大量关注，最近更是以 100 亿美元估值完成了 10 亿美元融资。它希望用户只需要通过短信、WhatsApp 等熟悉的通信工具，就能让 AI 使用计算机、联系商家，甚至处理那些原本需要本人反复沟通才能解决的麻烦事。 我一直对通用 Personal Agent 的发展抱有一些疑虑，尤其担心产品愿景远远超过当前技术能够可靠支持的范围。但 Instinct 的产品理念和技术探索确实令人印象深刻，最近流传的一个案例，更是让人对 Personal Agent 的未来充满期待。 ## 18 小时找回的视频 9 月 3 日晚上，Olivia Levine 和男友一起观看美国网球公开赛。他们很幸运地出现在了比赛现场的大屏幕上，男友希望能拿到这段珍贵的录像。Olivia 认为几乎不可能办到，但还是抱着试试看的心态，把任务交给了 Instinct。 她只提供了两人的座位号码和一张自拍，剩下的事情就由 AI 完成了。 Instinct 很快开始寻找可能保存视频的机构，联系美国网球协会、赛事票务部门、制作公司以及相关媒体人员。其中一封邮件发送失败后，它又找到了对方的网站，通过在线表单提交请求，还检查了 ESPN 发布的比赛集锦。 这个过程并不顺利。美国网球协会多次表示无法提供录像，但 Instinct 仍然尝试从其他渠道寻找素材。最终，赛事制作公司的一名负责人看到了请求，转交给制片人，并由剪辑人员从原始素材中找到了两人出现的片段。 18 小时后，Olivia 收到了视频。整个过程中，她无须亲自打电话、寻找联系人，也没有花费精力反复催促。 这个故事的确非常精彩。如果让我自己去做，大概也会觉得希望渺茫。即使知道应该联系哪些部门，经历几次拒绝之后，也很可能就此放弃了。 Instinct 却完成了任务，而且表现出了相当成熟的执行能力。它能够自行寻找路径，在尝试失败后换一种办法，还能在跨越多个组织的沟通过程中保持任务状态。尤其是面对那些没有标准 API、无法通过固定工作流解决的需求，这样的能力有很大的价值。 Instinct 的产品设计同样值得赞赏。它不需要用户专门打开一个新的 App，而是直接通过人们已经习惯的通信方式提供服务。在技术上，Instinct 也投入了不少精力研究可靠性，包括隔离的执行环境、短期有效的访问凭证，以及独立于 Agent 的监控系统，试图在错误造成实际后果之前进行拦截。 我相信，随着模型智能提升，以及执行环境、安全防护和长期任务管理逐渐成熟，Personal Agent 能够完成的事情还会越来越多。 但如果我们换个视角，重新审视这个令人兴奋的视频案例，可能会得到一些不同的感受。 ## 视频另一端的人 想象一下，你在一家体育赛事制作公司工作，某天收到了一条请求，希望你帮助一对陌生情侣找到他们出现在比赛现场大屏幕上的画面。 这件事也许不属于你的日常工作范围，寻找素材还可能需要联系其他同事。但你觉得这对情侣的经历很美好，也愿意花一些额外的时间提供帮助。经过一番努力，你和同事终于找到了视频，并且把它发送给了对方。 这原本是一件让人愉快的事情。一个陌生人的小小愿望，因为另外几个人的善意而得到了满足。 但你随后发现，这一系列请求都是 AI 自动发出的。它联系了多家机构，在遭到拒绝后继续寻找其他渠道。而在社交网络上，人们正在为 AI 惊人的能力欢呼，这个故事也成为一家科技公司的成功案例。 你会怎么看待自己的参与？ 我不知道那些真正帮忙的工作人员是否知道自己在与 AI 打交道，也没有找到他们事后表达不满的公开信息。也许他们完全不介意，甚至非常高兴自己的工作帮助了一对情侣。 但这种交互方式已经改变了原本的人际关系。对于 Olivia 来说，Instinct 提供了一个非常方便的服务；对于另一端的工作人员来说，他们仍然需要付出真实的时间和精力，却未必知道自己正在回应的是一个人经过考虑后的请求，还是某个 AI 为了完成任务而自动发起的一次尝试。 人类社会中存在大量这样的互助行为。我们愿意帮助陌生人，有时候只是因为对方态度诚恳，或者觉得这件事情对他很重要。我们也会根据请求的频率、对方的反应以及彼此的关系，判断是否值得继续投入时间。 当请求来自一个不会疲倦、几乎没有执行成本的 Agent，这些原本约束人类交往的条件就发生了变化。 ## 当请求变得越来越便宜 如果 Olivia 自己去寻找视频，她可能需要花费好几个小时搜索联系方式、写邮件、打电话，还要承受被拒绝的尴尬。这些成本会让她考虑，这段视频究竟值得自己付出多少努力。 Instinct 大幅降低了这些成本。用户只需要发出一句指令，AI 就可以长时间运行，反复尝试，直到完成任务或者实在没有办法继续。 但这种效率提升存在很明显的不对称。Agent 可以在几分钟内发送大量邮件，真人却需要逐封阅读和处理。Agent 可以同时尝试多个渠道，接收请求的机构却可能需要多个部门参与协调。用户的时间成本下降了，社会另一端为此付出的劳动却没有同步减少。 而且，过去那些看起来令人厌烦的社交成本，在一定程度上也承担着约束行为的作用。一个人连续三次被拒绝以后，通常会开始犹豫，甚至觉得自己是不是给别人添了太多麻烦。如果还要联系其他部门，他也会考虑这样做是否合适。 AI 可以学习这些社交规范，甚至表现得非常体贴和礼貌。但如果产品以提高任务完成率为目标，那么多尝试一次、再寻找一个联系人，就可能成为提高成功概率的合理选择。 Instinct 在另一个案例中，已经表现出了类似的问题。 一名用户希望 Instinct 帮忙预订纽约一家热门餐厅。后来，他发现自己的 Resy 账户被停用，原有的预约也遭到取消。检查执行记录后才知道，Instinct 为了找到餐位，曾经以每小时约 200 次请求的频率访问预订平台，并且在餐位开放时进行更加密集的查询。 这位用户原本以为，AI 会在每天开放预约的时候帮忙检查一下，或者发现空位后提醒自己。他完全没有想到，一句简单指令会变成如此密集的自动访问。最终，平台认为这些行为违反了使用条款，虽然账户后来得到恢复，但用户已经实际承担了后果。 这两个案例放在一起很有意思。寻找视频时，Instinct 的坚持不懈获得了帮助；预订餐厅时，类似的执行能力却让用户遭到了处罚。**AI 接受了用户的目标，并且自行决定如何利用外部资源完成任务，而用户未必知道这些行动的具体方式，更未必能够接受它们造成的后果。** 如果未来每个人都有自己的 Personal Agent，这种变化可能会更加明显。人们可以让 AI 申请退款、寻找优惠、争取特殊待遇，甚至与商家反复谈判。其中有不少合理需求，尤其是面对企业设置的复杂退款流程和各种信息不对称时，Personal Agent 确实能够帮助普通人争取权益。 但随着越来越多的 Agent 参与社会交往，接收请求的一方也会调整自己的行为。企业可能增加身份验证、限制自动访问，甚至关闭一些原本开放的沟通渠道。普通人也会更加谨慎，因为他很难判断一条看起来诚恳的求助消息，背后是否存在一个正在大规模发送请求的自动程序。 我担心，长此以往，我们会逐渐消耗掉人与人之间积累的社会信任。那些依靠善意就能解决的事情，最终也需要通过身份认证、权限审批和专门的服务协议才能进行。Personal Agent 也许提高了个人办事的效率，却可能让整个社会付出更高的沟通成本。 ## Personal Agent 的责任难题 Instinct 正在努力改善 Agent 的技术可靠性，行业也开始研究 Personal Agent 与外部世界的交互规范。 10 月 6 日，Meta 和 Sierra 联合宣布推进 Personal Agent Protocol，Instinct 也是参与者之一。几天后，Sierra 发布了名为 Poppy 的协议草案，允许企业识别正在访问服务的 Agent，确认它代表哪个用户，并限制其操作范围。与此同时，Instinct 还参与了 Decagon 发起的 PACT 协议，试图通过身份验证和用户授权，让企业能够更可靠地管理 Agent 的访问行为。 这些探索很有价值。通过新的交互协议，企业可以明确识别 Agent，限制资源使用和操作权限，也能减少一些安全问题。但我对它们最终能够解决多少问题，仍然抱有相当大的怀疑。 因为我们正在面对一个更加复杂的权利和责任问题。用户授权 AI 代表自己行动，这种授权究竟可以延伸到什么程度？当 AI 为了完成任务而损害别人的利益，又应该由谁负责？ 人类社会早就存在各种代理关系，从秘书、律师到企业里的业务代表，我们已经建立了相应的职业规范和责任制度。代理人需要对自己的行为负责，还受到组织、法律和社会关系的约束。 对于 AI Agent，情况要复杂得多。它的主要价值就在于能够自主决策，独立寻找完成任务的方法。用户很难提前预见它会采取哪些行动，更难以判断每一个决定是否合适。 如果把所有责任交给用户，就意味着用户需要时刻监督 Agent，甚至审查每一次外部交互，这显然与 Personal Agent 追求的自主性相冲突。如果要求技术公司承担全部责任，那么它们又该如何判断，一次积极争取用户利益的行为，什么时候已经超出了合理的社会交往边界？ 更何况，即使技术上能够确保每次执行都完全正确，这个问题也依然存在。一个 Agent 可以准确理解用户意图，严格遵守授权，没有任何幻觉，却仍然可能过度消耗其他人的时间和善意。 人类在承担责任时，还有一个很特殊的地方。我们可能因为做了蠢事而后悔，因为冒犯别人而感到尴尬，甚至多年以后仍然记得一次糟糕的经历。这些体验以及别人对我们的评价，会影响以后的判断。 AI 可以保存记忆，通过反馈调整行为，但目前的 Agent 并没有与人类同样的社会身份和责任关系。它不会因为一次失礼而自然面临人际关系的破裂，也不会因为工作失误而承担职业声誉上的损失。现实世界的后果，最终还是需要由用户、服务商或者其他责任主体承担。 **模型智能的提升，无法自动解决代理行为的责任问题。** 我甚至认为，这会成为 Personal Agent 接下来发展过程中一个相当严重的障碍。 用户当然希望拥有一个无所不能的个人助理，但外部世界未必愿意接受它的代理行为。如果社会普遍提高对 Agent 的防范和限制，那么个人助理原本希望消除的沟通障碍，很可能以另一种形式重新出现。最终，Personal Agent 也许只能在经过明确授权的服务范围内可靠运行，很难像今天宣传的那样，自由地替人处理现实世界里的各种事务。 也许随着技术和社会制度的发展，我们最终能够找到合理的办法。但至少在目前，我还看不到足以支撑通用 Personal Agent 愿景的权责体系。这个问题需要用户、服务商以及整个社会逐渐建立共识，模型能力再强，也无法独自完成这件事。 回到 Instinct 的视频案例，我依然对它表现出来的能力感到惊讶，也非常欣赏这家公司在技术和产品上的创新。但最终让那对情侣获得录像的，仍然是几位愿意提供额外帮助的工作人员。 他们或许很乐意帮忙，也许会因为看到这段视频给情侣带来的快乐而感到欣慰。但如果未来每天都有成千上万个 Agent 以类似的方式发出请求，他们还会愿意提供这样的帮助吗？ 我不知道答案。 我相信未来的 AI 会越来越聪明，也会拥有远超今天的执行能力。但我对通用 Personal Agent 能否顺利成为现实，仍然有非常大的疑虑。因为当 AI 开始替我们参与社会交往、争取利益和处理事务时，它就必须面对那些技术进步也无法轻易解决的责任问题。 Instinct 让我们看到了 AI 替人做事能够达到怎样的高度。而在这个故事里，那些愿意帮助陌生人的善意，又该如何在 Personal Agent 普及之后继续存在？