· 工具短评 · 阅读约 6 分钟
智能体有了「运行时」:这一周工具都在做后台这件事
本文要点
- 把操作系统的机制搬进智能体:有团队开源了一个原型架构,把调度、缓存、算力与存储分离…
- 子智能体去后台干活,主智能体不等:某托管平台的新版本加了浏览器操作和异步子智能体——主智能体派完活就去处理别的…
- 提示被缓存,而不是每次重发:有云厂商专门写了方案讲怎么缓存智能体每一步重复发送的背景上下文
- 跑偏了要能发现,评测要在隔离环境里跑:一边有开发者公开了自己怎么分层监控模型「跑偏」和「未经授权的动作」
- 有一款桌面应用把终端和智能体放进了同一个内核:关掉窗口、退出应用、甚至升级更新,会话都还在跑
结论先行:这一周工具圈的共同点不是模型又变强了,而是智能体开始有了自己的「运行时」——调度、隔离、缓存、看护这四件事,正在从零散技巧变成一层可以整体交付的东西。
过去一年我们写过很多次「工具变强了」。但这一周值得单独记一笔的不是强度,是形态:一批更新同时指向同一件事——让智能体能在后台连续跑几个小时甚至几天,跑的时候不出事、不烧钱、不中断。
一、四个信号,指向同一层东西
把这一周公开发布的东西并排放,能看到四条线索。
- 把操作系统的机制搬进智能体:有团队开源了一个原型架构,把调度、缓存、算力与存储分离、看门狗这几样操作系统里用了几十年的机制搬进智能体里。跨会话保持上下文、异步推进多任务这两件事因此变成了架构能力而不是技巧。原型实验里有一半任务能在 12 分钟左右跑完。
- 子智能体去后台干活,主智能体不等:某托管平台的新版本加了浏览器操作和异步子智能体——主智能体派完活就去处理别的,后台那个自己跑完再回话。这类「派单—回话」结构,形态上已经接近团队分工。
- 提示被缓存,而不是每次重发:有云厂商专门写了方案讲怎么缓存智能体每一步重复发送的背景上下文。因为智能体的特点就是同一个上下文要反复用,不做缓存,token 账单会随步骤数线性往上走。
- 跑偏了要能发现,评测要在隔离环境里跑:一边有开发者公开了自己怎么分层监控模型「跑偏」和「未经授权的动作」;另一边有沙箱环境支持跑智能体评测框架——被测对象和其他东西隔开,测出来的数才可信。
这四条合起来叫「运行时」:决定智能体在哪儿跑、跑多久、失败了怎么办、钱花在哪、怎么验证它没乱来。以前这些是各自为零散插件,现在开始被当成一层来提供。
二、还有两个更具体的信号
另外两条值得单独提一句,因为它们直接关系到「一个人能不能真的把它交付出去」。
- 有一款桌面应用把终端和智能体放进了同一个内核:关掉窗口、退出应用、甚至升级更新,会话都还在跑。这解决的是一个人最实际的痛点——你不可能二十四小时盯着屏幕,但活要一直在跑。
- 有一款开源的人格化框架把记忆单独拆了一层:人格、记忆、模型、持久化、界面分成五个独立部分,记忆可以放在内存里、存成 JSON 文件,或者进数据库。这个设计对一人公司的意义是:记忆是可以被迁移和备份的资产,而不是绑死在某个工具里的功能。
顺带说一句安卓端那个开源智能体——它跑在一块隐藏的后台屏幕上,靠视觉找按钮而不是调用特定接口,默认停在「问过才动手」那一档,也留了沙箱可以跑脚本。这几处的取舍很说明问题:这一波工具在能力上都往前迈了一大步,但在「要不要直接动手」上普遍选择了保守。跑后台和替人操作是两件事,别混在一起。
三、这一层对一人公司意味着什么
先说为什么这件事值得一个做小生意的人关心。
过去一年,一人公司卖的东西大多还是「一次性交付」——写一篇稿、做一套图、剪一条视频。交付完就结束,收入按次算。这类生意的问题不在于单价,在于你的收入和你的时间严格挂钩,天花板就是每天二十四小时。
运行时这一层的出现,让「按次交付」之外多了一种可能:交付一个跑在后台的东西。客户的活交给你配置一次,之后它自己跑,产出按天或者按周送到客户那里。这形态上就从「我给你干活」变成了「我给你看着一台机器」。
对一个人来说,这几乎是唯一能绕开「收入 = 工时」这条铁律的路子。所以这一层不是给大厂准备的,它是给一个人准备的。
工具订阅费一次性付掉,收入按月收,客户获得的是「每天早上结果自动到」——这是把一次性交付换成订阅的唯一现实路径。
四、三个能收钱的切入口
- 托管运维:把智能体放到客户自己的机器上。客户的服务器或云账号,工具链、数据边界、备份策略、权限规则由你搭好、按月维护。收的是服务费,不是转售差价。这一档最稳,因为客户买的是「出事有人管」,而这件事正好是一人公司自己天天在干的能力。
- 后台化改造:把客户的重复流程改成异步长任务。客户现在的活是人工一步步做——每天收集、汇总、生成、发出去。你把它改成夜里跑,早上送到。这个交付物是「一个跑通的后台流程」,比「一份报告」值钱得多,也比它难做得多。
- 看护与体检:给已经在用智能体的团队做托管巡检。跑偏检测、回归测试、每次改动前后跑一遍对比、出一份成本账单。这一档客户已经在付工具钱了,缺的正是「谁帮我盯着」——而盯活这件事,恰好是一人公司的天然能力。
这三档的共同点是:客户买的不是软件,是「它一直好好地跑着」这个承诺。而交付这个承诺所需要的技能——排查、复现、留记录、按时交付——正是你一个人做得过来的。
五、三个坑
- 坑一:把「能后台跑」当成「能自动赚钱」。后台跑起来只是不占你的注意力,责任一点没转移。跑歪了、跑空了、跑到一半停了,赔的仍然是你的钱。做之前先想清楚:这个东西跑错了,最坏的结果是什么,你能不能兜住。
- 坑二:只算单次成本,不算缓存命中。一次调用多少钱是明账,但一个后台任务跑一晚上重复发送了多少次背景上下文,是暗账。做长任务的成本一定要按「任务数 × 步数 × 上下文长度」估一遍,而不是按「跑一次多少钱」估。这条不算清楚,订阅费收少了就是自己贴。
- 坑三:把会话和记忆留在自己电脑上。客户的活跑在你的机器上、会话存在本地、你一关窗口就断——这种情况下一次就会变成「这工具不稳定」,而锅全在你身上。交付之前把三件事定死:跑在哪、数据在哪、出问题找谁。
还有一条不算坑但值得记:当智能体开始能替你操作浏览器和手机了,权限边界就成了产品的一部分,而不是配置项。这一点上一期的《智能体替人花钱之后》已经讲透,这里不再重复——只提醒一句,做长任务交付时,权限该写进合同的那部分,和功能一样重要。
最后回到标题。这一周工具圈其实只干了一件事:把智能体从「一次问答」变成「一个常驻进程」。对做工具的人来说,这是新功能;对做一人公司的人来说,这是把一次性交付换成按月收的一个真实入口。模型能力你可以等,但这一层一旦铺开,先用上的人会先把订阅关系签下来。
手上的内容产出同样可以整段交给工具。像本站公众号图文工具这类一次跑完选题到成稿的流水线,把每天的重复劳动压成一次点击,你才有空去琢磨后台那一层怎么接第一单。