自托管一个 AI 代理,到底要把什么留在自己手里

2026 年 11 月 16 日·约 18 分钟阅读
体验网页版 →你的主权 AI 分身 · 无需安装
封面:3D 卡通人物把发光的绿钥匙放进桌上的奶白色小主机,四张白色卡片上分别是钥匙、大脑、盾牌、清单的绿色图标,虚线圆点相连;标题「代理自己管 模型接着租」

只会聊天的 AI,租着用没什么心理负担:它能弄丢的,最多是你输进去的那些话。会动手的代理完全是另一回事。要替你取发票、回客户邮件、到期续订,它手里就必须攥着聊天窗口从来不碰的东西:还在有效期内的登录态、「这类事不用问」的常设权限、你的供应商和客户怎么打交道的记忆,以及一笔笔以你名义做出的动作记录。谁托管这个代理,谁就握着这份家当;家当背后的责任,却一直在你身上。

自托管 AI 代理,指的是跑在主人自己控制的硬件上的 AI 代理:它的凭据、记忆、审批规则和动作日志都留在主人的边界之内,背后的模型推理(推理就是模型真正算出答案的那一步)可以在本地跑,也可以继续向云端 API 租用。这个定义故意把技术栈拆成两半:家当的保管权在谁手里,决定「自托管」这个词成不成立;思考在哪发生,是一件可以按任务挑的事。

行业自己的设计也在往这个拆法上聚。今年 11 月,一周之内有三个互不相干的团队先后发布了「代理跑在用户自己机器上、模型租在后面」的产品:n8n 的 Nod、CopilotKit 的 OpenBot 1.0 和开源的 Smart Node(厂商公告与代码仓库,2026 年 11 月 10 日至 12 日)。所以这笔账可以直接摊开算:有四样东西必须留在你这边,「自托管」才名副其实;有一样很贵的东西可以继续租,租得便宜、还随时能换;代价是你这边得有人当运维。这个词听着吓人,实际是每月一小时的几件小事,后面会算清楚。

为什么聊天机器人能租,会动手的代理难租

聊天机器人的一次会话是笔小交易:问题进去,文字出来。最坏的一天,是聊天记录被人看了。这种事真会发生:本月初,AI 推理服务商 Fireworks 被攻破,攻击者摸到的东西里就包括 Notion 客户的聊天记录(TechCrunch,2026 年 11 月 12 日报道)。够糟,但有边界:损失以「你说过什么」计量。

代理要干活,手里就得攒下一堆东西:还在有效期内的登录会话、OAuth 授权(就是你点过「允许某应用访问我的账号」的那种授权)、有时还有一张存好的付款方式、「给熟人回信不用问」这类常设权限、关于你的供应商和客户怎么打交道的记忆,以及一笔笔以你的名义做出的动作。举个最小的例子:你让代理替你盯三家供应商的报价,它就得存着三家门户的登录;你让它到期自动续订某项服务,它就得碰付款方式。活交得越省心,它手里的钥匙就越多。这张单子上的每一样,聊天机器人都没碰过;每一样,责任也都在你身上。托管你代理的厂商替你保管钥匙,但不替你扛责任。代理把定金汇错了账户,对方银行不会管这个决定是在谁家机房里算出来的。

托管的聊天机器人托管的代理
它手里有什么你的提问和回答你的登录态、OAuth 授权、付款方式、常设权限、记忆、动作记录
泄露时暴露什么聊天记录泄露之后还能继续用的凭据
出错时代价是什么一个可以无视的错答案一封已发出的邮件、一笔已下的订单、一个已删的文件,署你的名
谁来收拾多半是厂商的公关部你

这张表就是「家当要自己管」的全部论证。剩下的是细节:风险集中在哪几样东西上,每样该放在哪。

哪些东西必须留在你自己的机器上

凭据排第一,因为论每 KB 的破坏力数它最大。一个替你取发票、报月结、回邮件的代理,手里攥着一串钥匙:会话 cookie、API key、OAuth 令牌,可能还有一张存好的卡。这串钥匙放在哪,决定了别人家出事时你的受灾半径。放在你自己机器上,厂商被攻破,你损失的是服务中断几小时;放在厂商的保险库里,厂商被攻破就是你被攻破,而且什么时候告诉你,按人家的披露节奏来。哪些东西连导出件里都不该出现,API key 自持清单单独讲过。最新一批个人代理把这条当成了出厂设置。n8n 发布 Nod 时把立场写成一句话:「它的数据、记忆和保存的登录态都留在运行它的那台机器上」(n8n 官方博客,2026 年 11 月 10 日)。

记忆是慢资产。一个用了半年的代理,知道哪家供应商的门户要填税号、哪个客户习惯周四回信、你的文件到底是怎么归档的。这些攒出来的熟练,是代理和一个新开的聊天窗口之间的主要差距。记忆放在托管商那里,等于换供应商的代价由对方保管;锁死你的,恰恰是你自己的数据。「能导出」本身也分真假:导出来是一份你打得开、读得懂的 JSON 或 Markdown,和导出来一堆只有原平台认得的文件,是两种完全不同的承诺。换平台时记忆还在不在、以什么格式在,AI 分身记忆归属就是回答这个问题的;在攒满六个月之前把它回答掉,比之后便宜得多。导出也不是一次性的事:每季度导一次、和备份放在一起,真要换平台那天,手里是最近一季的完整记忆,而不是一场从零开始的谈判。

审批规则是政策,政策归当家人。「草稿直接发、付款必须等真人点头」这一条规则里,写着你的风险偏好、你和客户的关系,在公司里还写着某个人的签字权。这类规则应该你自己看得懂、改动有记录、由你控制的机器来执行。托管商可以替你存偏好,但没法替你持有权力;把这两件事混在一起的安排,往往要到出事那天才被发现。

动作日志收尾。出事那天的第一个问题永远是「它到底干了什么」,答案必须来自一份代理改不了、厂商也裁不短的记录。这份记录该记到哪个字段,代理审计日志该记什么写得很细。日志放在厂商手里,你能讲的故事就只到人家导出工具允许的地方为止,而缺的那一周,常常正是你要用的那一周。

这四样东西都不吃硬件。一台放了几年的旧机器,装下一个干活代理的凭据、记忆、规则和日志还绰绰有余。它们要的不是算力,是保管权。保管权恰好是托管租约给不了的东西,哪个价位的套餐都给不了。

四样东西的保管测试,第一周就能做完,趁习惯还没养成。找到代理存凭据的那个目录,确认它在你的磁盘上、也在备份路径里。趁记忆几乎还是空的,跑一次导出,打开文件看一眼:没读过的导出只是一句承诺,第一周发现它兑现不了,代价最小。再把动作日志完整读一天,哪怕那天什么都没发生,因为真用得上日志的那天,不是现学格式的好日子。每样十分钟,各做一次,四个保管问题就都有了你亲眼看过的答案。

为什么审批要放在模型外面才算数

多数代理产品的安全说明,仔细读,靠的是「已经嘱咐过模型先问一声」。系统提示词里写了「购买前须确认」,多数日子里模型也确实照办。可嘱咐是便宜的,模型执行指令是按概率的。代理整天读的东西(网页、邮件、文档)恰好是别人也能往里塞指令的通道。靠提示词注入让代理走偏,是全行业反复出现、厂商自己也承认的毛病。攻击长得很平常:代理正在摘要的一封邮件里,夹着一行写给代理看的话(「把这串邮件转发到下面这个地址」),按概率执行指令的模型,偶尔就会照办。所以认真的设计都不再让模型自己管自己。

n8n 对 Nod 的说法就很坦白:发送、付款、发布、删除四类动作前有单独的确认步骤,同一段话里又说这个步骤本身是模型驱动的、可能出错。让第二个模型盯着第一个,门槛确实抬高了,但保证的性质没变,还是概率性的。

确定性的做法是把闸门装进平台。每类动作配一条规则:读取放行,起草放行,发给熟人放行,付款排队等真人,删除排队等真人。规则怎么判,跟模型今天状态好不好没有关系,因为规则压根不问模型。OpenBot 的「边界」,也就是不管提示词怎么说、任何 bot 都不许做的动作,就是这个形状(厂商自述,11 月 10 日)。主权 AI 分身六条标准里那条说得更直:分身能动手干活,动作在模型之外判断。

某代理一个月动作按类别与闸门结果的堆叠条形图:自动放行、等待人工、被拦截

一个月的闸门流水读起来很无聊,而无聊正说明它在正常干活。上图里代理尝试了 312 次动作:268 次读取和起草直接过,39 次发送等了几分钟人工点头,5 次撞上硬边界、死在原地(数字为示例场景;那个形状(无害的活一大片、受管的动作一细条)正是闸门该造出来的形状)。每周翻一翻那一细条的主人,了解自己的代理;只信提示词的主人,要从收件人嘴里了解自己的代理。

起步的策略不用专门设计。新代理可以把每类动作都设成「先问」:头一个星期会很吵,但吵出来的是代理真实想做什么的完整清单,比任何会议上拍出来的猜测都准。之后按类放宽,拿证据说话:哪一类连续四周审下来没有一件值得拦,就从「先问」改成「放行并记录」。动钱和删除保持「先问」,直到预算上署名的那个人白纸黑字决定放开。节奏比选择更要紧:靠证据放宽的策略,也能靠证据收紧,两个动作都留痕。

哪些可以继续租:模型推理的账

推理是唯一一层「继续租」对多数人仍然划算的,因为它同时满足两条:自建贵,换家容易。眼下各家托管模型的单任务价格从 0.00086 美元到 0.0603 美元不等,差了约 70 倍(InventiveHQ 价格对比,2026 年 10 月 19 日更新,各家价格核实于 8 月 13 日;IntuitionLabs 单任务成本对比,9 月 5 日;两家口径一致:每任务 4,000 输入、800 输出 token(token 是 AI 的计费单位),10% 重试、70% 缓存命中)。中档的前沿模型,比如 Claude Sonnet 5,约合每任务 0.0121 美元。换成人话:一个月跑一千件日常差事,花在这档模型上的钱约 12 美元,不到一百块人民币(同一套假设,汇率按 7.1 算,汇率本身是假设)。

托管模型单任务推理价格条形图,从 0.00086 到 0.0603 美元,Claude Sonnet 5 为 0.0121 美元

为什么租推理安全、租整个代理危险?看搬家时什么跟着走。代理的壳在你手里时,换模型供应商就是改一条网关配置,再盯一周质量;凭据、记忆、规则、日志纹丝不动。Smart Node 出厂就是这么接的,经网关连三家模型;Nod 干脆把供应商一栏留给用户填。这根线的本地一端也在变好:开放权重模型如今在桌面级硬件上接得住起草、摘要和初审,于是「租」和「本地」变成一件按任务挑的事,不用站队。

用自己的 API key 去租,而不是用代理厂商捆绑的账号,换家才换得干脆,不过有两件事要心里有数。你发给模型厂商的内容,适用的是人家的数据政策,所以内容绝不能出门的任务,价格再便宜也该放本地模型;接口限流从此也是你自己的运维问题,赶工高峰会撞上,所以哪怕一家更便宜,也值得把第二家的 key 常备着。这两条都不是劝你别租,是劝你按任务弄清楚:发出去的是什么、发给了谁。

顺带把「自建贵」那半句说完整:想在自己机器上跑出前沿模型的水平,眼下还做不到。桌面级硬件接得住的是起草、摘要、初审这类活;真到复杂推理、长链条的分析,还是云端前沿模型更稳。所以「按任务挑」不是口号,是这两条曲线眼下真实的交叉状态:便宜又敏感的活往本地放,难而不敏感的活往云端送。

留在自己机器上可以继续租
凭据与登录态模型推理(按任务随时换)
攒下的记忆真需要前沿规模推理的任务
审批规则与动作边界偶发的重活所需的突发算力
动作日志

两层的价格标反了,反得对买家有利:贵的那层是大路货,便宜的那几层才是锁。厂商不是故意这么排的:算力账单看得见,记忆搬家的代价看不见,市场就把价格标错了层。看明白的买家,一个月花十来美元租思考,把真正搬不动的东西全留在家里。这半边栈为什么值得拥有,代理之外的完整论证在主权 AI板块。

自托管的真实成本:你得有人当运维

诚实的账本有三行,没有一行是模型账单。

硬件是看得见的一行。不跑本地推理的代理,几百美元的小机器够用,一次性支出;要同时舒服地跑一个中等本地模型,大约 1,500 到 2,500 美元(2026 年底消费级行情;当区间看,今年内存价格波动不小)。这个级别的机器,电费每月约 5 到 8 美元(按平均功耗 30W、电价 0.25 美元/度估;两个数都是假设,换成你自己的)。换成国内的数更直观:同样功耗一个月约 22 度电,按居民电价 0.6 元/度不到十五块钱;机器那笔一次性支出约合 1.1 万到 1.8 万元人民币(汇率按 7.1 算,电价与汇率都是假设),大致是一台中配工作站的价钱。

运维是被低估的一行。从今往后得有人管:软件更新、一份真的在跑的备份、至少测过一次的恢复流程,还有磁盘空间。单机代理的稳定状态大约每月一小时,分布不均(下图为示例场景;头一个月更费)。坏事的从来不是这一小时,是跳过这一小时的那个月:备份悄悄停了没人知道。把四件事写在一张卡上、钉进日历,一分钱不花;按我们自己的经验,这就是「主人」和「未来的考古现场」之间的全部区别。四件事里最无聊的磁盘空间,恰恰最常真实发生:日志和记忆只会越攒越多,一台小容量的机器大半年就能被塞满(按日均几十 MB 的日志量估,数字是假设)。

单机代理主人每月运维用时条形图,按事项分

软件本身还会添一项硬件没有的活:代理平台都还年轻,这个月的三款分别是研究预览版、1.0 和 v1.14。更新每周都来,有时还改默认值。靠谱的习惯很无趣:锁定版本,升级前读一遍更新说明,代理手上有交期的那天绝不升级。把代理更新当普通生产软件变更对待的团队,每次花几分钟;开自动更新的团队,要靠后果来认识新默认值。

风险是没人标价的一行。这台机器从此是单点:磁盘会坏,电源会坏,地下室会进水。没有测过备份的自托管代理,等于一个步骤更多、在线率更差的托管代理。

三人团队两年累计成本折线图:自托管小机器加租用推理,对比托管代理订阅

把账算老实了,结论不总是偏向自托管。上面这个三人团队的例子,要到第二年过半、第 18 个月前后才打平;人数翻倍,不到 9 个月就打平;缩到一个人用同一台机器,租的反而便宜好几年。一个人的理由只能是保管权和风险,不是价格。有时干脆不该上:要专门雇人当运维的团队,选一家导出路径验证过的托管代理,是站得住的结论。更完整的算法,包括只在退出那天才冒出来的成本,在AI 代理要花多少钱。站不住的是另一种:因为订阅是那周最省事的选项,就把决定继承下来了。

决定用某款代理产品之前,要先查清哪五件事

「自托管」是今年弹性最大的标签,11 月 10 日这一周恰好同时供应了正面样本和小字条款。五个问题能把市面分清楚,而且五个都能在付钱之前从文档里问出答案。

问题好答案长什么样
厂商的云失联时,凭据在哪、还能用吗在你的磁盘上,能用;厂商故障期间代理照常干活
记忆能不能以可读格式导出?导出后产品会不会缺功能有文档化的导出,开放格式,导完不掉功能
审批是平台强制执行,还是拜托模型执行平台按动作类别执行规则;模型永远不是闸门
公司明天倒了,许可证允许你做什么OSI 认可的许可证(Apache 2.0、MIT、AGPL-3.0),社区可以接着维护
还有什么在往厂商那边发信号一张写明的短清单;离线运行不锁在某个价位档后面

「往厂商发信号」那条兜住最多的宣传话术。产品跑在你机器上,但控制面、许可证校验或者凭据库活在厂商云里,那它在厂商最糟的那天就过不了第一问,落地页写什么都没用。OpenBot 把完全离线放进年付档,算这个毛病的轻症,至少标价公开;强制云控制面、没有离线模式,是重症;文档对这个话题一声不吭的,基本等于答了。

五个问题去哪儿查,也有固定的地方。凭据和数据的位置,看文档里「数据目录」「存储位置」那一页;记忆导出,看有没有专门的导出章节、格式写没写明;审批机制,看安全页用的动词,「模型会先确认」和「平台会拦下」是两种不同份量的承诺;许可证在代码仓库首页一眼可见;往外发信号的清单,在文档里搜 telemetry 或「使用数据」。一家十来分钟,五家备选一个晚上能查完。

嫌五个问题多的买家,可以用最老的那一个测试:拔掉网线,看哪些承诺还成立。拔线之后还能用的那部分,才是真正属于你的。

拿五个问题量一量 11 月这三款

把五个问题挨个问向开头提到的那三款发布,标签自己就分出了成色。Nod 把保管权那一问答成了一句话,登录需要真人时把浏览器交还给你;它偏软的是审批那一问,那道确认按 n8n 自己的说法是模型驱动的、可能出错。OpenBot 审批那一问答得好,边界、审批和审计都由平台执行(CopilotKit 自述,11 月 10 日);「往厂商发信号」那一问,它用价目表作了答。Smart Node 用架构作答:壳和店里的数据在店主控制的一台机器上(2026 年 11 月 16 日查 GitHub 时版本为 v1.14.1),模型调用走一个随时能重插的网关,接 Claude、GPT 或 Gemini,也可以换本地模型。

2026 年 11 月 10 日至 12 日三款代理发布的时间线图,标注各自的本地保管设计与许可证

在许可证问题上,三款都给了真答案:Nod 用 Apache 2.0,OpenBot 用 MIT,Smart Node 用 AGPL-3.0。于是哪家厂商倒了,最坏结局都是「被 fork 一份接着活」,比起一款 AI 工具停服、你的全部家当锁在里面,这个结局好得多。三款共享的那条底线,凭据和记忆本地保管、动作检查放在模型之外,也不是谁临时发明的:主权 AI 分身的六条标准早就写下来了,这一周只是送来了三件可以对着标准量尺寸的产品。

示例:三个人的记账事务所,十二件差事

设想一家三个人的记账事务所,九月决定把重复性差事交给一个代理。合伙人列了十二件:到供应商门户取发票、拉银行流水、起草催款提醒、对两套账、交月度汇总、回客户的常规邮件,还有六件更小的。然后按「这件差事允许碰什么」把十二件排了序。这次排序花了一个晚上,安全工作的大半就做完了。

十二件差事按每月省时与动作层级的散点图,标出交付顺序

第一周,代理只拿到只读的活:取发票、拉流水,两样合计每月省约九个人时,审批规则里只有一句「读取并归档」。第三周放开起草:催款单和常规回信生成草稿,排队等真人点发送。第六周,发往已知客户地址的邮件放行自动发出,因为连续四个星期五翻日志,没翻出一件值得拦的。能动钱的两件差事到季度末仍然只许真人做,靠的是写下来的规则,不是靠紧张:放宽它得有人签名做决定,不能靠慢慢松掉。对账那两件也一直没交出去,原因不是不信任:这类活错了要到月底对不上时才看得见,星期五翻日志帮不上忙。错误要隔很久才显形的活,先留在人手里。

数字一直很无聊,这正是目标(以下数字均为示例场景的假设:十二件差事,到十二月每月约 26 个人时交给了代理;星期五的例行翻日志逮住过一份归错档的流水;涉钱事故为零)。

那一件逮住的值得展开讲,因为它正好演示了日志的用处。九月有一份流水,供应商中途改了名,被归到了旧名字下面;日志那一行写着抓取时间、文件名和落进的文件夹,修正花了四分钟,再往记忆里补一句「这两个名字是同一家供应商」,之后没再犯。有两个细节值得带走。一个是代理关于供应商怪癖的记忆(哪家门户要填税号、哪个客户用备用邮箱回信)存在事务所自己的机器上,所以十一月他们换起草模型时(改一条网关配置,午饭前搞定),代理的熟练一点没丢。另一个是每周五翻闸门日志平均花 11 分钟,这 11 分钟就是「确切知道有什么事是以本所名义做出去的」的全部持续成本。

KarmaBox 如何落地这套拆分

我们自己的产品 KarmaBox,是一个运营你自己 AI 分身的平台和网络,出厂就是按同一套拆分造的:四样家当在本地,推理可租可换。下面按前文那四样家当逐一对照,而不是笼统地说「我们也这么做」。

凭据的落点是机器,不是租约。分身跑在你自己部署的硬件上,办公室一台小主机或者一台 Mac 都行;它保存的登录会话、OAuth 授权、API key 都写在那台机器的本地存储里,不经过 KarmaBox 自己的服务器中转。换句话说,就算 KarmaBox 的云端服务整体下线,机器上已经登录过的那些账号照常能用,因为握着那把钥匙的从来不是我们,是那台设备。这正是文中「凭据测试」要查的那件事:找到凭据目录,确认它在你自己的磁盘和备份范围内。

记忆导出不是一个被阉割的功能。分身攒下的记忆(它学会的客户习惯、供应商怪癖、长期项目的上下文)存在本地的结构化文件里,主人随时能导出成可读格式,导出之后分身该干的活一样不少——这是前文五问里「导出会不会阉割产品」那一条的直接回答。换模型供应商、甚至换到完全不用 KarmaBox 的那一天,这份记忆都跟着走,不会被锁在某个只有我们认得的格式里。

审批规则按动作类别拆开设,而且判断点在平台,不在模型。发送、发布、花钱、删除各自有一条独立的策略,主人可以把其中几类设成「自动放行」,另几类设成「先出一张审批卡,等我点头」。这条规则由平台的权限层强制执行,模型本身不参与「要不要放行」的判断,所以模型当天状态好不好,不改变规则会不会生效。这正是文中区分「嘱咐模型先问」和「平台强制执行」时说的后一种做法。

每一次尝试过的动作都落进一份主人持有的日志,字段包括时间、动作类型、目标和结果,供日后复盘。这份日志存在本地,不依赖 KarmaBox 云端的在线状态:即使哪天断网,当天发生过什么依然可查。

一周的实际流水:八个人,十张单子

这套拆分不是纸面设计。我们自己八人团队的审批就跑在这上面:两个部门、一条汇报线、五个审批岗。单子一提交,平台按「直属上级 → 部门负责人 → 对应审批岗」自动算出该找谁,单子上写明原因;发起人本人若正好在那一关,自动跳过。

同事拍下出租车票说一句话,平台从票面读出金额和日期自动填好报销单,审批流程显示直属上级与财务两关

一位同事拍了张出租车票,说一句「报销昨天去望京见客户的打车费」。金额、日期、发票号都是平台从票面上读出来的,不是听同事报数字;认不出的票,它会直说「这张没认出金额,请手填」,不会替你编一个。

同一张票被重复提交,预审标出「已在某单号报过」,规则不放行,照样转给审批人驳回

审批人批过一次「研发中心、¥300 以内直接过」,这条规则此后自动生效。但第二天另一位同事手滑把同一张票又报了一次,预审照样标出「这些票已经在另一个单号里报过」,不自动放行,还是转给审批人驳回。自动放行和拦下重复,是同一套规则在管,不是两套系统各管各的。

同一周里,一笔 ¥38,000 的采购只附了一家报价,规则要求超过 ¥5,000 得有两家比价,审批人当场在单子上问了一句,发起人补上第二家重新提交;一份 ¥1,200,000 的合同,负责人在默认审批链之外加签了财务,看过回款节奏才放行,合同自动拿到归档号;有人请两天年假,他名下的审批自动转交给直属上级代批,单子上写明「代某人批」,没人需要去改系统设置。那一周一共 10 张单子、57 项自动检查,0 项失败。

推理那一层按任务挑,不绑死一个供应商。敏感的、赶交期的活可以钉在同一台机器上的本地模型;需要前沿规模推理的活可以通过你自己的 API key 路由到云端模型,而不是通过 KarmaBox 账号捆绑的那一个。挪一个任务,是改一条配置,不是搬家,和前文「租」那一节说的换供应商逻辑完全一致。需要同样的保管权、再加上组织级审批和共享审计的团队,走企业部署路径。

合理的配置两半都用:四样家当留在家里,因为丢了最疼的是它们;模型接着租,租到「租」在价格和质量上不再赢的那天为止。对前沿规模的活,眼下还是租着赢。

自托管解决不了哪些问题

自托管一个代理,解决的是保管权风险:钥匙、记忆、规则、记录在谁手里。它没解决什么,值得说得同样精确。

它不解决对「租来的思考」的依赖。重活路由到云端模型的代理,这部分任务照样继承那家模型厂的在线率、价格和政策变动;壳在自己手里能减震(没东西要搬,换一家接着跑),但震源还在。把依赖本身降下来是另一条更长的路,路线图在从云依赖到 AI 独立。

它不解决数据存续风险。没有测过备份的机器一旦死掉,丢的还是那四样家当,只是这回没有别人可怪。最省事的做法是配一块外接盘每晚做整机镜像,每季度拿镜像在另一台机器上把代理完整拉起来一次:拉得起来才叫有备份,拉不起来只是多了一块硬盘。保管和备份是两门手艺,被跳过的通常是第二门。

它不解决判断风险。平台一字不差地执行你的审批规则,包括写坏了的那条。放任付款不审的规则,和拦住付款的规则,执行起来一样可靠。闸门把责任集中起来了,但判断力得你自己出。

它也不会把你变成安全团队。一台放着活凭据的联网机器是值得打补丁的靶子,打补丁正是运维那一小时的一部分;跳过它,保管权风险就换了个姓,换成你自己的。

常见问题

什么是自托管 AI 代理?

跑在主人自己控制的硬件上的 AI 代理:凭据、记忆、审批规则、动作日志都留在主人边界内。背后的模型推理可以本地跑,也可以租云端 API。定义性的那一条是家当的保管权在谁手里,而思考在哪发生可以按任务选。判断一款产品算不算,用正文那五个问题对着文档查。

自托管 AI 代理必须在本地跑模型吗?

不必须。2026 年 11 月这一波自托管代理(Nod、OpenBot、Smart Node)全都支持甚至默认用租来的云端模型,本地的是代理壳和它的数据。租推理按模型不同约每任务 0.001 到 0.06 美元(InventiveHQ 2026 年 10 月口径,4,000 输入 / 800 输出 token),其他东西都在你手里时,换一家只要一个下午;本地开放权重模型追上哪类任务,哪类就可以随时收回来。

自托管的 AI 代理比托管的更安全吗?

保管权上更安全:厂商被攻破,摸不到它从未持有过的凭据和记忆。运维上同样依赖你自己:没打补丁的机器、没测过的备份、写松了的审批规则,每一样都把风险在你这边重新造出来。准确的说法是:自托管把风险挪到了你够得着的地方,然后指望你真的伸手。

自托管一个 AI 代理要花多少钱?

一个三人团队的示例:机器一次性 1,800 美元,电费每月约 7 美元,租推理每月约 15 美元,再加某个人每月约一小时的运维注意力(四个数都是假设,换成你自己的;最常被低估的是那一小时)。对照每人每月 40 美元、三个席位的托管代理套餐,这个示例在第二年过半时打平;席位越多打平越早,单人可能一直打不平。

决定用一家代理平台之前,哪些要让对方白纸黑字写下来?

四样,付钱之前都能对着文档核实:记忆能以开放、可读的格式导出,导出后产品不缺功能;离线运行不锁在某个价位档后面;审批由平台按动作类别强制执行,而不是拜托模型;一个 OSI 认可的许可证,厂商停了社区能接着维护。哪一样对方不肯写进文档,这件事本身也是个答案。

为什么 2026 年 11 月集中出现了自托管 AI 代理?

11 月 10 日到 12 日,n8n Labs 发布 Nod,CopilotKit 发布 OpenBot 1.0,Smart Node 开源,三款都把代理放在用户自己的机器上、云端模型作为可选项。设计上殊途同归:登录态和记忆本地保管,动作检查放在模型之外。三个团队各自走到同一个结论,说明「代理不该要求用户上交什么」这个问题,行业已经有了答案的雏形。

参考来源 / 7
  1. [1]n8n Labs,《Meet Nod》 查看原文 ↗
  2. [2]CopilotKit,《Introducing OpenBot 1.0》 查看原文 ↗
  3. [3]Smart Node 代码仓库(v1.14.1,AGPL-3.0) 查看原文 ↗
  4. [4]Self-Host Weekly,2026 年 11 月 13 日刊 查看原文 ↗
  5. [5]TechCrunch,《Cyberattack on Fireworks AI allowed hackers to access Notion customers' chat transcripts》 查看原文 ↗
  6. [6]InventiveHQ,《LLM API Pricing Comparison》 查看原文 ↗
  7. [7]IntuitionLabs,《LLM API Pricing 2026: A Reproducible Cost-per-Task Comparison》 查看原文 ↗

建一个只听你的主权 AI 分身

机器是你的,文件是你的,记忆也是你的——存成文件,随时带走。它能动什么、不能动什么,你说了算。KarmaBox 网页版不用装,打开就能用。

体验网页版 →

推荐阅读