AI智能体不应作为人类账户的匿名延伸执行操作。如果它能读取文件、调用工具或发送消息,就需要明确的身份、负责人和撤销路径。否则,一个便捷的助手可能变成隐形操作者,拥有无人能够清楚解释或可靠撤回的访问权限。
AI智能体身份,是对执行任务的软件主体的可验证表述。智能体治理将主体与明确负责人、允许活动和生命周期联系起来。AI智能体授权决定此刻是否允许执行某项操作。这些概念相互配合,但回答不同问题。知道请求来自哪个智能体,并不代表应该批准该请求。
对采用主权AI的企业而言,这是实际的控制问题:谁能创建智能体、改变其权限、检查活动并停止运行?本文提出四项身份字段及负责人检查清单。这是实施框架,并不意味着某种身份标准或本地托管模型就能保证主权。
智能体身份意味着什么
有效身份始于系统能够验证的稳定标识符。聊天窗口中的名称只是标签。两个助手都可以叫财务助手,却运行不同代码、服务不同团队并持有不同权限。即使界面相同,访问控制也应区分它们。修改界面名称时,不应悄然改变背后的安全主体。
应区分逻辑智能体、部署工作负载和单次运行。逻辑智能体表达业务目的,工作负载标识能够进行身份验证的软件部署,运行标识符则关联一次执行中的事件。客服智能体重新部署后,业务身份可以不变,但版本与凭证会改变。重试任务也需要可追踪的执行标识。
工作负载身份提供了基础。SPIFFE概念文档描述了工作负载标识符及可验证身份文档,帮助软件确认连接方属于哪个工作负载。但它不决定谁负责智能体、采购是否适当或哪些客户记录可以披露。这些问题需要工作负载周围的治理与授权控制解决。
身份主权意味着对这一安排保留实质控制权。组织应知道信任哪个签发方、哪些管理员可以修改策略,以及平台合作终止时会发生什么。只要责任、导出路径和终止行为清晰,供应商管理的身份也能提供有效控制。如果管理员把无限制凭证共享给全部智能体,自建服务器上的身份仍可能治理不善。
这进一步展开了KarmaBox个人与团队主权AI指南中的身份维度。日常人员及基础设施变化不应破坏责任归属。更换模型时,应保留工具授权记录;停用集成时,也应保留解释历史行动所需的证据。
为什么共享凭证会失效
共享凭证会模糊人员与自动化主体的区别。假设助手使用员工的浏览器会话更新供应商记录,即使员工从未看到最终修改,应用也可能把员工记录为操作者。如果另一个助手使用同一会话,目标系统就可能无法可靠地区分两个自动化程序与本人。
当权限继承员工的完整角色时,问题会扩大。只需汇总发票的助手,可能同时获得工资、导出和支付管理权限。这种安排的危险并不要求模型有恶意:错误选择工具、模糊请求或检索内容中的恶意指令,都可能把过宽权限转化为意外行动。
共享密钥还会使隔离处置造成更大影响。如果五个智能体依赖同一密钥,疑似泄露后的轮换可能中断全部五个。如果没人知道哪些任务使用该密钥,团队可能为了避免生产故障而推迟轮换。容易分发的权限变得难以移除,撤销的不便反而推动组织继续保留不确定权限。
独立身份不能消除所有风险,但能让边界更容易执行。目标系统支持时,应分配独立安全主体。旧服务只接受共享集成账户时,可通过受控中介记录原始智能体,并明确归因限制。不要把中介侧的关联记录描述成目标应用内部的原生身份隔离。
应清点例外,而不是假设所有连接器都符合现代设计。为每个共享账户记录应用、保管人、允许调用方、轮换流程及迁移负责人,并设置复核日期。关键不是架构图是否理想,而是团队能否识别并控制智能体今天实际使用的行动路径。
每个智能体身份需要的四项字段
以下四项字段是一种实用登记设计,并非通用标准。每项可以包含多个属性,登记信息应指向实际执行访问控制的系统。电子表格可以帮助小团队起步,但修改表格不等于修改权限。身份记录描述权限,执行机制才使描述成为事实。
第一项 可验证的智能体标识
记录唯一智能体标识、运行环境及可信身份验证机制。即使使用同一模型,也应区分生产与开发环境。关联部署和版本信息,使审核者知道实际执行的是哪种配置。不要把秘密写入登记表;凭证引用及签发方关系通常比复制令牌更有用,也能避免新增泄露点。
第二项 明确的负责人
指定对智能体用途及可接受行为负责的业务负责人,同时明确维护运行环境和集成的技术保管人以及备用联系人。负责人应是持续维护的组织职责,而不是配置文件里遗留的离职员工姓名。负责人必须能够批准变更、审查事件,并在原用途消失后安排停用。
第三项 权限范围
描述智能体可以做什么、针对哪些资源、代表谁,以及必须满足哪些条件。包括允许操作、数据边界、目标位置、金额或数量限制及需要批准的行为,并引用策略版本和实际授权。「可以使用邮件」过于宽泛;「可为此客服队列起草邮件,外部发送须批准收件人和内容」才便于工程实施。
第四项 生命周期与撤销控制
记录创建、复核、到期、暂停及退役条件。明确谁能够撤销访问,以及哪些系统必须确认变更。必要时包含子智能体、后台任务及刷新凭证。只关闭可见聊天的停止按钮,不是完整撤销路径。应定义权限停止生效的可接受时限,并收集下游服务实际拒绝访问的证据。
例如,供应商入驻智能体可以具有生产环境标识、采购负责人、读取暂存文件夹和起草供应商条目的权限,并要求激活前获得批准。退役流程应停止调度、使适用凭证失效,并测试供应商API是否拒绝后续请求。这是假设性设计,不是已验证的KarmaBox部署说明,也不代表所有连接应用均支持这些能力。
最小权限与委托授权
最小权限应从需要实现的行动开始。在选择方便的连接器权限范围前,先定义最小实用操作。读取文档、编辑正文、对外共享与删除是不同能力。如果集成把这些能力合并为一种授权,就需要其他执行层或不同工作流程来弥补。令人安心的提示词不能缩小凭证的实际权限。
委托应保留授权人或授权服务与实际执行智能体之间的关系。RFC 8693中的OAuth令牌交换区分委托与身份模拟,并定义令牌交换机制。具体实现仍需要本地策略。采用协议不会自动使每个请求具有恰当范围,也不能保证每个下游应用都记录实际智能体。
应明确智能体依据组织持续授权,还是依据某位用户的委托行动。夜间库存核对任务可能属于运营服务,而个人助手发送消息可能代表特定员工。混合这两种安排会让离职处理变得混乱。应记录哪些权限依赖员工在职、哪些属于团队,以及谁能转移责任。
应在关键行动发生时检查权限。昨天的批准不一定覆盖今天变化的收件人、更大交易或已撤销角色。批准应绑定实际提议,包括资源、目的地、内容或版本、允许操作及限制。重要细节变化时,应重新决策,否则人员可能以为批准了一件事,而智能体沿用批准标签执行另一件事。
应区分业务批准与技术授权。经理可以批准业务用途,却未必有权授予数据库访问;API令牌可能允许某项操作,但该操作仍需要业务批准。执行路径应满足所有适用条件。审核界面应清楚展示后果,尤其是外部收件人、不可逆变更和导出数据。泛泛的「允许智能体」提示容易造成缺乏背景的决策。
除非可信策略明确赋权,否则应把检索到的指令视为数据。网页、邮件或文档不能仅凭声称管理员已批准就扩大智能体权限。可行时,将凭证保留在模型不可见的环境中,并通过受控组件执行敏感调用。这有助于防止具有诱导性的内容变成授权决定,但任何单一控制都不能消除提示注入风险。
子智能体同样需要明确边界。创建专业助手时,不应复制父智能体的全部凭证。应定义哪些任务可以委托、是否允许再次委托,以及如何撤回子级权限。记录父子关系以便重建责任链。父级暂停时,应明确子级必须立即停止,还是在评估已接受任务期间进入受控状态。
撤销必须到达实际执行的系统
撤销是一项流程,而不是智能体目录中的标签。禁用前端可能停止新对话,却留下仍在运行的计划任务、缓存凭证及外部会话。应为拥有实质权限的每个智能体建立依赖清单,标明权限签发位置、检查位置,以及哪些组件无需联系中央控制器就能继续运行。
RFC 7009中的OAuth令牌撤销定义撤销端点,并讨论传播等实际问题。每个集成是否支持撤销,都需要验证。短期访问令牌能限制部分暴露时间,但到期不同于立即取消。应确认禁用请求后,已签发凭证、刷新机制和下游缓存如何处理。
可使用无害资源开展受控停机测试。禁用智能体后,通过正常执行路径尝试新操作,并检查现有会话、排队任务及适用的子智能体。记录各路径开始拒绝访问的时间。如果某服务能持续运行到令牌到期,应明确报告这一窗口,并根据操作影响判断是否可接受。
不要把撤销与撤销历史结果混淆。被停用的智能体可能已经发送邮件、修改记录或提交交易。事件处理需要独立流程识别已完成行动,并确定是否能够修正。在限制访问的同时保留必要证据;退役时删除全部日志,可能反而妨碍调查停用原因。
审计证据把身份与问责联系起来
对于重要行动,应关联记录请求人、智能体标识、执行版本、权限决定、适用批准、工具请求及实际结果。不需要完整副本时,可保存敏感材料的引用。交易标识或资源版本往往比模型生成摘要更有证明力。区分提议、尝试、接受及完成状态,避免把超时误报为成功。
审计轨迹应说明行动发生时适用谁的授权,而不仅是当前目录显示哪个账户。应保存策略及责任人变更和生效日期。责任转移后,历史行动仍应指向当时的负责人及授权,不能为了让当前责任报告整齐而改写过去。
证据本身也需要保护。限制记录编辑及删除权限,监测事件缺失,并根据目的和适用义务确定保留期限。不要记录原始秘密。身份治理不能成为无限期收集员工活动或不必要个人数据的理由。审核者需要足够信息确认事实,同时访问与保留控制应与流程相称。
负责人及上线检查清单
从一个结果容易观察的流程开始。登记四项字段、指定负责人并追踪每个工具连接。确认智能体可以完成预期任务,同时被拒绝执行无关操作。成功演示只能证明允许路径;有效治理测试还应证明禁止目的地、过期批准和已禁用身份均按预期失败。
上线及重大变更时检查:标识是否可验证?业务负责人是否有效?授权是否限定具体资源与操作?敏感行动是否需要有效批准?团队能否撤销所有执行路径?审核者能否重建行动?例外是否具有负责人和复核日期?未回答的问题应形成明确分工的待办事项。
第一个流程在实际运行中足够清晰后,再扩大范围。逐个添加连接器,并重复拒绝及撤销测试。跟踪无负责人智能体、过期授权、共享凭证和撤销延迟。这些指标能揭示实际治理欠账。如果无人核对登记与生产系统实际权限是否一致,登记数量增加并不意味着进步。
可通过KarmaBox文档识别部署相关集成,再直接验证身份与授权行为。本文描述应询问和测试的控制,不代表认证所有连接器均已实现。目标是在团队、模型和工具变化时,智能体权限仍然清晰、有限且可撤回。
实际交接与事件演练
假设一个客服智能体能够读取工单、查询账户状态并起草回复,负责人希望增加自动退款。这是权限变化,而不只是提示词改进。启用前,应明确支付集成、允许账户、退款限额、批准条件及纠正流程。原先读取工单的权限,并不能成为默认允许资金操作的依据。
团队可以先允许提出退款建议,由人员执行。在此阶段,将建议与实际策略比较,记录接受或拒绝原因。如果后续有充分理由自动化,也只授权获批交易类别。不要让建议组件直接取得更广泛支付凭证。这种分离使组织能够改变决策流程,而不自动扩大执行权限。
现在假设负责人调往其他部门。智能体不应悄然继承新部门权限,也不应无限期依赖已无人管理的个人会话继续运行。接任者应复核用途、未完成任务、例外及集成授权。技术保管人应在实际系统中核实变更。历史记录保留早期行动对应的原负责人,新行动则关联已确认的交接。
最后,模拟连接器遭入侵。要求响应人员不依赖阅读全部聊天历史,就能识别受影响智能体;随后暂停新任务、撤销相关访问,并识别外部系统已接受的行动。测量控制事件所需时间及剩余不确定性。如果响应依赖找到唯一知道API密钥位置的员工,这一依赖就应进入改进计划。
选择智能体平台前应提出的问题
要求供应商用同一组织内两个智能体演示身份隔离。允许其中一个访问无害测试文件夹,拒绝另一个,然后检查目标记录是否仍能区分主体。仪表板显示两个头像并非充分证据。演示应追踪实际请求,从智能体运行环境经过连接器,到执行边界的目标资源。
询问谁能修改身份登记,以及谁能授予生产访问。小团队中职责可能重叠,但应明确这一事实。对于影响较大的工作,可考虑独立复核权限变更,并记录紧急例外。如果身份系统严格限制智能体,却允许未经复核的管理员变更,就可能使最重要的授权来源实际上不可见。
询问合作终止时能够导出什么。有效导出应包含智能体标识、责任历史、策略引用及解释行动所需证据,并区分可迁移记录与必须重新签发的凭证。把令牌复制到迁移档案中不是合理的可移植策略。替代平台可能需要重新授权,并明确建立新旧身份映射。
询问系统如何向运营人员呈现故障。请求被拒、凭证到期、策略服务不可用和缺少批准属于不同情况,需要不同处理。平台不应引导用户通过授予管理员权限解决所有故障,而应支持定位具体原因,在保留原边界的同时修复流程。易用的治理应帮助完成合法工作,避免临时例外变成永久授权。
常见问题
智能体名称等同于身份吗?
不等同。名称是显示标签。有效身份能够被验证,并将执行软件与环境、负责人、权限及生命周期关联。同名智能体可能需要完全不同的权限。
身份验证与授权有什么区别?
身份验证确认哪个主体发出请求。授权决定该主体能否在适用条件下执行所请求操作。验证成功绝不应被视为拥有全部操作权限。
智能体可以使用员工账户吗?
部分集成依赖用户委托,但设计应区分智能体活动并限制权限。复用宽泛个人会话却无法独立归因,会增加审计及离职处理难度。应评估连接器实际行为,不能假定所有委托连接都相同。
本地托管能保证身份主权吗?
不能。本地托管改变软件运行位置。身份主权还依赖对签发方、管理员、授权、记录及撤销的控制。即使模型在本地运行,也可能涉及远程服务。
智能体负责人离职时应该怎么办?
应复核相关授权,指定获授权接任者或停用智能体,并测试旧权限确已移除。保留历史责任记录,通过受控流程交接业务职责,而不是交出离职员工密码。




