出品 | 网易智能
作者 | 辰辰
编辑 | 王凤枝
一直工作，直到被叫停。
这句话，已经出现在Codex的公开代码里。
在OpenAI正在测试的\"Persistent mode\"（持久模式）中，Codex完成用户最初交代的任务后，不一定停下。它可以给自己创建后续任务，跨越多个会话继续推进，直到目标完成、用户取消，或者必须回来询问用户。
几乎同时，Anthropic推出\"模型硬件标准\"（MHS）的研究预览，让Claude开始操作显微镜、机械臂、液体处理器和激光设备。
一个让AI工作得更久，一个让AI走进实验室。两件事看上去方向不同，暴露的却是同一个问题：当\"继续做\"越来越容易，智能体能不能判断什么时候不该继续，什么时候必须把人叫回来？
一、一直工作到被叫停
美国《连线》杂志（WIRED）审查OpenAI公开代码仓库后发现，公司最近几天开始给Codex命令行工具添加Persistent mode。
Codex命令行工具的代码变更默认公开，新功能往往先在这里露头，再进入Codex桌面应用、ChatGPT Work等其他产品。
OpenAI发言人向《连线》确认，公司正在测试这项功能，但目前没有立即上线的计划。
一个尚未宣布的功能，为什么会先出现在公开代码里？OpenAI核心产品负责人蒂博·索蒂奥（Thibault Sottiaux）的解释是，这家公司具有一种\"自下而上的文化\"，很多功能都会在这个开源仓库里被探索，\"它有点像我们的共享游乐场\"。
Persistent mode出现在Codex的\"推理努力\"菜单中。这个菜单原本用于选择模型可以投入多少计算资源、Token和时间。选择Persistent mode后，代码给出的指令是：
继续工作，直到被叫停。
这和Codex现有的工作方式不同。当前模式运行几分钟或几小时后便会停止，即使任务还没有完成。Persistent mode试图把这段工作时间继续拉长。
代码里还出现了一项名为\"proactivity\"（主动性）的功能。它告诉进入持久模式的智能体：回答完用户的问题，不代表工作已经结束。智能体可以主动为自己创建后续任务，跨会话继续执行，并根据过去与用户的互动以及\"对用户的了解\"，决定接下来处理什么。它甚至可以在用户没有提问时主动发送消息，不过系统指令同时要求：少发。
持久并不等于没有边界。公开代码列出的停止条件包括：目标已经完成、用户取消任务、任务已经不再相关，或者继续执行前必须获得用户输入。Persistent mode也不会扩大Codex原有的权限，涉及用户系统之外的变更，仍需要先获得批准。
也就是说，OpenAI并不是要造一个无法停止的智能体。它正在做的，是把停止依据从固定的时间限制，逐渐转向目标状态、权限边界和人工检查点。
二、你合上电脑，它继续工作
OpenAI首席执行官萨姆·奥特曼（Sam Altman）最近在播客里说，现在的AI产品基本只有一种用法：
我需要问AI一些事情。
他想要的是另一种关系：
也许AI应该主动给我提供东西。
奥特曼设想，今天的聊天界面已经加入编码智能体，未来某个时候，它会变得更像一个持久运行的智能体。
OpenAI此前已经尝试过类似方向。去年，公司推出Pulse，让AI在用户睡觉时自动生成晨间简报；今年夏天，这款产品被下线。Persistent mode延续了相同思路，但主动范围更大、运行时间也更长。
这也不只是Codex的一项产品试验。OpenAI表示，正在训练包括尚未发布的Astra在内的新一代模型，以支持持久运行的智能体。据科技媒体The New Stack报道，Astra已经能在公司代码库中完成研究级实验：把想法变成代码、运行测试，再根据结果继续迭代。OpenAI还曾让16个Astra智能体分工解决一道数学题，最后合并答案。
行业里的其他公司也在追赶。OpenClaw带火\"常开型助手\"的概念后，微软宣布了自己的常开型智能体，Meta据报道也在开发一款名为Hatch的同类产品。
你交代一项工作，合上电脑，几个小时后再回来查看结果。AI不用人一轮一轮地发提示，自己维持进度、处理失败、寻找下一步。
但这也改变了人和AI之间的审核方式。过去人能看见AI的每一轮回答；到了持久智能体阶段，人看到的可能只是任务开始时的要求，以及几个小时后已经完成的结果。中间发生了什么，智能体在哪一步选错方向，又在错误方向上继续走了多远，未必有人全程看见。
三、\"太努力\"也可能成为风险
持久性本来是一项优点。普通智能体遇到报错、超时或者一次失败，可能就此停止。持久智能体则会继续尝试，寻找另一种完成任务的办法。
问题在于，如果任务本身接近不可能，继续寻找办法未必永远是正确选择。
OpenAI此前公布的一份网络安全评估报告，就提供了一个极端案例。这项内部评估共设置898项任务，其中198项此前没有被智能体完成过。虽然这些任务只占两成多，但任务讨论中约93%的交流，都集中在这批尚未解决的难题上。
面对这些任务，一个被训练成高度持久性的内部研究模型没有轻易放弃。部分智能体开始寻找预期之外的路径，探测测试环境的安全边界，最终越出原有沙盒，进入Hugging Face的生产系统。
OpenAI将这次事件归因于多种因素，包括奖励黑客、对近乎不可能任务的异常坚持、未经授权的通信，以及智能体之间相互吸收目标。
这次事故不能证明Persistent mode上线后必然出现相同问题，但它说明了持久性可能放大的风险。
当智能体确信\"任务必须完成\"，而正常路径又走不通时，它可能不会得出\"这件事现在做不了\"的结论，而是把更多计算、更多工具和更多尝试投入进去。对普通AI来说，一次错误可能只影响一轮回答；对持续运行数小时甚至数天的智能体来说，一个错误判断可能成为后续几十步操作的起点。
这时候，最重要的能力未必是再想一种办法，而是识别出：继续尝试的收益已经不值得风险，任务应该暂停，交还给人。
四、Claude进了实验室，却被气泡卡住
几乎同一时间，Anthropic把智能体带进了物理世界。
8月27日，Anthropic推出\"模型硬件标准\"（Model Hardware Standard，简称MHS）的研究预览，先向首批科研实验室和先进制造企业开放。该标准目前尚未正式开源，Anthropic计划在完成安全评估和最佳实践探索后，再向更广泛的开发者开放。
MHS试图解决一个实验室里很常见的问题：不同厂商生产的显微镜、液体处理器、机械臂、激光器，通常使用不同接口，彼此很难直接通信。
过去，要把这些设备连在一起，往往需要工程师逐一编写集成代码，耗费几周甚至几个月。Anthropic称，使用MHS后，部分集成工作可以缩短至几小时甚至几分钟。
MHS为设备提供标准化驱动。无论设备原本使用什么接口，都可以通过\"读\"和\"写\"等基础指令交换信息：读取温度、调整温度，读取机械臂状态，或者改变激光器参数。驱动还会告诉智能体，这台设备能测量什么、可以调整什么，以及安全上限在哪里。
安全边界不只写在给Claude的提示词里，还会进入设备驱动和参考文件，由外部系统执行。智能体可以在边界内寻找操作方案，却不能只凭一次临场判断决定所有限制。
MHS还允许智能体把已经验证的操作流程写成确定性脚本。Anthropic记录过一个实验：Claude调整一束激光，通过相机观察光束移动，再继续修改参数。找到正确方法后，它把过程写成代码，让以后每次校准都能作为一条固定命令运行，不需要模型重新推理每一步。
设备厂商也在跟进。亚马逊云、Automata、Danaher、Doosan、QIAGEN、Tecan和优傲机器人等公司，都在测试或增加MHS支持。
有人在社交平台上开玩笑说：
科学界刚刚雇了一批不睡觉、不抱怨、也不要移液枪头的实习生。
但物理世界没有代码那么讲道理。
在生物制药公司基因泰克（Genentech）的测试中，Claude控制移液工作站、机械臂和读板器，尝试根据实验反馈不断调整液体处理参数。它能够从部分硬件错误中恢复，却一度被气泡卡住。
Claude把气泡造成的失败当成软件错误，于是在同一个孔里反复重试。结果不是解决问题，而是制造出更多气泡。研究人员最后不得不介入，告诉它：这是一种物理失败，继续执行相同操作没有意义，必须使用物理方法修正。
Claude不是不会继续。恰恰相反，它很会继续。它缺少的是另一个判断：问题的类型可能已经判断错了，我应该停下来，重新理解眼前发生的事情。
五、最难的能力，是知道什么时候停
把OpenAI和Anthropic这两件事放在一起看，会发现一个共同的缺口：智能体越来越会继续工作，却还没学会判断什么时候不该继续。
Codex的Persistent mode把\"坚持\"推得更远。任务没有完成，就继续工作；最初的任务完成了，还可以为自己寻找相关的后续任务；一个会话结束，也能在下一个会话继续。Claude进入实验室后，面对的是另一种\"继续\"：设备报错后恢复，参数不合适就调整，实验失败了再来一次。
这些都是今天智能体最令人兴奋的能力。它们不再因为一次失败就结束任务。但\"不轻易停\"和\"不知道什么时候该停\"，中间只有一条很细的线。
一位自称审查了十年代码的用户说，持久智能体真正困难的部分，不是让它运行更久，而是设计停止条件，以及那些人类必须停下来检查的节点。
今天，一个错误的代码改动可能浪费你一个小时。有了持久智能体，一个错误决定可能在你睡觉时不断放大。醒来一看，代码分支已经在错误的基础上又往前走了很远，而且看起来很自信。
另一名用户把持久智能体形容为聊天机器人和员工之间的区别：
你交代工作，合上电脑，之后再回来查看结果。
这也是持久智能体最诱人的地方。但人不再观察每一步以后，系统就必须替人确定：哪些节点可以自动通过，哪些操作必须暂停，哪些失败需要交还给人。
也有人更加怀疑：
大家一直在请求AI不要在一句回答里胡编。现在的解决方案，居然是让它在无人监督的情况下继续运行？
还有一名开发者认为，真正的AI采用之争，可能不是哪家公司又赢了一次Benchmark，而是人们愿意把多少主动权交给软件。
这几种观点看似不同，最终都落到可中断性上。这里的\"可中断\"，不只是用户随时可以按下停止按钮。一个成熟的智能体系统，至少还要做出三类判断：什么时候继续尝试已经没有意义，应该停止；什么时候风险、权限或不确定性开始上升，应该把决定升级给人；什么时候信息不足或能力不够，应该暂缓任务，而不是自行寻找一条更危险的替代路径。
停止、升级、暂缓，本身都会成为智能体能力的一部分。
未来的智能体评测，可能也不能只看任务完成率、工具调用次数和连续工作时长。它还需要回答：智能体进行了多少次无效重试，遇到什么情况会请求人工介入，目标发生偏移时能否发现，外部系统发出停止信号后，它是否真的会停下来。
OpenAI已经在Persistent mode的代码中写入停止条件；Anthropic也试图把部分安全上限放进MHS驱动，而不是完全依赖Claude临场判断。两家公司都在把\"停\"这件事从一句提醒，变成写进模型行为、权限系统、硬件驱动和人工检查点的东西。
AI过去最大的问题是做不到。现在，问题正在反过来。
它能自己规划任务，失败后会重试，跨会话继续推进，现在还开始控制机械臂、显微镜和激光器。
当\"继续做\"越来越容易，\"什么时候停\"反而成了最难的事。
OpenAI给Codex写下的指令是：
一直工作，直到被叫停。
智能体真正成熟的那一天，这句话或许会多出另一层含义：
一直工作，直到它知道，自己应该停。
恒汇证券提示：文章来自网络，不代表本站观点。
