Z Tech|专访00后港大博士、Evolvent AI创始人胡梦康:Agent之后,下一站是AI自我进化

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
Z Tech|专访00后港大博士、Evolvent AI创始人胡梦康:Agent之后,下一站是AI自我进化
5817点击    2026-08-17 16:03

Z Tech|专访00后港大博士、Evolvent AI创始人胡梦康:Agent之后,下一站是AI自我进化


推荐语


过去几年,大模型的发展主线很清晰,比如更大的模型、更多的数据,以及更多的计算。但当模型从回答问题的Chatbot走向能够调用工具、执行任务的Agent,发展主线也开始发生变化。模型不仅要知道,还要在环境中行动,从反馈中判断结果,并在长时间运行中不断调整策略。Environment、Data、Verifier、Harness和Experience,正在成为决定Agent能力上限的新变量。


沿着这条路线再往前走,一个更具想象力、也更难回答的问题随之出现,那就是AI能否参与改进AI本身?今天的模型已经可以写代码、生成数据、运行实验,甚至参与训练和评测,但这些自动化能力是否已经构成真正的Recursive Self-Improvement?如果不是,模型还缺少什么?是更好的数据、更完整的环境、更可靠的Verifier,还是发现问题、判断方向与分配资源的Research Taste?


胡梦康很早便开始沿着这条路径展开研究。从Knowledge Graph、TableQA,到Embodied AI、Agent、World Model和Synthetic Environment,再到如今的Recursive Self-Improvement,他的研究方向看似不断变化,背后追问的却始终是同一个问题,那就是如何让模型从缸中之脑走向能够与真实环境交互的Intelligence。他先后参与AgentGen等项目,并主导开源项目OWL;来自开源社区和真实用户的反馈,也让他逐渐意识到,一些问题已经无法只在论文设定的干净环境中得到答案。


如今,胡梦康创立Evolvent AI,将公司的长期方向指向Self-Evolution与RSI,并选择从Data和Environment切入。在他看来,Agent时代的数据已经不再只是Document、Token或Instruction-Response,而是需要被设计、运行和验证的完整Experience。数据也不再只是被标注出来,而是由Researcher、领域专家与工程师共同生产出来。真正的壁垒,不是谁拥有更多标注人力,而是谁能更早理解并定义Model Frontier。


本期访谈,我们与胡梦康从他的研究路线与创业契机谈起,讨论了World Model、RSI、以及近期的工作RSIBench。他也具体解释了为什么Research不同于Coding、Verifier和Harness,如何影响Agent的上限,以及Evolvent AI为什么将Data Research视为长期护城河。


相比遥远的技术奇点,我们更关心的是,在当下,真正的自我改进Loop由哪些环节构成,哪些部分已经能够交给AI,哪些部分仍然依赖人的判断;以及一家创业公司,如何从真实的数据、环境和客户需求出发,一步步接近这个仍未被完全定义的未来。Enjoy~


Z Highlights


  • Real-World Intelligence需要与环境交互,并在交互中实现自我进化。论文通常是在一个比较干净的环境中完成的,整个Setting由研究者自己设计;创业则需要在真实信号中获得Feedback。真实环境里的信号脏,但做的事情也会更加本质。


  • RSI 最核心的判断标准,是新的 Intelligence 能不能在旧的 Intelligence 基础上延伸出来经过系统改进后,如果Performance没有超过原始模型,就不能说它真正完成了有效的自我改进。Self-Evolving强调SelfRSI强调Recursive,但本质上是同一个过程。


  • 到目前为止,模型的所有智能仍然源于你为它提供了什么样的数据。更本质的问题是,模型怎样获得能够突破当前能力边界的数据。未来,Harness能不能自己迭代,模型能不能自己设计Loss Function、优化Algorithm,甚至设计新的Model Architecture,都是RSI需要解决的问题。


  • Auto ResearchCoding是两回事。Coding有清晰的Verifier,可以通过快速试错获得反馈;但Research的时间和金钱成本都非常高。因此,模型需要一种听起来有些玄学、但实际非常重要的能力,那就是Research Taste,也就是用尽可能少的资源完成更有效的实验。


  • 数据行业真正的壁垒,是能不能更快地定义Model Frontier。感知到Model Frontier是一件事,真正理解它是另一件事;进一步发现那些行业尚未意识到、模型也没有解决的问题,又是另外一件事。这个过程很像冲浪,你需要持续找到下一个浪头。


  • 数据已经逐渐不再是简单标注出来的东西,而是生产出来的东西。首先需要Researcher定义清晰的TaskVerifier,再把中间的Data Rollout流程写好。只有把Research Hypothesis变成真实数据和可运行的环境,才构成一个完整的交付闭环。


  • 我们内部把这个Philosophy叫Hill Climbing。不是不断寻找更难的问题,而是在Model Frontier上持续寻找下一块仍然存在learning gradient的stepping stone。真正的终点,不是人类设计一条无限长的Ladder,而是Intelligence开始自己发现下一个Frontier。
  • 我们理解的RSI Infrastructure,最终不是一个特别复杂的Agent Workflow,而是一套Evolution OS:它提供标准化、隔离、可复现的训练和实验primitives。当这套能力以服务的方式被提供给模型或企业时,我们把它叫做Evolution-as-a-Service。


01 从World Model到Self-Evolving:一条走出论文,进入真实世界的研究路线


ZP:欢迎梦康!先请你按时间顺序梳理一下自己的研究经历。从早期的Knowledge Graph、TableQA,到Embodied AI、Agent、World Model,再到今天研究Self-Evolving,这条路线是怎样一步步形成的?也简单介绍一下Evolvent AI吧


胡梦康:我是2019年进入哈尔滨工业大学读本科的。本科阶段,最早在学校做的是知识图谱,后来在微软亚洲研究院做Table Question Answering,也就是表格问答。我从大二开始在微软亚洲研究院实习,


整个时间线大致是,2022年年中之前,大模型还没有真正爆发,我一直在做当时所谓的NLP以及偏Symbolic AI的事情。2022年年中左右,我开始转向大模型。当时主要做了几个方向,一方面,Codex刚刚上线OpenAI Playground,代码生成非常火,所以我们开始做LLM与Coding结合的研究;另一方面,我们也在做具身智能与LLM的结合。当时具身方向主要指Robotic Planning。


从2022年到2023年年初,我主要在做LLM+Coding,以及具身智能+LLM。到2023年年中之后,我的方向就彻底转向Agent了。核心出发点是,Physical World中存在很多与智能本身不直接相关的因素,所以我们进一步转向Digital World,在数字世界中研究Agent,并一直做到现在。


我认为,Agent这条研究路线在2025年上半年形成了一个闭环。我们想做真正的Real-World Intelligence,而当时Agent的性能已经达到了一定门槛。达到这个门槛以后,我们就开始研究Self-Evolving,也就是现在Evolvent AI在做的事。


Evolvent AI 的长期方向是构建 Evolution OS。现阶段我们从 Data、Environment 和 Evaluation 切入,把真实任务中的 failure 和 feedback 转化为可运行的 Task、Environment、Verifier 和 Experience,再通过标准化、隔离、可复现的实验系统,验证这些信号能否带来真实能力提升。


第一阶段我们先服务 AI for AI,也就是先研究如何让 AI 实现 Recursive Self-Improvement,让 Research Agent 学会在有限预算下发现问题、设计实验并改进系统;下一个阶段重心会继续往其他领域扩散,比如Auto Research for Science等等;长期再扩展到更广泛的科学、工程和企业场景。


Evolvent AI自己也是 Evolution OS 的第一批用户。只有当这套系统能够稳定帮助我们自己的 Research Process加速,它才有可能成为对外提供的 Self-Evolution Infrastructure。


ZP: 从Academic Research、开源项目到真实应用,你对什么问题值得做的判断发生了什么变化?让你开始觉得单纯做Paper已经不足以承载你想解决的问题,并最终决定创业?


胡梦康:我自己做研究的Motivation,一直是研究Intelligence。相较于更早一两年开始接触大模型的人,在2025年我们当时认为,大模型已经初步具备了Intelligence,但它同时又是一个“缸中之脑”。所以我们很想做的一件事,是构建真正的real-world intelligence。


Realworld Intelligence的关键点之一是,它需要与环境做交互,并在交互中实现自我进化。这也是我们最初研究它的原因。但做论文有一个最大的问题,论文通常是在一个比较干净的环境中完成的,整个Setting由研究者自己设计,实验过程中也可以不断调试。创业不一样。我们现在创业做的很多事情,需要在真实信号中获得Feedback。真实环境里的信号非常脏,但做的事情也会更加本质。


所以大概从2025年下半年开始,我已经逐渐从单纯做论文,转向更真实的Research和应用。另外一个重要契机,是我从2024年年底开始做OWL,并在2025年3月把OWL开源。项目发布之后,我们获得了大量来自开源社区和真实用户的反馈。对我来说,Agent从那时开始彻底由Academic Research走向了真正的Application。


当Agent真正走向应用时,最好的选择就不再是继续围绕论文做一些非常长尾的问题,而是进入真实环境解决实际问题。所以,我在那个阶段开始创业。


ZP: 我们先从World Model谈起。你什么时候开始意识到,真正限制Agent能力的可能不只是Model本身,还包括它对环境的理解,以及Environment、Data和Experience?这也引出了你对World Model的长期研究,你会怎样定义World Model?


胡梦康:2023年底的时候,我就在做World Model相关的研究,当时LLM World Model大致有两种实现方式。第一种是直接把LLM当作World Model使用,例如让它输出Tool Response,或者在一个Game中模拟整个World Dynamics。但这种方式很难支持Long-Horizon Task。第二种方式是直接写代码。例如让模型生成一个gym-like环境,或者像我当时做的那样,让它生成PDDL Domain。通过代码来模拟World Dynamics。


所以当时,我沿着Symbolic这一支往下做。Symbolic World Model Generation 是一个Upfront Cost,只要模型的Coding能力足够强,就可以写出非常复杂的World,且这个world可以持续复用。这个方向后来一直推进到2024年的AgentGen。AgentGen本质上是一个Synthetic Environment Generation Pipeline,也是沿着Symbolic World Model这条路线发展出来的。


当时模型的Coding能力还没有现在这么强,所以生成的环境相对简单。后来我一直在做Neural-Symbolic:对于那些无法直接通过Symbolic方式写出来的部分,就插入Neural API,也就是LLM API。这个体系最终也是服务于Agent Training的,进一步的也有后续一系列的工作出现,Text2World,Agent2World,Tool-Genesis等等。


从第一性原理来看,如果我们想得到一个好的Agent,Agent首先要能够模拟世界,也就是需要具备内生的World Modeling能力。其次,World Model也可以帮助我们解决数据问题。


2024年时,Agent最缺的就是数据,直到现在,Agent最缺的依然是数据。我们最近发布的RSIBench-Data第一版也聚焦数据。本质上,我们希望在RSIBench-Data中判断模型是否具备World Modeling能力,那就是它能不能生成一个Synthetic Data Pipeline?无论是合成完整的数据流水线,还是通过Self-Instruct为自己产生数据,我认为这都是World Model能力的不同体现。


ZP: 如果从Agent的决策过程来理解,World Model是不是意味着模型需要形成对环境的Belief,能够预测Action可能带来的结果?在你看来,World Model和Value Function分别解决什么问题?


胡梦康:对。我觉得 World Model 更像是 Agent 最终需要具备的一种底层能力:它不仅要理解当前发生了什么,还要能预测自己的 Action 会让环境发生什么变化。


但我们现在做的并不是去训练一个独立的 World Model。我们更关心的是,当基础模型逐渐具备这种 World Modeling 能力之后,怎么把这种能力真正转化成 environment、experience 和 training data。


我们之前做 Agent2World,包括后来一直做 Neural-Symbolic environment,本质上都是在做这件事:让模型把它对一个世界如何运行的理解,externalize 成一个真正可以执行、可以交互的环境。


到 RSIBench-Data 又往前走了一步。我们不只是问它能不能构造一个世界,而是问它面对一个自己不会的问题时,能不能理解这个 problem space,然后自己构造 data pipeline和environment、产生 experience,再通过这些 experience 改进自己。


所以 World Modeling 对我们来说不是最终产品,而是 RSI Agent 的一项基础能力;我们现在做的是让这种能力能够进入一个真正的 self-improvement loop。


02 什么才是真正的RSI?那就是让新的智能从旧智能中生长


ZP: 你会怎么定义真正的Recursive Self-Improvement?它和一般的Self-Evolving、自动化Training Pipeline或者模型迭代,最本质的区别是什么?


胡梦康:我认为,这个概念并不取决于系统迭代的是Artifact、Model,还是其他组件。它最核心的判断标准是,新的Intelligence是否是在旧的Intelligence基础上延伸出来的。比如我们在RSIBench中做过相关实验,最重要的Benchmark是,经过系统改进以后,它的Performance能不能高于原始模型,并且这一次能力提升能不能进一步增强下一轮improvement process。如果没有这两个现象,就说明它还没有真正形成有效的Recursive Self-Improvement。


RSI和Self-Evolving本质上是一回事,只是对同一件事情采用了不同表述。Self-Evolving强调的是Self,RSI强调的是Recursive,但它们描述的是同一个核心过程。现在大家的定义比较宽泛。比如AutoResearch,如果是模型参与改进模型并得到提升,就可以看作RSI。模型优化自己的Serving、LLM Serving或者Sampling,也都可以算RSI。


具体到和自动化Training Pipeline相比上,RSI是一个close-loop self-improving process,Automated training 解决的是“怎么更自动地执行一次训练”,而 RSI 解决的是“一个系统能不能利用自己的经验,不断找到下一轮让自己变强的方法”。这里分为几层:


L1就是基于一个已知的配方更高效地跑完,也就是现在所有的RL/training as a service的平台,这背后涉及到的是如何优化infra和资源调度策略。


L2就是能够在有限的预算下,自动搜索策略,并最终收敛到一个局部最优的训练配方,也就是optimization,这个方向的benchmarks已经比较多了。


L3我们希望他能do research and discovery,本质上是改变search space本身。而这是真正能够扩展frontier models能力边界的一步,eventually它甚至可能会创造新的training paradigm


ZP: 如果把RSI看成一个完整的Loop,Data、Training、Harness、Serving、Sampling和Model Architecture都是可以被改进的变量。你们现阶段最关注哪一部分?你认为其中最本质的Bottleneck是什么?或者说你觉得什么方向最有潜力?


胡梦康:我们现阶段最关注的是Data。这也是为什么RSIBench本身虽然是一个很大的整体项目,后面还会继续迭代,但第一版发布的是Data。现阶段我们最关注Data,因为对于RSI来说,新的能力最终仍然需要通过新的Experience和Training Signal进入系统。如果把 RSI 看成一个完整的 loop,Data、Training、Harness、Serving、Sampling 和 Model Architecture 当然都是可以被优化的变量。但我们认为,Data 是其中更底层的一环。从更长远的角度看,最本质的问题依然是数据,模型怎样获得能够突破当前能力边界的数据我们说Data重要,不是指简单堆更多数据,或者做一个更难的benchmark。真正关键的是:模型在当前能力边界附近,还缺少什么样的数据。太简单的数据已经被模型吸收了,不会带来新的能力;太难的数据又无法形成可学习的梯度,模型训练之后也爬不上去。最有价值的数据,恰恰是在模型“现在做不好,但通过足够的尝试、反馈和训练可以逐步学会”的区域。


从RSI的角度看,这个问题会变得更本质。因为模型能力每提升一次,它的failure mode、边界任务和有效训练信号都会发生变化。也就是说,有价值的数据不是静态存在的,而是要随着模型能力的变化不断被发现、筛选和验证。这个过程本身就变成了一个research problem:我们需要研究模型现在到底不会什么,什么任务能让它产生真实的learning progress,什么反馈能够稳定地转化成能力提升。


因此我认为RSI 里最核心的bottleneck,是要有足够好的机制去持续发现和构造这种边界数据。没有新的高质量training signal,整个loop很容易只是在已有能力范围内循环。


长期来看,最有价值的可能不是某一批dataset,而是一套能够持续发现模型failure mode、生成边界任务、提供可靠反馈,并把这些过程沉淀成训练信号的data engine。


当然,我们也会研究其他方向。除Training以外,Serving和Sampling都可以纳入RSI。数据之后,我们还会做Training和Harness。例如,Harness能不能自己迭代,设计出更好的Memory机制或Context Management机制?在Training过程中,模型能不能自己设计Loss Function、优化自己的Algorithm,甚至设计新的Model Architecture?我认为这些都是比较本质的问题。


ZP:Data和RSI在你看来是什么关系?一个Self-Evolving System所需要的数据,是否应该由Agent自己发现问题、设计数据,再用于改进模型?


胡梦康:在Evolvent AI,我们一直把Data和RSI看成同一条路线上的不同阶段。我们今天做Data,不是因为只想做一个数据公司,而是因为Data是通往RSI的现实入口。


一个self-evolving system最终当然应该能够自己发现问题、设计数据,并用这些数据改进模型。但现阶段的RSI还很早期,最大的问题是缺少真实任务和真实反馈。模型可以生成synthetic data,但如果没有外部的true signal校准,它很容易只是在已有能力范围内自我复述,生成看起来复杂、但对能力提升不一定有帮助的数据。


所以现阶段,真实客户场景为我们提供了最重要的curriculum signal。客户带来的不是简单的原始数据,而是真实世界里的任务分布、约束条件、评价标准和failure mode。我们通过这些信号判断模型现在不会什么,哪些问题值得转化成训练数据,哪些反馈真的能带来能力提升。


长期来看,Data和RSI会收敛成同一个系统里的不同环节:真实任务提供信号,Agent 发现问题并生成或筛选数据,Training再把这些经验沉淀进模型。这里会有synthetic data,但它不是简单地把模型自己的输出蒸馏一遍,而是被真实反馈校准过、围绕能力边界构造出来的training signal。


ZP: 从技术路径看,你认为RSI会先发生在Post-Training阶段,还是最终一定会延伸到Pre-Training?你们为什么选择从Post-Training切入?


胡梦康:我们现在主要研究Post-Training。也就是说,在已经有一个足够好的Pre-Training Checkpoint之后,能不能在Post-Training阶段充分释放它在预训练中学到的能力。当然,Pre-Training和Post-Training本身只是技术概念,最终都是为了提升模型能力。现阶段聚焦Post-Training,本质上是在控制变量,我们先把Pre-Training这个变量固定住,再研究后面的自我改进。进一步发展之后,我认为一定会向Pre-Training延伸。


Post-Training也天然更适合成为RSI的早期切入点。它有更短的反馈链路。模型可以在环境里rollout,产生experience,暴露failure mode,然后我们再把这些信号转化成新的data或training signal。这个loop是今天最容易被观测、被验证、也最容易产品化的。


所以我们选择从Post-Training切入,在 Post-Training中先证明:模型能否不断发现自己不会什么,并形成可迁移的新能力。


进一步发展之后,我认为RSI一定会向Pre-Training延伸。因为真正的self-evolution不应该只发生在某一个训练阶段,而应该发生在整个 intelligence generation process 里。长期来看,系统不仅会决定怎么做 Post-Training,也会反过来决定下一代 Pre-Training 需要什么数据、什么分布、什么 curriculum,甚至什么新的训练范式。


03 让AI学会做Research:从Verifier、Harness,再到Research Taste


ZP: 如果模型只是在少数固定Benchmark上持续刷分,很难证明它真的具备自我改进能力。你们为什么把Coding、Terminal和General Agent等任务放在更核心的位置?你认为真正的RSI Benchmark应该验证什么?


胡梦康:这也是我们与PostTrainBench在核心理念上的区别。我们更关注agent能力的recursive self-improvement,例如Coding、Terminal以及General Agent Benchmark。


原因不只是 Agent 任务更复杂。更重要的是,Agent 能力本身就是 automated research 的基础设施。一个 Research Agent 要真正完成模型改进,需要能够写代码、操作环境、运行实验、分析失败、构造数据、修改系统,再根据反馈继续迭代。Coding、Terminal、General Agent 所测的很多能力,本身就是这个 research loop 的组成部分。


真正有意思的闭环是:假设 Research Agent 的核心能力之一是 Coding,那么它首先通过 research 提升了系统的 Coding 能力;接下来,这个更强的 Coding 能力又被重新吸收到 Research Agent 本身,使它成为一个更强的 researcher;然后这个新的 Research Agent 再去完成下一轮 improvement。这也是为什么我们现在更愿意从 Agent 和 Coding Benchmark 开始:它们既可以作为被改进的对象,同时又构成 Research Agent 自身的能力基础,因此更有可能形成这样的 feedback loop。


所以我们说 RSI 最终的 benchmark 应该是 RSI 本身,意思并不是简单的提升某一方面的能力,而是:我们今天提升的能力,必须能够反过来增强下一轮的 improvement process,这才是一个递归的过程。


ZP: 今天Agent Data最难的到底是什么?是Task、外部熵源、Reward和Verifier,还是模型自己发现下一步应该学习什么的能力?对于RSI System生成的数据和训练RSI System本身的数据,两者的要求有什么不同?


胡梦康:如果是Agent Data或者是RSI System生成的数据,我觉得真正难的不是其中某一个,而是从新的外部熵源里,持续找到当前模型真正的 capability frontier,我们叫这个过程是frontier discovery。


真正困难的是判断:对于当前这个模型,什么东西是它恰好不会、但又有能力通过训练学会的。


所以一个真正的数据闭环,其实是先发现 capability gap,也就是找到 model frontier;然后把这个 gap 变成 Task 和 Environment;最后还要构造一个可信的 Verifier,判断模型获得的是不是我们真正想要的能力。Task、Environment 和 Verifier 一旦成立,后面的 rollout、SFT 还是 RL,反而越来越容易被自动化。


今天我们判断一个问题是不是在 model frontier 上,很多时候还是靠 frontier model 的 pass rate:先把题造出来,再跑模型,最后根据结果判断这个题是不是太简单或者太难。这其实是一个非常昂贵的 generate-and-test 过程,本质上是基于rollout evidence的后验判断。


我觉得真正重要的下一步,是让 frontier discovery 本身成为 RSI System 的能力:系统能够根据当前模型的状态和已有 evidence,主动判断下一块值得学习、而且能够学习的 capability gap 在哪里,而不是等训练和评测结束以后才知道。


第二类是训练 RSI System 本身的数据。我觉得它其实是第一类数据再往上一层的东西。第一类数据训练的是某一个具体 capability,而训练 RSI System 真正想获得的是一种 meta ability——如何让一个系统获得新的 capability


所以他的重心变成了比如当前模型哪里不行、我们观察到了什么 evidence、为什么判断这是一个值得解决的 capability gap、提出了什么 hypothesis、设计了什么 experiment、选择了什么 intervention,最后这个 intervention 到底让模型变好了还是变差了,以及根据结果下一步应该往哪里走,在这样一个trajectory里面暗含了human researcher的research taste。


这里它优化的目标也发生了变化。普通训练关心的是最终 reward R 有多高,而 RSI System 更关心的是一次 research action 能不能在独立评测上带来真正的 reward improvement,也就是 ΔR。也就是说,它优化的不是“当前分数怎么变高”,而是一次 research intervention 之后,模型是否真的获得了可验证的能力增量。


而且 Research 和普通 inference 最大的区别之一,就是每一个 action 的成本差异非常大。生成一批数据、训练一个 checkpoint、跑一次完整 evaluation,可能都非常昂贵。所以一个好的 RSI System 不能只是找到有效的 experiment,它还需要判断 哪个 experiment 最值得做。在固定 compute、token 和时间预算下,能带来多大的 capability improvement,本身就应该成为它的优化目标。


这里还有另一个很重要的问题是,research agent 很容易学会优化我们定义的 measurement,而不是真正提升 capability。尤其 RSI 是一个长期运行的 closed loop,一旦 Research Agent 可以同时影响 Data、Training、Evaluation 甚至 Environment,Reward Hacking 的空间会比普通 RL 大得多。这里的 Reward Hacking 不只是读取 hidden test set 或修改 evaluator,更广义地说,是系统通过优化代理指标获得更高的 reward,却没有获得真正想要的 capability。比如它可能生成更容易的数据、选择更有利的 sampling 策略、修改 training 或 serving 流程,甚至让 evaluator 变得更容易,但这些都不等价于新的能力。真正有效的 self-improvement,必须是在固定的 evaluation boundary 下,新的 Intelligence 超过原始 Intelligence。


所以 RSI Infrastructure 的一个核心作用,就是把 research space 和 evaluation space 隔离开。我们可以给 Agent 很大的 Action Space:它可以写代码、生成数据、训练模型、修改 Harness,甚至提交自己的 checkpoint;但它不能读取 official evaluation data,不能修改 grader 和 fixed interface,也不能无限调用 evaluator。研究过程中,Evaluation Service 只返回有限次数、较粗粒度的反馈;Agent 停止后,Verifier 再使用独立的 hidden 或 held-out data 重跑 candidate code,生成最终分数。这样限制的是边界,而不是边界内部的行为,目的是确保系统优化的是能力本身,而不是测量能力的方法。


因此,我们做RSI时,在Infrastructure上投入了大量精力。除了要保证整个loop足够稳定、能够长期运行之外,还必须防止Reward Hacking。这也是我们在AutoResearch和RSIBench中重点处理的问题。


ZP: 如果把RSI做成一个可以稳定运行的闭环,Infrastructure应该怎样设计?你们如何隔离Agent Runtime和Evaluation,既给Agent足够大的Action Space,又防止它接触评测集或Reward Hacking?


胡梦康:核心还是RSIBench中的一些Design Choice。我们把RSI需要使用的Agent Tools都做成服务,也就是serviceization。我们已经把训练、推理、模型部署、Sandbox、Evaluation 这些标准环节全部做成 Service。Researcher Agent 不需要知道下面怎么部署模型、怎么启动 Benchmark、怎么调 GPU,它只需要通过标准 API 提交一次实验。


一方面,Agent可以通过一个标准API完成看起来很复杂的事情。人类研究者做Evaluation时,可能要写大量代码;如果运行失败,还要不断Debug和维护。这里 service 化的价值不只是工程效率。更重要的是,我们希望把 Intelligence 和 Infrastructure 解耦。否则一个 Agent 最终成绩好,可能只是因为它更会 Debug training script、修 serving bug,而不一定是因为它提出了更好的 research hypothesis


第二件事是 Evaluation Isolation。我们的 Mindset 不是把 Agent 的行为限制得很死,恰恰相反,我们希望给它非常大的 Action Space。它可以写代码、生成数据、训练模型,未来如果测 Harness,也可以自己设计 Harness。我们限制的是边界,而不是边界内部的 Behavior。


比如 Agent 可以把自己产生的 checkpoint 或 artifact 提交给 Evaluation Service,但是它不能直接接触 official evaluation 的 test set、grader implementation,也不能修改 evaluator 或 serving stack。正式 Evaluation 会在另外一个独立的 sandbox 里运行。RSIBench-Data 现在已经采用了类似设计:Agent 能看到用于 research iteration 的 selection feedback,但最终 checkpoint 会在新的环境中接受独立 official evaluation。


所以我们理解的RSI Infrastructure,最终不是一个特别复杂的Agent Workflow,而是一套Evolution OS:它提供标准化、隔离、可复现的训练和实验primitives。当这套能力以服务的方式被提供给模型或企业时,我们把它叫做Evolution-as-a-Service


ZP:Coding Agent可以通过快速试错获得明确反馈,但Research的反馈周期更长、成本也更高。在这种情况下,模型怎样才能形成真正的Research Taste,你有什么理解?


胡梦康:我很赞同这个判断。Coding Agent 和 Research Agent 最大的区别之一,就是反馈密度完全不一样。Coding任务通常有非常清晰的Verifier,而且执行速度很快。模型可以先写代码,再运行,根据报错或测试结果不断修改。很多时候,它的能力提升来自快速试错。


但这种方式在Research中不成立。Research 的反馈周期更长,成本也更高,而且很多时候没有一个简单的 pass / fail。尤其是 Model Research 或者 Post-Training Research,一个 idea 可能要消耗很多 GPU、很多实验时间,最后才知道它是不是有效。所以在这种场景里,模型不能只依赖 brute-force search,它必须形成某种 Research Taste。


Research Taste包括几个部分:第一,模型能不能基于已有文献、历史实验和失败案例,判断一个 idea 是否足够 plausible;第二,能不能判断这个 idea 如果成功,是否真的会扩展能力边界,而不只是优化一个局部指标;第三,能不能在有限预算下决定先做哪个实验、用什么 proxy 验证、什么时候应该继续,什么时候应该放弃。


所以 taste 和 efficiency 是同一个问题的两面。因为 Research 的资源是有限的,真正有 taste 的模型不是一次提出一万个 idea 然后全部跑完,而是能够在 search 过程中做剪枝。它要学会预测一个 idea 的 expected value,包括 novelty、成功概率、实验成本和潜在收益。


这也是为什么 RSIBench 会限制 GPU Resource Budget。我们当时设置 2000 美元的上限,不只是为了模拟真实约束,更是为了观察模型在有限资源下有没有做 research decision-making 的能力。无限资源下,很多问题可以被暴力搜索掩盖;但一旦预算有限,模型有没有 taste 就会变得非常明显。


长期来看,Research Taste 可能来自一个闭环:模型提出 hypothesis,设计低成本实验,得到反馈,再校准自己对 idea 的判断。这个过程跑得足够多之后,模型才可能把外部的实验反馈内化成一种 world model,提前判断哪些方向更值得探索。对于 RSI 来说,这种剪枝能力可能比单纯生成更多 idea 更关键。


ZP: 我观察到,一些模型有很强的Coding Agent行为:如果方案A和方案B看起来都可行,它不会先判断哪一个更值得做,而是两个都直接做。这对资源有限的Research来说并不是好行为。RSIBench使用了哪些Task?你们如何设置Resource Budget,又通过哪些结果判断一轮改进是否有效?


胡梦康:我觉得你这个观察非常准确。Research 和普通 Coding Agent 一个很大的区别,就是 Action 并不是免费的。如果方案 A 和方案 B 都看起来可行,一个 Coding Agent 可以都实现一遍,但 Research Agent 面对的是有限的 training budget、evaluation budget 和 wall-clock,所以真正重要的是它能不能判断:哪一个实验现在最值得做。以 RSIBench-Data 为例,每个 run 有固定的 wall-clock 和 training budget,Agent 自己决定什么时候生成数据、什么时候发起 training、下一轮实验做什么,以及什么时候停止、rollback 或者选择历史 checkpoint。


这个问题在我们第一版结果里已经非常明显。当前模型其实已经能够做 discovery:在 24 个 agent-benchmark setting 里,有 14 个能在后续实验中找到比第一次有效尝试更好的 candidate。但它们很不会判断下一步还值不值得继续。在已经找到历史最佳结果以后继续 search 的 23 条 trajectory 里,18 条最后反而退化,另外 5 条也只是回到原来的 peak,没有一次通过继续搜索得到新的 frontier。


所以我觉得现在 Research Agent 一个很核心的缺口,不是“不会产生更多 idea”,而是不会给 idea 定价:这个 hypothesis 成功的概率有多大?如果成功能带来多少 improvement?验证它需要多少 compute 和时间?这个实验即使失败,能带来多少 information gain?


04 Evolvent AI为什么做Data?因为真正的壁垒是定义Model Frontier


ZP: 如果用一句话定义Evolvent AI,你希望它最终是一家什么公司?为什么一家长期想做Self-Evolution和RSI的公司现阶段选择从Data和Environment切入?


胡梦康:我们公司叫Evolvent AI。Evolvent AI这个名字本质上是从Self-Evolving延伸出来的,如果用一句话定义,我希望 Evolvent AI最终是一家构建 Self-Evolution 基础设施的公司


为什么一家做 RSI 的公司,今天从 Data 和 Environment 开始?因为我觉得这其实是同一个问题的两个阶段。


RSI 最核心的问题不是“怎么再训练一次模型”,而是:一个 intelligence system 能不能知道自己下一步应该学什么。


要回答这个问题,首先要知道模型的边界在哪里。模型已经会什么、不会什么;哪些 failure mode 是已知的,哪些能力甚至还没有被行业定义出来。然后你才能把这些未知的能力边界变成 Environment、Task、Data 和 Feedback,让模型获得新的 learning signal。


所以我们今天做 Data,本质上是在做一件事情:定义 Model Frontier,同时从这个过程中获得构建 RSI 所需要的真实 feedback。


这里真正稀缺的不是数据生产能力,而是发现 Frontier 的能力和速度。感知到Model Frontier是一件事,真正理解Model Frontier是另一件事。在此基础上,进一步发现模型还没有解决的问题,又是另外一件事。


当一个 failure mode 已经成为行业共识,它本质上就开始从一个 research problem 变成一个 execution problem。 Frontier Lab 很快会解决它,数据公司也会迅速规模化生产它。真正稀缺的,是在共识形成之前找到下一个 frontier。


所以对我们来说,Data Research 和 RSI 并不是两个割裂的方向。今天是我们的 researcher 在做这件事:寻找模型的 Frontier,把它变成 environment、task 和 data,再通过模型的表现得到 feedback,判断什么样的 signal 真正能够推动 capability 往前走。


但长期来看,我们希望把这整个过程逐渐交给 intelligence 自己。


今天是我们替模型发现“下一步应该学什么”;真正的 RSI,是模型能够自己发现自己的 Frontier,并且自己产生跨过这个 Frontier 所需要的 learning signal。


ZP:Frontier Lab自己拥有模型、算力、用户和大量数据,为什么仍然需要Evolvent AI?除了发现Model Frontier之外,把未知问题变成真实数据和可运行环境,还需要哪些能力?


胡梦康:发现 Frontier 只是第一步,真正难的是把一个 research hypothesis 快速变成可以训练模型的东西。


Researcher 很容易提出很多有意思的问题,但从“我觉得模型这里不行”,到真正做出 task、environment、verifier、trajectory,再到能规模化 rollout 和交付,中间其实有非常长的一段 engineering gap。


所以我们认为这个行业真正稀缺的是两种能力的乘积:Research Taste × Execution Speed。


只有 Research Taste,你可能很早看到下一个问题,但做出来的时候它已经成为行业共识;只有 Execution,你只能高效生产别人已经定义好的数据


举个例子,我们很早就开始做Multi-Turn Multi-Step Reinforcement Learning,并在4月发布Terrarium框架来服务于数据生产和评测,同期发布了ClawMark这个benchmark。到7月底,行业开始密集出现更多相近方向的framework。中间这几个月,就是一个很真实的时间窗口。


我们内部把数据市场理解成一个Data Pyramid:越靠底层,数据越标准化,竞争越偏向产能、成本和运营;越靠顶端,越依赖Research和Frontier Discovery。当所有人开始讨论同一个概念、framework开始收敛、交付方式开始标准化的时候,它就意味着这个需求已经开始从Data Pyramid的顶端往下移动。


我经常说,数据市场像是在冲浪,抓住一个浪头是机会,持续找到下一个浪头才是壁垒。


Evolvent AI的目标不是再训练一个封闭的 Foundation Model或者是单纯提供数据,而是为不同模型提供进入真实 Environment、获得 Experience,并形成可验证 Improvement Loop 的基础设施。我们更关注如何发现Model Capability Gap,再把它转化成可交付、可训练、可独立评测的实验系统。


ZP: 随着模型能力不断提高,Agent Data越来越难由单个标注员完成。面对那些连Verifier都很难定义的问题,你们怎样组织那些领域专家、Researcher和工程师,共同完成一个Task的闭环?


胡梦康:我觉得这是现在 Frontier Data 和传统标注最大的区别。过去的数据生产单位可能是一个标注员,但今天越来越多 frontier task 的生产单位,其实是一个小型的 research team。


比如我们做 AutoResearch,一个 task 可能同时需要领域专家判断“这个问题到底有没有研究价值”,Researcher 把它抽象成模型真正需要学习的 capability,工程师再把 environment、tool、rollout 和 evaluation system 搭出来。很多时候连 verifier 都不是一开始就知道的,而是在这个过程中不断试出来的。


所以这里有两层能力。


第一层是组织能力。你要知道什么问题应该由什么样的人来解决,领域专家、Researcher、工程师分别在哪一步介入,以及怎样把他们的 tacit knowledge 变成可以规模化复制的 workflow 和 SOP。


第二层是Data Infrastructure。当你把一个 task 做过几百、几千次以后,会发现很多协作 pattern 是可以产品化的。哪些环节需要专家判断,哪些可以让 agent 自动 rollout,哪些地方需要 human feedback,哪些 verifier 可以自动生成。


所以今天的数据越来越不是“标注出来”的,而是“生产出来”的。


ZP:Agent时代最重要的数据单位,会不会从Document、Token和Instruction-Response,转变为包含State、Action、Observation和Feedback的Experience?相比完整Environment,真实用户与Coding Agent的交互轨迹分别有什么价值和局限性呢?


胡梦康:我觉得 Agent 时代的数据单位确实会从静态的 Document、Token,逐渐变成 Experience。但 Experience 里面也有不同层次。


真实用户和 Agent 的交互轨迹非常重要,因为它告诉你真实世界到底在要求模型做什么,以及模型究竟在哪里失败。


其中有几个非常有价值的部分。第一,是User Query。真实用户到底希望模型在实际环境中完成什么任务?例如用户不是要求模型端到端训练一个系统,而是希望它Debug某个框架里的小Bug,或者Implement一个Feature。这些Query揭示了真实数据分布,尤其能帮助我们补足长尾部分。第二,是用户在每一个Turn中给模型的Response。客观来说,现在模型在很多场景中仍然做不好,而有Insight的用户会向模型提供Feedback,告诉它下一步该怎么做。或者是用户骂Agent,这些某种程度上来说都是真实环境中的reward signal


这类反馈虽然不能直接成为Verifier,但可以帮助模型跳出局部最优解,本质上是给模型的Hint。我们最终要做的,是把Hint转化为Verifier,并让模型在没有Hint的情况下也能把事情做通。


但真实轨迹本身有一个非常根本的局限:它是 observation,而不是 experiment。


你看到的是在某一个 state 下,模型采取了某一个 action,然后发生了某一个结果。但你不知道,如果它采取另一个 action 会怎样;也不能稳定地 replay、intervene,或者规模化地产生新的 experience。


这也是为什么我们会把真实轨迹更多看成一种signal 或 seed。它帮助我们发现新的 task、failure mode 和 capability gap,然后再把这些东西 recreate 成 Environment。Environment 的价值就在这里:它把一个真实世界里偶然发生的问题,变成一个可重复、可干预、可验证的实验系统。模型可以在里面反复行动、失败、获得 feedback,再尝试新的策略。


ZP: 做Agent Data时,你会更相信少量高质量Research Question能够形成强泛化,还是必须持续覆盖不同场景?Evolvent AI内部所说的Hill Climbing,具体是一条怎样的能力路线,可以和我们分享一下吗?


胡梦康:说实话,我觉得只依靠少数Research Question获得极强泛化比较难。我们内部有一个很重要的 philosophy,叫 Hill Climbing但它不是经典 optimization 意义上的 Hill Climbing,更像一种 frontier-guided curriculum。


我们不是去寻找这个世界上最难的问题,而是在模型当前能力边界附近,寻找那些刚刚超出它当前能力、但又存在 learning gradient 的问题


太简单的问题模型已经会了,没有新的 learning signal;太难的问题模型完全解决不了,同样很难形成有效学习。真正有价值的是这个中间区域。


当模型学会以后,这个 Frontier 就向外移动,我们再寻找下一块 stepping stone。


所以纵向上,我们是在不断推动 Capability Frontier;横向上,则要保持足够广的 task 和 environment distribution,防止整个 learning process 收敛在一条过窄的路径上。


举个例子。Agent 早期,社区大量关注 Math 和 Competitive Programing,因为这类任务的 Formalization 和 Verifier 都非常清楚。后来开始出现 SWE 类任务,比如 Bug Fixing:它不再是回答一道题,而是需要模型理解 repository、使用工具、执行多步操作,但最终结果依然比较容易验证。


再往前,大家开始寻找更 Long-Horizon 的任务。比如 ProgramBench 这类问题,输入和最终目标是明确的,但中间怎么拆解问题、写什么代码、调用什么工具,模型有很大的自主 Rollout 空间。


我觉得这里能看到一条比较清楚的趋势:我们一直在从“容易 Formalize、容易 Verify 的问题”,逐渐走向“过程越来越 Open-Ended,但最终结果仍然可以 Verify 的问题”。


下一步并不一定是突然进入“完全没有 Verifier”的世界,而是 Feedback 会逐渐变得更稀疏、更延迟、更复杂。我们可能需要从 deterministic verifier,走向 rubric、environment feedback、human preference,甚至让系统自己学习怎样判断一次尝试到底有没有变好。


公司的整体Philosophy就是一步一步向上走。如果把这个过程理解成Hill Climbing,那么每一个台阶都代表模型某种比较本质的能力。在这个基础能力之上,我们可以做横向扩展。例如,当General Agent这一层被做通后,下一步就是扩展到更多垂直场景,并获得更多垂直场景的数据。它的泛化性来自Tool Use这类基础能力;在此之上,模型还需要学习不同垂直领域的SOP。这些SOP本质上属于Experience。


这就像人类已经长出了手和脚,有非条件反射,但要掌握一种Skill,仍然需要与环境交互,需要看到别人怎样完成,也就是Behavior Cloning,然后自己再尝试把事情做通。因此,在基础能力层面,我们可以横向扩展;在纵向层面,则不断向更本质的能力爬坡。


当然更进一步的,Hill Climbing 的终点并不是一张由人类提前设计好的无限长 Ladder。真正的终点,是模型开始自己判断 Frontier 在哪里、下一步应该学什么,以及怎样从环境里获得新的 learning signal。


05 Agent走向真实经济,从卖Token、Cowork到Data Research


ZP:假设AGI或RSI在技术上最终能够实现,它会以多快的速度转化为真实生产力?会怎样影响经济、生产力和AI公司的盈利?它会不会像工业革命一样,迅速改变整个经济?


胡梦康:我觉得我们离那个时间点还比较远。AGI和RSI可以放在一起讨论。也可以把RSI定义为AGI能力的一个Subset,即AGI具备改进自身的能力。即使假设模型现在已经可以开始优化自己,从今天走到真正的终局,中间仍然有很长距离。如果从2012年深度学习兴起算起,到现在已经十几年,我们仍然处在Research阶段,仍然需要解决大量Research Problem。


现阶段AI已经能带来一定经济价值,是因为现在的AI已经可以成为人类的Copilot,帮助我们完成手头工作。例如我写代码时,可以让Claude Code帮助我。这属于生产力提升,但还不是类似工业革命的一次革命。因此,生产力提升的时间点已经到来,真正革命性的时间点还没有来。在生产力不断提升的同时,我们依然需要解决大量Research Problem。


等到工业革命式的时间点真正到来,前景当然非常广阔。但那时还会出现另一个核心变量:怎样让整个Economy围绕AI重新构建。例如,我们怎样建立真正的A2A。现在的A2A更多发生在个人工作环境中,两个Agent可以相互对话、解决问题。再往上一步,是Organization Level的A2A,例如我的Agent与工程师的Agent相互交互、Clarify需求。


再进一步,是怎样在整个社会层面把人与人、组织与组织的交互转化为A2A。我们做B2B时,能不能把B2B中的供给与需求匹配也转化为A2A逻辑?另外,大家也经常讨论怎样让Agent真正成为另一个数字分身,其中还有很多安全问题需要解决。所以这件事整体还比较早,需要很长时间发展。


ZP: 未来模型公司的商业模式会长期停留在Model as a Service和卖Token吗?当模型有能力直接交付Program或业务结果时,模型公司与应用公司的价值边界会怎样变化?


胡梦康: Model as a Service是已验证的商业模式,但我们还无法判断它是不是阶段性形态。假设未来模型公司能够直接交付结果,而不只是交付Token,情况就会发生变化。


但有一些场景无法由Single Model独立闭环。例如Cowork场景中的白领任务,价值来自企业内部的真实业务环境。在这种情况下,模型公司就必须提供Model Service和API,让模型进入客户环境中完成工作。所以,我认为要分两部分看。Model Service是一种非常好的商业模式,但不一定是终局。未来模型可能出现分层。真正拥有最强Intelligence的模型,不一定会向大众开放。


因为它很可能是一个非常大的模型,Serving成本极高,超出大众熟悉或能够承担的价格范围。这类模型最终可能只服务于ROI最高、付费能力最强的一小批人。未来,这种分层现象可能越来越明显。


另外一种可能是,在某些领域中,模型公司继续以Model API的方式Serving;在另一些领域中,如果模型公司能够直接做产品并吃掉更多利润,它就不会只卖API。例如Anthropic,如果有一天能够把自己变成一家AI外包公司,用户把任何需求交给它,它交付的是一个Program,而不是一段模型轨迹,那么这种商业模式对它显然更有价值,而且还可以防止模型被蒸馏。所以我认为,当前向公众开放强模型,可能只是一个中间阶段的形态。


ZP: 如果三年后回头看,你认为Cowork是不是今天被低估的方向?它有没有机会成为Coding之外,下一个真正大规模商业化的Agent品类?


胡梦康:当General Agent和Coding被做通时,哪怕最初只是在刷榜,它们也代表模型已经能够完成一类Close-Ended、Verifiable Task。在这个基础上,我们需要横向扩展,以更饱和的方式加入更多Cowork数据。


我非常看好Cowork最终成为一个重要的Agent品类,因为白领工作中存在大量ROI非常高、又可以逐步被Agent承担的任务。最大的问题仍然是怎样获得更多数据。


我们也会构建很多Cowork数据。举个例子,如果让模型替代主动型基金中的Researcher,完成行业调研工作,这项工作其实包含大量Insight。现在的模型可以做Behavior Cloning,可以模拟研究员的行为,但并不真正具备同等Insight。


因此,我们仍然需要更多数据、更高质量的数据,把不同Domain和不同分布补齐。现在仍然处于数据阶段。但无论从商业形态还是长期发展来看,Cowork都非常合理。它会成为Coding之外另一个真正可以商业化的品类。


ZP:下一阶段AI的核心竞争,会不会从谁有最强的Model,转向谁能让Agent在企业自身环境中形成最强的Learning Loop?你们所说的Adaptable Intelligence具体指什么?


胡梦康:对,我觉得未来很大一部分竞争,不会只发生在谁拥有最强的 Foundation Model,而会发生在:谁能让一个足够强的 General Intelligence,在具体环境里持续变成更适合这个环境的 Intelligence。


我们内部把这个叫 Adaptable Intelligence。


General Intelligence 解决的是“这个模型原则上能做什么”;Adaptable Intelligence 解决的是“它进入一家具体公司之后,能不能越来越懂这家公司的任务、流程、工具、偏好和失败模式”。


因为企业真正有价值的东西,很多并不存在于互联网预训练数据里。它可能是内部 SOP,可能是 workflow,可能是历史 decision,可能是一个资深员工做判断时依赖的 tacit knowledge,也可能只是这个组织过去几个月积累下来的 failure 和 feedback。


所以我不太相信未来的 Enterprise AI 只是“接入一个越来越强的 API”。更合理的形态是:Foundation Model 提供 General Intelligence,企业自己的 Environment 和 Experience 不断把它塑造成 Specialized Intelligence。


ZP: 如果判断今天AI行业被高估和被低估的方向,Personal Agent属于哪一种?普通用户的需求是真的不足,还是需求一直存在,只是模型能力和推理成本还没有跨过临界点?


胡梦康:如果我们说的是并没有那么聪明的General Agent,它也一定有需求,而且未来会成为一个非常重要的品类。例如我想查地图、查询一个很基础的信息,或者交电费。交电费的流程很麻烦,我就希望Agent直接帮我完成。General Agent一定会承担大量这样的任务。


现在最大的问题是Token太贵。到目前为止,只有很小一批人从Agent中得到的价值,能够覆盖它消耗大量Token的成本。我们还没有把推理成本降到普通大众可以普遍使用Agent的程度。


如果有一天,普通人都可以用Agent完成日常生活中的General Task,我认为没有人会愿意继续亲自完成这些琐事。因此,这个品类的需求始终存在,只是现在还比较早。它与我们之前遇到的问题也不完全相同。之前的核心问题是怎样提高Model Frontier、找到模型解决不了的问题;Personal Agent现阶段最核心的问题,可能还是推理成本。


ZP: 如果把RSI看作一个持续运行的Loop,你们目前能让Research Agent独立运行多长时间?一次实验的资源上限大概是多少?


胡梦康:目前最长大约是10个小时,预算最高是2000美元。当然,我们也在运行更大规模的实验。这里的2000美元主要是Compute费用,目前没有把Model API价格计算进去。这里涉及你追求的是最终效果,还是Efficiency。如果追求Efficiency,确实应该把Research Model的API价格也算进去。我们现阶段主要统计Compute。


ZP: 在这类长时间运行的实验里,人还需要承担多少设计、监督和干预?


胡梦康:我觉得长期来看,人不应该一直参与 Agent 的每一步决策。我们的 philosophy 是尽可能把权限交给 Agent,让它在一个足够大的 action space 里自主运行。


但这不代表人完全消失。人的角色会发生变化。


在实验开始之前,人仍然需要定义目标、边界、资源预算和安全约束,把 Environment 和 Harness 搭好;实验运行之后,人更多是在看整个系统有没有产生有效的 learning signal,有没有出现 reward hacking、错误归因或者其他我们没有预料到的 failure mode。


所以我们不是把人从系统里拿掉,而是把人从 loop 内移到 loop 外。


如果 Agent 每走一步都需要人告诉它下一步做什么,那我们其实测到的不是 Agent 的 intelligence,而是 Human + Agent 这个组合系统的 intelligence。


ZP: 最后再谈谈你对数据市场的理解。从大规模Annotation,到Agent Environment,再到Data Research,你认为数据行业正在经历哪几个阶段?为什么Evolvent AI会把Researcher作为团队中最重的一环?


胡梦康:我认为数据行业大致经历了几个阶段。第一个阶段,是最早的大规模Annotation阶段。当时需要大量数据,训练出一个可用的Chatbot。比如2022年前后,整个数据市场会收集大量预训练数据、Instruction Tuning数据,也会由人工标注一些专家数据。本质上都是在一个相对明确的数据需求下,提高生产规模和效率。


目前来看,数据行业的价值中心正在从大规模、低成本的Annotation向更上游迁移。预训练数据的需求本身当然没有结束,只是容易获得的数据越来越少,剩下的数据越来越Private、越来越专业,也越来越难获得。这个周期还在持续,但数据获取难度越来越高。至于合成数据,我认为行业还没有把它研究清楚。训练时究竟应该加入什么数据、不应该加入什么数据,很多时候仍然是经验性的。模型要继续Scale,就必须Scale Data;但这些数据究竟从哪里来,是一个非常困难的问题。


第二个阶段,是Engineering阶段。Chatbot向Agent演变,行业需要为Agent Training构建Environment。在这个阶段,需要设计Verifier、Reward Function和Task,最终交付的不再只是几条标注数据,而是一套可以运行的环境。这已经从labor problem变成了Engineering Problem。普通标注员无法独立完成,需要领域专家或Research Engineer共同构建环境。


我觉得现在正在进入第三个阶段:Data Research。


到这个阶段,最难的问题进一步往前移动了。你已经不仅是在问“这个 Environment 怎么搭”“这些数据怎么生产”,而是在问:Model Frontier 到底在哪里?下一代模型真正还缺什么能力?哪些 failure mode 已经成为共识,哪些问题甚至还没有被行业发现?


真实产品产生的数据飞轮在这里也比较重要,因为它不断暴露真实的 task distribution、failure 和 human feedback。但这些 interaction 本身不会自动变成有价值的 training data。中间仍然需要 Research:判断什么值得学,把 failure 抽象成 capability gap,再把它变成 Task、Environment、Verifier 和最终的 learning signal。


这也是为什么Evolvent AI会把Researcher放在团队最重的位置。在Data Research阶段,最高价值的环节已经不是“把数据做出来”,而是判断下一代模型还缺什么能力、定义下一步应该做什么数据。Researcher的核心职责,就是更早发现并定义Model Frontier。


当然,Research Taste 本身不构成完整壁垒。还需要把Research Hypothesis变成真实数据,并把它形成可以交付、可以销售的产品。因此,公司的迭代和执行能力同样重要。


Evolvent AI想做的,是站在最上游:不仅生产数据,而是定义下一代模型需要的数据。


文章来自于"Z Potentials",作者 "Z Potentials"。

AI转型,免费服务,就找AITNT
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
OWL

【开源免费】OWL是一个完全开源免费的通用智能体项目。它可以远程开Ubuntu容器、自动挂载数据、做规划、执行任务,堪称「云端超级打工人」而且做到了开源界GAIA性能天花板,达到了57.7%,超越Huggingface 提出的Open Deep Research 55.15%的表现。

项目地址:GitHub:https://github.com/camel-ai/owl

2
智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。

项目地址:https://github.com/Significant-Gravitas/AutoGPT


【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。

项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md