离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!
9030点击    2026-11-22 11:18

曾共同领导 xAI 推理团队的盛颖,与把创业公司卖给英伟达的朱邦华,如今成了创业搭档。


这两位 95 后创办的 RadixArk,聚集了一批 SGLang 核心开发者,最近又发布了首款模型。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


11 月 18 日,RadixArk 发布并开放DaisyRose-27B 模型权重。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


据团队公布的数据,DaisyRose-27B在Terminal-Bench 4.1上的pass@1从基座模型的5.6%提升至12.0%,达到原来的约2.14倍。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


团队仅用约1200个长程Agent任务进行强化学习,训练会话最长达100万token。


RadixArk 的两位创始人,都曾参与大模型核心技术的研发。


CEO 盛颖是 SGLang 联合创建者,曾在 xAI 共同领导推理团队;CTO 朱邦华联合创办的 Nexusflow 被英伟达收购后,他又与盛颖一起出来创业。


两人此前已在大模型推理研究中合作,如今把这份合作延续到了一家公司。


盛颖:SGLang联合创建者,


离开xAI创业


盛颖是 RadixArk 联合创始人兼 CEO,也是上海交大 ACM 班校友。


她先后在哥伦比亚大学和斯坦福大学取得计算机科学硕士、博士学位,博士期间师从 Clark Barrett,研究形式化验证。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


她早期研究涉及形式化方法与自动推理,曾获得 IJCAR 2020 最佳论文奖、TACAS 2022 最佳工具论文奖。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


博士后期,她逐步转向大模型与机器学习系统研究。


盛颖参与的项目包括 FlexGen、S-LoRA、FastChat 和 Vicuna,也是非营利开源组织 LMSYS 的联合发起者之一。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


其中,影响最广的成果之一是SGLang。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


2023 年夏天,盛颖与合作者启动 SGLang,并于 2024 年 1 月公开发布。


这个项目逐渐发展为被广泛采用的开源推理引擎,如今运行在数十万张 GPU 上,服务于 Meta、微软、谷歌等公司的生产部署。


2024 年 10 月,盛颖加入 xAI,共同领导推理团队。不到一年后的 2025 年 8 月,她选择离开,投入 RadixArk。


促使她作出决定的,是 SGLang 不断增长的社区需求。


在创业公告中,盛颖回忆,2024 年夏天,她曾与郑连敏等开发者连续熬夜调试。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


随着项目规模扩大,团队需要一个专门的组织,支持开发者持续投入。


她希望把此前在 Databricks 感受到的开源精神延续下去,让更多团队能够使用前沿 AI 基础设施。


创办 RadixArk,也让维护开源项目成为她可以全职投入的事业。


朱邦华:清华系第一,


公司被英伟达收购后再次创业


RadixArk 联合创始人兼 CTO 朱邦华,本科毕业于清华大学,取得电子工程和数学双学士学位。


根据公开简历,他的本科成绩排名为电子工程系262人中的第一名。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


2018 年,他赴加州大学伯克利分校攻读博士,师从焦健涛和 Michael I. Jordan,研究涉及强化学习、大模型微调与推理,博士论文聚焦大模型高效微调与服务。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


博士期间,他获得了 2023 年 David J. Sakrison Memorial Prize,该奖项表彰伯克利 EECS 杰出的博士研究。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


他的工作也从理论研究延伸到了开源模型和工具,参与成果包括 Starling-7B、Athene-V2-72B,以及 Chatbot Arena、Arena-Hard-Auto 等模型评测平台。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


2023 年,仍在攻读博士的朱邦华联合创办 Nexusflow,面向企业开发 AI Agent 技术。他在公司的工作重点,是大模型后训练。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


2025 年,Nexusflow 被英伟达收购。


朱邦华随后宣布加入英伟达,担任 Principal Research Scientist,并在回复网友时表示,自己将加入 Star Nemotron 团队,负责应用研究。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


朱邦华于2025年宣布加入英伟达时发布的与黄仁勋合影


但这段大厂经历没有持续太久。


在个人访谈中,朱邦华谈到,收购后不到半年,他便放弃后续尚未归属的收购收益,再次出来创业,与好友盛颖一起创办 RadixArk。


两人的合作早于这家公司。


两人此前已在大模型推理缓存研究和 S-LoRA 项目中合作。


如今,RadixArk 团队围绕推理引擎 SGLang 和强化学习框架 Miles 持续开发,后者也被用于训练公司的首款模型 DaisyRose-27B。


首款27B模型,


用自家基础设施训练出来


11 月 18 日,该模型正式发布并开放权重。基于 Qwen3.8-27B,团队使用自家的强化学习框架 Miles,在144张H200上完成了18天训练。


朱邦华在社交平台透露,团队最初希望验证百万token长程Agent训练能否稳定运行,同时提高GPU计算利用率、降低沙箱成本。


后来我们跑了评测,发现模型比预期更好,所以决定把DaisyRose-27B发布出来,让大家试试。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


目前,RadixArk已开放BF16、FP8和NVFP4三种精度的模型权重,供开发者下载使用。


SGLang也在模型发布当天完成适配,开发者可直接使用该框架部署和运行DaisyRose-27B。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


DaisyRose-27B主要面向需要多阶段推理、规划和执行的长程Agent任务,要求模型连续调用工具,并根据中间结果调整行动。


RadixArk与Eigent AI合作,筛选出约1200个训练任务,针对基座模型的错误调整难度,并人工检查执行记录,修复或移除存在评分漏洞的任务。


单次任务尝试最长运行1.5小时,涉及超过100次工具调用。部分会话累计达到100万token,通过Harness摘要机制组织为多条训练轨迹。


训练采用Miles全异步模式:128张H200执行任务、生成轨迹,16张负责训练,让任务执行与模型更新并行进行。


据官方介绍,其内部训练后端的模型计算利用率(MFU)达到37%,基于Megatron的开源训练器在可比运行中为16%。


按照这一口径,完成相同训练所需的GPU时间减少约57%。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


计入Agent执行任务的时间后,内部后端的端到端训练吞吐量约为每秒1.68万token,约为开源训练器的两倍。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


此次训练累计消耗约6.3万GPU小时。据团队介绍,训练速度和计算利用率在18天运行期间保持稳定。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


为支持大规模任务执行,RadixArk还基于开源项目AgentENV搭建了沙箱服务。


9月中旬至11月中旬,该项目累计运行约94.4万个沙箱,最高同时运行1566个。


10月下旬以来,沙箱创建成功率超过99.95%。


离开xAI、英伟达创业做Infra,两位95后华人交出首款模型!


RadixArk表示,后续将面向构建专用模型的团队提供后训练支持,在提升目标能力的同时,保留模型原有的通用能力。


DaisyRose-27B也是RadixArk的一次能力展示:


将推理、强化学习和沙箱等基础设施组合起来,帮助其他团队训练和运行模型。


从离开大厂到联手创业,盛颖与朱邦华把开源积累变成了首款模型。接下来,他们需要证明,这套系统也能解决其他团队的实际需求。


文章来自于微信公众号 “智猩猩AI”,作者 “智猩猩AI”

AI转型,免费服务,就找AITNT
AITNT资源拓展
根据文章内容,系统为您匹配了更有价值的资源信息。内容由AI生成,仅供参考
1
智能体

【开源免费】AutoGPT是一个允许用户创建和运行智能体的(AI Agents)项目。用户创建的智能体能够自动执行各种任务,从而让AI有步骤的去解决实际问题。

项目地址:https://github.com/Significant-Gravitas/AutoGPT


【开源免费】MetaGPT是一个“软件开发公司”的智能体项目,只需要输入一句话的老板需求,MetaGPT即可输出用户故事 / 竞品分析 / 需求 / 数据结构 / APIs / 文件等软件开发的相关内容。MetaGPT内置了各种AI角色,包括产品经理 / 架构师 / 项目经理 / 工程师,MetaGPT提供了一个精心调配的软件公司研发全过程的SOP。

项目地址:https://github.com/geekan/MetaGPT/blob/main/docs/README_CN.md

2
微调

【开源免费】XTuner 是一个高效、灵活、全能的轻量化大模型微调工具库。它帮助开发者提供一个简单易用的平台,可以对大语言模型(LLM)和多模态图文模型(VLM)进行预训练和轻量级微调。XTuner 支持多种微调算法,如 QLoRA、LoRA 和全量参数微调。

项目地址:https://github.com/InternLM/xtuner