搜索
Anthropic强化学习技术负责人Sholto Douglas预测，能力等于甚至超过所有人类的AGI可能在未来几年内出现，2028年AI年度资本开支或达4万亿美元，而研究员Nick Marwell对AI无需人类搭档后的后果表示紧张。
LinkedIn 公开其 AI 职位搜索的多教师蒸馏训练基础设施，通过基于 SGLang 的定制框架结合在线与离线蒸馏方案，并叠加 LiGer、多节点训练、FSDP2 及 H200 集群等优化，实现约 8 倍训练加速，将 80 亿参数相关性模型和 17 亿参数互动模型的知识压缩至 6 亿参数排序模型，使职位搜索 NDCG@10 提升 24.48%。
OpenAI计划以3亿美金收购由前苹果工程师创立的AI影像公司Glass Imaging，以补充端侧视觉能力，布局多模态AI硬件。
Tamar AI旗下TapNow在威尼斯国际电影节发布全球首个长内容AI原生流媒体平台Glanze，联动"一万个平行宇宙"AI原创IP孵化计划，构建从工具、社区、赛事到IP孵化与流媒体发行的AI内容生态闭环。
趋境科技通过部署SGLang HiCache+Mooncake Store，将KV Cache从单机资源升级为集群级共享池化资源，支撑其日均产出超万亿Token的生产实践，KV Cache命中率稳定突破90%，并在生产环境中持续优化大规模推理集群的性能与稳定性。
WalkingLab 是由清华大学与香港大学团队发起的开源非营利实验室，专注真实世界 AI 与项目制学习，成立五个月已推出涵盖工程实践、强化学习和大语言模型的三门核心课程，累计获超 20,000 GitHub Star 并登上 Hacker News 首页，致力于通过真实项目连接课程、论文与工程实践，加速 AGI 到来。
近期Product Hunt热门AI产品Acti、Wispr Flow、Hey Noah、Pazi、Glaze、AnySearch、Context.dev和OpenSEO不再执着于打造更聪明的ChatGPT，而是分别争夺意图入口、任务执行权、软件生产成本降低以及面向Agent的基础设施，将AI嵌入键盘、语音、邮件等日常工作流程。
SpaceXAI工程师Lauren Tan用pstack并行运行20多个GrokBot智能体，单月交付1000多个PR，核心是用control glass等技能让智能体自验证，并以Dune架构禁用useEffect与注释、强制进程隔离等硬约束取代人工盯代码，使智能体可自主完成写码、测试与主干合并。
她是xAI前推理团队负责人。她研究并发起的开源推理引擎SGLang，已经成为众多大模型部署和推理的重要底层工具，也是目前AI infra领域最具影响力的开源推理框架之一。如今，她从SGLang开源生态中孵化出创业公司RadixArk，希望把只有少数科技巨头才能拥有的前沿AI基础设施，变成整个行业都可以使用的开放技术底座。
这篇文章，我们邀请到了由SGLang孵化的RadixArk的联合创始人和核心成员，以及数据中心专家，一起聊聊AI Infra的四层架构、行业如何把“硅”的潜力榨到极限，以及背后的关键技术。