超大模型推理加速2.18倍！SGLang联合美团技术团队开源投机采样训练框架
超大模型推理加速2.18倍！SGLang联合美团技术团队开源投机采样训练框架专门适用超大模型、带来2.18倍推理加速，最新投机采样训练框架开源！ SGLang团队联合美团搜推平台、Cloudsway.AI开源SpecForge。
来自主题: AI资讯
8887 点击 2025-07-27 13:22
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
专门适用超大模型、带来2.18倍推理加速，最新投机采样训练框架开源！ SGLang团队联合美团搜推平台、Cloudsway.AI开源SpecForge。
AI超级实用的落地，只有这家玩明白了。 前几天，奥特曼在采访中透露，亲自体验 GPT-5 后，被其强大的能力吓到。有个自己都搞不懂的问题，模型却能一下答出来，那一刻他甚至觉得自己在擅长的领域也有些「无力」。
还在为 LoRA 训练不稳定、模型融合效果差、剪枝后性能大降而烦恼吗？来自香港城市大学、南方科技大学、浙江大学等机构的研究者们提出了一种简单的渐进式训练策略，CoTo，通过在训练早期随机失活一部分适配器，并逐渐提高其激活概率，有效缓解了层级不均衡问题，并显著增强了模型在多任务融合和剪枝等操作上的鲁棒性和有效性。该工作已被机器学习顶会 ICML 2025 接收。
这大概是大家玩得最开心的一届WAIC。在上海世博展览馆里，你能看到：机器狗托着AI眼镜“哒哒哒”走，机器人被绑了绳子“遛”机器狗，人们给自己绑上感应器，小心翼翼“遥操”着机器人搭积木、玩迷宫。
多模态大模型 (MLLM) 驱动的 OS 智能体在单屏动作落实（如 ScreenSpot）、短链操作任务（如 AndroidControl）上展现出突出的表现，标志着端侧任务自动化的初步成熟。
CostFilter-AD通过构建异常代价体并滤波来优化异常检测，能精准识别微小缺陷，无需缺陷样本训练。可作为通用插件提升现有检测系统，帮助工厂提前发现缺陷，提高产品质量。
当前最强大的大语言模型（LLM）虽然代码能力飞速发展，但在解决真实、复杂的机器学习工程（MLE）任务时，仍像是在进行一场“闭卷考试”。它们可以在单次尝试中生成代码，却无法模拟人类工程师那样，在反复的实验、调试、反馈和优化中寻找最优解的真实工作流。
国内 AI 创企 RockAI 提出的非 Transformer 架构 Yan 2.0 Preview。这个架构极大地降低了模型推理时的计算复杂度，因此可以在算力非常有限的设备上离线运行，比如树莓派。
前几天逛 X 的时候，偶然间刷到一个声称“彭博终端”的替代品，不仅免费而且开源。
Surge AI 成立于 2020 年，是一家专注于数据标注的公司。自成立以来，主创团队都极为低调，社交平台上鲜有公开动态。即便如此，Surge AI 仍在短短几年内实现了业绩大爆发，并成为业内公认的“领域最大且最好的玩家”。截至 2024 年，Surge AI 的 ARR 已突破 10 亿美元，超越了行业巨头 Scale AI 的 8.7 亿美元收入，成为其最大的竞争对手。