AI资讯新闻榜单内容搜索-不

AITNT-国内领先的一站式人工智能新闻资讯网站
# 热门搜索 #
搜索: 不
妈妈再也不用担心延迟了!斯坦福手搓Llama超级内核,推理仅需0.00068秒

妈妈再也不用担心延迟了!斯坦福手搓Llama超级内核,推理仅需0.00068秒

妈妈再也不用担心延迟了!斯坦福手搓Llama超级内核,推理仅需0.00068秒

斯坦福Hazy实验室推出新一代低延迟推理引擎「Megakernel」,将Llama-1B模型前向传播完整融合进单一GPU内核,实现推理时间低于1毫秒。在B200上每次推理仅需680微秒,比vLLM快3.5倍。

来自主题: AI技术研报
10606 点击    2025-05-30 12:36
谷歌之后,英伟达入局扩散大语言模型,Fast-dLLM推理速度狂飙27.6倍

谷歌之后,英伟达入局扩散大语言模型,Fast-dLLM推理速度狂飙27.6倍

谷歌之后,英伟达入局扩散大语言模型,Fast-dLLM推理速度狂飙27.6倍

近日,NVIDIA 联合香港大学、MIT 等机构重磅推出 Fast-dLLM,以无需训练的即插即用加速方案,实现了推理速度的突破!通过创新的技术组合,在不依赖重新训练模型的前提下,该工作为扩散模型的推理加速带来了突破性进展。本文将结合具体技术细节与实验数据,解析其核心优势。

来自主题: AI技术研报
10502 点击    2025-05-30 12:08
轮到AI来写《人类简史》

轮到AI来写《人类简史》

轮到AI来写《人类简史》

七万年前,智能人凭借虚构故事的能力完成了第一次认知革命。 一万年前,农业革命让我们从狩猎采集者变成了农民。 三百年前,科学革命让我们成为了地球的主宰。 而今天,我们正站在第三次认知革命的门槛上——这次,讲故事的不再只是人类。

来自主题: AI资讯
8325 点击    2025-05-30 11:54
AI马桶相机融资400万美元,来自真实生活的创业案例

AI马桶相机融资400万美元,来自真实生活的创业案例

AI马桶相机融资400万美元,来自真实生活的创业案例

关注我的人可能知道,我在得到开了一个专栏——《快刀广播站》。为了写专栏,我每周大概会试用体验不下几十款国内外的AI产品。

来自主题: AI资讯
9674 点击    2025-05-29 17:42
今天的寒门,是不懂AI的家庭

今天的寒门,是不懂AI的家庭

今天的寒门,是不懂AI的家庭

“今天的寒门,是不懂AI的家庭”,这个观点一落入眼帘,就抓住了海淀妈妈郑瑞虹的注意。

来自主题: AI资讯
9803 点击    2025-05-29 16:57