田渊栋等人新作：突破内存瓶颈，让一块4090预训练7B大模型
田渊栋等人新作：突破内存瓶颈，让一块4090预训练7B大模型3 月 6 日，田渊栋又一项研究出炉，这次，他们主攻 LLM 内存效率。除了田渊栋本人，还有来自加州理工学院、德克萨斯大学奥斯汀分校以及 CMU 的研究者。
来自主题: AI技术研报
11646 点击 2024-03-08 15:07
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
3 月 6 日，田渊栋又一项研究出炉，这次，他们主攻 LLM 内存效率。除了田渊栋本人，还有来自加州理工学院、德克萨斯大学奥斯汀分校以及 CMU 的研究者。
随着对Sora技术分析的展开，AI基础设施的重要性愈发凸显。
AAAI 2024 奖项陆续公布，继杰出论文奖后，今天博士论文奖也公布了。
为了使机器具有人类的想象力，深度生成模型取得了重大进展。这些模型能创造逼真的样本，尤其是扩散模型，在多个领域表现出色。扩散模型解决了其他模型的限制，如 VAEs 的后验分布对齐问题、GANs 的不稳定性、EBMs 的计算量大和 NFs 的网络约束问题。
今天介绍一篇密歇根州立大学 (Michigan State University) 和劳伦斯・利弗莫尔国家实验室（Lawrence Livermore National Laboratory）的一篇关于零阶优化深度学习框架的文章 ，本文被 ICLR 2024 接收，代码已开源。
随着越来越多的企业将人工智能应用于其产品，AI芯片需求快速增长，市场规模增长显著。因此，本文主要针对目前市场上的AI芯片厂商及其产品进行简要概述。
AI浪潮汹涌了一年多，终于卷到了手机上。
百川智能又对产品进行了一次大更新，发布了Baichuan 3模型。这次更新后，在多个权威通用能力评测CMMLU、GAOKAO和AGI-Eval中，其英文能力已经逼近 GPT-4，在中文任务表现上甚至超越了GPT-4：
OPO 无需训练即可实现实时动态对齐，而且因其即插即用的特性，适用于所有的开源与闭源大模型。
近日，三星在加利福尼亚州圣何塞隆重发布了最新的Galaxy S24系列手机，AI要素拉满！网友一片热情，纷纷实测