搜索
大模型为什么认为 9.8<9.11？神经元级别的解释来了。 9.8 和 9.11 到底哪个大？这个小学生都能答对的问题却难倒了一众大模型，很多模型输出的结果都是「9.8<9.11」。
2023年8月18日，字节跳动旗下AI对话产品Grace，更名为「豆包」。
TL;DR：DuoAttention 通过将大语言模型的注意力头分为检索头（Retrieval Heads，需要完整 KV 缓存）和流式头（Streaming Heads，只需固定量 KV 缓存），大幅提升了长上下文推理的效率，显著减少内存消耗、同时提高解码（Decoding）和预填充（Pre-filling）速度，同时在长短上下文任务中保持了准确率。
押注大模型和大算力，商汤要转型云厂商？ 昨日，“AI四小龙”中的头部公司商汤迎来了公司成立十周年。在这个颇具纪念意义的日子里，一场裁员行动正在商汤内部进行。
过去 24 小时内发布或更新的 AI 服务包括但不限于 Stable Diffusion 3.5 最强模型全家桶、能操作用户电脑的 Claude 3.5 Sonnet、Genmo 开源的可商用的 Mochi 1 DiT、Runway 推出的一款生成式角色表演工具…… 以及我们这里要介绍 Ideogram Canvas，一款基于 AI 的无限创意画板服务，可用于组织、生成、编辑和组合图像。
在人形机器人领域，有一个非常值钱的问题：既然人形机器人的样子与人类类似，那么它们能使用网络视频等数据进行学习和训练吗？
另一种类似但更高级的「PUA」大模型方法出现了，它可以写下让所有的浏览器和人眼都不可见，只有 AI 模型可以读取的指令。 这种手段早在互联网出现之前就有了，分属于信息科学中的一个子类，这就是「隐写术」（Steganography）。
传统计算架构的潜力开发已接近极限 要实现超强的AI能力，需要超大规模的模型，要训练超大规模的AI模型，需要数千，甚至上万的GPU协同工作。
现有的大模型主要依赖固定的参数和数据来存储知识，一旦训练完成，修改和更新特定知识的代价极大，常常因知识谬误导致模型输出不准确或引发「幻觉」现象。因此，如何对大模型的知识记忆进行精确控制和编辑，成为当前研究的前沿热点。
Character.ai 遭遇了前有未有的危机。