小模型也能玩转RAG!性能仅降1%,存储省75%,边缘设备轻松跑
小模型也能玩转RAG!性能仅降1%,存储省75%,边缘设备轻松跑检索增强生成(RAG)虽好,但一直面临着资源消耗大、部署复杂等技术壁垒。近日,香港大学黄超教授团队提出MiniRAG,成功将RAG技术的应用门槛降至1.5B参数规模,实现了算力需求的大幅降低。这一突破性成果不仅为边缘计算设备注入新活力,更开启了基于小模型轻量级RAG的探索。
搜索
检索增强生成(RAG)虽好,但一直面临着资源消耗大、部署复杂等技术壁垒。近日,香港大学黄超教授团队提出MiniRAG,成功将RAG技术的应用门槛降至1.5B参数规模,实现了算力需求的大幅降低。这一突破性成果不仅为边缘计算设备注入新活力,更开启了基于小模型轻量级RAG的探索。
从软件工程和网络安全的角度来看,当前的AI落地前景如何?「可解释性」方面的研究,真的能让AI拜托「黑箱」属性吗?
“神秘东方力量”DeepSeek给硅谷带来的影响,还在不断泛起涟漪——刚刚,DeepSeek-R1跻身大模型竞技榜前三。以开源、便宜20倍的“身价”与ChatGPT-4o(2024.11.20)并列。
全网最“主观”的AI产品榜单。前些日子,全球顶级 VC a16z 发布了一份相当有趣的 AI 产品榜单,本次榜单并不是按照网站流量或收入等硬性指标来收录产品的,而是邀请了 24 位 AI 行业的从业者,每人选择本年度自己最喜欢的 3 款 AI 产品,并给出了评价。
视觉版o1的初步探索,阶跃星辰&北航团队推出“慢感知”。研究人员认为:1)目前多模领域o1-like的模型,主要关注文本推理,对视觉感知的关注不够。2)精细/深度感知是一个复杂任务,且是未来做视觉推理的重要基础。
最近,妙鸭相机在新年之际有了新动作——上线 2.0 版本,支持「拍」Live 动态写真。时隔一年半,它能再次掀起水花吗?
今天的一条知乎热搜让人惊了:国内某双非名校计算机学院24届本科生就业率,还不足50%?一届学生里大半人毕业就失业,CS就业竟遭遇寒冬。而业内人士表示,高校的疯狂扩招和大模型的火爆,早就让CS普本就业进入地狱模式了。
Meta这次真的坐不住了,计划在AI上继续加码!匿名员工爆料,黑马DeepSeek的出现,让Llama 4还未发布就已经落后,Meta慌了。
随着大模型(LLMs)的发展,AI 写作取得了较大进展。然而,现有的方法大多依赖检索知识增强生成(RAG)和角色扮演等技术,其在信息的深度挖掘方面仍存在不足,较难突破已有知识边界,导致生成的内容缺乏深度和原创性。
非营利研究机构AI2近日推出的完全开放模型OLMo 2,在同等大小模型中取得了最优性能,且该模型不止开放权重,还十分大方地公开了训练数据和方法。