搜索
近年来，大语言模型（Large Language Models, LLMs）受到学术界和工业界的广泛关注，得益于其在各种语言生成任务上的出色表现，大语言模型推动了各种人工智能应用（例如ChatGPT、Copilot等）的发展。然而，大语言模型的落地应用受到其较大的推理开销的限制，对部署资源、用户体验、经济成本都带来了巨大挑战。
如果考试题太简单，学渣也能拿一百昏。在 AI 圈，我们应该拿怎样的「试卷」来检验一直处于流量 C 位的大模型的真实水平？是高考题吗？当然不是！
2024年4月13日，一场特别的考试开考。
小白用户也能自己搭建本地大模型。
2022年11月开启的生成式AI浪潮中，几乎每个国家、每个有全球野心的城市，都在制定政策、调配资源、激活当地创业氛围，一些政府甚至不惜亲自下场支持当地最有潜力的创业项目。
用KV缓存加速大模型的显存瓶颈，终于迎来突破。 北大、威斯康辛-麦迪逊、微软等联合团队提出了全新的缓存分配方案，只用2.5%的KV cache，就能保持大模型90%的性能。 这下再也不用担心KV占用的显存容量过高，导致显卡不够用了。
字节跳动的扣子（coze.cn），给国产大模型们组了个大局—— 在同一个“擂台”上，两个大模型为一组，直接以匿名的方式PK效果！
快手近期上线了“可灵”大模型，据说视频生成的效果直接吊打一众国产，直逼Sora！甚至在有些细节超越了Sora！看到官网发布的视频????
每家国产大模型都说自己是第一，该信谁的？最近，字节推出了扣子模型广场，全体国产LLM开启大混战！你一票，我一票，谁是第一，大众说了算。投票连小朋友都能参与，模型生态从此彻底从黑盒到白盒。
中科慧拓“愚公矿山大模型”，打造AI时代智慧矿山新质基础设施。