搜索
大模型在今年的落地，除了对用 AI 对已有业务进行改造和提效外，算力和推理的优化，可能是另外一项重要的实践了。这在腾讯的两个完全不同的业务上有着明显的体现。
近日，朱泽园 (Meta AI) 和李远志 (MBZUAI) 的最新研究《语言模型物理学 Part 3.3：知识的 Scaling Laws》用海量实验（50,000 条任务，总计 4,200,000 GPU 小时）总结了 12 条定律，为 LLM 在不同条件下的知识容量提供了较为精确的计量方法。
对代码大模型而言，比能做编程题更重要的，是看是能不能适用于企业级项目开发，是看在实际软件开发场景中用得顺不顺手、成本高不高、能否精准契合业务需求，后者才是开发者关心的硬实力。
随着AI技术的广泛应用，从智能手机到自动驾驶汽车，从智能家居到工业自动化，AI供电芯片的需求量正呈爆炸式增长。它不仅为AI系统提供稳定的电力供应，确保系统的正常运行，而且还肩负着节能减排、降低能耗的重任。
现在的AI还远算不上文字创作的取代者。
投人，仍是现阶段 AGI 领域早期投资最真实的投资逻辑之一。 如果，暂时还没有超低成本的获得用户或者客户的变局，商业上比拼的就是低成本的资金，明星创业者和大厂就更有阶段性优势。如果，当前模型能力还未定性，做出产品 PMF 仍有不确定性，持续融资能力就是投资机构考核创业者的隐性标准，「天才青年创业者密度」就比「故事」、「逻辑」、「产品」更打动投资人。
上个月，彭博社消息称苹果正在与 Google 进行谈判，希望将 Gemini 集成的 iPhone 当中，为 iPhone 的软件提供 AI 相关的新功能。把新系统的核心功能“外包”给第三方，这种做法非常不苹果。
「Real men program in C.」 众所周知，大语言模型还在快速发展，应该有很多可以优化的地方。我用纯 C 语言来写，是不是能优化一大截？ 也许很多人开过这样的脑洞，现在有大佬实现了。
不降低大模型算法精度，还能把芯片的算力利用效率提升 2~10 倍，这就是编译器的魅力。
训大模型的方法可能要被革新了！AI大神Karpathy发布的新项目仅用1000行的C语言训完GPT-2，而不再依赖庞大的GPT-2库。他本人预告，即将上线新课。