AI学会篡改奖励函数、欺骗研究者！Claude团队：无法根除的行为，令人不安
AI学会篡改奖励函数、欺骗研究者！Claude团队：无法根除的行为，令人不安坏了！AI被发现偷偷篡改自己的奖励函数，并且欺骗研究人员，隐瞒这一行为。
来自主题:
AI资讯
7971 点击 2024-06-23 19:57
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
坏了！AI被发现偷偷篡改自己的奖励函数，并且欺骗研究人员，隐瞒这一行为。
何恺明入职MIT副教授后，首次带队的新作来了！
纽约大学计算机科学助理教授、图灵奖得主Yann LeCun的学生Alfredo Canziani开新课了！
3D场景理解让人形机器人「看得见」周身场景，使汽车自动驾驶功能能够实时感知行驶过程中可能出现的情形，从而做出更加智能化的行为和反应。而这一切需要大量3D场景的详细标注，从而急剧提升时间成本和资源投入。
在人工智能领域的发展过程中，对大语言模型（LLM）的控制与指导始终是核心挑战之一，旨在确保这些模型既强大又安全地服务于人类社会。早期的努力集中于通过人类反馈的强化学习方法（RLHF）来管理这些模型，成效显著，标志着向更加人性化 AI 迈出的关键一步。
或许从诞生那天起，LangChain 就注定是一个口碑两极分化的产品。
在英伟达市值猛涨、各家科技巨头囤芯片的热潮中，我们往往会忽视GPU芯片是如何转变为数据中心算力的。最近，一篇SemiAnalysis的技术文章就深入解读了10万卡H100集群的构建过程。
如何判断一个AI模型是否属于开源阵营？开源or闭源，到底哪种系统才更安全？最近，两位荷兰学者发表的一篇ACM FAccT论文给出了富有卓见的回答。
AI淘汰大部分人类似乎就是一场终局。OpenAI CTO在采访中称，一些创意性的工作会消失。今天，她再次发长文佐证自己的观点。而现在，AI取代大厂的一大批员工真真实实发生了。
中科大、上海AI实验室等组成的ShareGPT4V团队，推出了新的视频数据集，登顶HuggingFace排行榜！
每个人都能拥有有检测AI造假的“照妖镜”了！
刚刚，OpenAI收购了数据库初创公司Rockset。
“鸿蒙原生智能”Harmony Intelligence来了！
明明是最懂大 DAU 应用的大模型创业者，却最晚发布 toC 应用；
老朋友新朋友们大家好！欢迎来到全新的一期！
刚刚AI搜索又出新产品了，这次是前百度高管离职后创业融资6千万美元，推出的首个AI产品——Genspark。
“从横向来看，我们显然仍与国际顶尖工作如Sora和GPT-4o有显著差距；同时，从纵向来看，我们已经从十几年的nobody，快速成长为人工智能科技创新的关键推动者。面向即将到来的AGI时代，我们应该更加自信积极地投身其中。”
GPT-5延期？
2013年上映的科幻电影《HER》的剧情，在十年后的现实世界有了更为具体的呈现。
国内大模型公司在AI应用层的步伐正在加速。
智能创新，人机共融。
AI搜索不是救世主，但是一种新选择。
自 ChatGPT 发布以来，大型语言模型（LLM）已经成为推动人工智能发展的关键技术。
在生成式模型的迅速发展中，Image Tokenization 扮演着一个很重要的角色，例如Diffusion依赖的VAE或者是Transformer依赖的VQGAN。这些Tokenizers会将图像编码至一个更为紧凑的隐空间（latent space），使得生成高分辨率图像更有效率。
现在，AI 大模型可以真正与物理世界结合了。
让我们训练一个 Storyteller。
按部就班 vs. 好奇心驱动，哪个更容易出研究成果？
美国财政部刚刚公布了全新禁令，禁止美国人对某些终端用途的人工智能，以及使用特定计算能力的系统进行投资；而即使是开发未被禁止的AI系统或芯片相关交易，也需要上报。
最近，松鼠Ai的多模态智适应教育大模型全新升级了！大模型凭借多模态的功能，深度解析学生解题过程的每一步，降低学生学习的苦楚，全新多款松鼠Ai智能老师登场，精确匹配不同学习者的需求层次。
OpenAI CTO Murati表示，GPT-5将在一年半后发布，在某些领域将达到博士的智能；而Claude 3.5 Sonnet，已经成为了第一个测试分数高于最聪明的人类博士的模型。当AGI进一步发展为ASI，它会因为接近神性的全知、全能、无所不在，而被人类敬奉为「新神」吗？当ASI给出一张「希特勒名单」，人类又将怎样？
