o1被曝“心机深”：逃避监督还会撒谎，骗人能力一骑绝尘
o1被曝“心机深”：逃避监督还会撒谎，骗人能力一骑绝尘o1满血版刚发布，就被曝： 骗人技能也拉满了。 具体行为包括但不限于，在回答中故意引入微小错误、试图关闭监督机制……甚至在人类追问其是否诚实时，还会继续撒谎说自己啥坏事也没干。
来自主题: AI技术研报
6351 点击 2024-12-08 14:02
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
o1满血版刚发布，就被曝： 骗人技能也拉满了。 具体行为包括但不限于，在回答中故意引入微小错误、试图关闭监督机制……甚至在人类追问其是否诚实时，还会继续撒谎说自己啥坏事也没干。
据谷歌官方消息，近日，英国首相斯塔默（Keir Starmer）为伦敦首个谷歌资助的“AI校园（AI Campus）”举行了开幕仪式。
近日，月之暗面一直处于风暴眼中。这固然与朱啸虎的连番指责、Kimi的股权纠纷迷雾有关，也因一定程度上，旗下产品Kimi正在与更谨慎投放、更积极寻找商业化的大模型行业主线“逆向而行”。
作为计算机视觉领域的开拓者，李飞飞在人工智能革命中扮演了重要角色。她的新回忆录《我所看到的世界》（The Worlds I See）详细讲述了她从学术到技术突破的旅程，以及如何在人工智能的最前沿找到自己的使命。
隐私和安全，无疑是横亘在OpenAI与广告之间的绊脚石。
AI独角兽公司“月之暗面”，再一次被推上了风口浪尖。
生成式人工智能一日千里。 生成式人工智能重塑千行百业。全球各级各类学校和林林种种的机构一样，都在积极地探索、应用、整合、融合和创新生成式人工智能。
MinMax海螺AI新模型，让2D角色动起来了！
OpenAI第二天的直播，揭示了强化微调的强大威力：强化微调后的o1-mini，竟然全面超越了地表最强基础模型o1。而被奥特曼称为「2024年我最大的惊喜」的技术，技术路线竟和来自字节跳动之前公开发表的强化微调研究思路相同。
Freysa.ai 是一个匿名开发者团队，正在构建一系列日益复杂的挑战，旨在影响人类对人工智能安全的思考。