让AI与人类“目标一致”：一个不可回避的难题
让AI与人类“目标一致”：一个不可回避的难题人工智能价值对齐（AI alignment）是关涉AI控制与AI安全的重要问题，随着人工智能的飞速发展和广泛应用，人工智能可能带来的风险和挑战也日益凸显，由此，“价值对齐”问题开始被广泛讨论和提及。
来自主题: AI技术研报
6186 点击 2023-10-12 10:15
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
人工智能价值对齐（AI alignment）是关涉AI控制与AI安全的重要问题，随着人工智能的飞速发展和广泛应用，人工智能可能带来的风险和挑战也日益凸显，由此，“价值对齐”问题开始被广泛讨论和提及。
如今打开手机淘宝，在搜索框输入“淘宝ai助手”会弹出一个名为「问问」的界面。当用户询问电商相关的问题时，「问问」将提供不同场景下适用的品类及使用教程，同时推荐当下的热门产品。
复旦大学马剑鹏教授领衔的科研团队开发的新型计算方法OPUS-DSD，不但能够成功地解析冷冻电子显微镜（Cryo-EM）结构解析技术中因传统方法无法分辨而缺损的生物大分子结构，并且高效精准地分辨出柔性结构域在受测样品中的构象分布。
今年3月人工智能ChatGPT火爆全网，AI行业一度备受关注。而当风口兴起，从大厂到“新一线厂”求贤若渴，不少求职者也争相涌入赛道。
奥特曼简单一句话，让AI创业公司瑟瑟发抖：“套壳”OpenAI，注定消亡！
郑雯至今觉得记得几个月的下午，那天，她一个小时就赚了2毛钱。她毕业于湖南的一所专科学校，是一名大模型数据标注师
GPT-4V风头正盛，LLaVA-1.5就来踢馆了！它不仅在11个基准测试上都实现了SOTA，而且13B模型的训练，只用8个A100就可以在1天内完成。
截至 10 月 6 日，报告期内（9 月 23 日 -10 月 6 日）共发生融资事件 102 起（不包括并购、定增），可统计总交易金额 65.46 亿（谨慎估计）
Storia号称“以100倍的速度和更便宜的方式预先可视化您的故事”，通俗来说就是帮助电影制作人、营销人员和其他故事讲述者把“文本”转换为视觉效果。
在2021年9月，由Jeff Dean领衔的谷歌大脑团队发表了一篇AI设计芯片的论文，曾引起业界轰动。然而，随后有多人发现这项工作并不能被复现，而且关键数据和代码被隐藏了，Nature也对此展开了调查。