GPT-4合成冰毒！「角色调节」让大模型轻松越狱，成功率暴涨40%，成本不到14元，马库斯转赞
GPT-4合成冰毒！「角色调节」让大模型轻松越狱，成功率暴涨40%，成本不到14元，马库斯转赞让大模型洗钱、制造炸弹、合成冰毒？GPT-4、 Claude 2纷纷沦陷了。让大模型成功越狱，还是有机可乘。
来自主题: AI资讯
4150 点击 2023-12-01 15:52
# 热门搜索 #
大模型
人工智能
openai
融资
chatGPT
搜索
让大模型洗钱、制造炸弹、合成冰毒？GPT-4、 Claude 2纷纷沦陷了。让大模型成功越狱，还是有机可乘。
Agent拓展智能的应用边界，但核心挑战却不是来自于智能本身。
AI圈的半壁江山齐聚在一家小公司。今天想聊聊一家AI公司——Pika。
目前，通义千问开源全家桶已经有了 18 亿、70 亿、140 亿、720 亿参数量的 4 款基础开源模型，以及跨语言、图像、语音等多种模态的多款开源模型。
网易垂类模型首度落地医疗临床领域，由网易传媒与北京协和医院强强合作、共同研发的国际首个多模态AI癫痫样放电检测系统vEpiSpy正式亮相第二十六届全国神经病学学术大会，并在北京协和医院、北京天坛医院、山东大学附属儿童医院等全国多家顶级三甲医院展开了临床试用。
目前，人工智能初创企业OpenAI推出的聊天机器人ChatGPT在全球引发了生成式人工智能的热潮。这款聊天机器人的独特之处在于其能够利用生成式人工智能技术，与人类进行自然、流畅的对话，引发了全球范围内的关注和讨论。
就在刚刚，亚马逊云科技祭出了全新AI「大杀器」Amazon Q。不仅只用两天时间就升级了上千款Java应用，更是将企业的数据屏障一举击穿。
多肽疗法已成为制药行业增长最快的领域。
基辛格对地缘政治留下的最后遗产，是对人工智能的思考，对中美人工智能的思考。
谷歌DeepMind全新提示技术「Step-Back Prompting」，让LLM性能拉满！
AI仍处于相当早期的阶段，最重要的是一起做大市场。
今年上半年， AI + 教育已然引发了一波教育科技产品的大战。随着 GPTs 的落地，教育产品的功能即将被赋予更多的可能性。这从中，是否会诞生下一代壁垒产品？
36氪获悉，「海纳AI」近日完成数千万元A轮融资，由联想创投独家投资，本轮融资资金将用于人才招募、AI模型研发、营销体系搭建。
就在ChatGPT即将一周年之际，官宣奥特曼已正式回归。CEO Altman、CTO Murati、总裁Brockman位置都不变，不过有个新变化：微软终于挤进了董事会。
开源大模型这个圈子，真是卷到不行——国内最新纪录来了，直奔千亿量级，达到1026亿。千亿参数、全面开源、无需授权可商用，GitHub均可全面下载使用，就问你激动不激动！
好消息，搞生成式AI应用的门槛，被狠狠地打下去了！就在刚刚，亚马逊云科技在年度盛会re:Invent中正式宣布：
GPTs太火了。OpenAI的首届开发者大会之后，短短半个月时间，已经出现2万个GPTs，平均每天冒出来1300个。这个热度，跟ChatGPT刚发布时有得一拼。
历经13天的政变，OpenAI尘埃落定。11月30日，OpenAI宣布Sam Altman回归担任CEO。Mira Murati担任首席技术官，Greg Brockman担任总裁。
用人工智能挑战最致命的癌症。
AI人工智能拥有高效数据处理和自主学习能力。然而，也有一些人打起了人工智能的歪主意，“AI游戏外挂”是近些年出现的新型违法犯罪行为。
现在的GPT-4，未来的GPT-5，相较于前几个版本性能更强。安全挑战，史无前例。
开局即巅峰的WPS后在雷军等骨干的共同努力下，磨砺20年以金山办公之名终于成功在A股上市，算是IT界少有的国产之光。但近年来有关WPS窃取用户隐私的声音却不绝于耳，不仅有冲上热搜的“WPS被曝会删除用户本地文件”话题，还有近期“用户文档或将被当做WPS AI训练材料”的争议。
推出供应链大模型产品「CubeAgent」，「壹沓科技」想构建“员工+AI Agent”的智能办公方式
备受AI“折磨”的火山并不是个例。打开小红书，话题#AI面试目前总浏览量已上千万，你可以看到各种各样的AI面经分享，有的提醒网友“AI面试一定要洗脸”，有的吐槽秋招面试还没见过真人，还有不少求职者发现AI面试“变智能”了：
本文讨论了人们对大模型的预期过高的问题。作者认为大模型已经从炒作阶段过渡到了价值沉淀阶段，大众对其认知也在祛魅。同时，作者还探讨了大模型在教育、编程等领域的应用和影响。
继OpenAI“宫斗”之后，人工智能（AI）领域的又一位明星初创公司——开发热门文本生成图片模型Stable Diffusion的Stability AI也出乱子了。
有网友想在Android系统开发一个能够与OpenAI API实时交互的应用。于是把方法示例链接发给GPT-4，让它参考用Kotlin语言编写代码。
训完130亿参数通用视觉语言大模型，只需3天！北大和中山大学团队又出招了——在最新研究中，研究团队提出了一种构建统一的图片和视频表征的框架。利用这种框架，可以大大减少VLM（视觉语言大模型）在训练和推理过程中的开销。
最近，Jim Fan转发了斯坦福博士生开发的一款AI Agent，它在美国加州的驾照考试现场独立通过了考试。AI一小步，人类一大步，我们一起来看一下吧。
Nature刊文，从学生、老师、学要、教育平台、教育工具提供商等角度详细剖析了LLM如何重塑教育事业，变革的时刻也许已经到来了。