华为改进Transformer架构!盘古-π解决特征缺陷问题,同规模性能超LLaMA
华为改进Transformer架构!盘古-π解决特征缺陷问题,同规模性能超LLaMA华为盘古系列,带来架构层面上新!量子位获悉,华为诺亚方舟实验室等联合推出新型大语言模型架构:盘古-π。
来自主题: AI资讯
6550 点击 2024-01-02 14:34
华为盘古系列,带来架构层面上新!量子位获悉,华为诺亚方舟实验室等联合推出新型大语言模型架构:盘古-π。
近日,来自华为诺亚方舟实验室、北京大学等机构的研究者提出了盘古 π 的网络架构,尝试来构建更高效的大模型架构。
有结构化推理和先验知识,智能体变得更加通用了。
从低清图像中提取认知特征,这样的超分辨率才更真实。
相比于一味规避“有毒”数据,以毒攻毒,干脆给大模型喂点错误文本,再让模型剖析、反思出错的原因,反而能够让模型真正理解“错在哪儿了”,进而避免胡说八道。