当前位置:首页 > 科技资讯 > 手机促销 >

OPPO携手联发科技,全新小布助手开启大模型端侧化部署公测

作者:陈二小 来源:网络整理 发表:2023-10-13 12:48:06 我要点评 作者ID:2

OPPO宣布与联发科技合作共建轻量化大模型端侧部署方案,通过采用4位量化技术,实现精度不掉点效果下端侧化性能更优,共同推动AndesGPT大语言模型和多模态大模型在端侧逐步落...

文章主要介绍的是OPPO携手联发科技,全新小布助手开启大模型端侧化部署公测相关内容!

OPPO宣布与联发科技合作共建轻量化大模型端侧部署方案,通过采用4位量化技术,实现精度不掉点效果下端侧化性能更优,共同推动 AndesGPT大语言模型和多模态大模型在端侧逐步落地。

OPPO携手联发科技,全新小布助手开启大模型端侧化部署公测

AndesGPT作为OPPO自主训练的生成式用户专属大模型。该模型以“端云协同”为基础架构设计思路,推出从10亿至千亿多种不同参数规模的模型规格,实现在本地与云端协同运作的效果。

AndesGPT对大模型端侧推理引擎进行算子融合与优化,使得结果生成速度大于人类正常阅读速度,从而能更好满足用户需求。

目前,AndesGPT已经入选 C-Eval全球中文榜单,并以79.9高分登该榜榜首。

同日,基于AndesGPT大模型打造的全新小布助手开启新一轮公测,全新小布助手对传统语音助手进行内核级升级,为用户带来更智能的体验。在知识与问答方面,通过引入高质量的知识图谱、QA问答数,并结合对预训练和指令精调技术的优化,显著提升了大语言模型知识与百科能力的覆盖面和准确性。

今年9月,AndesGPT登上SuperCLUE榜单,在十大基础能力排行榜的“知识与百科”能力测试中得到98.33的高分,大幅度领先其他大模型,仅次于GPT4排名国内第一,并在“角色扮演能力”测试中排名前三。

OPPO携手联发科技,全新小布助手开启大模型端侧化部署公测

自2020年起,OPPO已启动AI大模型相关技术的探索与实践,曾获得大规模知识图谱问答KgCLUE行业评测的第一名,中文自然语言理解CLUE第一名。未来,AndesGPT将持续加持OPPO智能助手小布的AI能力,为用户带来更好的使用体验,并逐步应用于更多OPPO核心产品中。

11月16日,ColorOS14将于OPPO开发者大会中亮相,AndesGPT更多元化的应用场景或将同步发布,敬请期待。

本站文章来自网络收集整理和网友投稿,如需申请删除,请与站长联系(挑错)。

原文地址:https://www.youhui114.com/keji/shouji/811411012.html(转载请注明出处)
优惠网专注全国优惠活动资讯信息及各种实用生活经验分享,更多优惠券限时折扣活动在线免费领取。

优惠网微信小程序
广告
优惠网新闻投搞