本文给大家分享的是高通骁龙：引领端侧AI，开启移动智能“芯”纪元的相关内容！

高通骁龙，作为移动智能“芯”纪元的引领者，如何通过端侧AI技术实现更高效的计算和更智能的体验？它将如何改变我们的生活方式和工作方式？在这个信息爆炸的时代，高通骁龙将如何帮助我们更好地处理海量数据，提高生活品质？让我们一起探讨这些问题，揭开高通骁龙引领端侧AI的神秘面纱。

在探索移动人工智能的道路上，高通既是启蒙者，也是见证者。

不管是小米澎湃OS、OriginOS还是ColorOS4？ 14.如果你关注过这段时间国内主流手机品牌发布的新系统，你会发现AI已经成为新闻发布会上“不可避免、不可避免”的关键词，属于提及频率最高的一个。

其实这并不是最“过分”的，在今年的谷歌里， I/O大会上，以劈柴哥Sundar以Pichai为代表的一批高管在短短两个小时的主题演讲中提到了140多次AI，平均频率高达1.17次/分钟。谷ogle甚至新一代Pixele 8系列简洁明了，被称为“Google” AI和最好的Pixel相机打造的最强大、最贴心的Pixel手机”。

突然，属于智能手机的移动人工智能时代到来了。

如果仔细研究，今年手机厂商口中的“AI与往年消费者偶尔听到或在相机界面看到的那些“AI“不同的是，今年的人工智能是指随着ChatGPT的普及，“人工智能大模型”的概念。它是一种基于生成人工智能技术的大语言/大视觉模型。主要用于图文相关的自然语义理解、处理甚至创作生成，即AIGC概念与AI大模型概念相同。换句话说，人工智能趋势本质上是手机制造商集中着陆人工智能模型市场“不安”，点燃不安是第三代快龙8代表新一代移动SOC平台，为人工智能模型着陆移动终端清除了最关键的硬件障碍，也填写了移动设备真正进入人工智能时代的最后一个拼图。

从看照片到大模型移动人工智能的演变

虽然今年很多消费者都听说过移动终端的人工智能，但人工智能在移动终端的应用探索已经持续了很多年。以高通为例，早在十年前，2013年，就推出了著名的人工智能芯片Zeroth和SNN架构——当时高通也提出了神经处理单元(NPU)的概念，2014年，高通进一步收购人工智能图像识别技术公司Euvision，进一步探索人工智能在移动终端的潜在用例，随后将Zeroth的人工智能加速架构引入2015年推出的快龙820移动平台设计，为快龙系列高通人工智能引擎奠定了基础，高通还将快龙820视为高通“第一代人工智能引擎”的移动平台。

当时人工智能在移动SOC市场并不流行，高通也没有在这方面进行宣传。

当2018年NPU概念兴起时，很多消费者产生了高通此时在移动人工智能轨道上发力的“错觉”。但事实上，早在2007年，高通就启动了首个人工智能研究项目，从无知到独行，高通就经历了17年的人工智能探索。基本完整地覆盖了智能手机的整个发展历史。

在移动人工智能的道路上，高通既是启蒙者，也是见证者。

说到这里，我们也可以从移动终端人工智能概念的经验中看到移动人工智能发展道路上最大的障碍——缺乏用例。相信很多消费者在2019年左右通过NPU的名字，或者为了看似美丽的人工智能宣传开始了新机器，但在系统中很难找到人工智能的痕迹，印象和制造商利用歌曲“卡路里”的热度绞尽脑汁推出类似的“食物卡路里”尴尬的人工智能功能，这也导致了许多人工智能功能的探索，似乎只有相机人工智能场景识别保留到。该行业最初对移动人工智能用例的探索主要集中在机器视觉和图像识别上，但正因为如此，它不能接近用户的日常生活。

以ChatGPT为代表的生成人工智能带来了颠覆性的变化，让行业看到了人工智能模型的潜力。人工智能模型中的人工智能自然是指人工智能，人工智能是由深度学习算法和人工神经网络训练引起的；大型模型是大语言模型，被称为“大”模型，因为这些模型的参数通常是数亿，语言模型是通过大量参数预训练的自然语言处理模型，实现文本生成、总结、改写、搜索、回答、聚类、分类等复杂目标。简单来说，人工智能模型就像《猩球崛起》中给凯撒智力的“猩球崛起”ALZ-像112一样，它有能力理解机器的自然语义——也就是说，理解人类的话语。当一部可以连接互联网的手机能够理解对话并与你交流时，它的能力上限大部分时间只会与产品经理的想象力边界挂钩。此时，如何将“大”模型放入用户的“小”手机中，它已成为人工智能赋能移动终端的最大障碍，而第三代骁龙8移动平台正是为此而来。

第三代骁龙8启动2024移动AI元年

目前，将人工智能大模型“插入”移动终端的主流做法是云侧大模型，即用户输入通过云模型处理后返回结果。优点是对输入硬件没有要求，也可以使用参数量级较大的模型。ChatGPT、文心一言、Stable Diffusion等众多知名大模型的ton C接口都是基于此。

云侧大模型有两个问题。

一是整个过程受网络最终效果的限制，这对于专注于对话和理解场景的人工智能模型来说是一个相当大的不稳定因素。

二是不利于用户隐私安全。数据中的云本身就是用户非常抗拒的东西。

如果限制，会阻止人工智能理解用户，缺乏个性化。最简单的例子之一是，你可以让云侧模型向你推荐全球米其林列表，但你不能在不上传位置信息的情况下推荐高分餐厅。

被称为“外部器官”的智能手机本身就是用户个人的一部分。

如果这个“器官”变成了“大脑”，它的未来是无限的。正因为如此，对终端人工智能大模型的需求即将出现，甚至被认为是第一个“引爆”这一轮人工智能大模型的杀手级场景。基于这些考虑，高通公司在2023年服务贸易会上发布了《混合人工智能是人工智能的未来》白皮书，提出了混合人工智能的概念——云组合，移动终端同时接入云侧大模型，也需要具备终端侧运行大模型的能力，以便使用手机上的所有数据，借助用户个人数据继续微调这些神经网络，可以带来更深入的意图理解和更个性化的复杂场景服务。也就是说，云侧大模型的通识能力要有，端侧大模型的个性化能力也要有，这样才能称之为健全。

第三代骁龙8移动平台是新一代移动SoC端AI模型的领导者之一。多年来，高通一直在探索生成人工智能，不仅在年初演示了首次在Android设备上运行Stable Diffusion，生成人工智能图像只需要15秒，在2023年骁龙峰会上，这个时间被进一步压缩到0.6秒内——低到了一个令人难以置信的数量级。这不仅是最快的类似产品，甚至嵌入相机应用无缝使用，高通公司观察到用户等待阈值为1-2秒，如果运行模型需要15秒失去实用价值，但如果0.6秒可以实现运行，可以让用户真正使用无成本。

之所以能实现如此快的生成速度，是因为第三代骁龙8配备的全新AI引擎实现了性能和能效的飞跃，并配备了历史上最快的高通Hexagon NPU，与上一代相比，推理速度快98%，每瓦特性能提高40%，支持年初10亿量级大模型参数规格飙升10倍至100亿，可以以20个Token/s的速度生成人工智能大模型。高通传感器中心还引入了下一代微型NPU，将人工智能性能提升到前一代的3.5倍，内存提升30%。在第三代快龙8的祝福下，接入大语言模型的人工智能助手可以与高通传感器中心合作，利用位置、活动数据等信息，结合情况提供个性化答案。

第三代快龙8可以提供终端运行人工智能模型的能力，除了非常强大的人工智能能力外，还得益于高通对终端人工智能模型发展的观察、理解和深度参与，一方面是因为模型越来越好，如高通发现Meta有130亿参数 Llama事实上，2模型的性能并不逊色于ChatGPT-3模型，参数1750亿，这也意味着强大的生成人工智能模型正在缩小；另一方面，高通公司一直在使用INT4模型进行数据推理，通过INT模型量化，因为其量化效果和效率优于普通浮点模型，将70亿参数模型量化到INT4模型，与16FP或32FP浮点模型相比，可以有效减少内存带宽占用，让AI大模型推理更适合移动终端的高能效低功耗需求。

可以预见，2024年，人工智能能力——将加入移动SoC“核心规格”的定义，无论是计算能力规模、每瓦性能、Token生成速度还是调通LLM/LVM的参数量级。

从硬件到软件骁龙AI的生态闭环

以第三代快龙8为代表的新一代移动平台为终端人工智能模型支撑，国内已经准备好并多次刷单的自主研发模型终于登陆终端，小米澎湃OS迎来了历史上最强大的小爱学生大模型，OriginOS蓝心大模型可以端侧加载10亿和70亿参数，ColorOS AndesGPT也迎来了全新的加持。人工智能模型的具体用例，包括但不限于支持自然语义理解语音助手、实时字幕、文档总结、自动生成脑图、超级搜索、闪速挖掘、生成、风格、照片背景替换、识别、生成等终端人工智能模型可以解放用户从繁琐重复的日常操作，云侧模型可以基于庞大的模型参数消除认知差距，填补通识差距，让用户在良好的状态下投入更具创新性的工作，这是人类擅长的，也是生成人工智能的真正力量。

为了推动端侧AI大模型的普及与混合AI愿景的实现，高通早在去年就推出了高通AI软件栈，这是一套旨在帮助开发者一次编写、随处运行，实现规模化部署的开发工具。高通AI软件栈全面支持主流AI框架，还集成了推理软件开发包，比如高通神经网络处理SDK。支持最新编程语言、虚拟平台和编译器，在底层系统软件集成了基础的实时操作系统(RTOS)、系统接口和驱动程序，还支持广泛的操作系统，以及用于部署和监控的基础设施。高通AI软件栈还集成了开发工具高通AI Studio，支持从模型设计到优化、部署和分析的完整工作流。它将高通提供的全部工具集成到一个图形用户界面，并利用可视化工具以简化开发者体验，支持开发者实时查看模型开发进度，这其中包括高通AI模型增效工具包(AIMET)、AI模型增效工具包模型库、模型分析器和神经网络架构搜索。

AI软件生态之外，多设备协同也是端侧AI体验的进一步延伸，对此，高通拥有一个无可比拟的优势——数十亿计的高通与骁龙平台保有量，而且智能手机之外还涵盖了汽车中控、XR、AR、PC以及物联网设备，其中针对XR设备的全新XR2和AR1片均支持了眼镜侧AI，第一代高通S7音频系列平台甚至实现了超过100倍的端侧AI性能提升，每年还有数亿台搭载骁龙和高通平台的终端设备进入市场。高通也为Android厂商与用户带来了全新的Snapdragon Seamless跨平台互联技术，可实现多台终端跨多个操作系统无缝连接，共享外设和数据。包括微软、Android团队、小米、华硕、荣耀、联想和OPPO在内的公司正与高通合作，打造Snapdragon Seamless赋能的多终端体验，Snapdragon Seamless示范用例描绘了相当未来的智能体验，包括鼠标和键盘可在PC、手机和平板电脑上无缝使用，文件和窗口可在不同类型的终端间拖放，耳塞可根据音源的优先级进行智能切换，XR可为智能手机提供扩展功能等等。

总的来说，围绕第三代骁龙8移动平台，高通构建了一套完整的AI生态体系，包括性能领先的端侧AI引擎搭建的硬件闭环，帮助开发者实现一次编写规模化部署的高通AI软件栈的软件生态，以及挖掘以十亿计的设备保有量潜在能力的高通Seamless互联协议。这一套先进硬件为基石，软件生态为框架，并辅以跨品牌跨平台互联协议填充细节的端侧AI生态，是高通在移动端端侧AI领域独一无二的生态优势，而在即将到来的移动端AI新浪潮中，高通将以此成为启幕移动智能“芯”时代的重要参与者。

这次，和高通骁龙：引领端侧AI，开启移动智能“芯”纪元有关内容就为朋友们整理到这里，更多优惠活动资讯信息可查看本站其他栏目。