本文给大家分享的是天玑9300革新内存压缩技术，手机AI大模型内存占用大幅降低的相关内容！

天玑9300革新内存压缩技术，手机AI大模型内存占用大幅降低。这项技术如何实现？它将如何改变我们的生活？它会带来哪些好处？

这些问题都将在本文中得到解答。让我们一起探索天玑9300带来的革命性变革吧！

联发科发布了新一代旗舰5G生成人工智能移动芯片天鸡9300。创新的全核架构设计结合了新一代人工智能处理器APU和联发科独特的前沿技术，为终端生成人工智能应用提供了强大的性能，带来了精彩而丰富的终端生成人工智能体验。联发科还与许多行业人工智能企业深入合作，在移动终端构建了丰富的人工智能生态系统。

新的第七代AI处理器APUAPU为生成人工智能而生的790

随着用户对生成式人工智能应用需求的不断增加，端侧生成式人工智能的便捷性和安全性凸显出来。

部署端侧AI大语言模型需要强大的AI计算能力支撑。

天暨9300配备了联发科第七代AI处理器APU 790是为生成人工智能设计的。拥有硬件级的生成人工智能引擎，可以实现更高速、更安全的边缘人工智能计算，深度适应Transformer模型进行计算加速，速度是上一代的8倍。

同时APU 790的性能和能效显著提高，整数运算和浮点运算能力提高到前一代的两倍，苏黎世ETHZv5.1 AI-Benchmark Mobile Soc跑分2109分，AI性能成功占据榜首，功耗降低45%。在强大的人工智能性能支持下，可以在1秒内生成。天鸡9300强大的人工智能计算能力，创新的全大核CPU架构和Immortalis-G7200 GPU为端侧运行生成人工智能奠定了坚实的性能基础。

同时，联发科根据亿级参数大语言模型的特点，开发了混合精度 INT4量化技术，结合联发科独特的内存硬件压缩技术，NeuroPilotot Compssion，它可以更有效地利用内存带宽，大大减少人工智能模型对终端内存的占用，突破手机内存限制，帮助更大的参数模型在终端侧着陆。

基于上述情况，天鸡9300首次在vivo旗舰手机端侧落地70亿参数AI大语言模型，处理速度可达200 Tokens每秒。

不仅如此，联发科还突破了行业极限，与vivo一起成功运行了130亿参数的大型语言模型。甚至，天鸡9300率先实现了在移动芯片上成功运行330亿参数的人工智能语言模型，引领了行业。

天鸡9300还支持多模态生成人工智能模型，打造“文生诗”、“文生图”、“文生趣图”等丰富有趣的端侧体验。

可见，天鸡9300的人工智能计算能力和端侧生成人工智能能力已经领先于行业，足以让用户随时随地的人工智能创造力飙升。

生成式AI模型端侧技能扩展，带来全面、丰富的端侧生成式AI体验

与云侧生成人工智能解决方案不同，由于硬件环境的差异，部署端侧生成人工智能还需要考虑手机内存、存储容量、负载上限等因素。

为此，联发科率先提出了先进的解决方案。

APU 790支持生成AI模型端侧技能扩展技术 Fusion，它可以基于基础大模型继续在端侧进行低秩自适应（LoRA，Low-Rank Adaptation）集成，在混合人工智能的赋能下，可以基于一个基本的大模型，通过云训练，在端侧完成N个功能的集成，赋予基础大模型更全面、更丰富的生成人工智能应用能力。

例如，基于人工智能模型端侧技能扩展技术的“图生GIF动图”功能，用户可以根据照片改变不同的风格甚至表情，玩个人独家风格的表情包，几秒钟内改变表情包的小专家。

AI开发平台Neuropilot加速端侧生成AI生态布局

基于强大的人工智能计算能力和先进的内存硬件压缩技术、人工智能模型端侧技能扩展等技术，天鸡9300APU 790将端侧生成人工智能的速度和广度提升到了一个新的水平。同时，为了加快端侧生成人工智能的部署和普及，联发科还建立了丰富的人工智能生态，从底层硬件到工具链、模型中心和开发生态，帮助生态快速高效地部署端侧生成人工智能应用。

Neuropilot支持Android、Meta LIama2、文心一言大模型、百川智能百川大模型等前沿主流AI大模型。

更重要的是，NeuroPilot拥有一套完整先进的工具链，除了NeuroPilot之外， Compssion低秩自适应融合，以及Speculative Decoding推测解码加速和模型优化转换技术。

联发科天鸡开发中心还可以为端侧生成人工智能登陆提供一站式开发人员资源，共享端侧模型部署案例，提高开发效率。

目前，已有20多个生成人工智能合作伙伴加入生态共建。

联发科还与行业合作伙伴合作，打造精彩的生成人工智能应用体验。虹软的生成人工智能超级分辨率技术是基于天鸡9300与上一代相比，APU边缘计算能力的性能可提高30%。在25倍放大的拍摄过程中，生成人工智能超分辨率技术可以拍摄出更真实的图像效果。

极感技术的生成式AI语意搜索技术也是基于天鸡9300与上一代相比，APU边缘计算能力的性能可提高260%。

例如，在手机相册中搜索照片，描述照片内容，可以在毫秒内准确找到相应的照片。

而且在断网状态下也可以搜索，隐私也不会泄露。

Morpho的通话实时数字分离生成技术也是基于天鸡9300与上一代相比，APU边缘计算能力提高了26%。

一般的虚拟肖像生成器需要手动选择外观风格。

基于通话的实时数字分离生成技术，用户很容易操作，只需打开相机的单帧即可生成数字分离。

基于天玑9300 APU边缘计算能力，惠鲤生成人工智能防眩光技术性能可提高60%。在这项技术的支持下，无论是室外还是室内，如果拍摄时有眩光，只要容易变暗，就可以消除眩光干扰。

可以看出，在人工智能终端云集成的趋势下，天鸡9300在人工智能计算能力、生成人工智能用户体验和生态方面具有综合优势，为新一代旗舰终端生成人工智能体验树立了新的基准，强大的生成人工智能将使用天鸡。

同时，联发科等领先的生成人工智能公司通过技术创新和生态建设，积极推进混合人工智能计算，创造特色和效率，促进端生成人工智能部署的发展，使生成人工智能在端普及，让越来越多的用户享受特色端人工智能体验，构建新的智能领域体验，使技术更受欢迎。

这次，和天玑9300革新内存压缩技术，手机AI大模型内存占用大幅降低有关内容就为朋友们整理到这里，更多优惠活动资讯信息可查看本站其他栏目。