高通WAIC展示两大终端侧生成式AI技术 AI引擎获奖

7月6日至8日，2023世界人工智能大会(WAIC)在上海举行。本届大会以“智联世界 生成未来”为主题，聚焦AI前沿技术和产业发展。高通公司连续第六年参会，并参与多场论坛，从技术研究、应用部署和产业赋能等多个角度，描绘了混合AI赋能的智能未来。同期，第二代骁龙8的高通AI引擎获得大会最高奖项——SAIL奖(卓越人工智能引领者奖);高通还在现场带来了其强大终端侧AI赋能的生成式AI用例技术演示。

推动5G+AI边缘侧创新，夯实智能未来发展基础

高通技术公司首席商务官Jim Cathey在大会首日全体会议——产业发展论坛上表示：“5G对于一个更加智能的世界至关重要。凭借卓越的性能、可靠性和容量，5G正在向智能手机之外的更多领域扩展，实现万物互联，成为数字经济的关键基础设施。同时，5G还助力AI扩展至更多边缘侧终端，不仅推动了智能的规模化扩展，还能够使在边缘侧生成的情境相关数据与云端近乎实时地共享。

作为终端侧AI领导者，高通公司投入AI研发已超过15年，构建了强大的边缘侧AI技术、布局和规模化优势。高通技术公司全球副总裁兼高通AI研究负责人侯纪磊博士表示：“凭借一系列基础研究，以及跨AI应用、模型、硬件与软件的全栈终端侧AI优化，我们的持续创新让公司始终处于终端侧AI解决方案的最前沿。”

侯纪磊博士特别指出，高通的AI解决方案旨在提供最 佳能效，让AI无处不在。高通AI引擎作为公司多年全栈AI优化的结晶，能够以极低功耗提供业界领先的终端侧AI性能，赋能当前和未来的用例。此外，可扩展的技术架构让用户能够采用一个高度优化的AI软件栈，即可在不同终端和模型上进行工作，以强大的灵活性和稳健性应对未来的AI技术发展。

赋能生成式AI规模化扩展，混合AI是AI的未来

采用混合AI或仅在终端侧运行AI，能够在全球范围带来成本、能耗、性能、隐私、安全和个性化优势。随着生成式AI的飞速普及和计算需求的日益增长，混合处理的重要性空前突显。高通认为，要真正推动生成式AI成为主流，并发挥其最大潜能，必须采取混合AI架构。近期，高通公司发布白皮书《混合AI是AI的未来》，详细阐述了公司的混合AI愿景。

高通技术公司产品管理高级副总裁兼AI负责人Ziad Asghar在演讲中表示：“为实现生成式AI的规模化扩展，AI处理的重心正在向边缘转移。混合AI架构在云端和边缘终端之间分配并协同处理AI工作负载，能够实现更强大、更高效且高度优化的AI。我们正在引领混合AI愿景的实现，通过无线连接、高效计算和分布式AI融合云端和终端，释放生成式AI的无限潜力。”

高通的AI能力已赋能一系列广泛的产品，包括手机、汽车、XR、PC、物联网设备等，搭载骁龙和高通平台的已上市用户终端数量已达到数十亿台。据Ziad介绍，高通正在将更多生成式AI用例向边缘侧迁移，目前，参数超过10亿的AI模型已经能够在手机上运行，且性能和精度达到与云端相似的水平。不久的将来，拥有100亿或更大参数的生成式AI模型将能够在终端上运行，推动生成式AI的普及。

技术哺育行业生态，打造开放元宇宙未来

高通作为5G、AI、XR等创新技术的领导者，致力于以行业领先的软硬件综合解决方案，加速元宇宙和XR生态系统的发展。高通技术公司高级副总裁程立新在演讲中表示：“5G、AI和XR，是构建元宇宙的三大基础技术。利用我们在5G和终端侧AI领域的强大技术优势，高通公司正在加速5G、AI和XR技术的融合，构建智能网联边缘，推动打造更沉浸、更智能的XR世界。”

生成式AI能为元宇宙内容建设带来巨大前景。生成式AI有潜力在未来普及3D内容创作，比如赋能内容创作者使用如文本、语音、图像或视频等各种类型的提示，生成3D物体和场景，并最终创造出完整的虚拟世界。此外，内容创作者将能够利用文本生成文本的大语言模型，生成类人对话，这些进步都将变革用户在XR设备上创造和体验沉浸式内容的方式，构建开放、个性化的元宇宙未来。

引领业界AI创新，树立行业技术新标杆

高通以开创性的技术创新，持续引领终端侧智能体验的发展。第二代骁龙8移动平台的高通AI引擎，荣获了世界人工智能大会最高奖项——SAIL奖(卓越人工智能引领者奖)。高通AI引擎能够为终端侧AI推理加速提供卓越性能和能效，并支持丰富AI用例创新，提升用户体验。高通AI引擎实现软硬件一体，硬件侧采用异构计算架构，其关键核心Hexagon处理器拥有一系列创新，如提供专用供电系统，支持微切片推理、INT4精度、transformer网络加速等。
凭借高通AI引擎的全栈AI能力和优化手段，高通已经率先将生成式AI能力带到了终端侧，并在WAIC上进行了技术展示，让广大参会者见证了强大终端侧AI将如何助力生成式AI在终端侧实现无限潜力。

其中，全球首个运行在Android手机上的Stable Diffusion终端侧演示，能够在15秒内执行20步推理，完全在手机上处理超过10亿参数模型。这是智能手机上最快的推理速度，媲美云端时延，且用户文本输入完全不受限制。目前，高通已经将这一用例扩展至骁龙计算平台赋能的PC产品。此外，高通还带来了全球最快的手机上的ControlNet终端侧演示，该模型拥有15亿参数，在这项演示中，只用不到12秒即可在移动终端上生成AI图像，无需访问任何云端，便能提供高效、有趣、可靠且私密的交互式用户体验。