2024年7月26日 ，让智中国国际数字文娱财富除夜会(CDEC)旗下ChinaJoy AIGC除夜会于ChinaJoy时代在上海举办。算无除夜会从技能 、处不除夜独霸等全生态角度合营参议了AIGC技能下的高通内容财富新业态和将来展开趋势 ，聚焦AIGC若何助力财富晋级 、看终若何汲引AIGC场景独霸、端侧若何促进人机迟滞融合等 。行业
高通技能公司副总裁兼产品 、算无合作火伴和技能市场全球担当人 Mike Roberts 在除夜会上宣布了主题演讲 。处不除夜他指出 ，高通终端侧生成式AI已到来 ，看终高通公司作为终端侧AI的端侧带领者，在AI局限有着超出15年的行业投进 ，借助壮除夜的让智硬件和软件支撑组合 、异构筹算优势 、和全球局限内的抢先边沿侧筹划 ，高通的产品和技能已支撑出货超出25亿台AI赋能终端 ，赋能普及的行业局限和生成式AI体验 ，正在鞭挞完成“让智能筹算无处不在”。
以下为演讲全文 ：
大年夜师好 ，很快活第四次介入ChinaJoy 。我很侥幸代表高通 ，与大年夜师分享我们正在若何助力让智能筹算无处不在 。作为终端侧AI的带领者 ，高通在人工智能局限有着超出15年的投进，具有行业抢先硬件和软件措置筹划袒护普及边沿终端 ，并且具有跨NPU 、CPU和GPU的超卓异构筹算身手、抢先的软件优化 、和能效。此外 ，我们还在全球局限内具有没有与伦比的边沿侧筹划和高达数十亿的用户设备数量，袒护智好手机、PC 、汽车 、XR 、边沿群集设备等等 。同时 ，我们也与微软 、谷歌、百川 、腾讯 、字节跳动等浩蕃殖态合作火伴合营鞭挞AI技能的立异和独霸 。
生成式AI不成是不成或缺的小我助手 ，也在浩瀚局限揭显露了宏除夜的贸易价值 。估计每年可带来2.6万亿到4.4万亿美元的经济效益 ，除夜约相当于2023年上海GDP的5倍。可是 ，鞭挞生成式AI的局限化展开面对诸多挑衅 。以成本为例 ，基于生成式AI的搜刮单次推理成本是传统群集搜刮的约10倍 。如今，我们还处于生成式AI独霸的初期阶段 ，新的独霸不竭出现 ，包含图象和视频创作、文本摘要 、对话聊天机械人等 。再思虑到将来需求独霸AI推理的数十亿用户数 ，这个集团需求量就会特别很是惊人 。估计2024年至2028年 ，生成式AI相干的token生成量将添加150 倍 ，云端的推理需求将超出操练需求。假定还贯穿连接往后的AI措置编制 ，到2030年AI大年夜大年夜约会破钞全球3.5%的电力，这足感应上海多么的除夜都邑供电约35年。
那么我们应若何应对这一挑衅?为了完成局限化扩大年夜大年夜大年夜大年夜 ，AI措置的重心正在向边沿侧转移 ，幻想下场方针是完成同化AI ，让云端和边沿侧终端可以协同措置工作负载 ，并独霸高功用邻接来完成愈加壮除夜 、高效 、优化的AI 。假定将 20% 的生成式 AI 工作负载转移到终端侧 ，估计到 2028 年将俭仆 160 亿美元的筹算成本成本。
让我们分袂看看终端侧和云端的AI措置 。终端着次要支撑100亿参数级此外除夜模型 。终端侧AI措置具有浩瀚优势 ，不单可以进步功用和屈就 ，还能确保隐私和安然性 ，同时供给即时性 、低时延 、高刚毅性和赋性化的用户体验 。此外一方面 ，中心云可以支撑运转参数超出千亿级此外超除夜模型 。在中心云上 ，用户可以轻松地对模型举办斥地 、放置和操练，完成本钱聚合和极致功用。
基于此，面对各个垂直局限对生成式AI用例日趋添加的需求 ，高通推出了面向筹算功用的琐细级措置筹划。供给琐细级措置筹划的理念植根于高通公司的DNA傍边 ，也是我们作为一家公司应对诸多挑衅的关头 。这一措置筹划包含我们专为生成式AI全新打造的神经群集措置器(NPU) ，同时 ，我们还将NPU与CPU 、GPU整合到一同。比如 ，我们已在PC端推出的高通Oryon CPU ，将来还将扩大年夜大年夜大年夜大年夜到手机、汽车等更多终端品类;此外 ，我们推出了高通Adreno GPU ，我们在这款定制化GPU上已投进了超出十年的研发 。
我们针对不合筹算需求 ，计策性地独霸契合的措置器 ，从而汲引琐细功用 ，完成异构筹算 。异构筹算让我们可以完成最好独霸功用 、能效和电池续航 。如今 ，终端侧AI已普及独霸于各类消费终端和各行各业 ，包含边沿群集设备、汽车、和建造车辆的财富机械人等。在此 ，我想重点谈谈两种次要的终端圭表类型 ：智好手机和PC 。
我们最新的第三代骁龙8旗舰挪动平台已赋能诸多手机厂商合作火伴推出了丰富的终端侧AI体验 。上个月 ，我们的合作火伴微软和其他抢先PC厂商，推出了20多款搭载骁龙X Elite和骁龙X Plus平台的最新Windows 11 AI+ PC，这些设备已完成了及时翻译 、及时转译、AI照片编辑、文本总结 、写作赞助等丰富的AI下场 。
让我们先从智好手机的角度来谈谈这些终端侧AI用例 。我们与合作火伴连袂在他们推出的旗舰智好手机上 ，为用户带来了生成式AI下场 ，将骁龙的AI身手直接展示给消费者 。三星Galaxy S24系列借助终端侧AI ，以进步先辈的及时翻译下场 ，将手机通话及时翻译成用户首选言语 ，打破言语遏制 ，促进无缝的跨文明交换 。此外 ，OPPO Find X7 Ultra集成了超卓的终端侧AI特点，让用户可以将照片中不须要的物体或人物消弭 ，且无需邻接互联网 。名望Magic6系列的“机警成片”下场则可以独霸相册中的照片和文本提示生成视频。
接上往 ，让我们聊聊PC局限的独霸 。 在PC方面 ，我们与djay Pro等浩瀚公司展开了合作 。djay Pro是一款全球抢先的混音独霸 ，经由我们单方的合作优化 ，如今可以在骁龙X Elite的NPU上运转 ，让用户可以独霸Neural Mix及时分袂和独霸人声 、乐器 、鼓等不合音轨 。
如今 ，让我们将目力目力眼光转向汽车建造商和其他处事供给商 ，他们可以屈就需求供给特点晋级和新处事 。中国的汽车市场有着全球抢先的展开速度 。在网联汽车中独霸生成式AI处事，可以赋能我们的合作火伴打造全新特点，扩大年夜大年夜大年夜大年夜他们的产品 ，并为驾驶员和乘客供给更佳体验。网联汽车可以支撑各类软件定义特点和处事 ，也将从头定义出行体验 。
高通还在引领终端侧AI在物联网局限的独霸 。一个具体的用例是工厂车间 ，工厂车间中数据措置的低时延相当次要 ，因为即就是最藐小的偏向也需求当即存眷 。经由过程多模态AI助手 ，我们可独霸视觉、文本和语音措置为工厂车间的工人供给及时辅佐 。
我们还供给了高通AI软件栈这一单方面的不合措置筹划 ，以支撑普及的垂直局限和合作火伴。高通AI软件栈旨在辅佐斥地人员优化和放置AI模型 ，它集成了我们自立的高通神经群集措置SDK 、和模型膨胀和量化对象——高通AI模型增效对象包(AIMET) 。
综上所述 ，仰仗壮除夜的硬件和软件支撑组合 ，高通的产品和技能已支撑超出25亿台AI赋能终端的出货 。跟着我们不竭促进云端和终端侧AI之间的差距 ，将来这一数字将延续疾速添加 。末尾 ，特别很是迎接大年夜师离开ChinaJoy骁龙主题馆E4参不美不雅不雅不雅不雅不雅不雅体验 。感激冲动冲动大年夜师!
