2023/11/12 18:11 IT产业网
在进博会第六届虹桥国际经济论坛“智能科技与未来产业发展”分论坛上,高通公司中国区董事长孟樸表示,随着5G+AI进入千行百业,终端侧的生成式AI与云端的AI大模型相结合,将赋能各个产业的数字化转型。孟樸所指的终端侧生成式AI,指运行在智能手机、PC、智能网联汽车等智能终端上的AI应用。常见的超大规模语言模型,如GPT-4等,则一般运行在云端服务器上,此类在云端运行的AI称为云端AI。
分享中孟樸解析了终端侧AI与云端AI的差异。他首先指出,云端AI在现在以及未来,仍将发挥非常重要的作用。随着技术的演进,AI在终端侧的发展将变得越来越重要。终端侧AI在可靠性、情境化和个性化等方面,都更具优势。孟樸举例,终端侧AI能获得更具即时性的信息,例如可以随时获得终端设备所处的位置环境等信息,而云端通用大模型一般不会获取这些用户侧即时信息,无法与用户当下的环境相匹配。
此外,终端侧AI在私密性和安全性上,也更具优势。现在生成式AI正不断地提升人机交互体验,例如在智能手机、语音助手、智能网联汽车上,人机的交互已经变得越来越自然且个性化。但一些用户,并不希望自己与终端设备的交互内容和个人习惯上传到云端。在终端设备上部署AI大模型处理人机交互信息,则可以解除这一顾虑。终端侧AI还具备更高的能效,可分担云端AI的算力,有助于降低数据中心的成本,推动生成式AI的快速普及。
孟樸介绍,就在上个月,高通推出两款具备强大终端侧AI能力的新产品,一个是高通第三代骁龙8 5G平台,一个是新一代AI PC芯片骁龙X Elite。此前手机可运行10亿参数的AI大模型,而第三代骁龙8将参数规模提升至十倍,可运行100亿参数的AI大模型。此前手机运行10亿参数的图片生成式AI,可在15秒内完成20步推理,生成一张图片,而第三代骁龙平台将时间缩短到惊人的1秒以内。另一款PC芯片产品骁龙X Elite具备更强大的硬件规格,其AI性能也比第三代骁龙8更加强大,算力达到75TOPS,支持运行130亿参数的AI大模型。
本次高通在进博会设立了两个展区,在4号馆的是高通主展区,另外在3号馆还有一个AI体验展示区。不过在这两个展区,均可体验到高通与中国产业伙伴共同打造的终端侧AI。孟樸也在分享的最后,邀请大家前往进博会高通展台参观,去切身体验高通骁龙新平台的各种5G、终端侧生成式AI的落地应用。
榜单收录、高管收录、融资收录、活动收录可发送邮件至news#citmt.cn(把#换成@)。