国内50强芯片公司排名2021一款运行百亿参数模型的手机仅06秒便进入AI社会
在国内50强芯片公司排名2021的背景下,一款手机仅需06秒便能够运行百亿参数模型,进入了AI世界。这个速度让数字发烧友瑞泽感到震惊,因为10月底发布的AI PC处理器骁龙X Elite可以以30 tokens/s的速度运行70亿参数的生成式AI模型,这比普通人每分钟阅读200-300个单词快好几倍。
触手可及的智能手机和AI PC已经成为了进入AI世界的任意门。用户可以通过一张照片无需等待就能生成超乎想象的图片;用手机“看”几秒食物,就能知道是否还能食用;对着贴身数字管家说出旅行要求,瞬间就能获得专门定制的旅行计划。
“生成式AI在终端上的应用呈几何式增长,一年前我们只能看到一两个用例,现在有数百个,预计到2024年我们将会看到上千个用例,骁龙将会发挥非常核心的作用。”高通公司总裁兼CEO安蒙说,“我们见证了下一个转型的开始,AI将无处不在。”
每一次重大技术变革都需要底层强大的计算和连接力作支撑,高通会成为这场AI变革中不可或缺的一部分,让端侧AI像电力一样全面融入普通人的生活。新旗舰级第三代骁龙8具备运行100亿参数的大模型能力,不仅能够实时合成视频画面,还带来了超越想象力的全新功能,如“照片扩展”,让用户使用任意照片进行缩放后马上就能变成一片花海。
这些任务都是在手机端完成,没有隐私问题,也不需要付费。这是高通和合作伙伴打开了生成式AI世界的大门。而要实现这样的端侧AI应用并非易事,在2015年首次将AI技术集成到商用的产品中以来,高通一直致力于这一领域,并且三年前启动第三代骁龙8开发时,将终端智能放在了首位。
第三代骁龙8如何实现数量级性能提升?它拥有CPU性能提升30%,GPU性能提升25%,Hexagon NPU性能直接翻倍,使得其站在行业之巅。此外,它支持业内最新LPDDR5-x内存、频率达到4.8GHz,加速Transformer网络推理,并通过更快数据速度和更大带宽支持用户运行更大、更复杂的大语言模型。
要激发基于第三代骁龙8平台上的端侧创新,还少不了高通优化后的软件栈,以及神经网络处理SDK和Direct AI引擎,可以轻松访问TensorFlow、ONNX、PyTorch,同时利用推测性解码技术使聊天机器人功能流畅运行。此外,它还支持多模态IA,可以充分利用用户手机上的全部数据,而不会牺牾隐私安全性。
因此,以搭载第三代骁龙8手机为代表的是触手可及的人类任意门,而PC也同样可能成为另一扇入口。在未来,由于PC性能正处于转折点,我们期待更多关于如何让PC计算变得更加个性化、自然与直观的问题得到答案。