社会中拥有2000元左右性价比高的手机就能在06秒内进入AI世界
在智能手机上,AI生成一张图的速度从15秒缩短到0.6秒,这让数码发烧友瑞泽感到震惊。更令他惊讶的是,10月底推出的AI处理器骁龙X Elite,可以以30 tokens/s的速度运行70亿参数的生成式AI模型,这比普通人每分钟阅读200-300个单词快了好几倍。
触手可及的智能手机和AI PC已经成为进入AI世界的门户。通过这些设备,我们可以快速生成超乎想象的照片、了解食物是否还能食用,只需对着贴身数字管家说出旅行要求,就能获得定制化旅行计划。
高通公司总裁兼CEO安蒙表示:“我们见证了下一个转型的开始,AI将无处不在。”每一次重大技术变革,都需要强大的计算和连接力作支撑,而高通将成为这场AI变革中的主角,让端侧AI像电力一样全面融入我们的生活。
新旗舰级第三代骁龙8具备运行100亿参数的大型生成式AI模型能力,不仅能够实时合成前后摄像头画面,将视频中多余的人或物体去除,还带来了全新的功能,如“照片扩展”,可以使任意照片看起来具有广角效果。
端侧生成式AI还有更多应用,如工作中快速获取重要事项并添加待办事项、根据位置规划路线、给出运动训练建议等。这一切都是在手机端完成,无需担心隐私问题,也不用付费,高通和合作伙伴就像是打开了生成式AI世界的大门。
第三代骁龙8如何实现数量级性能提升?硬件是基础,其中CPU性能提升30%,GPU性能提升25%,Hexagon NPU性能直接翻倍,使得第三代骁龙8站在行业之巅。此外,还有改进架构、提高向量加速器主频以及升级微切片推理技术等方式来加速Transformer网络推理,同时支持最新LPDDR5-x内存,以更快数据速度和大带宽支持用户运行更大、更复杂的AI模型。
要激发基于第三代骁龙8平台的端侧创新,还少不了高通软件栈优化,其中神经网络处理SDK和Direct AI引擎连接芯片与所有主流框架,使开发者可以直接使用TensorFlow、ONNX或PyTorch轻松访问NPU,大幅降低基于移动平台进行创新的门槛。此外,还有利用推测性解码技术来流畅地实现聊天机器人的功能,并结合视觉文本语音多模态结合,更直观地提供信息服务。