瘫痪男子大脑植入芯片触觉恢复社会见证AI奇迹

在智能手机上运行百亿参数模型的速度，从15秒缩减到0.6秒，AI技术的进步让人瞩目。瑞泽，一位数字发烧友，见证了这一变化。他惊叹于骁龙X Elite，这款新型AI PC处理器能够以30 tokens/s的速度运行70亿参数的生成式AI模型，这比普通人的阅读速度快数倍。

触手可及的智能手机和AI PC，如同进入AI世界的任意门。用户可以通过手机快速生成超乎想象的照片、了解食物是否还能食用、甚至获得个性化旅行计划。高通公司总裁兼CEO安蒙预测，到2024年，将会看到数千个端侧AI应用，并称这是下一个转型开始，AI将无处不在。

瑞泽最常用的功能是拍照，他发现最新旗舰级第三代骁龙8具备运行100亿参数的大语言模型能力，不仅提升了夜景视频效果，还带来了新的全景合成功能和“照片扩展”功能，让任何一张照片看起来都具有广角效果。

端侧生成式AI还有更多用法，如工作中自动记录会议内容、提供路线规划或个性化运动训练建议。这一切都是在手机端完成，没有隐私问题，也不需要付费，只需触屏操作即可。

高通公司投入十年研发，在2015年首次将AI技术集成到商用产品中，现在已成为行业领先者。在开发第三代骁龙8时，就把终端智能放在首位，因此发布后就能实现从15秒至0.6秒的大幅度降低。

第三代骁龙8如何实现这样的性能提升？它拥有更强大的硬件支持，比如CPU性能提升30%，GPU性能提升25%，Hexagon NPU性能翻倍，以及改进架构和微切片推理技术等方式，加速Transformer网络推理。此外，它支持业内最新LPDDR5-x内存频率达到4.8GHz，有助于更快地数据处理和大规模复杂模型运算。

为了激发基于第三代骁龙8平台上的端侧创新，高通利用其神经网络处理SDK和Direct AI引擎，使得开发者可以直接使用TensorFlow、ONNX或PyTorch，无需额外编程，便能访问Hexagon NPU，这极大地降低了创新的门槛。