社会全面融合如何在06秒内通过半导体芯片测试设备探索AI世界
在手机上用AI生成一张图还需要15秒,半年多后的今天只需要0.6秒,0.6秒大概就是点击一下鼠标点时间,数码发烧友瑞泽被手机AI进化的速度吓到。让瑞泽同样吃惊的是,10月底发布的AI PC处理器骁龙X Elite,能够以30 tokens/s的速度运行70亿参数的生成式AI模型。这比普通人每分钟阅读200-300个单词,也就是每秒处理5-7个tokens的速度,快了好几倍,就算问AI PC数字助理一个复杂答案,马上就能得到答案。
触手可及的智能手机和AI PC,已经成为了进入AI世界的任意门。走进终端AI的任意门里,用一张照,无需等待就能生成超乎想象的照片;让手机“看”几秒食物,就能知道是否还能食用;对着贴身数字管家说出旅行的要求,瞬间就能获得专门定制的旅行计划。
“生成式AI在终端上的应用呈几何式增长,一年前我们只能看到一两个用例,现在有数百个,我们将会看到上千个用例。”高通公司总裁兼CEO安蒙说,“我们见证了下一个转型开始。”
每一次重大技术背后,都需要底层强大的计算和连接力作支撑。高通会成为这场变革主角,让端侧AI像电力一样全面融入普通人的生活。
瑞泽最常用的手机功能是拍照,他没料到,不仅如此,还可以通过最新旗舰级第三代骁龙8具备运行100亿参数的大语言模型能力,将视频中多余的人或物体去除,大幅增强夜景视频效果,还带来了超越想象力的全新功能,如“照片扩展”,用户使用任意照片进行缩放,即使是一朵花也能变成一片花海。
这些任务都是在手机端完成,不必担心隐私问题也不要付月费,这些都像是打开了生成式AI世界的大门。而这些实现并非一蹴而就,在2015年首次将其集成到商用的产品用于增强音频技术,此后逐步将其应用到了影像和视频技术中。在三年前高通启动第三代骁龙8开发时,它们就被放在了首位,这也是为什么第三代骁龙8发布后,可以从15秒速降到0.6秒。
除了图像生成聊天机器人也是重要应用之一,而为了让能够实现聊天机器人功能的大模型流畅运行,他们使用推测性解码技术。“我非常兴奋地宣布,这是预测解码首次在边缘终端中使用。”Ziad Asghar说。如果要为聊天机器人加上一个虚拟形象,可以利用Adreno GPU渲染出嘴形和声音同步的一般虚拟形象。此外支持多模态结合视觉、文本、语音,更为直观,有助于提升用户体验。此外还有基于个人信息定制化回复,使得终端侧更安全隐私、高效且个性化,是触手可及的一个任意门。
PC同样作为进入这个世界的一个入口,其性能提升100倍,对于提高效率激发创意具有巨大影响。正如惠普公司高级总监Bobby Moore所言:“这是另一个颠覆性的事件。”
然而,与此同时,我们也提出了新的挑战,比如如何确保数据隐私与安全,同时又不牺牲性能?这一切都依赖于半导体芯片测试设备,以确保它们满足所有标准,并且能够提供尽可能好的用户体验。而对于PC来说,它们也必须不断适应新的需求,如移动性、便携性以及更多面向消费者的服务,从而构建起更加接近人们生活的一种未来科技生态系统。