21世纪经济报道记者白杨 北京报道
在2025年美国消费电子展(CES)上,AI依然是最热门的话题之一。
相比上一届展会人们更多是把AI概念挂在嘴边,今年,AI已经深度融入到各个产品当中,成为实际应用的一部分。
高通公司总裁兼CEO安蒙在展会上表示,“AI正在为技术领域带来划时代的变革。2025年,AI处理将继续向边缘迁移,赋能并增强AI为先的体验。”
实际上,AI向终端的迁移并不是这两年才发生。在ChatGPT出现之前,AI推理工作就已经出现在手机、PC、汽车等终端上,比如手机的暗光拍摄、降噪等,就是依托于端侧AI技术。
但随着大模型技术的快速迭代,终端AI的想象空间正被无限放大。
一位正在参加CES的AI公司负责人告诉21世纪经济报道记者,2023年,大模型在端侧很难落地,原因有多方面,比如大模型的处理能力本身还不够强,另外内存也是限制端侧AI运行的重要因素。
其举例称,用户使用的手机内存,12GB已经很大,但如果要在手机端运行100亿参数的模型,至少需要占用20GB内存。
但在今天,这些问题都逐步得到了解决。“通过多种量化技术,性能强大的大模型正在变小,同时终端侧的处理能力比一年前也提升非常多”。该AI公司负责人表示。
因此,端侧AI商业落地的时机已经成熟。2025年,端侧AI将加速落地,整个市场也有望迎来全线爆发。
端侧算力爆发
在生成式AI领域,英伟达是当之无愧的顶流。
本届CES上,英伟达除了发布全新的RTX 50系列显卡外,还带来了全新的个人计算机产品Project DIGITS。
英伟达创始人兼CEO黄仁勋表示,AI 将在各行各业的每一项应用中成为主流。借助 Project DIGITS,Grace Blackwell 超级芯片将惠及数百万开发者。将一台AI超级计算机放在每一位数据科学家、AI 研究人员和学生的桌面上,便能让他们参与并塑造 AI时代。
Project DIGITS搭载了全新GB10超级芯片,拥有128GB的内存和高达4TB的 NVMe存储,可运行高达200B参数的大语言模型。现在通过Project DIGITS,用户使用自己的桌面系统就能开发和运行模型推理。这在一年前几乎难以想象。
另外,高通、AMD、英特尔在今年CES期间也都发布了PC芯片新品。
其中,高通推出的骁龙X,是其骁龙X系列的第四款平台,瞄向的是600美元价位段的Windows 11 AI PC。据高通介绍,骁龙X搭载了8核Oryon CPU以及算力达45TOPS的NPU,能够高效地运行AI应用。
通过更低价的产品,高通希望加速AI PC的普及。目前,有超过60款搭载骁龙X系列的PC设计已经量产或正在开发中,预计到2026年将超过100款。
有研究表明,相比在云端运行AI,端侧AI在成本、能耗、隐私等方面都具有优势。
在成本方面,如果仅在云端进行AI推理,随着生成式AI模型使用量和复杂性的不断增长,数据中心基础设施成本,包括硬件、场地、能耗、运营、额外带宽和网络传输的成本都将持续增加。
而将一些处理从云端转移到边缘终端,可以减轻云基础设施的压力并减少开支。比如开发者可以基于完全在终端上运行的Stable Diffusion创建应用程序,对于生成的每个图像承担更低的查询成本,或完全没有成本。
另外与云端相比,端侧AI能够以更低的能耗运行生成式AI模型,尤其是将处理和数据传输相结合时,这一能耗成本差异就变得更加明显。
在可靠性方面,当生成式AI查询对于云的需求达到高峰期时,会产生大量排队等待和高时延, 甚至可能出现拒绝服务的情况,但在端侧,这个情况永远不会发生,甚至在无网络连接的情况下,AI应用也能够正常运行。
更重要的是,端侧AI在用户隐私保护方面的优势,是云端无法比拟的。因为端侧AI的所有信息都完全保留在终端上,这能大大消除一些用户对于隐私泄露的顾虑。
端侧AI应用落地开花
当前,端侧AI的落地方向包括手机、PC、汽车、智能穿戴、智能家居、机器人等。
据不完全统计,本届CES中,AR/VR/XR板块参展企业超300家,中国厂商占比约27%。其中,有38家公司展出了眼镜终端产品,包括近10家展出AI眼镜的公司和近20家展出AR眼镜的公司。
中信证券分析认为,相较于CES 2024,今年最大的不同是更多公司选择展出类Ray-Ban Meta形态的AI眼镜,且参展公司以中小型公司为主,这说明AI在可穿戴产品上的落地进一步加速。
不过,市场上也有不一样的声音。XREAL创始人兼CEO徐驰近期在接受21世纪经济报道记者采访时直言,“现在的AI眼镜不是AI智能眼镜,而是AI弱智眼镜”。
徐驰认为,许多AI眼镜在一些基本的智能交互功能上,如语音识别准确率、图像识别精度、多模态交互的流畅性等方面,都无法达到用户的预期标准。与手机等成熟智能设备所具备的强大AI能力相比,更是存在着明显的差距。
“只要AI眼镜的效果不如手机,那它就很难获得市场”。徐驰称。但他并不反对AI会是眼镜赛道的一个重要方向,“我们也一直在看,并且会在我们觉得合适的时间去开始做。”
中信证券进一步指出,复盘TWS耳机的起量逻辑,在早期既需要头部厂商的一线产品抢占用户心智,也需要诸多二三线厂商通过相对低价产品进行市场教育。现在,在手机厂商入局和二三线品牌及白牌厂商积极参与的背景下,2025年有望成为AI眼镜从1到10的关键年份。
机器人也是今年CES的一个热门领域。据CES官网,仅在人形/仿生领域,本届CES就有数十家厂商集中展示整机及零部件。另外在服务机器人领域,石头科技、优必选、九号公司、追觅、安克创新等各大厂商均有新品展出,产品覆盖短交通、清洁、割草等场景。
光大证券的分析师认为,目前人形机器人的平衡、运动能力普遍达到较为成熟的水平,制约行业进一步放量的核心因素在于训练,特别是实现进一步能力泛化的训练。
根本原因在于,与文本、 图片等海量资源不同,高质量的机器人运动素材较为稀缺。但在该分析师看来,2025年会是人形机器人的能力成熟之年,即通过大规模的场景部署实现训练素材的富集并进一步反馈至机器人能力端。
透过今年的CES可以看到,随着计算能力的飞跃和大模型技术的不断成熟,2025年无疑会是端侧AI发展的转折点。从手机、PC到可穿戴设备、汽车,端侧AI正迅速走向商业化,并为各行各业带来颠覆性变革。