多家科技企业集中推出端侧AI商用产品 国内行业落地进入起步阶段

2024年第二季度以来，全球多家头部科技企业在国内市场集中推出端侧AI商用产品，相关产品覆盖消费电子、工业制造两大领域，普通消费者和中小微企业均可获取本地化部署的AI服务。

中国信息通信研究院2024年6月15日发布了情况通报，称当前国内端侧AI产业已进入商用落地初期，端侧AI的本地化运行特性可降低用户数据泄露的风险。该机构已启动端侧AI行业标准的编制工作。

据中国信息通信研究院2024年8月20日统计显示，截至2024年第二季度末，国内已上市的端侧AI相关合规产品累计达到127款，涉及智能终端生产企业19家，AI芯片研发企业12家。其中面向消费场景的产品占比62%，面向工业场景的产品占比38%，已有11款产品完成该机构的安全合规检测。

新华社记者 张辛欣：2024年7月在上海举办的2024世界人工智能大会现场走访核实，本次大会设置端侧AI独立展区，参展的29款端侧AI产品涵盖智能手机、智能座舱、工业边缘计算终端三个类别，所有参展产品均已实现脱离公有云网络完成常见AI任务运行。

端侧AI是指将人工智能模型部署在用户本地终端设备，而非远程云端服务器的人工智能技术。国内端侧AI技术研发起步于2018年，此前受终端芯片算力不足、大模型参数过大等条件限制，始终未实现规模化商用。2023年以来，大模型轻量化技术迭代和国产AI芯片算力提升，为端侧AI商用落地提供了基础支撑。

据中国信息通信研究院评估显示，端侧AI规模化落地可降低AI服务的云端带宽使用成本，减少用户个人信息和商业数据流出本地的概率。该机构下一步将完成端侧AI行业标准的征求意见工作，搭建端侧AI产品统一安全检测平台，推动相关产业合规发展。