2024年无疑是端侧AI爆发的一年，因此产业也通常将今年看作是“端侧AI元年”。
当下，AI大模型在终端细分赛道展现出的强大生命力，各类AI产品几乎无处不在，AI手机、AI PC、AI眼镜，以及AIoT领域的各类AI智能终端设备成为当下数码和科技圈广为热议的关键词。
根据Gartner预测，2025年AI PC全球出货量将超过1.14亿台，同比增长165.5%。另一边，AI手机也在快速普及，根据Canalys预测，2025年AI手机的渗透率可能会接近三分之一，出货量近4亿台。
与此同时，具身智能机器人赛道火爆，智能汽车领域的AI应用落地更是“卷”得飞起。
端侧AI的加速落地，让消费者感受到了不一样的AI体验：AI真的更“懂你”了，AI功能更加“个性化”，AI能力也更加深入系统级。端侧AI的价值愈发凸显。
根据研究人员统计预测，端侧AI市场规模将在8年后冲向1436亿美元（约合人民币10400亿元），10年增长10倍。
▲2022年至2032年按终端用户划分的端侧AI全球市场规模（单位：十亿美元）
在国内AI市场，AI的发展更加百花齐放，据艾瑞咨询测算，2023年国内AI产业规模已经超过了2100亿元，端侧和边缘AI芯片的比重也有望持续增涨。大模型带来的底层技术革新无疑会给端侧AI产业规模增长带来更多存量扩张与增量空间。
▲来源：艾瑞咨询
在这样的行业背景下，国内AI领域的玩家是走得最积极的一批，在技术落地方面推进得更加踊跃。从底层的芯片IP、芯片设计、制造到操作系统、大模型研发、终端，再到上层AI应用和服务落地，国内AI发展有着完整的全产业链条，本土AI新势力无疑有着充足的施展空间和机会。
扛起本土AI底层生态建设大旗，需要国内厂商在端侧AI领域协同发力、抱团取暖。
作为产业链最上游芯片IP领域核心玩家的安谋科技，刚刚在上海举办了一场端侧AI生态研讨会，聚集了从芯片、大模型到终端，从硬件、软件、算法到生态的各路行业头部企业，分享最新行业趋势，输出前沿观点。
安谋科技销售及商务执行副总裁徐亚涛提到，AI未来的发展必然是多样性的，每一类产品都面临着AI化的挑战，整个产业都在被AI重塑。AI不是单打独斗可以搞定的，跨行业的深度合作将成为必然。
▲安谋科技销售及商务执行副总裁徐亚涛
一、端侧AI落地，一场模型与算力的“双向奔赴”，本土AI新势力走向前台
就在昨天凌晨，OpenAI正式发布了Sora视频大模型，AI大模型的迭代再进一步，从文本到图像、从多模态到视频，大模型的发展快得令人不敢眨眼。一个不留神，可能就会掉队。
随着超大规模的基座大语言模型不再持续狂飙，大模型向着边缘和端侧下沉的趋势日益明显，AI OS、AI智能体等概念逐渐成为行业共识，产业的关注焦点已经转向了真正赋能行业、实现落地。
大家不再单纯地看TOPS（算力），而是更关注FPS（帧数性能）和tokens（生词速度），也就是更关注实际在应用场景中的表现。
智源人工智能研究院副院长、总工程师林咏华提到，大模型的技术发展如今更加聚焦模态的多样性、模型结构算法的多样性以及生产部署的优化，大模型发展呈现出“两极分化”的态势：更强更大和更小更精。
据统计，数百亿级以上的强大稠密模型，或10B以下的小模型更受欢迎，越来越多的小模型被发布和下载，而端侧AI的发展，显然更侧重于“更小更精”。
与此同时，一个突出的特点就是国内AI企业在AI大模型这波浪潮中一直走在全球AI产业的前列，热门大模型中本土公司开发的模型占比很高。
尤其是结合国内AI市场潜在规模，本土AI企业的发展潜力更是巨大的。
安谋科技市场及生态副总裁梁泉也谈到了类似的观点，在端侧AI领域，模型与算力正在“双向奔赴”，小参数、多模态模型的能力快速提升，而旗舰设备的算力也已经达到50-100 TOPS。
▲安谋科技市场及生态副总裁梁泉
在端侧AI的元年，虽然没人能确切地说出端侧AI的杀手级应用会是什么，但本土AI新势力发展端侧AI已经实打实地从技术军备竞赛走向场景化落地应用。
二、本土企业领跑端侧AI落地，技术创新加速涌现，生态大一统走向必然
端侧AI的发展无疑正迎来一个新的“黄金时期”，从芯片、框架、大模型到终端，整个产业链的各个环节都在深度参与，快速适应，不断迭代产品和技术。与此同时，统一生态的重要性愈发凸显，端侧AI的高效落地，必然需要弥合碎片化的生态，需要产业链各方的共同努力。
1、从手机、PC到汽车，芯片创新为端侧AI落地提供底层基础
在端侧AI落地过程中，AI手机无疑冲在了最前面，苹果安卓两大生态分庭抗礼，安卓生态端，联发科、展锐等手机芯片巨头的AI手机芯片无一例外都是基于Arm架构打造。
紫光展锐执行副总裁兼市场部部长黄宇宁谈道，端侧AI如今正涌现出更多成果，包括硬件、软件、端侧大模型、端云协同与安全技术等领域的诸多新技术的成熟都加速着AI手机的发展。
▲紫光展锐执行副总裁兼市场部部长黄宇宁
从手机AI到真正的AI手机，一个能够自动执行复杂任务、真正懂我们的智能设备，AI手机的发展正迈入AI OS、AI智能体时代。在AI落地手机的过程中，很多厂商都明确提出了“端云协同”的混合AI模式。
简言之，混合AI就是将云端的强算力与端侧的个性化、低时延、高数据安全性等特点相结合，真正实现优秀的端侧AI体验。
据黄宇宁介绍，目前紫光展锐的芯片已经在三个AI典型场景中应用：全场景通用AI算力（端侧AI智能体）、多媒体专用AI算力和低功耗轻量AI算力。
基于Arm架构和生态，紫光展锐可以提供CPU、GPU、NPU以及整合的SoC这些底层算力平台，而整个生态的构建则需要产业合作伙伴的共同努力。
黄宇宁特别提到，在端侧AI落地过程中，统一生态是非常重要的，其最直接受益的就是开发者，而开发者则可以利用统一生态，把最新的算法、模型在芯片上快速实现落地，让用户最终享受到好的服务。
除了AI手机，另一个端侧AI落地的重要领域就是AI PC。
此芯科技生态战略总经理周杰提到，生成式AI正在推动PC产业的第三次革命，AI给PC产业注入了新的活力，包括异构AI算力、内存、SLMs（小模型）、智能体化，国内厂商都在积极拥抱端侧AI。