Qiming News

对话 | AI算力重构:从云端到端侧的AI芯片创新之路 | WAIC 2026

29/09/2026

由启明创投主办的2026世界人工智能大会(WAIC)“启明创投·创业与投资论坛——从算力原点到应用落地的进化征程”于7月19日在上海世博中心成功举办。

在《AI算力重构:从云端到端侧的AI芯片创新之路》圆桌讨论环节,启明创投执行董事陈南担任主持,与进迭时空创始人、首席执行官陈志坚;后摩智能创始人、首席执行官吴强;爱芯元智边缘&终端计算产品线总经理刘瑞聚三位边缘算力风口的AI芯片企业的掌舵人展开讨论,系统性解密如何用边缘算力点燃机器人、消费终端、汽车等硬件的智能质变,打响AI全面接管物理世界的下半场战役。



启明创投执行董事陈南;进迭时空创始人、首席执行官陈志坚;后摩智能创始人、首席执行官吴强;爱芯元智边缘&终端计算产品线总经理刘瑞聚

进迭时空创始人、首席执行官陈志坚表示:“端云一体化重构AI算力格局,RISC-V开放架构或将成为国产芯片突破全球竞争的关键路径。未来5-10年云端与端侧算力并非割裂发展,人形机器人、本地离线大模型推理将打开端侧高价值增量市场。本轮AI算力浪潮机遇空前,国内芯片企业有望依托海量本土场景完成技术、生态沉淀,走出比肩国际头部的本土半导体设计龙头,实现从端侧到数据中心全场景全球突围。” 

后摩智能创始人、首席执行官吴强认为,当前,大模型正从云端加速向端侧迁移,催生出了海量新的刚需应用场景。然而百亿级参数大模型本地化运行,对芯片算力、功耗、成本提出了极致要求,“高算力、低功耗、低成本”成了不可能三角,这也为端侧AI芯片创造了结构性发展机会。针对行业痛点,后摩智能聚焦大模型端边AI芯片赛道,以存算一体创新架构,从根本上解决数据搬运瓶颈,破解行业三角矛盾,助力大模型落地各类智能终端。当前国内端侧AI产业发展迅速,市场前景广阔,后摩智能凭借核心技术优势和丰富的产品落地经验,将全力推动国内端侧AI产业跻身世界前列。

爱芯元智边缘&终端计算产品线总经理刘瑞聚则表示,作为边、端侧AI推理芯片公司,爱芯元智以自研NPU及AI-ISP等核心技术构筑“感知+计算”AI计算底座,经历多代迭代,在碎片化市场积累深厚落地经验与易用工具链。边端侧竞争关键在成本与功耗、体积约束下的有效算力,而非极限算力。依托中国庞大产业链与消费市场带来的“场景-数据-模型-算力”正向循环,公司将持续推出高能效芯片,赋能具身智能、AI Agent等,让AI真正落地千行百业。未来满足产业需求的端侧算力公司必在中国。

以下系对话精选:

01/
瞄准万物智能的时代机会

陈南:各位嘉宾大家好!非常荣幸有机会主持这场讨论,我们回到论坛的原点就是“算力”,今天WAIC的会场上大家可以看到云端算力就像“烈火烹油”一样。但回到端侧,如果我们仔细观察行业内已经存在蛮久称之为端侧算力公司的业绩,这两年尤其是这半年发布的(业绩)是非常出色的。

但在座的三家企业,我相信我们作为初创企业,和他们会有所不同,我有一个简短的问题。如果用一句话概括,我们这一代端侧芯片公司,和过往的同类企业相比,有什么不一样的地方?也请各位借此机会介绍一下自己的公司。

陈志坚:谢谢,我是来自进迭时空的陈志坚。进迭时空是基于下一代开源指令架构RISC-V做全域算力芯片的公司。所谓的全域就是,我们认为下一代算力芯片的终局应该是端、边、云芯片都是同一个架构,就是RISC-V的架构,它不应该是割裂的。打比方说我们现在手机端用的是ARM架构,云端用的是X86架构,整个软件栈不互通,它会带来大量生态的割裂包括开发的成本,所以终局上是希望构建下一代开源指令架构全域算力芯片公司。

我们公司1.0的阶段希望把终端和边缘做好,1.0阶段的产品特点就是在单芯片上集成了很强的CPU算力,也有很强的AI算力,类似于英伟达刚发布的GB10芯片。

陈南:我们是从开放架构和指令级的角度来切入,那吴总呢?

吴强:大家下午好!我们后摩智能是做大模型端边AI芯片的,我们技术路线用的是存算一体。传统的端边芯片是类似于AIoT场景小算力、小模型的芯片,但是最近大模型趋势从云端往端边走,所以我们要做的是能运行几十亿参数、几百亿参数、千亿参数大模型的芯片,用更大的算力,跑更大的模型,同时保持低功耗、低成本,这是我们想做的事情。

陈南:明白,也就是说一定要这一代大模型,要能够支撑数百、上千亿参数。

吴强:我们希望把端边智能水平拉到接近云端的水平,这是我们想做的目标。

陈南:非常清楚。

刘瑞聚:大家下午好!我是来自爱芯元智的刘瑞聚,爱芯元智是一家聚焦于边缘和端侧AI推理的芯片公司,于2026年2月份在港股上市,爱芯元智主要产品形态有视觉终端的AI芯片、边缘AI芯片、AI推理卡和AI推理服务器等一系列产品。我们爱芯元智所有的核心技术IP全部自研,比如NPU是自研的,而且我们的架构无论是大模型还是传统CV网络都可以兼容支持,我们是在CV上有很多的积累,同时我们大模型时代做了大模型的架构,可以做到高能效比。

02/
要在万亿级别的市场发挥出自己的优势

陈南:三家公司各有自身的特点,但有一点是共通的,大家都瞄准了万物智能时代的机会。云端市场已经被普遍认为是一个万亿级市场,但端侧市场有这样一种说法:做得好,它可能是一百个一百亿的市场,如果做不好,则会沦为一百个一个亿的市场。在这样的特殊情况下,我们企业开拓市场、实现持续增长,最核心的出发点和立足点是什么?爱芯元智早在CV时代就已经进入到商业化的环节,在大模型来的时候Transformer转型还做得非常成功,你们是怎么做到这一点的?

刘瑞聚:端侧市场非常零散,爱芯元智从2019年到现在经过七、八年的不断打磨,在端侧经过多代芯片不断积累,尤其在综合行业解决方案落地方面,我们积累了比较多的技术,所以能够应对各种细分市场的需求,但解决方案闭环“最后一公里”还有很多不同,所以我们在CV时代积累了很多的Know-how,在大模型时代我们会承接这些积累,比如大模型上我们做了专门的架构创新,其实相当于是小模型+大模型加在一起更能够大幅提升这一块的落地效率。

陈南:所以是从旧时代升级上来的路径。

刘瑞聚:对,升级的同时在上面有一些积累可以复用。

陈南:那后摩智能是全新的公司,前一段时间发布了漫界M50系列,我们如何看相对分散的市场?

吴强:我觉得云端是确定的大共识,是个万亿的市场。端边大模型刚刚开始,但未来它是有可能发展成一百个千亿的市场,这个我们感受很深,因为我们M50发布以后,有很多场景用云端去做,这是因为端边没有算力,但有很多因为隐私等原因,现在有越来越多的需求要在本地来做大模型,不是以前CV时代的小模型,这个需求特别是今年OpenClaw龙虾出现后感受非常明显。现在有一个词叫Agent Computer,它是新的物种,特别是在金融、法律等2B场景里,我自己的感受是说肯定会有很多的赛道,至少它是一个大到千亿的市场。我们是针对通用大模型去做的,这个市场是很大的,我们自己有这个信心。

陈南:眼前存在这么多的市场,有哪些市场您会觉得当下一定不做?或者当下一定要做?

吴强:我们做的都是共性的。比如说针对端侧大模型做加速,它对数据隐私要求很高,同时对功耗和成本很敏感,这是它的共性,这些应用场景很多,我们服务了很多的应用公司,有的做金融、法律、家庭,包括机器人的,但是底层对我们来说差不多。至于我们有哪些东西不做?其实也有,比如说现在不做训练,另外不做针对某个垂直场景的专用芯片,但这种相对通用的大模型加速芯片底层逻辑和底层核心是一样的,我们都可以做。

陈南:不知道志坚您是否同意吴博的定位?我们也做通用算力,甚至我们还有CPU,我们算力更加丰富,按理讲场景会更多,但市场有大有小,有的值得做有的不值得做。所以对你来说,有没有一定不做的市场?有没有一定要拿下的市场?

陈志坚:从我们企业思考问题的角度,其实任何一个芯片公司的诞生都是面向未来趋势提前做布局的。像我们耳熟能详的几家大厂,英特尔1971年推出第一代CPU,1976年苹果乔布斯推出了第一代个人计算机,1981年IBM开始下场做IBM的ThinkPad,其实英伟达也是,英伟达2003年开始做GPU,我们纵观芯片巨头都是面向未来增量做布局。

我们公司Focus在两块,第一个是类似于Agent计算机,第二个是Physical的计算机。我们另一大特点是集成式显卡里面又有CPU,又有一定的GPU的能力。

陈南:但你选择这样的组合肯定是有原因的,吴博士最早也讲过存算,但你讲我有CPU也有自己集成化的,这两条路在端侧的市场里,大家选择不同,你一定有你自己更想发挥强项的一条路,是什么呢?

陈志坚:第一,因地制宜。我觉得企业首先要考虑的一点是未来趋势在哪里,市场在哪里,未来计算机演进形态在哪里?基于此我们应该提供什么样的芯片?这是第一点。

第二,公司核心竞争优势在哪里?一定要扬长避短,发挥企业的差异化竞争优势。市场方面我已经说过了,其次就是整个云端和边端的计算形态不一样——云端计算形态叫分离式,CPU的能力做得特别好,云端就把云端能力做得特别好,但整个终端和边缘端,我们企业更看好未来一定是单芯片集成的,只是说因为单芯片集成能够解决更多的问题。

比如说Agent Computer能解决更多的问题。我们会有大量的Agent编排类工作,比如浏览网页,抓取网页数据,把抓取到的数据交给 AI 处理,AI把结果吐出来继续执行一个子任务。这其中会产生有频繁的交互,如果是两颗独立芯片,它的交互成本延时很大,单芯片交互成本效率非常高。其实Physical AI也是,它的实时性和效率都会高,只是单芯片存在短板,我们的 AI 能力是硬件固化的,灵活性不足,只能卡住关键节点档位,档位一和档位二之间的空档区域,是我们无法覆盖到的,这就需要其他芯片来提供辅助。

吴强:我补充一下,在GPU时代,Intel的CPU跟英伟达的独立GPU各有各的市场。今天回到AI的时代,志坚的CPU加上集成的NPU跟我们做独立的NPU其实各有各的市场,并且我们还可以合作,我们现在有很多客户是我们跟志坚一起做,他做CPU我们做AI加速卡。

陈南:明白,爱芯元智也都做,而且还做多个市场,从这个角度,您怎么看这两位的做法呢?

刘瑞聚:相比云端来讲,我们端侧算力的优势是在极小体积产品里发挥最大的效能,或者在成本约束情况下跑出有效的算力。和云端不一样的是,云端追求算力的极限,而我们是在一个“不可能三角”里找一个平衡。所以我们面向的场景是偏向于端侧和边缘侧这类产品形态。刚才讲的Agent也是我们的落地市场,包括未来各种形态的具身智能。具身智能现在发展非常快、各种机器人本体显得越来越灵活,现在有大脑但不太好用,经常发烫,用不了多长时间就要休息,这就是我们这些公司要解决的问题,怎么保障续航时间足够长、不发烫,可以持续工作一到两个月,这是我们的优势所在。

03/
尽可能在“不可能三角”中找到平衡

陈南:我们借鉴了过去在监控领域和自动驾驶领域的实践经验,这些场景都是在特殊环境限制下还要实现端侧大算力部署。端侧场景非常丰富,但是各家的出发点或者自己的技术特色并不相同,选择的产品形态也非常不同。当下大模型云端发展这么好,那么站在今天这个时点,或者展望未来三到五年,端侧是否真的需要去跑100B模型、一千亿参数,今天有了什么样的产品形态?三、五年后又会出现哪些值得期待的创新?也欢迎各位结合实际案例做分享。

吴强:其实今天已经有了。现在有一种叫AI Pocket的产品,大概能跑100B的模型,它像充电宝一样插到笔记本上,在无网的状态下做会议纪要等,现在已经有很多这样的产品了。

陈南:它是随身的,完全是电池来供电。

吴强:很多人问我们说去年讲云端大模型,今年开始关注端边大模型,需求在哪里呢?第一类它就在端边;第二类是说混合的。一部分需要用端边来做,同时依赖于云端做,物理在端边做,虚拟在云端做;第三类Chat比如说豆包这类它就是在云端做。其实我觉得不同场景对端边计算的需求也不一样。

有一点,大家端边是需要更智能的东西。一方面,今天100B模型相当于半年前的300B模型或者1000B模型;另一方面是有大量的芯片公司,能力也在变得越强。

模型服务有一个不可能三角,我们芯片服务也有一个不可能三角“智能水平、功耗、成本”,我们想做的事情是提高效率,满足这个不可能三角,但是我们各家用的方式不一样,我们用存算一体,其他人用不同的方式,这是我们看到端边大模型发展的趋势。

陈南:志坚有什么补充吗?

陈志坚:现在是大模型应用逐步开始的元年。这个阶段大家使用大模型最希望用的是最高智力的大模型,所以大家希望借助云端,因为它的智力足够高,它的使用交互方式足够简单。但是在未来整个AI算力市场上云端一定是大规模增长,我相信以后终端和边缘端也是大规模增长,因为整个AI的Token产生一定指数级的增长。就以我们公司为例,我们公司消耗Token的数量基本上每个月翻一倍。

其次有很多事情一定是云解决不了的,它必须用端——第一点就是实时性;第二点是隐私和安全,比如我们秘密的合同就不希望上传云端,再比如说未来每个人都有自己的数字分身甚至数字员工,至少有一个点要留在端侧,就是上下文,我训练大模型训练出来的上下文代表我个人的特点,它是我的数字分身,我可以把大模型基模放在云端,但是我的上下文必须放在这个终端。这个我把它统一归类为安全;第三点是经济,大模型整体的规律类似于集成电路领域摩尔定律,无外乎是两头:性能不停往上走、模型规模不停下降。所以未来100B、200B的模型像DeepSeek一样,DeepSeek V4 Flash版本它只有285B,它的智力远高于V3版本,另一方面我的模型比如说200B、300B能到达现在2000B的智力,就有机会装在本地,而本地的一次性购置成本,如果比云端消耗成本低这就是带来的经济性。

这是主要的三个方面。

陈南:吴博士是从场景的角度来谈的,您是从行业发展规律角度来谈的。刘总你们公司落地的场景非常丰富,站在三到五年的时间维度来看,端侧大模型对我们提出了哪些要求,为什么端侧大模型的落地会很快到来,它的必然性体现在哪里?

刘瑞聚:举个例子,现在一个家庭平均至少有三部手机,三部手机比如说两年换一部,一部手机平均内存是512G,随着手机的迭代以及手机每年产生的存储容量需要存储设备,所以每次换手机非常痛苦,导数据差不多要一个小时的时间,而且数据量会陆续累加。所以,现在很多家庭对AI NAS(网络附加存储)有了需求,NAS会有一个问题,它的数据非常大,随着数据量越来越大,如果想找一个图片或者照片的时候,它的效率非常低,可能需要很长时间,如果用了AI,传统NAS加入本地的算力模组,实现AI NAS,不但能找到照片,还可以把过去几年照片生成一部回忆录,那就非常有意思了。当然,有人说用云端算力能不能解决?但大部分家庭可能不敢把家里的NAS数据放到云端解决。

陈南:回到隐私和安全的问题。

刘瑞聚:从场景的角度来看,这种场景会越来越多。

04/
中国有着最适合端侧芯片企业发展的土壤

陈南:因为在国内我们已经习惯于身边各种智能终端创新速度非常快,而且中国消费电子作为下游产业,在全球范围内也具备非常强势的竞争力,这似乎给我们创造了非常好的机会,不知道各位觉得在这样一个好的机会下,对比过往的端侧国际巨头,我们作为新创的芯片公司,创新机会主要体现在什么地方?是不是有些场景已经都跑出来了?以及国内是不是最适合做这一类产品的地方?

陈志坚:包括现在也是,中国是应用创新大国,未来应用创新在中国,芯片在中国,产能也在中国,十年以后(2035年到2045年)中国整个算力芯片会大规模发展崛起,甚至向全球大规模输出,我认为这是第一点。

第二,从我们的企业来说,我觉得还是叫差异化的竞争。我们认为存量的大市场不适合初创公司做,一定是未来增量大市场适合初创公司,所以我们无论是看Physical AI也好,还是Agent AI,其实都有一些特点——Physical AI要求单核CPU性能超强,Agent AI其实也是,所以我们自己去看英伟达发布的GB10芯片二十个大核,每个核性能比云端CPU单核性能还要强,这是因为Physical AI需要很快把它算出来,否则延时就很长,大量的工作是CPU做的,小脑是CPU做的,它时间特别短、实时响应特别强。

同时,Agent AI其实也是一个大的任务,我通过大模型拆解成很多小的CPU在频繁执行,它就会快,所以要求它的单核性能也非常高。我们公司本质上是把单核性能拉得非常高,基本上单核性能非常高的市场要么是美国,要么中国,基本上就是传统CPU,新创CPU就没了,然后我们再结合AI。

陈南:这已经完全不是简单的做到算力充足、功耗要低这么简单的事情了。

陈志坚:我们还是愿意看到面向未来的市场去发挥我的差异化竞争优势。第二,在无人区、少人区竞争,而不是在“极度内卷”的地方竞争。

陈南:不知道吴博和刘总怎么思考?

吴强:我觉得国内这一波AI会促进我们半导体公司、AI推理公司发展,走在世界的前列。我最近去深圳非常多,你会发现国内有各种各样的智能硬件,特别是今年龙虾出来之后,很多客户找到我们,给我们提需求,不光是算法、场景,还包括硬件形态,这对我们包括下一代芯片的定义也得到了输入。所以我觉得跟国外的芯片公司相比,我们一定是得到了更多的第一手资料,它会促进我们生态软件的迭代、硬件的迭代,包括后续芯片的设计,所以我觉得一定会推着我们这些创业公司在新的赛道上走在世界的前列。

陈南:刘总呢?

刘瑞聚:我非常同意刚才两位的分享。中国拥有全球规模最大、最全的制造业产业链,而且拥有全球最大的消费类市场,这会带来海量的应用场景支撑AI迭代和验证,也会形成一个场景、数据、模型到算力的正向循环,这是海外国家所不具备的优势,从而加速我们产品迭代的速度和进度,所以未来如果有机会做到满足产业更多需求,我觉得肯定在中国公司发生。

陈南:上一代移动端侧带动了高通和MTK这样的成功公司,但听各位的分享,这一轮机会在于,我们只要把真正的大模型智能带到各式各样的端侧应用上,我们就有机会,我们实际上肩负的使命就是把算力原点创造出来,等待应用来落地。

讨论的最后,也是请三位用一句话分享一下未来三、五年,作为端侧领域的先锋角色,我们希望把端侧市场,以及我们公司打造成什么样的“世界级苗子”?

陈志坚:我认为还是把根据地建强,必须抓住下一个关键大品类,也就是Agent AI和Physical AI。同时卡住下一个关键软件时代的生态位,就是RISC-V,因为RISC-V在五年、十年、十五年之后,这个趋势只会向上,不会向下。所以我们公司一方面除了做应用,抓住超级终端大品类,同时我们也要把RISC-V关键软件节点生态位全部卡牢。

陈南:所以看上去Risc-V AI的重任就落在你们公司的肩上了。

吴强:我觉得端边大模型芯片给行业带来的改变是让端侧免费Token工厂变为可能,可以帮助大模型普及普惠。但要做端边大模型这件事情,其实它的挑战是说怎么解决不可能三角,又要智能水平高,又要功耗低,又要成本低,本质上来说,未来几年所有的挑战就是说如何把效率推到极致,去解决不可能三角。我们后摩智能希望用存算一体创新的架构去解决极致效率的问题,去助力这个改变,去推动大模型的普及普惠。

陈南:非常纯粹,用极致效率让更多的端边用上智能大模型。刘总分享一下。

刘瑞聚:爱芯元智未来三到五年会基于我们前期积累做的AI-ISP以及我们的NPU做出更高能效的芯片,同时基于我们这些年在工具链打磨上的积累,让更多行业客户能够快速容易地掌握,把我们的AI算力应用起来,真正赋能千行百业。