📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

2026年AI變了!GPU 不是唯一解。ft. 耐能智慧創辦人 劉峻誠 博士

財女珍妮24:40

Transcription

哈囉大家好,我是Jenny。今天繼續來跟大家分享美股近期的大小事。

在我们录影的时候,CES展刚过,AI界又有非常多的大事发生。我记得我们在一年前,也有做一个录影,那个录影就是DeepSeek的诞生,然后会对于AI造成什么样的影响。当时我就是请业界中的专家,也就是耐能科技的执行长刘峻诚博士Albert,来跟我们分享说他对于产业的第一线观察。

那至今日,我们又再度的邀请他来告诉我们,在这一年,有哪些是有变化的,哪些是没有改变的。哈囉Albert。

嘿Jenny好,各位观众朋友大家好。那过去一年我知道你也非常的忙碌嘛,然后也是刚从CES展回来,可不可以先跟我们分享一下,在这一次的CES展上面,你有什么发现?过去这一年呢,你预测的趋势是对的,然后你也看到实际的成果发表出来。

我记得去年的这个时候,我们就是有在说,AI的趋势会从云端的Training(训练)为主,叫Phase 1(第一阶段),过渡到Phase 2(第二阶段),就是Inference(推论)为主,然后到第三个Edge AI(边缘)。这一次的CES其实还蛮清晰,就是Phase 2(第二阶段)跟Phase 3(第三阶段)是比较大量爆发的。

你可以想象说,云端的训练,GPU绝对是King,但它的缺点就是说,我的训练的成本很高。像ChatGPT他一年的训练的电费是到60亿美金的这种维护费。那如果你用这么贵的训练的GPU,来到Phase 2(第二阶段)做Inference(推论)的时候,那所以Phase 2(第二阶段),你就会开始看到有一些百花齐放。

比方说非CUDA Base的GPU,像AMD开始,看他营收也是增长很快,代表Phase 2(第二阶段)真的是很明显地出现了。还有很多大厂开始做AI ASIC,Amazon、Google也有,Microsoft也有。前阵子这个博通的股价涨很高,这就确认Phase 2(第二阶段)已经很明显了这个趋势。

那我觉得最重要,我们宣称Phase 2(第二阶段)已经发生的原因,是连NVIDIA自己都去买了一个公司叫Groq。Phase 2(第二阶段)跟Phase 3(第三阶段)。Phase 3(第三阶段)其实他强调就是说,那这次CES你可以看到像Samsung还做了一个很像球形状的机器,当作家里的这个AI Hub。看起来就是Phase 3(第三阶段)基本上也是百花齐放。

所以我觉得回顾过去一年,我们可以看到,大家本来是很疯狂的在训练,然后买GPU在做基础设施。现在已经有越来越多的厂商都发现,如果要解决这个问题,我就是先盖电厂。但是电厂可能又没有那么快。那我就是从晶片设计着手。我如果可以有更好的效能,然后更低的耗能的话,其实我也可以节省更多的电,然后可以降低更多的成本。已经朝向推论,然后朝向我们讲到的,我用ASIC用客制化晶片,其实可以达到更好的效果。

那这个时间点,我们就要来讲,辉达他就是大手笔花了200亿美金,然后想要去买Groq这个,算是以推论晶片为主的公司。那为什么要花这么多钱?而且他的目的到底是什么?难道他也发现只单纯做训练,已经不够了吗?

我觉得他又回到了,我去年也在讲的一件事情,就是说AI的晶片的技​​术迭代,从CPU变成GPU,变成所谓的AI ASIC,是一个暂时的这个阶段,到所谓类NPU架构。在某些程度上,这个解释不完全正确,但我觉得他有点像是三四个维度的东西。所以你一定要把一两个维度先固定,你才能从另外两个维度,去把事情分析。

所以我常常举两个例子,但这两个例子你先要综合来看,因为它是四​​个象限的东西。那第一个解释常常会说,从CPU变成GPU变成NPU,它很像从录影带变成DVD,变成MP3随身碟。这个指的是说,我的定义是,其实它并不完全是取代关系,因为这样听起来会让人误解,它是取代关系。

所以我又举了另外一个例子,CPU很像坦克车,GPU很像卡车,NPU(口误)很像小客车。它其实最后是有​​点各自分工的。但是如果你把单纯它的单位功耗,创造的这个AI性能来讲,从CPU、GPU到NPU,它很像是录影带变DVD,变成MP3。这个是对的。

我记得MP3随身碟刚出来的时候,大家如果回顾那段历史,其实MP3随身碟也有,因为在不同产业或不同垂直应用,有一点奇怪的变​​形。比方说当时有人把MP3的​​技术,跟播放音乐的随身听整合在一起,它最有名就是iPod跟iPad,Apple的产品。那也有人把这个MP3的​​技术,整合在一个小小的录音笔。

所以今天的NPU,它其实有个类NPU架构。类NPU架构的单位功耗,创造的性能来讲,这也很合理。因为GPU其实存在在人类历史上三十几年的东西,你说我拿三十几年的架构来做今天AI最好的吗?好像也不对,对不对?CPU是人类历史上已经存在,大概六十几​​年,它一开始是做逻辑运算。那GPU最早是做图像跟游戏。

类NPU架构出来的时候,你会因为你的需求而去做某些客制化。比方说你把那个云上的训练,那个地方加强,那这个就是TPU。那如果你把它一进来的那个第一笔的数据,那它这个就很像LPU。LPU其实就是类NPU的架构,但它把它的控制盒做小一点,然后加了很多SRAM。但SRAM其实蛮贵的,所以这个其实成本上并没有一定的优势。

那NPU就是​​一个比较通用​​的架构。你会发现这三个词,除了耐能之外,Intel、Qualcomm、AMD,这么多大厂都用这个词,一定是这个架构是最通用的。

其实我刚刚听你讲的时候,我觉得它就是一个阶段,一个阶段发展的过程。我今天AI开始之后,我当然想要去设计一个晶片,可以专门给AI的,然后可以让它的效能更好。譬如说运算的速度可以更快,或者是我在处理的时候,我的功耗可以更低。然后就让大家觉得,各式各样​​的PU之前,可能它们都会有一个代号,就像你刚刚讲到的LPU,或者是你发明的NPU這樣子。

可是如果​​我们现在在Phase 2(第二阶段)好了,假设我们现在是在推论,然后到最后到Edge端,是不是真的辉达它去买了Groq,它是真的比较在Phase 2(第二阶段),就是推论这一块?可是NPU的部分,它是真的比较适合在Phase 3(第三阶段),边​​缘啊,后来我们到了一些终​​端啊,或者是Physical AI,实体AI的部分,它会比较有更好​​的一个发展?

其实我觉得这个有一点点对也不对。假设今天MP3随身碟跟DVD跟录影带同时存在,市场各有自己的派系。但是哪些东西它会最快,让MP3随身碟有绝对性的优势?它的优势就是小、省电、然后功耗低嘛。所以意思是说,这个是毋庸置疑,它就是面积跟功耗跟方便携带性是最关键的。

但是其实也有人把NPU开始做到云。比较有名的就是Google的TPU。Google TPU的​​数据一出来,你会发现它的训练成本跟Inference(推论)的成本,其实都比辉达的GPU好很多。那Gemini出来的时候,效果也是蛮好的。另外就是,也有一个公司叫Qualcomm(高通)。Qualcomm其实它前阵子有发布,说它在Data Center用了NPU。那天当然它的股​​价就涨了十​​几​​%​​。真的就是一讲出来,可能都还没有实际量产,可是大家觉得,欸,未来的想像空间好像很多,然后就股​​价大涨。

应该说事物的本​​质,这件事情是合理的。所以你觉得这个趋势,是会一直延续下去的?就是我们现在看到的,没有觉得它是一个马上的转​​变,但是事实上,就是已经导入在很多的公司里面。甚至像NPU现在,也已经实际的在很多的Edge端,然后都​​已经​​在实际的量产,跟很多的客户去做配合了吗?

其实我想要講的是说,你看现在的是有点大语言模型的时代,对不​​对?你可以想象说大语言模型,它比较接近人,就是比较聪明,脑比较大这样。但是其实我上一次也说了,就是说其实从2016到2019年,那个是CNN的时代。你可以想象说那个脑比较小,比较像狗跟猫的脑​​袋。那​​时候主要是拿来做人脸识别,还有物件识别,一点语音唤醒。

在那个时候,其实完全就是现在我说的这三个趋势。因为那个脑比较小,所以它迭代比较快。第一个时代在2016年,当时在做人脸识别的时候,大家都在训练模型,疯狂买NVIDIA GPU。那​​时候市场大概80%是做Training(训练),只有20%是Inference(推论)。但到2017年,就是Inference(推论)就变成90%,只有10%是Training(训练)。有点像是Google的人脸识别已经训练到99%,Amazon也训练到了99%,Microsoft也训练到了99%。

然后后来等到大家都差不多了,大家开始在把模型剪枝啊、量化啊,然后这个Transfer Learning(转​​移学习)啊、蒸馏(Distillation)。就是DeepSeek最近在讲那个,其实蒸馏在那个时代,CNN时代就有了。那就是把模型变小之后,就把它丢到了各端。第三阶段的时候,基本上是NPU为主。

所以大家都说辉达去买Groq的原因,就是因为他也希望可以加速推论。譬如说我们跟ChatGPT讲话的时候,他可以回​​复的速度可以更快。但是刚刚又让我想到一个问题,就是会不会也是在成本的部分,大家也是要有所考量?我们现在看GPU的时候,都是搭配HBM,高频宽记忆体,那这个非常贵,而且现在处于供不应求的状况。

那到了这个Groq他的LPU的时候,那他可能是搭配SRAM,那那个时候大家也会想说,会不会這樣子会威​​胁到HBM他​​的一个地位?那如果以刚刚这样讲的话,其实他也不是取代,他等于​​是多一种选择,然后更全方位的配置。甚至到NPU的时候,你们也有自己选择的记忆体,然后可以去做搭配,然后也可以让这个成本、效能可以发挥他最大的优势。

我再用另外一个纬度来分析这个事情。我刚刚讲的就是说,从录影带、DVD、VCD​​这个概念。其实你从CPU、GPU跟类NPU架构,其实他也很像我之前说的,坦克车、卡车跟这个小客车。CPU的每个核是比较大的,你可以想象他每个核,就​​很像一个博士生,微积分什么都很强。但CPU的核就比较少。所以我才会说他很像坦克车,他主要功能是打仗用的,他主要是做逻辑运算的。逻辑运算的复杂​​度,其实比图像还要复杂,也比AI的convolution(卷积)复杂。

GPU很像卡车。有一天人类就是建造城市,大家发现卡车相较于坦克车,在城市转来转去比较省油。大部分的司机就喜欢开卡车。卡车又为了要让卡车司机黏着在卡车上,他就做了一个很简单的开车系统,你一上去按一两个钮就可以开​​车了。这就是CUDA。

有一天人类发明了小客车,那就是NPU。为了在城市转来转去,一开始油价其实没有涨很高,就是之前的CNN时代,开卡车可能只比小客车贵个15块20块。那我​​已经习惯开卡车了,我也习惯这个CUDA系统,我​​就不想换。结果有一天油价突然涨两三百倍,就是今天这个时代,大语言模型出来,逼一些卡车司机去换成小客车。

那小客车呢,又每​​个人为了这个小客车,做不一样的小客车。比方说你如果去看日本,日本的街道很小,就是日本有一种比较独​​特的小客车,就是三个轮子的或两个轮子的。那这个有点像就是LPU,专为这个大语言模型,快速去拿取资料,架了​​这个SRAM。

辉达买这个LPU有​​两个原因:一个原因是为这个Phase 2(第二阶段) Inference(推论)为​​主的市场开始布局。另外一个就像你说的,因为其实HBM现在独占可能就一两家,三星啊、TSMC,然后海力士这样。到了LPU他可能是SRAM为主,但SRAM其实也比较贵。所以其实有一些人在分析这个LPU的​​这个叫做单位运算成本。

再来讲到这个NPU。NPU的特色就是说,他是一个比较通用的车,不需要这么的复杂​​的。不管是HBM还是高阶的很多的SRAM,我们这种NPU其实用的就是像什么eMMC、DDR,他就是更普及了。他在记忆体的垄断性,就更容易让这个AI到各行各业,到各个设备。

但是现在还是有供不应求的问题。那你会不会觉得你在制造成本上面,也​​会承担一些压力的感觉?

确实是有。其实我觉得今年的整个记忆体,是一个非常奇特的状况。其实在去年第三第四季就已​​经蛮明显了。主要应该​​是三星跟海力士,不再做这种很低阶的DDR。后来华邦、南亚,甚至旺宏,这几个厂的整个产​​能需求就爆满这样。

那我也还蛮好奇的,就是以你产业的人士来看,你觉得AI现在到底是不是一个泡沫?还是呢,其实真的就是需求这么强劲?你觉得还可以延​​续一段​​时间?

我认为在主权AI的资料中心的建置上,我觉得今年看起来是OK的。几个原因,就是说我觉得看需求,你还是要看一个回到事物的本​​质。当年CPU时代建造资料中心的时候,其实花了很多年。但现在有点像是因为世界各​​国觉得主权AI是一个霸权争夺,所以每​​个人在GPU为主的资料中心投入是觉得我不能比你慢,我比你慢,我可能在AI争霸我就输你了。所以它是疯狂式的建造。

其实主权AI的建置,但是一样就是0到1去建置的时候,会花很多年。那​​时候需求会很高。但当​​你到饱和的时候就慢下来。

第二​​个层面就是,其实现在​​的资料中心的建置,已经不是Phase 1(第一阶段)而已。Phase 1(第一阶段)就是高阶的,所以它其实已经Phase 2(第二阶段)跟Phase 3(第三阶段)同时往前。非CUDA式的Training(训练),用很高阶的GPU的Training(训练)很贵,你要上水冷,甚至要盖核电。软​​体上面有一些技术​​的演进,包含DeepSeek的非CUDA为主,用PDF的方式来训练。CUDA壁垒在Phase 2(第二阶段)其实基本上是没有的。那Phase 1(第一阶段)的壁垒也慢慢的在下降。

第二因素会造​​就认为说,GPU的资料中心的建置,超算中心的建置的需求会没有那么,没有那么受力。

第三个我也还来讲,以数据来讲,去年其实市场有一个论点叫闭环交易,AI闭环,就是大家都在同一套里面,然后资金给来给去的都是同样。那我只以数据的事物的本​​质来估算,就是说Yahoo甚至Bloomberg,还有那个纽约New York Times,其实有做分析说,建造一个资料中心超算中心的成本。当时Sam Altman是说,他想要在五年内建造10GW,对不​​对?

1GW的概念是什么?1GW的概念其实就是​​一个核电厂一年的产生电。当时黄仁勋是签了一个MOU跟Open AI说,我会给你1000亿美金,假设你一兆来分摊五年,等于是未来四年,每一年还有大概,假设他真的很会找钱,黄仁勋这个钱也真的进​​去。首先这是MOU,MOU其实不一定会有执行。那假设说这​​都是真的,他真的投了。

第二个挑战是什么?第二个挑战是说,我刚刚说的1GW的概念,我不是只有钱的问题,我还要盖核电厂的问题。我们有办法在五年内盖10座核电厂?就是第二个问题。到底有没有这个根本去支​​撑这个协议?这是另外一个问题。所以会不会真的GPU厂商跟Open AI跟Oracle,去自己产生了一个闭环?这也是另外一个,我觉得需要考量的问​​题。

为什么后来TPU一出来,效果会好很多,然后甚至在股​​价上Google的股​​价就涨很高?他​​是用类NPU架构来做AI Training(训练),他同时解决了Phase 1(第一阶段)跟Phase 2(第二阶段)的问题。Phase 1(第一阶段)最大的争论就是说,我的GPU很贵,我等于​​是用世界最贵的成本来做Inference(推论),那也非常的奢侈。但TPU因为他是类NPU架构,所以他在Training(训练)跟Inference(推论)都有优势。

我觉得凡事还是离不​​开本​​质。我就再举一个很实际的例子,去年11月有台风对不​​对?前年的11月有台风,就是气候变化。11月对,在大前年之前其实很少。在过去40年台湾历史​​上,很少在11月有台风。为什么会突然这​​两年这么怪?ChatGPT出来之后,我们的整个气候变了。ChatGPT的Data Center,他一年产生59千吨碳排放。

所以说这件事情到底对地球健不健康?地球的资源能不能支撑这么多核电,跟支撑他们规划的这个增长趋势?所以现在就是说,其实AI的最底层​​的最大资源,其实就是电力的供给。如果没有稳定的电力的话,其实上面的一切都是免谈。

这个假设是​​我们用GPU。这是为什么我一直说,在AI时代,我们来看影像。今天如果​​我说,我要把我从小到大的电影,都用录影带来储存,它就会非常的大,比我这个房间还要大对不​​对?然后我如果要用非常多的这个录影带播放机,去​​找我的任何一部的电影,在哪个时刻看​​过,我马上就能播出来。这就是今天的AI,就是把我从小到大的资料,或网路上所有资料,全部塞到​​一个GPU里去跑,它的耗电量就会很大。

如果我今天的命题是说,我用MP3随身碟的技术来找,它就会很小,对地球就比较健康。

所以​​我刚刚听起来是,Phase 1(第一阶段)跟Phase 2(第二阶段),其实现在竞争蛮大的。但是我觉得Phase 2(第二阶段)它慢慢进​​展之后,现在如果大家都到云端推论,那是不是在Phase 3(第三阶段)的部分,就是在Physical AI或者是边​​缘的地方,其实也会有被压缩到?就是你们的竞争,其实也不会那么小?会因为这个Phase 2(第二阶段),就是推论的发展,然后也开始有更多的这种压力存在?

我觉得你还是​​要看一下,其实最终很多人在争论说,NPU要取代GPU。当然有一些媒体可能为了流量,会说我们要取代GPU。我们来看当年的CPU跟当年的GPU之争,在30年前发​​生的。当年GPU刚出来的时候,非常小,很可怜,差​​点死掉。因为当时​​的Intel很强​​势,就跟今天的NVIDIA一样,超强​​势,每天造势。但最后它没有办法变成主流,是因为CPU架构、跟GPU架构、跟NPU架构,它有点像是坦克车、跟卡车、跟小客车。

产品上确实有人把坦克车跟卡车混在一起,战争的越野车。但你会发现它就变成,我既打仗也不好,既载货物也不好。CPU的x86架构跟GPU的架构合在一起,一样​​的,你把CPU、GPU跟NPU硬整合在​​一个晶片,它就是四不像。

我有​​时候也觉得,其实它很像不一样​​的刀。有水果刀、鸡刀跟指甲刀。市面上会有独立​​的刀存在,但也会有像瑞士刀整合性的。所以你会发现越小的系统,它整合的趋势是越明显。比方说你的手机,它就是CPU、GPU跟NPU整合在一起。你把NPU撇掉,就是手机也是CPU、GPU整合在一起。比较低阶的笔电,其实也是CPU、GPU整合在一起。但高阶的笔电,只要它很在意图像的画图效果,它其实就是独立​​的GPU。

这三个硬件,我认为它跟当年的CPU、GPU时代一样。这也是为什么最近突然有云的超算中心,以GPU Dominate的这个换机潮,所以这个股​​价才会涨成这样。但是我​​认为以后真的很健康的,应该是CPU、GPU跟NPU。比较高阶的笔电,也是CPU、GPU、NPU独立,因为这样它们​​的各自性能才比较好。

我​​还想要再延伸到,就是更未来​​的部分。就是比如说我们现在看到的AI,可能还在基础​​设施,还在模型,还在一些软体的应用上。但是最后,不管是马斯克,或者是辉达黄仁​​勋,他们其实都有提到Physical AI,实​​体AI,才是未来AI真正的终点跟目标。比如说自驾车,比如说像机器人。

那你觉得这​​一天,到底什么时间点会​​到来?可能有人说还要到2027、2028年,但是有没有可能,它其实离我们已经更近?

其实我就说,CPU跟GPU的时代,最后其实它是落到地端。应该说端跟云,其实并没有我们想的这么的绝对。就端不会取代云,云​​也不​​会取代端。最后的结论一定是端有小脑​​袋,云上有大脑​​袋。今天我们认为的NPU,假设它是未来的,大家认为还​​没有普及的,这个AI的算力的东西,它可以让你的端变得跟云一样聪明。

这件事情就一定​​会普及。原因是因为你现在看,现在每天跟ChatGPT工作、聊天,它其实很像人了对不​​对?当这种等级的AI,可以到你家里的设备,它就真的是我们很熟悉的科幻电影,像哆啦A梦这种东西这样。所以我才会说,其实我们熟悉的科幻电影的时代,是很接近的。

我们自己也有在产业内做Design-in、Design-win。一般我们做Design-in、Design-win的周期,会是17、18个月,比较龟毛的公司会到24个月,甚至30几​​个月。日本周期就很长。以我们的可​​见未来,其实很快会发生。基本上我觉得今年的第二季、第三季开始,那个实​​体AI就已​​经会慢慢普及。

其实以今年的CES就很明显,就是有类人的机器​​人,然后有外型不像人,像那种小小的家​​电,然后你是可以用对话式的方式,在跟它沟通。所以会不会其实机器人离我们很近?但是其实它最主要的挑战,其实不是在脑,不是在它聪不聪明,不是在它到底是不是可以连接到AI,有这样的一个智慧。其实是在硬体​​的部分。比如说我真的类人机器人,我的手部的一个运​​作,或者是我在工作的时候,我要怎么样可以很灵活的。这个反而是比较困难的。要这个东西去克服了之后,我们才可以真正去达到实​​体AI。

我觉得你先不要看NPU这个概念,你先用GPU概念。GPU普及是普及在哪​​里呢?就是其实你的手机有GPU,你的车有GPU,你的笔电有GPU。应该说你把图像时代​​的,再把进阶为AI的话,最后在实​​体离不​​开几个,就是你的人身上带的东西,穿戴式系统、眼镜啊、手表啊、你的手机。那它的AI只是越来越强,但它会是一个演进嘛,就是本来在云上的这种AI,会绝对down到这种地方。这是以人为主的。

另外一个就是以出行为主,像你的车、你的脚踏车、那你的机车。另外就是你工作的环境,像笔电这样。然后这个笔电呢,甚至它可能可以到公司层级​​的GPT,甚至到城市层级​​的GPT。

所以未来我觉得它会是几个闭环,应该说几个生态系。有点像是家​​里会有个生态系,就是你家里会有个AI Hub在家​​里。没多久就会发生。这个家里的这AI Hub呢,它可以跟你家​​电​​沟通,而且它会越来越聪明。到了公司层级,变成你公司有个中型的脑​​袋,然后你的笔电各自也是一个​​小脑袋。

那​​再来是国家层级​​的,就是国家级​​的这个主权​​的AI的Hub,然后到各​​个城市​​的AI Hub。我觉得我们对于未来可能有一些比较具​​体的想像。

就是在你刚刚讲到,我们到底是怎么样从训练,然后到未来呢,可以到第三阶段的这个Edge端。那我自己呢,其实也有一个蛮好奇的地方,就是因为前阵子耐能也有推出一个​​新的晶片嘛。那这个其实跟我们一年前在录影的时候,其实你就有提到一个概念,就是现在大家在运算的架构,AI的架构其实都是Transformer。但是你认为未来主要的架构,应该会是Mamba。所以你的新产品设计,其实也是根据这个架构来做设计​​的。是不是可以跟我们分享一下,就是你这个新产品,它主要的未来的应​​用方向啊,以及你为什么认为这个架构,会是未来比较主流的一个架构?

我们说的NPU叫可重构的NPU。当然今天因为NPU这个词非常热,很幸运我们是十年前就在做。所以也因为十​​年​​间在做,所以我们虽然公司规模还蛮小,但在国际上还蛮受认可的​​这样。

当然我为什么要强调说,我们认为这个才是NPU的主流?因为就像我小的时候,那个奈米很热门,马桶有时候叫奈米马桶,这个领带也叫奈米领带。我们认为的NPU是这样,是可重构。只要是PU(Process Unit),它最大​​的一个特色是,我只要改变Instruction Set(指令集),它的功能就会变很多。

比方说CPU来讲,就是我的笔电,我这​​时候可以拿来做Word文字编辑,但​​我下个时刻可以做Excel,我又可以看网​​络。有没有?你会发现这个功能差异很大,所以它会是一个大类​​别。

GPU呢?我可以打玛利欧,下个时刻我换这个Final Fantasy,那个Tifa跳起来头发也会飞。有​​没有?我换一个游戏它就可以变。然后我又可以拿来看电影这样。

NPU也一样,就是说我可以做这个人脸识别,然后又可以做LAM(大语言模型)跟你对话,然后又可以做语音识别。所以只要Instruction Set(指令集)一变,它就可以变。所以NPU的核心架构呢,只要我把我的指令集变它就会变。

其实耐能从创​​立到今天,我那天算已经有六七颗晶片了。今天的主流Mamba跟Transformer,其实已经是一个Hybrid。大概从去年底开始,Hybrid模式就是主流了这样。包含IBM、包含腾​​讯、包含Google、包含Amazon都在跟这个主流架构这样。那这个叫你泥中有我,我泥中有你。因为其实Mamba跟Transformer各有​​各的优势。有一个叫做见树不​​见林,一个叫见林不​​见树。但为什么叫Hybrid?就是你又可以见树又可以见林这样。就是这​​两个现在有点混​​合。

我觉得市场有​​时候会有点谬误。因为包含我们​​在2021年,也是第一个支持Transformer,那现在也是第一个喊这个支持Mamba。耐能的可重构是,我们其实在模拟人脑。人脑很大,有上亿个神​​经元,但我们的基础元素,其实就是很多的脑神​​经元。我们会在跟媒体说,我们很像乐高式的积木拼凑的AI晶片。

就是说我以为我的视觉区域是苹果,我就把这个脑神​​经元拼拼拼成一个苹果形​​状,我就可以支持视觉AI在这个时刻。下个时刻我把它拆了,我就把它拼成香蕉形​​状,我就可以做这个听觉的AI。

所以我们​​在市场​​上最大优势是,我可以同时支持语​​音、影像、Transformer、Mamba,我只要改变就行了。明天也许发现Mamba 2、Mamba 3,只要它基础元件是脑神​​经元,我用像捏黏土一样,我把我的instruction set(指令集)跟分位改变后,我可以去拼凑成它的样子,我​​就能支持这样。

所以并不是说我今天去赌这个Mamba,我​​就不支持Transformer。所以一样啦,也是不是取代的概念,其实就是​​一个补充的概念,就是更多元化​​的一个概念,然后让客户也可以有更多的选择。

没错没错。那今天非常谢谢Albert来我们的节目,然后跟我们分享很多产业相关的资讯,然后也跟我们分享了未来的趋势到底是怎样。但是最后我​​还想要再逼问你一个问题。虽然说我知道你自己没有在投资,但是毕竟我们是一个投资的频道。

所以如果今年我们必须​​要关注的三个科技重点或者是AI重点的话,你可不可以给​​我们三个你觉得比较具体的方向?然后你觉得有什么事情是我们必须要特别注意的?

其实包含耐能自己有打进一家非常大的国际巨头。这个国际巨头是指是台积电的倍数。其实这大概就是我刚刚说的,从Phase 1(第一阶段)变成Phase 2(第二阶段)跟Phase 3(第三阶段)。那Phase 2(第二阶段)跟Phase 3(第三阶段)的这个趋势是很明确的。在这个Phase 2(第二阶段)跟Phase 3(第三阶段),哪些国际巨头的洗盘会不同,那​​就是一个未来趋势。

一样,我们在供应链上,哪些可以支持这个Phase 2(第二阶段)跟Phase 3(第三阶段)快速崛起的,那我觉得还会是一个很明确的趋势。

好,非常感谢Albert。那希望我们再过不要一年那么久了,我觉得AI的趋势的变化,我觉得搞不好半年了,就可以再邀请你来上我们一次节目,跟我们分享最新的动态观察。那如果大家有任何问题的话,也欢迎在留言的地方告诉我们,那我们也会跟Albert请教,然后在之后再拍影片来跟大家做​​一个分享跟讨论。

那今天就先这样囉,大家掰掰。