Transcription
大家好,我是主持人陳彥淳,歡迎收看財訊的《聽了財知道》。今天我們要跟大家聊聊谷歌的逆襲,Gemini 用戶直逼 ChatGPT,TPU 挑戰 GPU,AI 的新王者爭霸賽。想知道的觀眾朋友們,請記得看到最後。
今天來賓是財訊雙週刊的主編陳碧珠,歡迎小珠。
各位觀眾大家好,我是小珠。對,最近谷歌的話題真的非常多,超夯的。最近我們同事們也開始掀起一波轉換潮,Gemini 出來之後,大家覺得好用。
感謝頻道會員一直以來的支持,你們的鼓勵是我們深入報導,持續帶來精彩內容的最大動力。歡迎加入頻道會員,或是贊助我們訂閱財訊頻道,和我們一起追蹤政經趨勢,掌握投資脈動。
所以這次我們就要來討論一下谷歌的逆襲。畢竟 Google 這件事情,它不是只有在應用軟體上看起來很強,它甚至也推出了 TPU,它自己的高速運算的晶片。所以它影響到的是,等於是從軟體對應到 ChatGPT,然後它的硬體晶片,它對應到的是 NVIDIA。所以這個 AI 市場的競爭,真的是千變萬化,瞬息萬變。
我們先從這個應用開始講起。Gemini 其實從 1.0,然後 2,2.5,直到 Gemini 3 才開始受到大家的矚目。因為它是號稱現在最 smart 的模型,它在文字、圖像,還有它的影片生成上面能力全面躍升。短短上線 2 週,就是 11 月 19 日凌晨的台灣時間上線之後,2 週內它就榮登 20 大項模型測試裡面的 19 項第 1 名。
還有一個叫做機器人對話競賽,透過各種語言模型盲測,自己彼此打擂台,用不同的生成的技巧去測它,它竟然成為史上第一個突破 1500 分的模型,擠下長期居冠的 ChatGPT。所以我們看數字就可以知道它有多好用。
這個競爭真的變化很快,而且消費者的改變跟選擇也非常快。現在好像沒有一個就是我就是定下來就用這個,忠誠度很高。就像我們在用 Apple 手機一樣,會覺得我好像用了 Apple 之後,因為系統封閉,不太願意換。但現在 AI 還是這個百家爭鳴的情況下,我覺得消費者的忠誠度還不是這麼高的時候,只要有好的,大家立刻就轉換。
對 To C(消費者)來說的話,我們當然就是像妳說的,嘗鮮嘛,然後喜歡看多變化的東西。為什麼這次 Gemini,除了我剛剛講那幾個測試分數非常厲害之外,它裡面還有一個叫做 Nano Banana(香蕉模型)。你只要用文字指令下得對,馬上就可以做出一個非常生動活動海報,甚至把你手寫的筆記轉換出來做一個流程圖、心智圖。不管是時效性上面來說,或者是創作能力上面來說,它都可以降低我們的門檻,甚至提升你的品質。
這也是為什麼大家會覺得說 Gemini,Google 好像不太一樣。ChatGPT,我們記得曾經很紅,就是宮崎駿嘛,對,一窩蜂的宮崎駿風的這個所有圖像跑出來。結果現在這個香蕉模型,它不只是會讓你什麼吉卜力風,它是好像很能理解你要跑的所有概念,可以做好你的小助手這樣子。
對,其實我們可以看得到 ChatGPT 跟 Gemini 用戶的成長曲線,它看起來倍數是落差很大的。ChatGPT 一問世這 3 年,確實還是引領風騷的,就是第 1 名。月用戶量從上架以來,到現在還是 50 幾億(月訪問用戶)。可是就這麼高了,現在看起來成長曲線趨緩,但它還是占據了最大的使用量跟用戶數。
那 Gemini,它一戰成名嘛,我們就去追蹤它的數字。1.0 版的時候可能不到 1 億,結果現在已經竄升到 2025 年第 3 季的時候是 6.5 億。那個幅度就有點像當年 ChatGPT 短短幾個月內就竄出幾百萬用戶那種感覺。讓這個 ChatGPT 的奧特曼就開始覺得緊張了。對,他有說他遇到暫時性的逆風。
對,那這就是像馬斯克,他馬上就在 Gemini 上線不久之後,他就是在社群說做得好。真的,因為馬斯克自己有 Grok,他都讚同,表示真的很不錯。對。
然後第 2 個就是 Salesforce CRM(客戶關係管理)的龍頭,它的執行長貝尼奧夫,他說太狂了,回不去。我才用短短兩個小時,竟然就讓我覺得非常地驚豔。
為什麼這一次 Gemini 會爆發力這麼強?我覺得當然除了它的功能非常強大之外,我覺得有個很大的關鍵是,它其實滿符合大家一般在 Google 搜尋的使用習慣。對。皮查伊,就是最近 Google 的 CEO,他有出來講話,講一個叫「全棧式」這種概念。意思是什麼?不只是它的多模態,它就是無孔不入的滲透你我的生活。
我們現在如果在 Google 的搜尋頁面上面,可以看到是那個 AI 摘要,這就是它用 Gemini 的方式進入到你的使用習慣。沒錯。然後在你收信的時候,也有個叫 Gemini Agent,可以幫你好好的整理你的信件,甚至產生自動回覆的功能。這都是一個你無形之中就被它,就使用到它了。那這個東西就代表它並沒有消失,它是生活在你我生活當中。
第 2 個是精準,就是它的理解能力。這個理解力的強化這件事情,才會是大家願意接受它,相信它,而且覺得它是你很好輔助的工具的原因。對。
那其實過去像我們在用 ChatGPT 的時候,因為就很怕它產生 AI 幻覺嘛,所以通常我 ChatGPT 查完之後,我再上 Google 搜尋再查一次,等於雙重確認。現在 Google 有這個搜尋的引擎,然後我也有 AI 機制的時候,我就完全不用跳出那個視窗裡面,就可以全部都一站完成。對我來說,我就覺得超級方便的。
對,當初 ChatGPT 上來之後,大家也會覺得說,哇,我搜尋資料的模式改變了,會不會影響到 Google 最重要的獲利模式?因為它畢竟是搜尋引擎的龍頭。結果沒想到,它並沒有被取代,甚至用更顛覆的方式回來了。這樣子。
真的,因為我記得 ChatGPT 起來的時候,大家就開始懷疑 Google 說,是不是在 AI 這個領域裡面落隊了。現在一下彎道超車又出現了,還會告訴你說,其實我是被低估的潛在的巨人。它其實是默默的一直在做這樣子。
那這個默默在做的,就是耕耘 10 年的自研晶片這一條路。沒錯。這些下來就要講 Gemini 的強大算力來自於晶片。那大家都會想說,AI 晶片最強就是 NVIDIA 的 GPU。但是,為什麼我們說谷歌的逆襲?是因為這一次 Gemini 的算力是來自於它自己研發的 TPU。TPU 是屬於 Google 的自研晶片。
那我們通常講這種專用片,或是 CSP,就是所謂雲端服務商所自研的晶片,我們就叫做 ASIC,就是專用片的概念。到底 ASIC 跟 GPU 的差異,我們該怎麼樣來看待跟比較呢?
這些雲端業者其實它們長期都有自己的使用者的用戶跟商業模式。以 Google 來說就很明顯,就是它的搜尋。它需要透過這個搜尋去優化它的廣告,然後或是影片也是,它有 AI 翻譯也是從這邊出來的。還有就是拍照啊這些的,就是應用端啦。對。
那其實其他巨頭們,它們也都有在發展自己的自研晶片。也就是因為它們也有自己的商業模式要考量。所謂的 GPU 跟 TPU 為主的 ASIC,你就把它想成是 GPU 是一個萬用刀,什麼都可以剪,什麼都可以切。可是如果當你要切牛排或殺豬好了,就要殺豬刀或牛排刀。對。
專用的話,第 1 個是你很快又到位,第 2 個是你就不用浪費到其他的時間上面去用你的力氣。可是 GPU 這個東西,它就是一個需要訓練大語言模型,這種大數據海量的東西。加上那個 GPU 還有長期的生態系系統,它的軟體是大家已經輕而易舉的都可以拿到的。所以在這個情況之下,GPU 的強大也是無可厚非。
可是這些 CSP 業者,它們因為也有 N 億戶的用戶需要去服務,讓它黏著度提高,所以它們就會開始講,比如說以剛剛妳講殺豬這個,我既然平常就在殺豬,我為什麼不自己用一把殺豬刀?它也不想被 GPU 所綁住。
大家會比較認為說,NVIDIA 的 GPU 是比較是訓練型的,等於是海量資料的處理的時候,是需要 GPU,因為它的算力非常強。當然它也比較耗能,然後成本也比較貴。但是如果 ASIC 的話,因為它是專用晶片,所以它的應用特殊性,譬如說我 Google 可能在運算翻譯啊,自己的模型上,或者是對 YouTube 上面啊,如果需要特別的算力的話,我就 for 它就好了。對。它當然不是所謂的圖形處理器,但是它為了這個功能,它跑起來就跑得特別快,就專用的概念啦。所以它其實相對的成本也比較便宜啦,自己開發。
第 2 個就是說,它限制在於它只能建立在自己的語言模型上,就是因為是我專用,所以我沒有辦法通用。這就是兩條不同的賽道。為什麼會突然狹路相逢呢?因為現在它們不想被(輝達 GPU)卡脖子,而且又有自己的應用需要處理之下。
隨著 AI 逐漸的蓬勃發展,一定會從所謂的訓練到推論。所以這個會進入一個所謂的同時並存,可是又互相分食的概念。基本上如果在 AI 市場的成長的過程中,這個訓練跟推論是並行的。所以大家會覺得現在 GPU 跟 ASIC 是互補性大於取代性。
但是因為專用片的應用是百花齊放。對。以量來說的話,我們也發現 2023-2028 年,以 AI ASIC,就是所謂的 CSP 用的這個,它的年複合成長率是 52%。可是同期喔,GPU 44%。成長率還是都很不錯。但是呢,你可以看到基期低的情況之下,而且應用愈來愈開花,2027-2028 年它是出現黃金交叉的。所以就是 ASIC 的量會超過 GPU 的量。對。
當然如果就價值來說,因為 GPU 其實非常昂貴,現在一台 GB300 大概是 1 億元台幣以上。所以就產值來說,還是 GPU 比較大。但是如果用量來說,是 ASIC 未來會超過,因為它百花齊放。大概是這樣子的概念。
但我覺得為什麼叫做谷歌的逆襲?關鍵在於說,它現在 TPU 不只是自用,它要外賣了。對。這件事情就是震撼業界。過去谷歌它也不是說沒有讓別人使用過,因為它是用出租算力的模式,讓想要使用它服務的業者去使用它的算力。GPU 跟 TPU 都有在租。
可是現在傳出來說 AWS 下面的 Anthropic,它有跟它要合作 100 億美元的算力添購,其中裡面有 40 億,它可能是透過博通要採購,直接採購它的 TPU 晶片。對。
第 2 個又傳出來 Meta,Meta 自己也有自己的自研晶片,怎麼會跑去來跟 Google 買 TPU?而且金額也是數十億美元。這兩件事情都有一點讓人覺得說,不太尋常喔。這更讓大家覺得說,你是不是要改寫原來 GPU 壟斷的一個版圖啊?對。
因為現在大概 9 成以上的 AI 的伺服器的運算,都是靠 GPU,就等於 NVIDIA 的天下。大概就是 2 比 8。可是現在就是情況可能會變成說 4 比 6,或者是甚至 5 比 5。所以等於是 AI 晶片的來源,不是只有 NVIDIA,我在外面也可以買到 Google 的 TPU 的晶片嘛,表示它的算力已經到某種程度啦。
其實這一次小珠有盤點了 Google 在發展 TPU 這件事情,其實並不是一蹴可幾,並不是現在才有。它其實是一個過程,它的底蘊其實非常強。一開始就是 AI AlphaGo 下棋機器人,這件事情就是把它的整個 AI 的地位給奠定起來。對。所以那時候其實它早就在開始在做這件事情,就是因為它不想被輝達給綁住,而且它也覺得它自己有自己需要開發的 AI 功能。
2015 年它做 AI First 這個策略,就是現在 Google 的 CEO 皮查伊開始訂下來的。所以這個 10 年之路看起來漫長,其實沒想到現在就到來。一開始它的起源就是想要自己開發省成本,自有產能的主導優勢。
重點的里程碑。第 1 件事情就是剛剛講 AlphaGo。皮查伊他在 Google 裡面的 AI 的 podcast 就有講,它就是叫 AlphaGo Moment。第 2 個 moment 就是第二代 Transformer。這個東西也很有趣,它其實就是把整個 AI 從以前的影像辨識,改成自然語言的理解時代。這個架構呢,有推了一個叫 Meena 的對話機器人。聽說效能不錯。結果就是因為它們 Google 太保守了,它們裡面就覺得說,如果萬一回答錯問題,那不是會讓大家覺得說我們就是很亂,然後影響聲譽。就先觀望。
沒想到這時候突然 ChatGPT 就捷足先登。結果沒想到它們的對話機器人不但沒有搬上來,甚至呢,連原來的 Transformer 這個模型,一開始應該是它們做的,就被它們整碗端走,被 ChatGPT 拿走。而且很諷刺的是,ChatGPT 的 T 就是那個 GPT 的 T 就是 Transformer。後來呢,Claude 跟 Grok 這些大語言模型,基本上都是架構在這個 Transformer 的時代。對。
你說它不慌嗎?它是搜尋引擎的龍頭,又被人質疑說,以後搜尋根本不用靠 Google。那它怎麼辦?那時候其實它們有 2 個部門,1 個叫 DeepMind,1 個叫 Google Brain。兩個都有自己的一個思路,可能也因為這樣的關係,所以它們的整個管理、研發腳步都一直不同調。
可是有一件事情是同調的。可是有一件事情是同調的,它們在底層的硬體改革,竟然是超前部署。它的液冷設計,跟所謂的光交換,慢慢的推演到現在,成為它的一個秘密武器。
液冷時代我們現在都知道,散熱很重要。對。那時候的時代,還沒有到算力這麼高的情況之下,它就領先業界,把液冷的設計放進來了。那光交換更不得了,因為傳輸就是需要大量的那個訊息傳輸,就是怕延遲嘛。對。那時候它就開發了叫做 OCS(光學電路交換器)。這個光交換,它就好像一個鏡子一樣,可以在裡面透過光的反射,讓你回傳的時候呢,你就不用靠光轉電這一道程序,直接用光。
這項技術是來自哪裡呢?應該是業界都有在開發,可是能不能落地,這件事情就是各憑本事。所以 Google 讓它落地了。對。所以它們很多是領先的。這也是我們後來去了解之後才發現,不管是它的科學,還是它的技術,底蘊是滿強的。對啊。
所以,我原本以為說硬體規格都是由 NVIDIA 在制定,現在看起來不是這樣喔。對。大家都不是省油的燈。它後來覺得自己慢慢的可能硬體加軟體有整合成功,所以它在 2023 年的時候,又發布另外一個 AI 服務的機器人叫做 Bard,想要結合它原來 Google 的平台。結果就因為答錯一題而已,市值蒸發了 1000 億美元。
那怎麼辦呢?那只好就讓 ChatGPT 繼續的引領風騷。這時候呢,它們有一個創辦人就回鍋了,把 Google Brain 跟 DeepMind 整個整合,現在叫做 Google DeepMind。這件事情就打通了它們過去長期溝通隔閡,也打通了它們所有的研發的任督二脈。
後來就在 2023 年,它們終於推出了 Gemini 1。Gemini 1 的時候其實也有一點點小 bug,就是它們那時候在做那個,人像圖形生成的時候,其實有被詬病說,它們好像有歧視的問題。對。然後一度有下架,就是一波三折的。可是瑕不掩瑜,因為它其實基本上練功已經差不多就緒了,所以等於是為後來的 2-3 代奠定了一個不錯的基礎。
那妳可能會問我說,這個 TPU 到底是什麼東西?其實它裡面就是一個矩陣運算,也是一種平行運算的慨念。可是它特別適合特定的模型。我覺得像 Google 啦,或者是像剛剛講那個四大雲端服務商,它們為什麼要開發自己的 ASIC?是因為它們自己其實基本上都掌握了應用端的需求,所以它們最知道它們的需要是什麼東西。
就像以 Google 來講好了,在 CPU 時代,它們就開始懂得怎麼運作分工。Google 是全球很多資料中心,當它理解說我不同的 data,我要不同的受眾的時候,它很早就有運算分工的概念。都是慢慢的匯集出來說,我要開發模型,我就會更知道我的需求。所以這些雲端業者其實它們很厲害是它們的軟體,然後再加上它們硬體如果透過時間的累積,它們的軟硬整合能力之後,其實它們都不可小覷啦。
所以其實最近 Google 也被巴菲特加碼了。真的。就是巴菲特其實在第 3 季財報前,它就已經購買了大概 43 億美元。這件事情也引起大家的注意。後來 Gemini 3 上來之後,果然被認同了,市值也僅次於輝達跟蘋果,一掃當時的陰霾啊,又有巴菲特的加持。磨劍 10 年終於被看見。Google 不發則已,一發就不可收拾。對,一直來這樣。
但我很好奇,那 NVIDIA 的黃仁勳怎麼回答這個問題呢?其實黃仁勳在公開場合一直都有被問過,你怎麼看 ASIC?他也不諱言這個是對他來說是有競爭強度的。不過他也很自豪,我們有自己的通用的優勢,部署快,這件事情其實是很多其他 ASIC 無可取代的。也許我比較貴,可是他也曾經講過,你可以愈買愈便宜啊,愈用愈便宜,愈划算,因為效率很高。他的意思是這樣。
所以我覺得這個競合,基本上大家都有自己的視角。但是我覺得最終就是落地,一定會愈來愈快。最後還是看消費者的選擇,就是消費者選擇要用哪個系統,或是他覺得哪個軟體最好。那我覺得雲端廠商因為它有消費端的優勢,所以它可以自己做這件事情。
但是我覺得 NVIDIA 最近也做了非常多生態圈的架構。它其實包括之前跟 OpenAI 的合作,最近一次是跟 AWS,又透過 NVLink 來合作。所以不要以為 AWS 跟 Google 買了 TPU,就覺得它好像就不買 GPU。不,並不是這樣。即便連 Google 自己,它還是持續在買 GPU。對。
皮查伊他在 podcast 裡面就有講說,當然是非常自豪說它們的 TPU 開發得很成功,可是它們因為「全棧式」的策略,事實上它們也是同時在加碼投資 GPU 這件事情。對。所以這個 AWS 跟 NVIDIA 合作,用 NVLink 把它們的晶片做一些整合,這是一個混合雲的時代。其實黃仁勳他很早就知道說,如果我一直封閉,一定是不行的。當然他以前是用它的生態圈,綁住它的護城河,可是它適度的開放,也是他聰明的地方。
現在它的 NVLink,雖然目前看起來好像也沒有聽到太多的迴響,可是事實上鴨子划水的動作的業者其實滿多的。對。
那第 2 個再看模型。長期久占逾 50 億用戶的 ChatGPT,就是這麼高了。那其他在幹嘛?當然除了 Google 之外,也有其他想要競逐這個賽局的不可忽視的潛在者。不要忘記 Grok 喔。
我覺得馬斯克的 Grok 真的很有趣。我們剛剛有講就是 AlphaGo,其實讓 Google 奠定了 AI 鼻祖。那時候太驚人了,你竟然可以用 AI 扳倒韓國棋王。現在電競的時代,那個馬斯克他竟然也要宣戰,他說明年我要用我 Grok 第 5 版,大家記住是 5,他說我要挑戰現在電競英雄聯盟的最強戰隊 T1。想到這個畫面我就覺得很像以前 AlphaGo 那時候要挑戰棋王那種感覺,新時代的新挑戰。
但是我覺得還是要提醒各位觀眾跟聽眾,有時候在 AI 搜尋的時候,那個辨別真偽,我覺得還是滿重要。就我們在大量使用 AI 的時候,常常發現它其實裡面也會藏一些錯誤。適時的要做一些查核跟識別。就是很多東西你可能看了之後,你不知道那是 AI 做的假訊息。這件事情我覺得還是要提醒一下我們的觀眾跟聽眾。
可是我覺得真正的影響,其實是在生產力端。其實我們現在常常在公司用的軟體,以後也會發生質變。這一塊其實我覺得才是它們雲端服務業者,甚至就是黃仁勳它們硬體業者,最後比拚很重要的一個市場。對。就是真正能夠提升工作效率這件事情,才是大家覺得對生產力是有幫助的。那這個都是以後講 AI 代理、機器人這個格局會玩的事情。我覺得好戲還在後頭啦。真的。
AI 戰爭還沒有結束。不要忘記我們台廠的角色喔。我們台廠是所有晶片製造、落地應用製造的大本營。所以台廠的角色是否能夠迎來新的商機?這個部分是屬於會員影片的內容,我們預計在 12 月 10 日,禮拜三播出。歡迎大家加入財訊的頻道會員。
那接下來我們要回覆一下,財團在《聽了財知道》第 284 集裡面,記憶體重返榮光,台塑集團為何逆勢減碼裡面的留言。這個是財團 geniuspu。他說從 2018 年被動元件之亂的歷史,我們可以大致預測 DRAM 業的未來路徑。類似的背景就是領先群會轉向高價值產品,那落後群呢,就會撿到低端暫時性的供需失衡。值得注意的是,這個落後群中只有國巨是走在正確的道路,內部體質變強,連外部賣相也變美,值得經營者學習。
我覺得他講的確實是這樣沒有錯。國巨相對於其他台灣的同業,它已經不是台灣的國巨,它是全球的國巨。沒錯。對啊,這個其實我覺得它就是內外兼美的概念沒有錯。
再來就是 KC Lai。他說台塑集團轉型之路已經醞釀幾年了,這個規劃靠著這一波記憶體漲價來完成嗎?如果是這樣,那只能是台塑集團有幸運之神的眷顧囉。那散戶股東們就自求多福。不過轉型之路的確需要花一點時間,就像妳看,剛剛我們分享 Google 的事情,它之前也是 10 年的轉型之路跟發展,中間也很波折,被人家笑。沒錯。我們就不要太快下判斷。
第 3 個叫蝦趴。他說想想啊,力晶跟茂德歷史告訴我們,記憶體有需求週期的問題,所以呢,它會有很高崩盤的風險。我同意啦。對。所以我們一定要好好的去檢視背後那個結構性的改變因子,到底是真的驅動力,還是只是短期的因素。這件事情我覺得也是值得我們好好的透過專業的採訪來完成的。對。
當這個時機大浪來的時候,有些人賺到機會財,有些人賺到升級財。那最後升級財的人才會留下來。所以就要仔細的看這公司的結構的狀況。這件事情非常重要。還有就是財報數字同步的檢視。對。
那財團的 Everything is possible! 應該是這一次 DRAM 週期過後,南亞科可能就變成雞肋了。畢竟對岸的 DRAM 產業已經起來了。等這一波過後,台灣的 DRAM 產業應該是後續沒有競爭力,變成技術領先的美光跟三星還有海力士,跟對岸的傾銷中低階 DRAM 顆粒的態勢。
某個部分我覺得要看週期反彈的幅度有多長,還有時間有多長。對。畢竟 DDR4 是因為供需不足的問題,也不是真的是技術升級這個潮流。我們也必須要瞭解,就是現在還有一個地緣政治的問題。所以很多的面向,還有很多總體因素這個東西。我覺得的確就是說 DDR4 其實是一個即將被淘汰的產品。就長遠來說,還是希望南亞科可以做技術升級。對不對?大概是這個概念。
好,今天非常感謝小珠的分享。如果想瞭解更多的內容,歡迎點擊資訊欄裡面的文章連結,或者購買財訊第 752 期雜誌。歡迎大家加入財訊的頻道會員,跟我們一起追蹤政經趨勢,掌握投資脈動。謝謝小珠。
謝謝大家。