📱

Get Our Mobile App

Take your business learning on the go!

Download on the App StoreGet it on Google Play

台灣AI生存危機?軟體人才被掏空,護國神山淪為代工廠?建「AI開源國家隊」有解嗎?| 思想實驗室 Video Podcast ep66:ft.台灣大哥大資訊長 蔡祈岩

知識長國威・思想實驗室 Podcast40:52

Transcription

哈囉 歡迎來到思想實驗室。

今天的這一集,是我們上次邀請到我們台灣大哥大資訊長蔡祈岩 Rock 來跟我們聊的下集。在上集的時候呢,我們已經聊到他對所謂的主權 AI 到底要怎麼規劃,對於我們臺灣的算力有什麼樣的建議,比如說要做這個基礎建設,應該要怎麼樣的安排,已經分享了很多深入的一些想法。

接著我們要再進入另外一個部分的重頭戲,也就是 Rock 甚至認為說,我們臺灣可以透過算力,把我們的影響力往全世界延伸。而這個做法,就是在海外建立算力的中心。這個到底要怎麼做?Rock,您的想法是什麼?

上一集我們有聊,用全球的上帝視角來看,最適合建算力中心的,尤其是 GPU 算力中心的,顯然不是臺灣。

對對對,所以一定有更多適合的地方。甚至有很多野心勃勃的國家,它可能有錢也有企圖性。那事實上臺灣有很好的算力代工產業,不管是從晶片到組裝代工這些伺服器,到甚至這些伺服器怎麼維運,怎麼安裝,對能源管理、電源管理什麼,其實我們有一整套。我們講算力代工這個產業是很強的,所以全世界不管哪裡要蓋,臺灣都是不可或缺的角色。

的確是。我們應該也不是只是單純的代工角色。事實上代工角色,你做到極致,你對那個品牌,對你的客戶是有很大影響力。所以臺灣其實我是覺得,應該不要錯過這一波,在全世界各國都被 Jensen 吹起來,大家都要蓋這個 GPU 算力的這個風。其實我們應該積極的去看,怎麼去創造一種新的模式,能夠讓我們在全世界的算力池有角色。

我舉個例,現在算力池蓋最多的,其實是美國跟中國。那雖然中國有受到管制,但是它相對量體還是大。現在有哪些地方其實缺算力?第一個,全世界的學研機構,很難玩那個大型語言模型,因為任何一個實驗室,任何一個大學,它沒辦法買幾萬片 H100 來做。它甚至想租都租不起。可是其實很多頂尖的 AI 人才,是在學研機構裡面。當然也有很多,我們講說發展中國家,它一時也沒辦法蓋這麼快。或者我們講說美中之外,其實大家都有這個需要。臺灣何嘗不想要有一個國家級的計劃,想辦法如果有個十萬片 H100 GPU,我們來訓練一個我們的模型?是可行的,我們有這個技術,有這樣的人才,有這樣的企圖心。只是你現在叫我為了這件事,搞十萬片,這個不知道搞到什麼時候。

所以有沒有可能,臺灣在這個佈局裡面,也許用一個聯盟的方式,有點像算力調度。也就是舉例來說,馬來西亞如果有蓋算力有一萬片,這邊臺灣有這個五千片,日本有兩萬片,哪裡有多少片。大家如果有一種聯盟的方式,有點像挖礦。事實上挖礦就是一個,全世界所有的礦石,一起努力去找那個質數。所以一樣的道理,就是也有可能可以把臺灣,因為算力代工的角色,我們在裡面一起跟,比如說 NVIDIA也好,或其他的這些雲業者,我們一起合作,然後去籌組一個美中之外的聯盟。大家可以在裡面一起去調度這個算力,來支持全世界的學研單位,可能是為了 Open Source,大家一起用。

是美中之外的第三勢力,有點像太空計劃。如果只有美國能夠發射火箭,那其它也可以聯盟聯合起來。那我們誰來發射?誰來造衛星一起弄?這好像什麼東協,或是歐盟的概念。或者說算力的第三條路。與其說是為了一個國家,也不一定是為了一個區域,而是為了一個共通的,比較中性的一個目標。比如說馬來西亞,或者說日本,或者說我們大家的學研,大家都需要算力。但是它們的算力,這個各自買不起,也租不起。所以我們就湊一湊,合租或合買,由臺灣來當莊,或者說多出一點力,或者我們扮演一個角色。

比如說我們想像就是說,如果我們在全世界可以形成這樣的聯盟,那有 20 萬片 H100。那事實上可以成立一個 Committee,來 review 說,全世界有哪些研究案,那大家覺得優先順序怎麼樣?有點像以前超級電腦的概念,我們一起弄一個超級電腦。那有別於美中的,那是一個第三條路,或第三條路線。那也許是更屬於普及的,更屬於開放自由的。這裡面也許我們更傾向於去支持學研,因為學研有大量的人才跟創新,可是它們沒有算力。那我們來支持它們。那這個科學共同體,早就有很多 review 機制,也不用大家傷腦筋,就哪一個研究計劃,哪一個是大家覺得最有希望,或怎麼樣。那我們這個超級算力,我們來 support 誰,讓誰用多少時間,可以協調。

對。因為其實現在這個事情,如果要想像或類比的話,會比較像是 Mark Zuckerberg,他跟他太太,這個有成立一個 Chan Zuckerberg 基金會。那它們當然有很多算力嘛,所以它們就會讓它們支持的這些科學家來用它們的算力。然後也有像 Google,Google DeepMind,或者說它們本來就支持很多的科研的機構。

我會這樣想像,就是臺灣會是另外一個角色。那當然它可以是一個,跟其它非營利組織,或是所謂的學會,很多的 academy 的這種,比如說化學學會啊,國際的物理學學會啊,半導體學會啊,就是說這些學會之間來合作,來提供這樣子的算力。你如果把 GPU 的算力池,想成新一代的超級電腦,尤其在 AI 方面的超級電腦。那事實上這個超級電腦,現在的量體,已經超過絕大部分國家,單一個國家可以蓋起來的。

對。你說 20 萬片,哇,那哪一個國家,一口氣狠的下心幹下去?不是你買不起,是你這計劃怎麼通過?蓋來幹嘛?沒有那個應用嘛。你可能也沒有那個人才。這雞生蛋,蛋生雞的問題。學研機構也沒有那個計劃說,你有那麼多語料,有那麼多人才要搞一個跟 ChatGPT 或 Gemini 能夠匹配的這種大型語言模型。你也一時拿不出來。但是如果你放眼全世界,在美中之外,事實上是有歐洲也好,亞洲也好,有大量的人才,有大量的學研機構。大家分擔個五千片,一萬片是沒問題的。湊個二十萬片,這個也是一個規模了。

那麼從全世界的學研單位,這裡面一定有很多已經 ready 的計劃來用。那做出來就是 for 全部的人類用嘛,我們開源嘛,它就是個科研嘛。對。

的確啦,就像 Rock 剛才講的,它有點像太空計劃。譬如說大家一起蓋太空站,我們要探索資訊的最深處,所以我們必須要有這樣子的算力。對啊,有點像韋伯望遠鏡。

對對對,的確是這樣。大家一起照。對。大家不一定知道,臺灣的中研院天文所,其實支持了很多在世界各地的望遠鏡的建造。在智利就有,還有在格陵蘭,都有太空望遠鏡,然後共同參與黑洞的研究。之前黑洞拍到照片,其實臺灣的中研院算是主要的參加者。所以我覺得這的確是一個非常好的切入點。的確臺灣有這樣的一個利基。

不過我覺得比較麻煩的就是,因為現在這些算力代工商生意太好,就是你得把這個計劃兜起來。這件事情還蠻難的。我想請教 Rock,你們有打算要來兜嗎?還是說你現在是覺得,先把這個 idea 拋出來?

老實講,這個就有點超過 IMA 協會的能力所及,因為這個就太大的計劃了。但是我覺得這個問題不在,臺灣現在在這裡面能夠吃多重角色的問題,而是這是一個全球的需求。這需求是真切存在的,就是學研單位真的沒有算力可以做。它們搶不贏那個 Google,搶不贏這些大的 Big Tech。真的也就有人才。大家來兜這個是可以解決大家現在各自蓋,蓋起來其實不知道怎麼用的問題。

我講真的,不要說臺灣,我們把臺灣拿開。你說馬來西亞,新加坡它弄了兩萬片 H100,然後呢?誰來用?它國內的學研單位能用嗎?用得上嗎?然後再來,它真的要幹,它兩萬片也幹不贏 Meta,或者是這些現在都已經在喊一百萬片了。所以它也幹不贏。但是如果你加起來,大家就有的玩。

所以這件事也許可以當做一個國際合作的一個倡議。臺灣早一點去倡議這件事。那我們畢竟還是有影響力。你說誰能夠見到黃仁勳跟他談?那臺灣的這些大佬們是有機會的。能談嘛,我們也手上有一點籌碼可以談。促成這件事,我們並不是只是為了臺灣,這是為了全體人類。當然我們有一個,不知道算陰謀還是陽謀,我們都希望說能夠把臺灣的影響力,透過這樣子的一個計劃,一個倡議,然後結合我們的優勢,把它傳播出去。

聊完這個 idea 的時候,我就覺得說,感覺某國會先來做這個事情,這個算力一帶一路之類的。但是因為有天然抗性。我的意思是說,某國這樣做,另外一個某國就會反對。所以會有一個最後形成的共識,就是兩邊都各自玩。那剩下的空間,就是第三勢力可以發揮。因為這個第三勢力,我相信兩邊都會希望它是中立的。

的確啦,我覺得這個非常符合我們思想實驗室的一個主題。它真的是一個很好的思想。這是腦洞大開,但是又很想做做看,又很想看到它合乎邏輯,合乎邏輯但出乎常理。

那接下來我覺得有一個重點,是上次 Rock 來的時候有聊到,其實也是我最近一直盤旋在我的腦海當中的一個議題。因為我昨天才看到一個新聞,就是應該是瑞士吧,它們也推出了自己的一個開源 AI 模型。今天我看到的新聞是,我們今天錄影的時間是 9 月 10 號,看到這個新聞是艾司摩爾 (ASML) 投資了 Mistral,這個法國的 AI 公司。大家知道 Mistral 嗎?很多優秀的 AI 模型,而且老實說是沒有落後於這些美國或中國的主要競爭者,可以算是歐洲的大語言模型的代表。你用中文去聊,其實它的回應品質也是非常好。雖然我們用的機會比較少,它也有開發這個 APP,或者說網路的這些介面,大家也可以去玩玩看 Le Chat 法文。

所以開源這件事情,我們發現在歐洲玩的風生水起,我們發現在中國,也是它們的國家主要戰略。我們發現在美國,不管是說 LLaMA也好,或是說剛才 Rock 提到 Google 也有 Gemma,各種這些開源模型,大模型小模型。開源這件事情,為什麼 Rock 你會覺得是臺灣也該積極投入?

有幾個原因。第一個原因我覺得是回到,假設談十大建設,或者我們現在談 AI 在臺灣的推動這件事,我們會發現其實有個根源,是我們繞不過去就是人才。我講真的人才這件事,我們是不能不面對的。其實我們在人才方面,是很大的劣勢。包括少子化,包括確實臺灣的軟體人才,在過去幾十年,大量的投入在硬體製造。我們真正的軟體公司很少,我們培養出來的第一流的軟體人才,在臺灣的軟體公司服務的更少。要嘛就是到高科技製造業,去做硬體,要嘛就是到美國,或歐洲的這些 Big Tech 去工作。

最關鍵的是最後,我們要有東西做出來。而這要做出來就是人才。我們講的這些人才,不是說我們今天有個職訓中心,或者有個三個月的轉職訓練,然後對 AI 有基本認識,能夠使用 AI 這種等級的人才。不是這種人才。我們談的是那種科研等級的人才,或者是真的能夠,就像剛剛你講的,法國的 Mistral,這個在全球的大型語言模型,是排得上號的。指的是能夠做出那種模型的人才。那這些人才在臺灣是很缺的,不但缺,也沒有舞臺,也沒有造就他們的場所,他們也沒有練兵的地方。

在臺灣推開源文化,有一個很重要的目的是要培養人才。第二個當然就是說,推開源的目的,開源可能是大家的公約數。那我們應該要加入這個,已經在全世界現在越來越強,這 20 年來是越來越興盛。那我們其實應該要加入在裡面,然後跟國際連結。

可是我們一般人聽到開源,就會覺得又沒錢賺。是啊,對,就是說,是啊,這不就結束了嗎?臺灣人最重要就是要賺錢。這沒錢賺的事情,你說企業要怎麼投入呢?因為這些高等級人才,他有很多賺錢的方式。怎麼鼓勵大家做這沒錢賺的事情?直覺來說,開源就是免費,等於沒錢賺。可是你再往下看,全世界有很多案例都不是。比如說 Linux Foundation,很多錢。我的意思說這個基金會很多錢,很多企業贊助它。第二個你看 Red Hat,它也是從 Linux 這個開源的軟體裡面長出來的一家公司,它也很賺錢。那 Mistral 也是做開源的,可是這家公司是有市值的。為什麼艾司摩爾還要投資它呢?因為它還是有影響力的。

所以開源,你只能說它的 Business Model,開源是個生意,開源是個策略。看起來是免費,但事實上它不代表它沒有經濟價值。只是它的經濟價值,不是那麼直覺說我讓你買一套,賣一套軟體拿多少錢。用這個算法,用傳統說賣版權,賣授權,它不是這個傳統的做法。那有很多個 Model。比如說雖然軟體是開源,但是你需要 Technical Support,你需要技術支援,那 I 收技術支援的錢。第二個,雖然是開源的,但是對我這一家公司來講,我在走開源,事實上我是要用它,彙集全人類的智慧,然後掃平路上的競爭者,而我一路的追著它跑。最終它快要修成正果的時候,我在上面,在這個修成正果的果實上面,長出一個服務。我可能長出一個商用版,我可能長出一個技術服務公司,甚至也有可能極端一點,我把它又變成閉源,就是到某一個版本之後,它就變閉源。有好幾種模式是可以變成生意。

那當然也有一些開源,你說 Linux Foundation,它從頭到尾就沒有要賺錢。但是為什麼那麼多企業會贊助它?所以有的時候,某一些企業去贊助或投入開源,它不見得是要把這個東西當產品來賣錢,而它是在整體戰略上。有可能它是一個補短板策略,有可能是一個 me too 的策略。比如說以臺灣的場域來看,就是我可能是一個做硬體的公司。那可是我的硬體呢,我知道這個東西最後要靠在上面執行的軟體,來讓它發生作用。可是這個軟體我不擅長,我也不可能養出一個團隊,這個部分的軟體搞到全世界第一名,我做不出來,我比不上那些現在領先的。但是我的策略是,我專心做硬體,同時我拿一部分的錢,去支持在這個硬體上執行的軟體,讓它開源。然後我把我支持這個開源的軟體,這條路走到世界頂尖。那意味著什麼?反正大家在軟體上都打平了,但我可以賣硬體。但我的硬體比你強,然後我硬體因為這個軟體的進展,所以它好用,我不會被軟體鎖住。

你可以想說,如果臺灣有一天,有人要做這個 5G 基地台,這種基站設備。那 Sony Ericsson, Nokia, 華為,它們既有軟體又有硬體。那臺灣其實要做這些天線,做什麼硬體沒問題。問題是上面的軟體,我們長不出來。那我們要不要去支持一個開源的?你說這個東西,我一年花個一億兩億支持開源,對我的產值來講這很小。但是如果我能夠把整個東西,變成一個開源化的,也就是以後最好用的這個管理基站的軟體是開源的。我跟你華為,Nokia,Sony Ericsson,我純比硬體製造。那我有優勢。那我就戰略上用軟體,用開源把軟體的差距打平。

這個叫做電信的話叫 Open RAN。

Open RAN。對對對。聽過這個事情。當然這個不一定是好的例子。我指的是說類似這樣的例子,它也可以是一個,有點像這個叫什麼,我們開一條支線,長一個盟軍的概念,或者圍魏救趙。因為其實我們在很多的科技競逐上面,的確會看到這樣的一個策略。因為 NVIDIA 它有 CUDA,它有這個護城河。所以這個 AMD 就跟其它的一夥人,開了一個很,弄一個開源,用一個開源,就是打破被這個對手的軟體生態系統,死死的壓住的問題。

那我怎麼辦對不對?因為這個控制在對方手裡。那我就開一條開源的路,我去支持,讓這個開源的路去突破那個事情。我們其實做開源,是為了要解決人才問題。從國家層次看是這樣。那解決人才問題,然後要誘惑臺灣的硬體廠,來支持開源。就是剛才這一套。就是因為讓它們理解說,你這樣子可以有一個支線,來幫助你們解脫束縛,或拒絕綁架,甚至可以未來有自己的發展。用這樣的方式,來讓這些現在賺得亂七八糟的硬體廠,可以願意來投資在這上面。

你就想另外一個例子是新能源汽車,或電動車。那電動車裡面,我想軟體最重要的,可能是自動駕駛技術。那自動駕駛技術,如果臺灣的硬體廠都沒有,那你要接代工,這就很困難。因為就是由特斯拉,或者是中國的一些品牌公司,假設它擁有這個軟體。那它不一定要外包給你,它不一定會給你。但是如果有一套 Open Source 的自動駕駛車,是非常強的。那其實在戰略上,打平了這些品牌廠。那麼剩下的就是,反正就回到那個,像手機或桌機筆電的那個年代。那就比製造,比運籌管理。那臺灣在這邊就也許有優勢了。也就是反正誰都能造,因為自駕車的軟體是開源的。那剩下的就是比管理,比製造。那我有機會。概念是這樣。

對。某方面來說,NVIDIA 也開源了很多它的軟體,它也做了很多這些事情。所以開源其實是一個戰略,它不純然是個公益。但它的結果,大家都是想要為了這個戰略服務。但是這個戰略的結果,其實是促進,不管是解決人才問題,或是整個文明的問題,可以透過這個方式來應對。這也是 Open Source 當初的意義。它當初在二十幾年前成立的時候,它就是要打破這種商業巨頭的壟斷。因為當時就是越來越多的這些作業系統,它的那個市佔率越來越大。那這個各國政府的這些反托拉斯 (競爭法),它不一定能夠解決問題。關鍵在於這些軟體是閉源的,而且這些軟體影響力太大了。那怎麼辦呢?於是就開源的意思就是說,那大家做一個打破這個壟斷的方法,在技術上打破,而不是在政府的公權力上面去限制。

但感覺 Rock,您作為一個企業的高管,照理來說通常這樣子層級的人,不會對於開源這件事情,有那麼大的熱情。因為我很少聽過企業的高管,在那邊講開源的。為什麼您對於開源這件事情,好像特別有熱情?

就是雖然是資訊長臺灣很多,但是我可能是比較少數的資訊長,是從小就寫程式。對,母語是 Basic 這樣。所以因為自己寫程式,一直都有夢想。寫程式的人大概都有這個夢想,就是如果我這個程式寫的很好,我希望更多人用。有時候不是為了錢,就是為了更多人用,我就會覺得成就感。對,有成就感。然後我也很希望大家的 source code 可以互相看。像我們在寫程式的人,很重要的養分,其實是看別人的 code。因為你從裡面會學到,它原來也可以這樣寫。那有時候自己解了一個,用了一個好方法,你也希望說讓大家看一看。沒有別的目的,就是共同學習成長。

加上我自己因為這樣,我也看到在企業裡面,以台灣大哥大為例,為什麼我們會想要推 Open Source。就算不是為了說什麼戰略什麼什麼, Open Source 在我公司裡面,這個精神去推,是有助於提升我們內部的軟體品質的。我們把這個叫 Inner Source。就是我這個東西不一定要 Open 出去,可是我要用 Open Source 的方法跟流程,來管理我的內部的軟體。什麼叫做方法跟流程或精神?就是你知道 Open Source,你要 Open 出來,你的 source code 要開出來給所有人看。對。所以你在裡面寫歪七扭八,因為你這是要貼出來大家看,那你要整理的很漂亮,要不然多丟臉。然後你裡面的條理要分明,就好像你說,我今天要把我家 Open House 出來,讓朋友來看,那你打掃乾淨,然後裡面的設計應該要很有邏輯,很有道理。

當我們 source code 要開源出來給大家看,其實是給大家品頭論足。工程師就要把它弄得好好的。那弄得好好的這件事本身就是品質。那如果你沒有開源精神的時候,那個軟體就是,有點像那種中式廚房,做出來的菜很好吃,但是廚房不能看。

黑盒子這樣。

對對對。就是我的軟體只看它能執行,但你不能打開來看。裡面可能亂七八糟。能動就不要碰它。對。然後裡面可能很多不合乎這個寫程式的這種邏輯的寫法。很多可能是硬解的,可能它的程式寫的是有問題的。它算出來數字超過某個數字,什麼計算就會錯。那它可能在下面補了一個補丁。如果遇到那個狀況,就輸出另外一個答案。它可能裡面有一堆 if then else,就是用各種判斷去補丁,補到一個大部分的情況它是對的。然後你驗收的時候,你也看不出來它有問題。但是它其實不是一個正確的演算法。

如果在企業內部,推這種 Inner Source,其實對我內部的軟體品質就會提升,對我的人才養成其實是好的。的確喔,就是說我對內也用這個方式來練兵,對外我可以提升我們工程師,他的成就感。不管是我們寫文章的,或是工程師寫碼的,大家都想要獲得社群的認可。

沒錯。這個其實是蠻重要的。但是只有台灣大哥大做也不行。那要怎麼樣讓更多的公司,包括您剛才說的這些硬體公司願意做?我知道剛才有講到誘因,但是實際上還是要有一個 push,還是要有一個 initiative。比如說像剛才講,我們要有一個 Taiwan Tongues 的這個 data set。你就推了這個 initiative。那這件事情要怎麼?

第一個,這個造成這個滾雪球效應。做這件事比 Taiwan Tongues 是更難。IMA 協會,有另外一個 project 叫做 Open Source Team Taiwan。那這個概念是這樣,就是說其實如果我們講 Open Source,大家都 Team Taiwan,其實大家都用 Open Source。可是我們現在談的 Open Source 不是去用 Open Source,不是拿來用,而是我們得參與,我們得貢獻回去。就是你拿來用那個東西是誰做的?對不對?那是全世界的 Open Source 社群貢獻給你的。那臺灣不應該當一個拿來主義,就進去用拿來用,說我有用 Open Source。不是,你那個叫叫做拿來用。我們應該參與。

而參與這件事,它必須拉到國家層次。因為單一企業層次,你只能憑那個企業的經營者有沒有遠見。那拉到國家層次的關鍵在,我們現在談 AI, AI 最重要的軟體人才,軟體人才。我們現在在臺灣是沒有場域可以練的。我們有 Open AI 嗎?沒有。我們有 Google 嗎?沒有。我們有國際級的大語言模型公司嗎?沒有。我們甚至連世界級的應用的 AI 的公司都沒有。那請問這些人才去哪裡練兵?沒有地方。

而 Open Source 是一個好的地方。因為那裡有全世界各式各樣頂尖的專案。我們的人才如果進去參與,第一個,他練到最新的技術。第二個,他有國際的連結。因為在那裡面,你會認識很多各國的一起貢獻的人。第三個,你會有影響力。這個人才他會得到一個內在的驅動力。因為他在裡面,這有點像玩遊戲一樣,吸引人打 game 的,有時候不是那個聲光效果,而是你在那個虛擬世界裡面,你的人設,你在那裡的影響力,大家認可你。對不對?大家說你是厲害的。對不對?然後這個打魔王要找你一起去組隊,要找你。你那個也是真實存在的感受。而那種感覺其實會形成一種 motivation,讓人更投入在。我們講說遊戲, Open Source 也是一樣。當他參與在裡面的時候,他得到星星,得到大家 feedback,覺得很好,很多人在用,他就會產生動力。有時候比公司給他錢更有動力。他願意加班,願意那個半夜三更在那邊弄,就是為了服務那些網路上的那些社群的人。

這個東西對國家在現在,臺灣沒有這麼大的軟體公司,沒有這麼大的場域下,我們要練兵,這是一個唯一的出路。另外就是我們的,大量的高級軟體人才,現在是被鎖在各個現有產業結構。簡單講,他們可能在很賺錢的硬體公司上班,但是他其實是個軟體人才。他平常工作的時候,他只能做他公司今年賺錢的事情, which 可能是硬體。可是他空有一身武力,他這個再過五年十年都不用,他就荒廢了。現在的狀況是有些人在工作之餘,就會去貢獻。但是如果公司也能夠贊成鼓勵,國家有一些政策去推動,不要偷偷摸摸做,只花自己的時間。

對。國家如果在比如說研發投資抵減,租稅優惠上面,能夠給一些鼓勵。如果你們這些公司,能夠參與一些 Open Source 專案有所貢獻,那我願意對你有一些優惠。那鼓勵這些公司,在它裡面的員工如果有熱情願意的,公司會願意說,那沒問題,你一個禮拜可以有一天兩天你去做,或者你為了去參加一個國際的 Open Source 研討會,公司願意給你出差去。這很好的認可。對。事實上大陸很多公司現在是這樣做。那我老實說,這個是可以值得我們看,要學習的。

對於這些公司來講,當我們這樣做的時候,就像您剛剛提到 Mistral,當初是怎麼成立的?也就是因為法國的開源文化,非常的流行。它們的底層,從國家,從這個大學,從人才,不管在各行各業工作的軟體工程師,他們都有一顆開源的參與的心。因為這樣,他們每天常常泡在裡面,他們就有那個嗅覺。當 Generative AI 出來的時候,他第一時間覺得這東西是要做的。第二個,他有那個能力,已經泡在那裡面。再來,他有國際連結。當他要決定說,我要做一個 AI 模型,而且是開源,他能夠找得到世界各國,他可能剛好你要從 DeepMind 離職,你要從 Open AI,不然揪一揪,我們來弄一個團隊搞。他能有那個國際連結,很快把團隊組起來。組起來以後,他能很快的找到創投。而這些創投是懂 Open Source 的,因為它們知道這是一個可以賺錢的生意,不是以為它就是免費的做公益。因為你事實上看 Mistral,它的投資方一定賺錢,它是賺市值。所以創投公司包括政府,它可能也會看得到這個價值。它第一時間就會願意說,你有這樣的團隊願意做這個,這個 project 不錯,我投資。那它很快就會長起來。

為什麼我說臺灣真的應該要跟法國學習。我們現在用 AI 最流行的這個平台,不是 GitHub,是 Hugging Face。Hugging Face 就是法國團隊創造的。

蛤?是喔?

不是美國也不是中國,是法國的。對。那為什麼呢?很簡單,因為一樣的道理,就是那群人他整天泡在 Open Source,他有國際連結。所以他第一時間,當 Generative 生成式 AI 出來的時候,他們就發現說,這個 AI 模型用在 GitHub 是不夠的。當它開源要共享,它放在 GitHub 有問題。因為 AI 模型需要有地方可以讓它運算,而你拿一個 Open Source 模型拿回家,沒辦法算,因為 GPU 不夠大,你算不了。所以事實上 AI 模型需要演示,需要能夠去讓大家,有一個 server 能夠試,才能知道你這東西好不好。所以它就會發現 GitHub 有個短板,做不到這件事,需要一個新的平台,是專門 for AI 模型 Open Source 用。他這個嗅覺很關鍵,他泡在裡面。第二個,當他想做這件事,第一時間他找到全球頂尖的工程師搞。第三個,他找到錢,因為本地的創投啊,土壤啊,這個圈子啊,能已經理解這個 Open Source 是個生意。所以他很快的速度,彙集了人才資金,然後在對的時間點切進去。要不然 Hugging Face 這個 Business Model 很簡單嘛,但是你只要晚它半年做,你就沒機會。就抓住那個時間點。這個東西就是法國做了十幾年,開源文化這個底蘊。我覺得這片土壤肥沃,所以它就能夠長出來。

逝者已矣。臺灣如果現在開始做,從政府到企業到民間,大家一起來推。那我們的確我們可以期待五年,十年,我們這個土壤會夠好。土壤夠好,也許下一代的 Hugging Face,就是由臺灣人的團隊創造的。下一代也許我們就會有更多的角色。

Open Source Team Taiwan 的角度就是,從這個精神。所以我們想要去從 IMA 協會發動。那咱們找到,現在臺灣已經有 4、5 萬人在 Github 在上面做一些參與嘛。那我們找到這些人,那裡面認真投入的,我們把他們找出來,那頒獎給他們,或者是把亮光給他們,給他們舞臺,讓政府看到。那麼另外一方面呢,也可以來組織,希望他們本來是零零散散,我們講說散兵遊勇,在各個 Project 做。那是不是組織起來?也許有一些企業是願意贊助的,它們希望做它們的題目。那咱們能不能媒合人才跟企業?那企業出錢,出題目,這些人才來做,然後去貢獻到 Open Source 社群。那政府也有一些政策支持。我們讓臺灣這些工程師想要參與的,我們變成有組織的,有序的,有策略的去投入。然後投入進去不是去用,是去貢獻。那這樣臺灣在裡面的聲量就會出來,有影響力,有連結。那也培養出人才。我覺得這個是 AI 時代要培養,我們講說中高階的軟體人才,最好的方法。

哎呀,這個非常關鍵的一步啊。好,那最後我想請教這個 Rock。因為我們從上一集聊到這一集,我們討論了我們的 AI 主權,包括我們的文化的自主性,透過 AI 如何來保有以及擴張。也談到了我們如何更好去評估算力的建設,以及如何去把這樣的建設,把我們自己現在算力代工的能力,擴張成一個實力的展現,實力的延伸。那最後我們聊到了開源,作為一種整體的戰略,甚至也是我們每一個公司,能夠自己去培養人才,去提升我們軟體人能力的一個做法。

那我想請問你,我們聊那麼多,你當然不是只想跟我講這些事情。除了我們的觀眾之外,假設在臺灣有一個對象,你可以這樣子跟他聊,這兩個小時的這個上下集的節目,你最想要給哪一個人聽,讓他能夠理解你的想法?上至總統,下至任何人。

我覺得臺灣現在有一個機會,或者是困境,就是整個社會,不管是從政府到產業,我們的領導人大概都是在 1980 到 2000 年那一波,尤其是 1980 到 1990 那一波的個人電腦時代起來的。所以我們可以說臺灣不利於新創,或不利於年輕人的地方,是我們是一個大樹茂密的森林,所以小樹是不容易長大。陽光被搶走了,就是我們這些大的企業,大的領導人。

所以你問我,我覺得可能不是一個特定人,而是我覺得是現在在整個社會上有話語權,然後那些大樹,也許是政府,也許是政黨,也許是政治人物,也許是產業的前輩們。我覺得每一個人都是有責任的。我們講某一個特定人,意思好像是別人都沒有責任。能力越大責任越大。就像我自己覺得,我為什麼應該要站出來,去推這些事情,做這些事情,我也是覺得,那我今天受臺灣的照顧培養,走到今天,我有一些餘裕,那我該要出來幫忙。所以同樣的道理,我也相信臺灣的這些電子科技製造業的大佬們,其實我認識好幾個,都非常有這份心。大家應該各自在自己能做的範圍,多做一點。企業以開源來講,大家都往前走一步,一步一步慢慢來。我不能說要多慢,但是總是往前走一步,事情就會慢慢越來越好。

但我不覺得這個事情是找誰,然後這個拍個板,然後事情就會翻天覆地。

的確啦,從我們這兩集聊的脈絡, Rock 的意思也不是說,我們好像要從上而下,然後直接決定什麼事情。我們當然從新 AI 十大建設,看到了它一些可能細節上的不足,或是說執行策略上,其實怎麼樣會更有效的一些做法。那咱們前陣子其實,我們公司也一起去看了《造山者》這部紀錄片。

(我也有看)

你也有看齁。那我覺得如果要我總結的話,我們下一個階段,我們需要開源者,我們需要另外一波的年輕人來接棒。但是也需要有源頭活水。我們有山很好,但是我們有這個勢能,我要從這個山上,有雨水這樣往下衝,那樣子擴散,然後形成一個三角洲,形成一塊肥沃的土壤。因為希望可能不在我這一代。我自己覺得我的責任,應該是幫下一代現在年輕的人,想辦法開出一條他們能夠發揮的那條路出來。

那到底路在哪裡?我是覺得臺灣的一個挑戰,當然就是我們過去的成功模式,其實造就了,不管我們現在的官僚體系,或是政治,或者是我們的產業結構,其實有一些慣性。而這些慣性,其實會有一點綁住我們。而這些慣性裡面,我覺得走到今天,你會很明顯看到一些很重大的議題上面,我們的論述是有缺陷的,往往都片面,或者是依照我們的慣性思維。就像我們剛剛討論的,不管主權 AI,算力。

我是覺得應該要有更多這種很深刻的對話。因為這個事情是 open book,我的意思說就像,它沒有標準答案。就像我們剛剛這樣討論,這個道理全部都可以講出來,那大家可以公平說這哪裡不對,或者哪裡可以補充。這也是一種 open source。對啊,這也是個 open source。

臺灣已經有蠻長的時間,我一直都覺得有識之士,或知識分子,似乎一直都沒有在這種比較深刻的國家的這種戰略,或者是企業產業的戰略上,好像似乎比較沒辦法,把它用論述很完整的方式,把它補齊。對。往往好像都是照著慣性就幹了。

要聊這個我們可以再聊三個小時,這是另外一個問題。好,我覺得今天真的非常高興,邀請到 Rock,然後願意花這個時間,跟我們深入的分享你的想法。老實說從上次後面您跟我分享的時候,我就覺得真的是非常耳目一新,也非常的具有洞見。那我想這次的分享,您更是把整個架構,就是從源頭開始,講得非常的清楚。

那咱們期望這兩集的節目,能夠達到它應該有的效果。好,我們今天的節目就到這邊結束。如果您對於臺灣的接下來的 AI 戰略,不管從企業、個人、政府,您覺得要如何打破這個慣性,如何好好的把這個事情聊清楚,哪些東西我跟 Rock 這個討論的還不夠,都歡迎你留言,那我們之後繼續接著聊,好不好?那今天的思想實驗室就聊到這邊,我們下集再見。掰掰。

謝謝國威。謝謝。謝謝各位。

歡迎來到思想實驗室。我是國威。思想實驗室的 YouTube 會員功能,今天起正式上線了。感謝大家一直以來的信任,想邀請最挺我們的你,與我們一起走得更遠。有了大家的支持,我們承諾會繼續製作更多優質的內容,在未來與大家一起做不同主題的思想實驗。歡迎點擊下方的加入按鈕,與我們一同前行。

就是它們接連推出了。