Transcription
保持它非常小，宗是這方面的領先專家之一。所以如果你有興趣，不要錯過。>> 那麼現在我把它交給查克。非常感謝。>> 嗯，好的，就這樣了。太棒了。非常感謝。我認為到目前為止我們有一些非常精彩的演講，而且我很喜歡互動。我認為你們很多人問了一些非常棒的問題。所以非常感謝。當然，這也是我們將要進行的另一場精彩的討論會，我們將這樣進行：當然，我們每位與會者都會出來，一個接一個地進行簡短的分享，然後我們所有人將一起出去，進行一些有組織的問題討論，當然，我們真的希望它能非常具有互動性。所以，請思考一下你可能有的任何問題。但首先，也是最重要的，請允許我邀請微軟研究院的總經理洪鵬先生與我們分享。謝謝 H. [清嗓子] >> 大家好，聽得到嗎？好的。太棒了。讓我想想我的幻燈片能不能放出來。誰在控制幻燈片？[笑聲] >> 就這樣了。>> 嗯，它實際上顯示了塞巴斯蒂安的>> 有趣。是的。>> 哦，好的。是的。那麼也許我們去塞巴斯蒂安那裡。[笑聲] 好的。整個演講。 [笑聲] >> 嗯，所以，所以，嗯，我，所以，所以首先，這是一次很棒的聚會，這裡已經有很多關於數學和基礎科學的精彩討論。在這裡，我想 sort of 像突出另一個真正令人興奮的前沿，那就是醫學科學。嗯，所以實際上已經悄悄地出現了一系列 sort of 巨大的浪潮，在人工智能的深度創新浪潮中，在醫學發現領域，而這種範式轉變的一個關鍵部分實際上是人工智能在臨床試驗中開闢了新的可能性。我將給出三個例子，並期待討論。嗯，所以如果你今天想到醫學發現，在宏觀上，它基本上是一次臨床試驗一次地推進，對吧？這個過程在很大程度上是手動的，效率極低。所以當你想到它時，一個單獨的 III 期試驗需要數年時間才能完成，花費 1 億美元或更多，而且儘管你花費了如此多的資源，每個人仍然抱怨它只提供了相對有限的資訊，樣本量很小，對吧？所以作為第一個例子，我們與美國第三大醫療系統 Providence 合作，開發了一個名為 Trial Scope 的人工智能，其要點是我們基本上使醫學科學家能夠利用真正的病人旅程，然後虛擬地進行臨床試驗。所以基本上我們證明了你可以直接從非結構化的電子健康記錄中模擬很多這種臨床試驗的端到端過程。我們發現，通過與一些重磅癌症治療的金標準試驗進行比較，這種虛擬試驗的準確性與真實試驗一樣高。所以例如，這次主題演講 10 是關於 KUDA 的，你們中的一些人可能知道這是最好的免疫療法之一，對吧？所以，收入 300 億美元，零，對吧？嗯，而且，顯然，虛擬試驗可以更快、更便宜，對吧？嗯，現在，當然，人工智能不是魔法，對吧？所以這之所以成為可能，部分原因在於生物醫學的快速數字化，對吧？很多病人旅程，從診斷到治療到結果，你在臨床試驗中研究的這些，現在都在常規的臨床護理中收集。所以基本上每天都有數十億、數十億的數據點在收集所有這些病人旅程。現在你主要只是用它們來構建和運營，但如果我們能武器化它們，提煉出見解，那麼它就變成了大規模的免費午餐，對吧？嗯，所以這，嗯，再次，sort of 只是 sort of 第一個例子，對吧？在宏觀上，你可以把它想像成，它基本上只是一個開胃菜，對吧？它已經非常令人興奮，因為你可以開始使用這種人工智能來重新想像整個臨床試驗過程，對吧？今天有數千億美元的效率，對吧？但你可以做得更多，超越文本模式，然後開始考慮多模態人工智能，對吧？所有這些 sort of 臨床文本實際上都高度不完整，而且 sort of 是病人旅程的嘈雜近似，對吧？我多年來認識了很多醫學界的朋友，他們開始給我講笑話，對吧？放射科醫生會告訴我，他們有時兩個月前對同一張圖像的判斷與現在不同，對吧？然後病理學家會給我一個技巧，比如把病理學家轉 90 度，你會看到不同的東西，對吧？這些都是世界上最聰明的人之一，但挑戰在於我們的視覺皮層沒有在叢林中閱讀核磁共振成像的過程中演化，對吧？但人工智能可以讓他們開始獲得那種醫學超級智能。嗯，這裡有一個例子，對吧？我提到了 kituda，你們中的一些人可能知道，儘管它實際上是頂級的前沿藥物，免疫療法，總反應率只有 20%，對吧？而且你不知道是哪 20%，對吧？現在眾所周知，腫瘤微環境實際上蘊藏著精準免疫腫瘤學的終極秘密，特別是，有一些新技术，例如這種空間蛋白質組學，或者特別是多重免疫螢光 mif，它允許你同時在單個細胞水平上測量多種蛋白質，並保留整個空間資訊。這基本上給你一個完整的數字地圖，編碼決定免疫反應、病人生命的腫瘤微環境語法。現在只有一個問題，對吧？這種數據非常昂貴且耗時。生成單個組織的數據需要數天時間，花費數千美元，現在想像一下，如果我們要為全球每個人生成空間蛋白質組學數據，那將會讓人類破產，[鼻哼] 對吧？我們所做的是，我們與 Providence 和華盛頓大學合作，開發了一個名為 GigaTime 的多模態人工智能，它可以從廉價得多的顯微鏡病理學幻燈片中模擬這種非常昂貴的空間蛋白質組學資訊，對吧？每張幻燈片幾美元，而且隨處可見。所以，例如，在這個例子中，你可以看到中間一列是真實的 mif，然後右邊是虛擬的 mif。現在，虛擬的還不會在短期內完美，但它已經在很大程度上重現了 sort of 空間資訊。然後有了這個能力，你就可以開始進行大規模的良性幻覺了，對吧？所以我們基本上將 GigaTime 应用於 14,000 名癌症患者的隊列，我們將其應用於他們所有的 H& 病理學幻燈片，然後我們基本上生成了這個虛擬人群，擁有超過 300,000 個虛擬 mif，以及所有臨床背景。然後你就可以開始運行這個基本上是虛擬的多模態人工智能試驗，你就可以開始將這些腫瘤微環境中的所有細胞與你關心的所有臨床變數，如疾病進展、腫瘤反應等聯繫起來，對吧？然後通過這個過程，這使我們能夠發現一千多種顯著關聯，並讓我們的合作腫瘤學家非常忙碌，對吧？而且，當你想到它時，這種大規模的空間蛋白質組學研究以前是不可想像的，因為成本，對吧？最後，聖杯，對吧？就是我們是否真的能模擬縱向病人旅程？所以 GBD4 通過預測下一個詞、下一個詞、下一個詞來學習，而虛擬病人可以通過預測下一個醫療事件、下一個醫療事件等等來學習。作為一種 sort of 嬰兒步驟，我們與 Epic 和 Yale 合作，我們基本上描繪了，現在可能是最大的虛擬病人模型，名為 Curiosity，基本上描繪了數億病人旅程。真正令人興奮的是，通過這種看似腦力勞動的方式，對吧？但在非常非常大的規模上，它開始獲得這種所謂的湧現能力，對吧？所以，這種模型，對吧？使用看似非常愚蠢的模擬推理，我們只是說，“嘿，這是歷史。預測接下來一年、接下來十年會發生什麼？”然後你就可以將其應用於人們關心的各種預測任務。所以實際上我們發現，這個模型開箱即用，在 78 項任務中，其表現與專門為每個應用程序構建的監督模型相當或有時優於它們。所以對我們來說，這有點 sort of 一瞥，或者也許是利用塞巴斯蒂安的火花，sort of GBD 時刻，用於虛擬病人。所以，所以總結一下，我認為我們正處於醫學發現人工智能的一個非常激動人心的時代，而人工智能臨床試驗 sort of 確實是前沿之一。所以期待著聽取你們的意見。謝謝。 [掌聲] >> 我喜歡。實際上，實際上，洪鵬先生提到了 Providence。事實上，我們在那裡有一些朋友。你知道，布倫達，你知道，布朗大學，對吧？還有我的一位好朋友唐娜，她是布朗大學的校董，或者她剛剛卸任校董。所以事實上，你提到的事情，我認為你還應該 sort of 和布朗大學談談，我們也很樂意促成。當然，美國有一所很棒的醫學院。所以，嗯，我認為這正是基金會在這裡幫助和促進的。>> 我們很樂意與大家交談。>> 哦，非常好。那麼，話雖如此，我想，你知道，我知道我們也提到了塞巴斯蒂安，但我將以塞巴斯蒂安結束，你以前在微軟的同事，現在在 OpenAI，但我認為我的下一個，我將請我的好朋友，我的哥們，來自伯克利，我們有伯克利代表。所以，所以，請上來，分享你的觀點，最新的和最偉大的。[清嗓子] 不起作用。>> 是的，但正在進行>> 這個。>> 這個？>> 是的。>> 不起作用。>> 看看需要多少數學家。[笑聲] 這是你的>> 第一次嗎？這個。>> 好的。>> 好的。>> 謝謝大家。很高興能與 IPAM 合作。在 Nvidia，我們做的一些事情是不能談論的，但今天，我想我會從科學家的角度來談談我認為在未來幾年內，我們能夠真正實現人工智能在科學領域做出開創性貢獻的最關鍵的創新或事情。所以我會更多地談論世界模型。實際上，通過今天的項目，我們已經聽到了很多關於世界模型的實例，比如今天上午海登的討論，以及之前講座中關於我們如何模擬生物實驗的討論。我想深入探討一下。哦，所以我們需要[笑聲] 哦，>> 沒有上下文很難理解。[笑聲] >> 哦，>> 前進。>> 好的，非常好。動機是，我們一直在觀察，例如在數學編碼的發展中，如果答案很容易驗證，那麼我們就會看到非常快速的進展；如果答案不容易驗證，那麼我們就會看到非常緩慢的進展。所以，如果我們遵循這個邏輯，那麼對於科學發現來說，理想情況是，如果我們能以可擴展的方式快速獲得反饋，我們就能更快地做出發現。所以，一般來說，我們想問的問題是，假設我改變設計變量、控制變量、不同的治療方法，結果會怎樣？過去，在許多不同領域的模擬方面已經做了很多工作，許多領域實際上都依賴於模擬。我列出了一些，我們也考慮了像其他重要的行業領域，如芯片設計，這也非常關鍵。所以，我想提到一點，也許在人工智能時代，可能有一些東西介於濕實驗室和傳統模擬之間。所以，基本上，在傳統模擬方面，已經投入了大量的努力來優化整體計算和構建物理模型。一般來說，它們需要完整的規範。你需要寫下完整的狀態噪聲分佈邊界條件。然後我們有非常精確的數學方程來控制系統的演化。但一般來說，如果我們走向另一個極端，就像我們在濕實驗室進行實驗一樣，很多事情是不確定的，部分觀察到的。實際上，濕實驗室實驗的重現性也是一個普遍問題。所以，我一直在思考的一點是，實際上可以有一種方法在中間工作。所以，基本上，我們可以嘗試將我們從濕實驗室學到的東西應用於模擬，通過將真實結果輸入來吸收不確定性到潛在狀態。在某種意義上，它比真實模擬便宜得多，但也不像濕實驗室那樣昂貴。當然，細節決定成敗，所以我認為在這些方向上已經進行了很多令人興奮的購買，並且看到我們所做的將會非常令人興奮。嗯，所有不同的方向，以及是否有可能有一個統一的視角來解決這個普遍問題。所以，我通常說的世界模型是什麼意思？我們認為它是一個生成動態模型，支持干預查詢和校準的不確定性。我認為有兩個特徵對系統非常有用。在干預查詢方面，世界模型需要能夠預測下一個狀態，以及基於當前狀態 ST 和代理人採取的行動的觀察。所以，基本上，代理人可以採取任意行動，也許在真實的濕實驗室實驗中很難採取的行動，特別是也很難重現的狀態。但世界模型應該能夠準確預測下一個狀態在演化中實際發生的情況，然後我們就可以根據不同的行動序列配置來展開整個序列。同時，理想情況下，世界模型應該能夠告訴我們它對預測下一個狀態和下一個觀察的信心有多大。這非常關鍵，因為它與傳統模擬非常不同。我們對其結果預測在許多情況下確實不確定。理想情況下，如果模型能夠告訴我們它對某些預測確實不確定，我們實際上可以在該環境中進行真實實驗來收集真實數據，以便下次模型能夠更好地校準其預測。所以，基本上，一個非常重要的問題是，當我們進行外推時，我們需要確保我們理解相應的不確定性，以便它真正指導未來的實驗設計。借鑒我們從編碼和數學中獲得的見解，特別是在形式上可驗證的數學方面，如果我們能夠實現閉環科學，我相信許多公司都在朝這個方向努力，那麼我們確實有潛力顯著加速科學發現的速度。所以，基本上，這個問題已經存在很長時間了。過去，我們一直在談論許多不同科學領域的從模擬到現實的差距，例如在機器人學和自動駕駛領域，最近我們觀察到，即使在這些領域，通過採用人工智能，例如 Nvidia 的 DOSS 和 Omni 等技術，進行真正逼真的模擬的能力也得到了顯著增強，它們也是從這個角度來看的很好的例子，而且還有更多例子。能夠對所有這些不同的應用有一個統一的視角，這樣，每當世界模型預測某些東西時，我們就能確信它實際上是準確的，並且具有非常校準的不確定性量化。一旦我們能夠做到這一點，它實際上可以加速科學發現和實驗設計。例如，在最後一個方程中，我們實際上在談論兩件事。一件事情是我們已經學會了世界模型，然後給定一個特定的效用 U，我們應該能夠理解，給定世界模型，如果我們採取行動 A，預期的效用確切是什麼，然後我們也應該能夠理解，給定世界模型，這個效用的不確定性確切是什麼，然後我們可以嘗試形成一個損失函數或獎勵函數來嘗試最大化它，這將決定我們採取的行動，並且可以輕鬆地操縱整個設置來嘗試找出新的行動，也許在現實中很難採取，但在世界模型中很容易模擬。我將在這裡停止，期待更多引人入勝的討論。[清嗓子][掌聲] 我喜歡，女士們先生們，我們剛剛創造了一個新詞，美麗的詞“世界模型”，對吧？所以感謝，你知道，ChatGPT 和 OpenAI 推出了語言模型，但現在是世界模型，它理解關於世界的一切。所以，我確信你們可以問更多關於這個的問題。接下來是亞馬遜 AWS 的科學主管 Erin。Erin，請。>> 很好。>> 好的。嗯，是的，很好。我叫 Erin。我認為在 hyel 和 gentto 之後發言很好，因為你可以看到這將與他們談論的內容非常一致。所以，今天我將談論分子世界的推理基礎模型。這是與我的斯坦福合作者正在進行的合作。如果你看看目前的基礎模型，有兩種類型的基礎模型，有這些通用模型，如 GBT 和 CLA，它們很棒，但你知道，如果你給模型一些結構理解問題，比如蛋白質結構，它們實際上無法學習結構。所以它們可能會給你正確的答案，但其中大部分只是記住了訓練數據中的答案，對吧？如果你給一個新的蛋白質，問它任何結構問題，你就會遇到麻煩，對吧？然後，如果你看看一些專業的基礎模型，比如 chai 2 alpha diffusion，甚至像 alpha fog 這樣的特定模型，它們可以解決特定的任務，然後，你知道，它們無法泛化。如果你給更難的問題，它無法推理，無法利用所謂的自適應計算，對吧？這些就是局限性。然後，我認為，我看到可能會有一個範式轉移，我認為在我看來，我們第一次擁有真正智能的模型，而且，你知道，我們能否真正利用所有這些智能、這些推理來幫助分子世界，對吧？然後設計這些藥物，例如抗體和小分子。所以，在高層次上，你知道，我們有一個願景，我們稱之為 Think Prote。基本上，如果你，你知道，就像人類科學家一樣，你知道，當一個人類科學家給出一個任務時，例如，我們想設計一個與 SARS-CoV-2 刺突受體結合域結合的結合劑，並想阻斷 ACE2，這是一個問題。然後人類科學家看蛋白質序列和蛋白質結構，然後開始真正思考，你知道，你有一系列思維過程，而且，你知道，我不是一個好人，但我有很棒的合作者，所以有一些推理過程非常合理。然後，一旦你 sort of 有了高層次的理解，比如，嘿，你知道，結構限制是什麼，在特定位置可能有一個關鍵殘基，可以穩定結構，然後有了這個，然後我們就有了一個非常好的擴散模型，它實際上是設計模型，他們試圖真正設計結合劑，對吧？所以，正如你所見，你可以利用推理和自適應計算，它可以 sort of 彌合差距並進行分佈外泛化。所以，是的，我們取得了一些重大進展，希望我們很快會發布一些東西。但我認為我想強調挑戰。所以，原因在於，這些前沿模型還沒有真正解決這個問題，因為它們面臨著嚴峻的大數據挑戰。實際上，蛋白質序列數據非常豐富，但結構數據只有 20 萬個。然後，如果你想進行推理，你的思維過程在哪裡？所以，如果你和這些生物學專家交談，你知道，他們有一些思考過程，但他們通常不會寫下來。然後，還有模型架構。因為數據的限制，你無法像大型語言模型那樣真正地暴力擴展它。這就是為什麼 Afro 設計所有這些歸納偏差，這種進化資訊，比如，你知道，序列相似性，對吧？MSA，以及編碼了許多這種結構偏差的 parapformer。所以，我們如何真正地向前發展，對吧？使用新的架構來進行設計，對吧？還有評估，回到 Genta 談到的。是的，我的意思是，我們想嘗試進行更多的體內評估，例如擁有一個分子世界模型，對吧？它看起來像什麼？最終我們需要進行濕實驗，對吧？然後，是的，所以有一些非常令人興奮的未來方向。所以我們想 sort of 閉環，使用 RL 驅動的優化，利用計算獎勵，也許在世界模型中展開，分子模型，細胞模型，人們對虛擬細胞方向非常興奮，以及實驗驗證，對吧？通過實驗室在循環中的優化，最終我們希望能夠擁有真正自我改進的系統，解決所有類型的藥物設計問題。是的，這就是我的演講。謝謝。[清嗓子][掌聲] >> 謝謝。這是一個快速的設置。持續學習亞洲，對吧？這實際上正是你所說的，關於強化學習，我說我們從微軟的 hyphoon 開始，我們將以他以前的同事塞巴斯蒂安結束，他實際上是微軟的人工智能副總裁，現在是 OpenAI 的技術領導者。所以，請塞巴斯蒂安，請上來分享你的見解。謝謝。[清嗓子] 好的。所以，我們終於能看到那些幻燈片了。[笑聲] 嗯，好的。所以，我打算做一些稍微大膽的事情。在五分鐘內，我想告訴你們一個數學定理，並確保你們所有人都精確地理解它。我認為它很容易理解，你知道，在小學水平。所以，所以應該沒問題。但[笑聲] 我的意思是，你會看到的，但它非常非常基礎，但原因是我這樣做是因為我想讓討論紮根於這些模型目前的智力水平，而且你知道，特里和 D 今天早上談到了一些例子，我所做的就是基本上做同樣的事情，但試圖更深入地探討這個例子，解釋它到底是什麼，以及它與人類智能相比如何。好的。所以，這是一個組合學問題。所以，你知道，你有一張圖，一個帶有頂點和邊的網絡，最基本的事情，你可能問的最基本的問題之一是，你可以計算圖中的子圖。所以，也許我計算點的數量，完全連接組件的數量，或者反點的數量，獨立集，或者我計算看起來像 H 的子圖的數量。我有一堆我關心的東西，我想計算，我問自己，這些不同的對象之間是否存在約束？比如，如果我計算出我有這麼多點，這對我有多少 H 告訴了我什麼？所以，這在組合學中極其基礎，結果是它非常困難，實際上是完全不可能的。所以，一般來說，如果我問你不同子圖之間的線性不等式，你問我這個是真的還是假的，這一般是不可判定的。所以，沒有辦法回答這類問題，這有點瘋狂。但最基本的形式，可以追溯到 1904 年由 Mental 提出的，這是極端組合學的第一個結果，是關於邊的數量和三角形的數量之間的關係。如果你告訴我圖中有多少條邊，它對我說有多少個三角形有什麼影響？Mental 定理在這個我稍後會解釋的圖中正是這一點。所以，讓我解釋一下這張圖。X 軸是邊密度。所以，在所有可能的邊中存在的邊的數量。Y 軸是三角形密度。所以，在所有可能的三角形中，有多少個實際上存在。結果是這些東西之間存在約束。特別是，如果我在某些點上有足夠多的邊，那麼就會出現三角形。所以，Mental 定理告訴我們，一旦我們越過那個分數，我們就需要有三角形。而且，這是一個非常困難的數學結果，證明這是一個下界。所以，沒有什麼，你不能有具有這種邊密度和這種三角形密度的圖。非常好。現在，你會注意到這個形狀是非凸的。我們不喜歡非凸的東西。結果是，如果你問關於樹的同樣問題，那麼我和 natilineal 十多年前展示的，對於樹來說，這些可能的關係集合，實際上是一個凸集。然後問題就變成了，那麼樹的邊和三角形密度業務的等價物是什麼？三角形不是樹，對吧？樹是沒有循環的東西。所以我們問，那麼這個圖的等價物是什麼？你可以把它想像成，在兩個頂點上，我只有一棵樹，那就是一條邊。在三個頂點上，我也只有一棵樹，那就是一條路徑。在四個頂點上，如果我再加一個頂點，那麼我將它連接到中間，或者我將它連接到路徑的末端。所以在四個頂點上，我有兩棵樹，一條路徑或一個星形。所以，就比例而言，這並不有趣，因為如果我有一定比例的星形，那麼我就有 1 減去那個比例的其他比例。所以，第一個有趣的案例是左邊這個，有五個頂點。所以，在五個頂點上，有三種同構類型的樹，即星形、路徑或看起來像 Y 的東西。現在我可以開始做一些有趣的事情了，那就是，如果你告訴我，我有一定比例的星形，你知道，路徑和 Y 的比例的可能性是什麼？而且，這確實是一個二維圖，因為我有三樣東西，它們的總和總是 1，代表總比例。所以，我可以再次開始繪製圖形。我可以看看路徑的比例與星形的比例。我們在 2013 年的一篇論文中推測，這就是可能性集合，凸集的形狀是由我們稱為千足蟲的東西決定的。所以，你看，這些是，這是一條長路徑，然後我有了這個度為 D 的東西。如果 D 變得非常大，我有很多星形和很少的路徑，所以我就到了那個角落。細節不重要。我們能夠做到的，現在我們將在幾分鐘內進入人工智能部分。我們在 2013 年能夠證明這是一個下界。所以，凸集應該在紅線之上，我們無法顯示多面體的任何一個面是緊的。我把這個問題交給了很多學生，當我在普林斯頓的時候。每年，新的學生都會來。我會告訴他們這個問題，沒有人會提出解決方案。我自己花了幾個月的時間來解決它。Natalinial 也花了一些時間，我們無法取得進展。然後，終於來了三個非常優秀的學生，Or mana、Katherine Edwards 和 Katherine Scokco。他們以前也是優秀的學生，但[笑聲] 他們一起能夠證明多面體的第一部分實際上是緊的。現在，用通俗的語言來說，它對應於這個不等式，對於任何一棵樹，無論如何。如果我計算 Y 的數量，它總是會少於 9 倍的星形數量加上路徑數量加上六。好的，非常好。然後，在同一篇論文中，我們能夠證偽其他所有內容。所以，我們推測的其他任何東西都不再是真的，一切都是假的。而且你可以[鼻哼] 看看，頂部的這些樹，它們有點證偽了一切。但有點奇怪的是，第二個不等式仍然是開放的。所以，這一個仍然可能是緊的，它對應於這個不等式。29 * y 小於 42 * s 加 144 p 加一個常數。而且這已經開放了 10 年。隨著 GPT5 開始擅長數學，我認為是時候重新審視這個問題了。如果你問 GPT5 這個問題，你沒有運氣。沒有任何辦法，你知道，它能夠解決這個問題。這太難了。所以我們所做的是，這也是今天早上提到的，我們圍繞 GPT5 構建了一個腳手架。在這個例子中，它是一個通用的腳手架。它不特定於這個問題。雖然構建腳手架也是一個非常有趣的問題，[清嗓子] 特別是對於某些問題。如果你已經有了證明技巧或方法，那麼你就可以構建一個腳手架來執行你的方法。但這裡是一個通用的腳手架，你知道，會有某些代理人提出想法，某些代理人執行它們，某些代理人驗證它們，某些代理人合併不同的東西等等。我不會確切地告訴你我們在這上面花了多少計算量，因為你可以並行做事情。但在兩天的順序計算時間結束時，它給出了一個證明。但重要的是，我沒有直接問第二個不等式。這也是一個非常重要的理解點，我當時知道，如果你只問第二個，它會太難了。所以，我所做的是，我先問了第一個問題，我已經知道解決方案了。模型花了兩天時間思考，給出了一個解決方案，我將其置於上下文中，然後我說，“好的，現在去解決這個，你知道，它的泛化。”然後它給出了一個證明。你知道，我已經用了五分鐘。如果我有更多時間，我可以展示證明的開頭，因為有趣的是，在這個證明中，它提出了一個關於樹的奇妙身份，我不知道它從何而來。而且我問過專家，他們花了很多時間思考樹的組合學，比我多，他們也不知道它從何而來，它確實解決了這個問題。而且，你知道，在關於學術界如何與前沿實驗室互動等等的討論中，這是一個例子，一個有點出乎意料的問題，學術界可以考慮，有了這個腳手架，我有數百萬個 token，我有幾十本書的材料，模型寫的，以得出最終解決方案，在這個模型寫的知識庫中，模型獲得洞察力的時刻是什麼時候？你知道，我給你這十本書，告訴我，找到一種自動的方法來發現洞察力。我認為這很重要，我喜歡學術自由和學術界的一點是，你可以問以前從未問過的問題，這些問題自然而然地從技術進步中產生。所以，我們不應該總是試圖，你知道，重複以前的問題。總之，這只是一個普遍的評論。我將在這裡停止。謝謝。[掌聲] >> 如果我可以請所有與會者上來坐那裡。你知道，顯然，我們實際上，我們實際上進度很好，因為我們趕上了時間。現在，你知道，就像我們有 30 分鐘，我將，我有一些準備好的問題，但正如我所說，我希望它非常互動。所以，我將要求與會者在回答我的問題時將時間限制在每人 30 秒，因為我當然希望你們能夠回答很多聽眾的問題，因為我真的希望它非常互動。但我想首先，我想，顯然，如果我們可以關掉燈。是的。嗯，也許是，是的，這樣。謝謝。所以，你知道，我顯然他們每個人都是他們各自領域的專家，但我想，要達到這一點，人們真正了解你的背景非常重要。所以，如果你能簡要介紹一下你自己，並分享你在公司裡與推動人工智能和科學人工智能相關的關鍵職責。所以，洪鵬，然後我們就按這個順序進行。>> 好的。嗯，關於我自己。我是一名計算機科學家，受過訓練。二十年前，我在人工智能領域開始了我的博士學位，那時人工智能還處於上一個冰河時代。然後，我 15 年前加入了微軟研究院，這與人類 GM 項目的任期和其他人同時。所以，我會說那時我非常愚蠢和飢渴，不知道生物醫學有多難。所以我發現它非常令人興奮。所以我決定，嘿，我想從事這個。所以我被聘為 NLP 人員。但我告訴我的經理，我想研究癌症，奇蹟般地，他沒有當場解僱我。所以，這就是我的情況。所以，15 年的戰鬥傷痕，一點點進展，但基本上是在醫學發現領域。>> 非常好，Eric。>> 嗯，是的，我背景類似。我從康奈爾大學獲得了博士學位。是的。從事傳統人工智能工作，然後在貝爾實驗室度過了職業生涯的很大一部分，然後我去了哥倫比亞大學，然後，是的，我抵制了搬到西海岸的衝動，最終在 2015 年我搬到了 Uber，你知道，從事機器學習平台工作，從事自動駕駛汽車。之後，幾家初創公司，然後在亞馬遜。我一直在從事很多關於數學編碼和計算機使用的推理模型。大約兩年前，我意識到我們正在走向科學發現的軌道，我一直專注於分子世界的科學人工智能。是的，大家，一些變化，我從斯坦福大學獲得了博士學位，實際上也來自理論背景。過去我一直在關注特里、塞布和我的伯克利教授的許多工作。我也在最近加入 Nvidia 之前創辦了一家初創公司。在那裡，我的主要職責是嘗試推進訓練後人工智能的科學，特別是涵蓋數據管道、新方法論以及新應用。所以我對推動人工智能的能力極限，特別是在新的科學發現領域感到非常興奮。>> 大家好。所以，我展示的內容是我大約 5% 的時間所做的事情。我 95% 的時間都致力於提高模型的性能，並使其成為可能。所以在這 5% 的時間裡，你知道，致力於此，這是凱文·威爾領導的 OpenAI 科學努力的一部分。在那裡，我擔任顧問，試圖幫助他們思考我們擁有的新功能如何用於幫助所有領域的科學家，不僅是數學、物理、生物學，你知道，如何將科學工作流程整合到我們的模型中，以及類似的東西。>> 哦，非常好。實際上，關於這一點，我想讓塞巴斯蒂安和尚特爾回答這個問題，然後我將繼續下一個問題，但實際上，關於人工智能的軌跡，既然你提到了，我們如何看待人工智能的當前軌跡？你對大型語言模型的優勢和局限性有何看法？你最興奮的研究方向是什麼？塞巴斯蒂安？是的，[清嗓子] 這是一個大問題，但嗯，嗯，就我們目前的狀況而言，這就是為什麼我想做這個五分鐘的演講，因為你看，它解決了我花了幾個月時間思考的問題。這不是該領域一個巨大的開放問題，但這大致是這些模型目前的工作時間尺度。你可能聽我以前談過的那個概念，它不是我的，我甚至不知道是誰發明的，這個概念是 AGI 時間。所以，基本上，人工智能可以模仿人類思維多久？所以，我會說 GPT4，例如，是 AGI 秒。所以，人類可以在幾秒鐘內做到的任何事情，GPT4 都可以做到。然後，正如我們進入今天早上提到的 01，我們在數學領域進入了 AGI 分鐘，也許是 01。然後我們進入了能夠解決 IMO 問題並獲得 IMO 金牌的模型。這大約是 AGI 小時。你知道，如果你有一個 IMO 問題，大約需要一個小時。現在我們處於 AGI，至少是幾天，也許在某些情況下是幾週。但這大致是目前的頂級水平。現在，今天早上有人問，為什麼這些模型還沒有發明一個新的領域？或者，你知道，即使特里也在問非常非常難的問題，你知道，它還沒有到。顯然，它還沒有到。你知道，如果你想解決一個非常難的問題。你知道，我一生中做過幾次，長時間思考難題而沒有解決它們。你知道，與特里不同，你知道，這需要多年的思考。模型根本做不到。我們限制在幾週。所以，這就像一個入門級的研究生項目，他們可以做。不能再多了。[清嗓子] 嗯，現在就限制而言，順便說一句，我認為沒有任何限制。我只是看不到任何限制。就令人興奮的研究方向而言，嗯，你知道，我不能確切地告訴你我們在做什麼，但我可以說有很多有趣的研究方向，我認為至少有 10 個方向是正交的，而且非常有趣，而且它們都有潛力取得真正的進展，至少 10 個，這只是我個人的看法。所以，所以，你知道，我以前說過，我將以這句話結束。我以前說過，有一代科學家需要理解深度學習並取得進展等等。現在我認為至少需要一個世紀的時間來理解我們所做的一切，並將它們推向極限。所以，>> 你能給我們一個有趣方向的例子嗎？你說你有 10 個。你能給我們一個嗎？是的，我已經給你一個了，就是難題。所以，你知道，就像現在，如果你想解決一個問題，你可以去問 GPT5.2 Pro。這是一件事，但你可以同時進行多次調用。你可以有一個模型去嘗試合併它們，就像，你知道，就像使用模型作為 API，並構建一個利用模型作為 API 調用的算法。這是一個方向。[清嗓子] 好的，我停在這裡。>> 尚特爾，>> 我認為非常令人興奮。與 SE 類似，我也對人工智能的能力非常看好。也許我更強調了人工智能的不同方面。我們一直在談論語言模型。還有多模態模型，涵蓋語音、視頻、圖像。還有物理人工智能，實際上將模型嵌入到物理世界中。我的理解是，實際上，許多其他領域的進展，特別是將所有模態結合起來的嘗試仍然非常非常有限。所以，一般來說，我對人工智能能給我們帶來的生產力提升感到非常興奮，特別是當我們將所有這些功能整合在一起之後。所以，如果我們從這個角度來看，那麼人工智能的工作才剛剛開始。所以，我們離實現其全部潛力還很遠。所以我對此感到非常興奮。>> 非常好。現在，我想我將提出下一個問題，這可能很多人都會關心，因為它實際上涉及到學術界和工業界，以及生產差距。所以，我想讓 Erin 和 Hyun 回答這個問題，那就是將人工智能模型從研究原型轉移到大規模生產系統時，最大的隱藏挑戰是什麼？我們如何更好地彌合實驗室和行業之間的差距？你想先回答，Hyun，你先來。[笑聲] 嗯，是的，這是一個很棒的問題。嗯，所以我在一月份參加了達沃斯論壇，達沃斯的一個熱門詞是所謂的能力過剩。所以，基本上它的意思是，有點像 Seth 所暗示的，如果你看看底層技術的潛力，它們實際上增長得非常非常快，但當你看看現實世界的影響時，它們的進展實際上要慢得多。所以，存在一種 sort of 增長差距，介於可能實現的與我們今天實際實現的之間。所以，在這方面，我喜歡 sort of 稍微思考一下人工智能應用，跨越我鬆散地稱為生產力增益與創造力增益的譜系，對吧？所以，生產力增益。
作为一种无聊的事情，就像塔兰之前谈到的那种，对吧？比如自动化一些琐事或单调的事情，对吧？而这些事情人类专家完全有能力去做，只是非常繁琐、非常昂贵、耗时很长。我会说，这正是许多生产力方面的产品化差距将迅速缩小的领域。在医学发现领域，整个临床试验过程就是一个例子。嗯，如果你深入了解，你会发现有很多事情效率低得令人难以置信，对吧？而且，可以说，技术已经存在了。所以你基本上需要弄清楚一些单调的事情，比如变革管理、重新构想流程、工作流程、生态系统、商业模式，但实际上技术已经准备好了。但还有另一件更令人兴奋的事情，那就是创造力。这可以说是人类永远无法达到的境界，对吧？想象一下，一个医生能够内化十亿人的多模态纵向患者旅程，对吧？这非常困难，对吧？但人工智能有可能让他们做到这一点，对吧？嗯，所以显然，我认为差距可能会在很长一段时间内变得更大，直到我们能够真正实现其中一些。我举几个例子，你知道，在多模态领域，牙科的回声是……我会说纵向是圣杯，我们能否真正建立一个虚拟患者的天气预报系统，预测如果患者出现某种情况会发生什么？如果我们能达到一些不错的准确度，我们就能非常接近精准健康。显然，我们还没有达到那个水平，对吧？但那实际上就是为什么它如此令人兴奋。>>太好了，谢谢你，艾伦。>>是的，我认为我非常同意亨。我只是想再次强调创造力。嗯，我认为模型正在逐渐达到可以开始在创造力方面提供帮助的程度，但我认为我们在模型能力方面存在巨大的差距。嗯，所以是的，我认为模型必须真正变得更好。所以，基本上，你知道，就像给定任何问题一样，他们应该能够更好地提出正确的假设，你知道，然后基本上构建一个可以进行这些实验的系统。我的意思是，这些实验可以是体外的，然后可能在某个时候，就像你说的，当模型非常短缺时，我们可以直接进入湿实验室，让实验室参与进来。所以我认为所有这些……推断性的工具还没有被构建出来，对吧？所以为了真正闭环……在创造力方面，你真的需要构建这个完整的闭环，并且与模型更好的能力一起提出一个好的假设。>>是的。对。很高兴听到。嗯，但实际上，在相关的事情上，这是你们可能关心的事情，因为我们实际上，事实上，我们之前在小组讨论中谈到了人工智能时代的人类价值。所以，事实上，塞巴斯蒂安，我要让你回答这个问题，也许你们三个人中任何一个想回答这个问题的人都可以自愿回答。但问题是，很多人担心人工智能变得更强大，研究人员或任何人可能会失去价值或自己的工作，对吧？你们对此有何看法？你们认为研究人员的独特作用是什么？所以，塞巴斯蒂安，请回答。>>当然。>>[打喷嚏]>>嗯，是的，你知道，我个人看到科学有三种角色，也许还有更多我不知道的。但其中之一是，是，是作用于世界，能够使我们人类更强大，创造更多东西。你知道，那就是技术。>>另一个方面是，科学真的是为了理解我们所生活的世界。你知道，它是否让我们更强大并不重要。它只是，你知道，完全专注于理解方面。然后是第三个，我今天早上在谈论国际象棋时提到过，那就是，你知道，科学也很有趣，就像游戏一样有趣，而且任何游戏都伴随着竞争，你想成为，你知道，最聪明、最快的人，以及所有这些。这绝对是一个我不想被忽视的巨大领域。所以有竞争、理解和技术。所以，取决于我们谈论的是哪一个，会有不同的影响。所以，对于技术方面，你知道，这一切都关乎我们可以建造什么。所以在这方面，人工智能只会让我们更快、更好。对每个人来说都是一种好处。我们将能够建造更伟大的东西。>>对于竞争方面来说，这太棒了。我认为这会毁掉这场比赛，以及那些为此而努力的人，你知道，为了那个原因，你知道，也许就像国际象棋一样，他们仍然会在业余时间做，但我认为在未来，这作为选择一份工作的理由将大大减少。然后，我个人最关心的是理解部分，在这方面，我认为人工智能……它不是全部。就像我们讨论过的，当它带着解决方案回来时，你并不理解为什么，或者你知道，在我举的例子中，我不理解身份是从哪里来的。这仍然令人不满意，我们想进一步推进。所以在这方面，我认为……我希望将来人工智能会迫使我们在科学界将理解重新置于我们事业的中心焦点。一方面是技术，那是另一回事，但对于纯粹的科学家来说，你知道，理解应该仍然更重要。我倾向于说的是……你知道，也许我们将来应该少写论文。我们独特的人类专业知识是什么？不是写更多的论文，因为人工智能在这方面会比我们做得更好。[清嗓子]但也许是整合所有这些知识，并以其他人类真正欣赏和理解的方式来解释它。所以，我认为那就是……那就是我对你问题的回答。>>好的，我喜欢这个。嗯，希望你想回答。>>可以，可以。我想……在塞布提到的基础上，说出也许三点。>>首先，我想说我原来的工作已经被取代了。这让我很生气。>>[笑声]>>因为，你知道，你们中的一些人可能知道我曾是一名自然语言处理专家，我的职业生涯前半部分是生物信息学自然语言处理，训练了一些早期的生物信息学。所以，当我看到 GBD4 在发布前几个月时，我知道我的工作在那里结束了，对吧？所以我不得不找另一份工作。>>但更严肃地说，我想说的是，对我来说，一些……显然，这有点像……关于人工智能将如何从根本上改变国家和社会的性质，以及所有这些事情，都有各种严肃的问题，对吧？但对我来说，还有一个更直接的观点和一种末日情景，那就是我所爱的人或我的朋友等等，他们告诉我他们得了癌症，比如，对吧？所以，我有一个在 MSR 的老同事，他得了……四期肺癌转移，对吧？>>想到这一点非常令人沮丧，几乎无能为力，对吧？尽管……[清嗓子]……关于人工智能的所有这些喧嚣。所以对我来说，最直接的事情，就像我希望人工智能能取代我的工作，去解决癌症，然后，让我们解决阿尔茨海默病，神经……自身免疫性疾病，我们现在还不知道，对吧？所以……所以这是我的第二点。我的第三点是，当想到长远时，我想到人工智能是一个非常非常强大的工具。所以，例如，如果你有一个……所以，它可以告诉你……比如，但那里的问题也有一个“什么”和“为什么”，对吧？所以，例如，如果我建立一个完美的虚拟患者，我可以准确地预测会发生什么，对吧？一方面，你可以用它来进行精准健康，对吧？另一方面，你可以用它来让保险公司拒绝你的保险或索赔，对吧？>>所以，我们实际上如何……思考这个问题？>>我想，其中一部分是……我希望人类能够决定价值主张。>>好的，非常好。我还有一个问题，我想打开问答环节。>>因为我还有其他问题，但正如我所说，我想让它互动起来。我最后一个问题，我想让每个人都回答，因为我认为你们都会关心我的最后一个问题，那就是，你知道……[打喷嚏]……正如塞巴斯蒂安基金会……旨在为科学和人工智能建立一个协作生态系统。>>[清嗓子]>>嗯，你们认为行业、学术界、投资者……以及我们所有人都在共同努力建立这个生态系统？你们对你们自己的公司在这个伙伴关系中的愿景是什么？>>嗯，所以，塞巴斯蒂安，从你开始，然后回到我们。>>所以，[清嗓子]>>是的。>>嗯，我不知道，但我们 OpenAI 有很多计算能力。>>嗯，所以，[笑声] [笑声]>>我们有超过 40 个……是的。>>所以，所以，我可以想象，你知道，将来如果我们真的实现了将计算能力转化为智能的梦想，这根本不是一件显而易见的事情，不是自动的，它有一些限制。但如果我们真的能够大规模地继续这样做，那么我们可以想象，比如，学术界和其他合作伙伴会选择他们真正关心的问题。他们达成共识。好吧，我们想把这么多计算能力花在这个特定问题上，然后我们来帮助实现它。所以，我认为这是……这是未来的一种可能的合作。目前，你知道，在大梦想之前，你可以想象，比如，我们可以选择一些我们关心的数学问题，在那里我们可以做到我所说的难度，然后做一周而不是两天，然后，好吧。>>[清嗓子]>>非常好，谢谢。>>是的，我必须说，也许像这样的组织……可以帮助塑造学术界和工业界之间合作的一些议程。我确实想强调，英伟达有一个学术资助计划。所以，目前提供…… Hopper H100 GPU。所以，也许一种可能性是，学术界和工业界可以一起努力，找出我们可以一起合作的最令人兴奋的项目，然后，我认为每个文化都有一个提案征集。>>一般来说，研究人员可以获得……至少六个月的 GPU 云访问权限。会有一些双方同意的项目我们可以一起合作。>>我认为这是一个很好的方式……来真正合作，通过这种方法，我们也可以找出学术界可以研究的最关键问题，这些问题对整个社区产生巨大的影响。>>太棒了。[清嗓子]>>艾伦。>>是的，我想说我们有类似的计划……ARRA，那是……比如每两年一次，是的。我认为我们资助了大量的……你认为非常有前景、不确定，而行业实际上并不想……资源。所以，你知道，我们想从……你知道，他们获得的许多结果中学习，这些天……我们正在尝试扩展……可以进行的合作类型……你知道，亚马逊和大学之间。>>是的。我认为关键是……真正地……一些有前景的方向，然后只有……大学有自由……看看。>>是的。>>然后真正地……可以连接并充当桥梁。>>是的。>>好的。太棒了。所以，[清嗓子]>>首先，我想点名一下萨姆·马丁，他就在那里，他实际上是我在战略和合作方面的搭档。所以，在休息时间，请随意骚扰他。>>所以，所以，我想说的是……我们有一个愿望，显然是社区共享的，那就是如何建立这个……持续学习健康系统，对吧？然后，当你想到它时，显然需要比一个村庄多得多。>>所以，我想说至少有两件事我可以轻松地说出来，那就是，一是基础研究方面，在某种程度上，那就是从零到一，把昨天技术上不可能的事情变成明天可能的事情。在这方面，我们从大量的学术研究中受益匪浅。然后另一种合作显然是……所有这些……你知道，涉及……患者数据等等。所以，这必须是……隐私合规等等。所以，我们实际上与所有关键利益相关者，比如大型……医疗系统、制药公司等等密切合作，以……取得共同进展。>>我想说最难的是最后一点，那就是……我们如何将所有这些见解，所有这些风险规避……推广到八十亿人，对吧？实际上应用于社会层面。>>所以，我想说我们有各种各样的问题，我们没有答案。所以，我很想听听你们的意见。>>好吧，现在是时候了，你们的意见了。所以，现在是时候了。>>好的。>>所以，因为你们大多数人都在学术界之外，你们可以自由地推测，一些在座的院长……无法做到。所以，你们怎么知道……我们离 2026 年秋季学期还有七个月。你们会建议我们做出什么激进的改变？废除部门，比如，[笑声]>>只是给你们一个规模的概念。>>好的。>>也许我会做一个非常简短的评论，只是为了……开始。>>我想说我们与许多医学院的人有过互动，对吧？还有……《新英格兰医学杂志》。我认为这基本上是一个大问题。那就是我们必须重新思考整个教育，对吧？对于……显然，考虑到人工智能，对吧？>>所以，有一些单调的类比。就像，嘿，我们现在有计算器，对吧？>>所以，当我们考虑算术时，我们做的事情非常不同。>>所以，还有所有这些……关于 GBDX 如何通过医学考试，或者 Gemini 等等的令人兴奋的炒作。>>所以，我们必须重新思考……入学考试等等。>>然后在医学领域，那些教我的人……他们花了几个月的时间来设计一些案例来教学生如何进行生物诊断等等。>>对。>>现在，一方面，人工智能可以潜在地将速度提高到几秒钟，对吧？>>另一方面，就像……我认为早些时候一位发言者，我不记得是谁在早上谈到了学习的意义，对吧？什么样的技能，对吧？>>所以，所以，我再次没有答案，但……但我想到我的孩子们等等，他们将来应该如何学习？>>所以，也许一个具体的事情是，首先，不要废除任何东西。>>那是个好主意。>>我是说，再次，你知道，我们……我们不想……我们最终想控制。所以，要保持控制，我们需要拥有完整的专业知识来理解一切。我们不能让人工智能为我们做我们不理解的决定，那是不合理的。所以，不要废除任何东西，重新……你知道，加强专业知识的价值，向所有学生解释，这只会越来越重要。>>然后，我想说，如果有一项要添加的话，那就是开设一门关于……人工智能能力的课程，这可能是一个好主意，试图向他们解释如何以许多不同的方式使用它们。>>而且，重要的是，不要告诉孩子们……你知道，人工智能永远无法做到 X，因为那，你知道……从来没有很好地奏效。>>所以，你知道，不要……很难为那个……选择一个好的教授。[笑声]>>课程。>>但，是的，我喜欢那个评论，然后，我认为你，然后杰森，然后也许是那边的人，我们实际上，顺便说一句，所以，西特和我实际上正在考虑举办一个暑期学校，因为现在是迭代，然后在未来，我们将邀请你们成为其中的一部分。就像暑期项目实际上是当你拥有灵活性来调整和学习新东西，然后快速，快速地调整它，然后，砰，我们在下一个学期或季度就实现了。>>所以，说得好，关于那个评论，但，迪玛。>>我想，[清嗓子]>>问一个类似性质的问题。>>所以，联邦政府在资助……研究方面的看法发生了很大的变化。>>所以，我想问一下你们的看法。>>我的意思是，行业正在站出来吗？这是你担心的事情吗？>>而且，我还想评论一下，在所有发出的声音中，我认为政府更有可能倾听行业的声音。>>所以，这是我问题的另一面。你是否预见到任何方向的倡导，以增加联邦研究资金，假设……>>也许我可以先说一下。>>所以，我去年九月参加了 NIH 的一个研讨会。>>一件让我感到非常沮丧的事情是……听到……NIH 基本上资助了世界上 80% 的生物医学基础研究。>>所以，在某种程度上，美国在……从中受益匪浅。>>但也补贴了许多创新。>>看到这种情况真是令人沮丧。实际上，那是……在政府关门之前。>>然后，然后，我想……不想过多地谈论政治方面，但……但……所以，我认为我可以想到的一件可行的部分是……我们需要更多的教育来展示，比如，为什么疫苗……起作用，为什么那些生物医学研究不是浪费钱，对吧？>>所以，所以，我认为我们现在有……我谈到了能力过剩，对吧？>>我认为还有一个巨大的差距，那就是……科学如何让生活变得如此美好。>>但人们没有意识到。>>很多人，对吧？>>所以，所以，我认为也许我们每个人至少都有一些责任来弥合这个差距。>>但对我来说，如果我能说的话，显然远远超出我的薪水范围。>>但我们应该为……基础研究提供更多的资金。>>对吗？>>我把它传给杰森。>>请。你的问题是什么？>>嗨，很棒的小组讨论，但我有一个更技术性的问题，也许是给塞巴斯蒂安的。你谈到试图理解人工智能是如何得出结论的。我知道这就像一个搜索问题，你偶然发现了一些方程，但一旦你有了它，你就能开始追溯知识或结果是如何产生的吗？因为你可以看到高注意力分数在哪里，然后你可以一直追溯。我们做不到，因为我们不拥有 OpenAI 的代码。>>所以，对我们来说，这是一个黑箱。>>但如果你在里面，你就可以观察到……里面发生的一切。>>是的。是的。>>但你知道，有很多开源模型，包括 GPTOSS……这些都是思考模型。所以，你可以建立自己的……马具，然后尝试在开源生态系统中解决这个问题。>>当你谈论的时候，那正是……那正是正确的方向。>>开始思考。>>这是……这是第零步，你说的。因为问题是……你知道，当你想到注意力时，它是在一个序列内。>>但在这种马具中，你可以认为它是一个序列树。>>事实上，它甚至不是一棵树，它有循环，你知道，其中一些思维链被用在那里，它们连接在一起。>>所以，这比仅仅在一个序列内查看注意力要多得多。>>它还包括……你可以认为它是一个思维链网络。>>那么，你如何研究它呢？>>是的。>>我认为研究像……GT5 这样比开源模型具有更高智能水平的东西会更令人兴奋。>>这就是我问这个问题的原因。>>它更令人兴奋。是的。[笑声]>>那位女士，请。>>然后。>>有点跟进那个。>>你会不信任一个 LM 裁判方法来解决这个问题吗？>>好的。太棒了。>>所以……>>问题是什么？>>问题是，你会不信任一个 LLM，你知道，就像把任务交给一个 LLM，让它去做。>>所以，问题是，当问题非常简单的时候。>>我告诉你，它会写出相当于 10 本书的文字。>>我不能把所有这些都放进 LLM 的上下文中。>>它不会做得很好。>>所以，问题就变成了，好吧，我该如何把它切块？>>但再次，它没有线性结构。它有这种图结构。>>所以，问题就开始了，如果你有这种文本图结构，你该如何把它切块给 LLM，让它理解？>>所以，再次，这是一个有趣的问题。你刚才给出的角度让你……你不断挖掘，问题越来越多。>>你继续。>>好的。>>我的问题是……>>是的，所以问题实际上是给詹蒂尔的，关于模拟。>>而且非常有趣。>>你在研究……单位模拟，以代表物理世界，从而帮助我们驱动设计。>>我的问题是，你如何处理……模拟精度，关键应用的模拟？>>你如何保证？>>对。>>而且，无论你是使用……世界模型还是精确性，就像最小化……预测等等。>>这实际上非常相关，因为我们正在为我们的任务关键型……探索，NASA JPL，我们测试飞行。>>以及如何预测……>>你说得很有趣。>>你的见解。>>谢谢。>>我只想简单评论一下。>>我认为这是一个超级重要的问题。>>也许是一个永远无法完全解决的问题。>>但当你想到……进展时，比如自动驾驶。>>最初，我们构建的模拟器质量非常低。>>但目前，你已经看到了……Whimo、Tesla、Robbo、出租车。>>可靠性非常非常高。>>所以，我想说，这是一个迭代过程。>>在整个过程中，我们……精炼我们的不确定性量化，精炼构建模拟的方法。>>有时是为了降低成本，有时是为了提高准确性。>>然后我们迭代。>>然后，一般来说，也可能有新的创新……在真正推动……系统质量的边界方面。>>所以，也许我……对此的看法是，说几点。>>所以，如果你看看模拟……>>所以，有……也许有几个不同的领域。>>所以，第一个领域是……像 Alpha Zero 那样的……经典的 RL 工作。>>就像，如果你有一个完美的模拟器，你可以生成……无限的训练数据。>>然后，然后，你基本上就是这样工作的。>>然后，这就是 RL 的工作方式。>>所以，这适用于游戏，国际象棋，如何……人工智能征服了这些领域。>>然后，对于数学和编码，有一些……所谓的验证性奖励。>>所以，有点像……不是完美的模拟器，但有点……半好的模拟器。>>模拟器。>>我想说……在医学领域，我们希望我们有那种模拟器。>>如果我们能从一开始就有一个虚拟的……病人，我们就有。>>我们现在没有。>>有一个……一阶近似，那就是所有这些……真实世界的患者旅程。>>所以，再次，我……我有点开玩笑说，对于一些非常微妙的模式，比如，放射科医生、病理科医生，它们很难解释。>>但六个月后，十二个月后，你会非常清楚地知道病人是否死亡，癌症是否进展等等。>>所以，在某种程度上，这就像……再次，这种……真实世界的患者旅程给你一个近似……真实世界中发生的事情。>>所以，问题是……我们如何以一种好的方式利用它？>>所以，关于你的观点，我们如何评估……再次，对于医学……实际上最重要的事情……实际上是关于所谓的……可解释性，而是关于所谓的……循证医学。>>如何设计一个精心设计的试验，消除所有混淆因素，然后实际比较治疗是否有效？>>我们仍然不知道……比如，泰诺或阿司匹林是如何工作的。>>但我们进行了严格的试验来找出……哦，它们实际上……在纵向研究中起作用。>>所以，我认为最终在医学领域，这仍然是黄金标准。>>你最后一位，请。>>我的问题有点离题。>>没有问题是离题的。>>请。>>如果我想到我们这个时代的伟大进步，我说人工智能。>>我们还没有看到全部。>>但它是其中之一。>>第二个我预料到的，但还没有出现的，是量子。>>量子计算。>>我想知道……如果我们在不久的将来开发出量子计算，它将如何影响这个领域的人工智能？>>它如何利用我们认为不是零和一，而是……一个计算机的事实？>>它将如何影响这个？>>我说有点离题。>>我对量子计算在人工智能方面的应用持非常悲观的态度。>>嗯，是的，我真的看不到它有什么用处。>>而且不是因为我没有尝试过。>>社区已经研究了几十年了，而且真的没有太多的人工智能用例。>>有很多模拟方面的用例。>>而且我不需要告诉你，你知道，物理模型，你知道，化学等等。>>所以，对于那方面，是的，它将是一个了不起的工具。>>但方式……事实上，这可能是一个更普遍的评论，我可能很快就会做出。>>人工智能真的就是这个……你知道，对我来说，方向是……通用人工智能，这种通用智能，像人类一样的智能，可以像我们一样使用工具。>>而量子计算……你知道，量子计算机将是我们未来通用人工智能将使用的众多工具之一。>>所以，这就是……我如何看待它，而不是试图使用量子计算来改进人工智能本身。>>请。>>你想说点什么吗？>>是的。[清嗓子]>>我实际上对量子非常乐观。>>也许，[笑声]>>有点不同。>>[笑声]>>我们有一个相当大的量子研究团队，而且最近还发布了一些非常令人兴奋的新产品。>>关于量子。>>是的。>>我想说，也许……有一些特定的应用，量子真的……表现得非常好。>>但也许与人工智能的联系……需要更多时间来弄清楚。>>也许更多时间。>>也许更多……>>也许我还要强调一点，关于之前的一些问题，关于我们如何……促进更好的学术界和工业界合作。>>我确实想做一个广告。>>这个学期，我们在伯克利……教授一门课程，教学生如何从头开始构建。>>所以，实际上，它是由英伟达资助的。>>所以，我们真的在向学生展示……真正的前沿基础设施。>>从数据收集开始，预训练，后训练，构建应用程序。>>真的向他们展示了……这些系统的内部运作。>>他们不明白如何构建系统，也明白如何在实践中使用系统。>>因为有一件事，我认为社区中存在一些担忧。>>说，过去我们问人工智能……我们的大学或我们的考试问题。>>两年前，人工智能可能只得了 50%。>>现在得了 100%。>>而人们担心的是，学生们并没有真正学习。>>所以，他们只是把问题交给人工智能。>>所以，一旦他们真正理解了人工智能是如何工作的……>>他们也可能更有动力……真正地自己学习。>>所以，这可能是一个我们可以一起探索更多的主题。>>在量子和人工智能的乐观高潮中，我认为这是一个很好的结束方式。>>实际上，非常感谢各位女士们，先生们。>>然后，你们可以上来分享和交流更多个人评论和问题。>>但非常感谢。>>我们应该一起拍张快照。>>所以，如果我可以请你们……萨姆，还有杰基，和我们一起拍张照片，在小组讨论中。>>站起来。>>实际上，我们站起来。>>[笑声]>>[掌声]