Sam Altman: "Never a Better Time to Do a Startup"

Sam, grazie per esserti unito a noi. >> Questo è qualcosa >> questo è come molto più grande delle precedenti scuole per startup. >> Sì, intendo dire che le startup sono molto più grandi ora di quanto non siano mai state. Quindi >> certo. >> Voglio dire, sono più grandi, sono più grandi di quanto non siano mai state a causa della visione che avevi per l'AGI, che è vicina. Penso che questo sarà il momento migliore al mondo per fare una startup e sarà piuttosto incredibile da vedere. >> Quindi volevo iniziare con, sai, un tempo e un luogo, in cui eri nel primissimo lotto di Y Combinator nel 2005 con una società di condivisione di posizione chiamata Looped. >> Cosa ricordi di quel periodo e qual è la tua migliore storia su PG Paul Graham? >> Penso che se fosse stato possibile allontanarsi da questo momento il più possibile, come posso immaginare, era, sai, le startup non erano affatto fighe. Ci nascondevamo in questo piccolo edificio a Cambridge. PG ci preparava la cena. E sai cosa ci è voluto tre mesi per costruire all'epoca, che ogni azienda ha costruito durante l'intera startup YC, ora potrebbe essere fatto in circa sette minuti da un agente di codifica. Ed era solo, voglio dire, solo 20 anni fa. E penso che la differenza in ciò che è possibile per una startup ora, ciò che una startup può affrontare, sai, è possibile, penso che potresti essere triste e dire, oh uomo, un prompt di codice è un'intera startup, oppure potresti dire, posso avviare l'azienda più ambiziosa e folle del mondo, posso avere esperti in ogni campo che lavorano insieme, posso fare queste cose tecnologiche molto difficili che erano semplicemente impossibili, e sarà incredibile, ma all'epoca non sembrava affatto così ed era molto difficile ottenere qualcosa. Penso che Paul Graham sia probabilmente la forza più importante nelle startup degli ultimi decenni e >> senza dubbio. Sì. >> Nessun dubbio. E il mio ricordo di Paul Graham è che ogni settimana venivamo, credo fosse il martedì, e lui cucinava, lui stesso ci cucinava la cena, e tutti entravamo sentendoci molto senza speranza e molto abbattuti, e c'erano otto aziende, e poi tutti tornavamo a casa alla fine. E lui aveva convinto ognuno di noi che le nostre startup stavano per conquistare il mondo e che saremmo stati il prossimo Google o forse Facebook all'epoca. E quella capacità di creare ottimismo, slancio e fiducia dal nulla era una vera specialità di PG. E nei primi giorni, quando YC sembrava un'idea terribile e le startup sembravano un'idea sbagliata, e certamente le startup con giovani fondatori tecnici senza persone d'affari sembravano un'idea terribile, PG l'ha semplicemente fatta esistere. Ma ci vuole anche qualcuno che, voglio dire, tu sei notoriamente, per eccellenza, una persona agentica, anche prima che pensassimo agli agenti in generale. Voglio dire, tu hai >> Ricordo che Paul ha scritto, voglio dire, sta girando su X oggi, che Paul ha scritto alla fine degli anni 2000 che saresti stato uno dei cinque migliori imprenditori che avesse mai incontrato. >> È molto gentile da parte sua. Penso che, come molti ventenni, avessi molta energia e molta ambizione, ma era piuttosto non diretta e non ero sicuro di cosa fare. Paul aveva questa cosa che diceva, sai, il lavoro di essere un buon investitore di startup è quello di un insegnante, ma è un tipo di insegnante che non usiamo di solito. Come, di solito pensiamo a un insegnante come qualcuno che tiene una lezione, e non puoi aiutare molto qualcuno tenendo una lezione su una startup. C'è un altro tipo di insegnante, come un istruttore di volo. La persona che si siede accanto a te dicendo, fai questo, non fare questo, quello funziona, questo, sai, hai mancato quella cosa o stai facendo questi errori, e ti parlerò solo di questo, e quel tipo di approccio molto pratico, sai, ecco dove dirigere questa energia da brownie in movimento. Quello è stato molto importante per me. >> Sì. Immagino che più tardi tu sia diventato presidente di YC e tu abbia portato esattamente la stessa energia a molti fondatori di YC nel corso degli anni. >> Hai avuto qualcosa, qualcosa ti ha colpito in quel periodo riguardo, sai, prendere questa energia grezza di qualcuno davvero, davvero intelligente e forse un po' indisciplinato e poi guidarli di più verso l'agenzia. >> Sì. Prima di tutto, amo le startup. Penso che non siano per tutti, ma penso che le startup siano la cosa più figa in tutto il business. Penso che le startup siano davvero la cosa principale che impedisce all'economia di diventare stagnante. Penso che le aziende tendano a scivolare verso la mediocrità e le startup continueranno ad essere importanti per sempre. Infatti, se abbiamo ragione sul fatto che l'IA sarà un cambiamento così grande, le startup saranno molto più importanti per garantire che il potere di questa tecnologia sia ampiamente distribuito in tutta l'economia e la società e non sia concentrato solo in poche aziende o modelli. Quindi penso che le startup siano questa cosa incredibilmente figa, divertente, estremamente dolorosa e difficile, ma meravigliosa. E penso che una grande parte del lavoro di gestire YC sia che sei una specie di portabandiera non ufficiale del movimento startup. Sai, ci sono un sacco di startup. Ci sono un sacco di modi per fare una startup. Ovviamente non hai bisogno di fare YC, ma è sempre stato un grande aiuto per le aziende e una forza molto potente. E quindi, partendo da PG e poi tutti noi, sai, dobbiamo far sì che YC abbia successo, ma penso che dobbiamo davvero lottare per capire perché le startup sono importanti e perché le persone dovrebbero considerare le startup e aiutare a mettere un potere relativamente maggiore nelle mani dei fondatori e incoraggiare più persone ad avviarle. E questo ha funzionato molto bene. Penso che ripensando ai primi giorni di YC, c'è pochissima leva nell'essere un fondatore rispetto a un investitore, e quel cambiamento, sai, penso che sia stato persino buono per gli investitori. Penso che sia stato semplicemente molto meglio per l'intero ecosistema delle startup. Quindi, per lo più, quello che ho cercato di fare a YC è stato semplicemente spingere per più startup e incoraggiare le persone a pensare alle startup e capire cosa potevamo fare per aiutare i fondatori e rendere le startup e l'ecosistema delle startup il migliore possibile. Sicuramente parte di ciò è stata spingere le persone verso più ambizione e colpi più grandi. Ma sembra le leghe minori rispetto ad ora. Voglio dire, penso che tu sia stata una delle persone che ha davvero portato la tecnologia dura a YC in modo davvero grandioso. E poi una delle cose che stiamo vedendo a YC ora è che quel numero era, sai, forse il 5-10% per molti anni, e poi ora stiamo arrivando al 15-20-25%. Argomenterei sul retro di quanto sia più facile usare agenti e i costi che diminuiscono. >> Penso che le startup ambiziose siano sempre fantastiche e le startup di tecnologia dura attraggano molte persone, ma sono difficili o sono state difficili. Saranno ancora difficili. Ma quello che puoi fare ora per affrontare un progetto davvero ambizioso, allo stesso modo in cui puoi fare la startup che ci ha richiesto 3 mesi di lavoro non-stop in 17 secondi con tre mesi di lavoro e molti agenti, puoi fare cose incredibili. Quindi penso che vedremo un'età d'oro delle startup in cui le persone diranno, sai cosa, farò cose che sarebbero state completamente impossibili per una startup anche solo sognare un anno fa, nel lasso di tempo di YC. Voglio dire, questo è in realtà un grande cambio di prospettiva. Voglio dire, ci sono probabilmente persone anche in questa stanza che potrebbero preoccuparsi che, beh, l'intelligenza su richiesta significa che, sai, potrebbero guardare a un loop o alla mia startup, e dire, beh, non posso più avviare quella società, ma ragazzi, quello è stato un tempo fa, in realtà, uomo, c'è tutto questo meme che gira che dice, sai, devi unirti a un laboratorio di frontiera o sarai un membro della classe operaia permanente perché è così stupido. Perché ci saranno, sai, le startup sono finite e non c'è valore economico. Non è vero. Voglio dire, se fosse vero, il mondo è totalmente [ __ ] ed è un posto molto brutto. Ma io scommetterei che le startup medie create oggi saranno, scommetto che c'è un futuro miliardario seduto in questa stanza, e scommetterei che le startup create oggi saranno molto più preziose, molto più influenti delle startup del passato. E penso che la gente lo veda un po' di più ora. Voglio dire, c'è stato un periodo in cui, l'IA romperà l'intera economia e penso che la gente abbia superato la reazione di shock. Ma c'è stato, sì, sicuramente un momento in cui venivo ad ogni lotto di YC e sarò interessato a vedere come il livello di ansia rispetto all'ambizione stava andando, e sembra che sia passato attraverso questo grande calo in cui le persone dicevano, sai, è finita, i modelli mangeranno tutto, a ora è tornato a, facciamolo. >> Quali sono alcune cose pratiche qui? Voglio dire, la tecnologia dura, per esempio, stavo sentendo, sai, durante una delle pause, qualcuno stava chiedendo, dovrei prendere il mio dottorato? Quanto sono importanti le credenziali? Sai, come risponderesti a questo? Soprattutto per le persone che vogliono fare queste cose tecnologiche più difficili. >> Beh, come osservazione generale prima, penso che le startup tendano a vincere quando il panorama tecnologico si muove molto velocemente, quando i costi diminuiscono, quando i tempi di ciclo sono brevi, e tutte queste cose stanno accadendo proprio ora. Quindi, se guardi a quando ci sono stati i grandi cluster di startup in passato, sai, c'è stato il boom di internet in quello che era tipo 998-99 quando sono diventate possibili nuove cose. C'è stata un'altra versione, una mini versione, di persone che costruivano su app di Facebook. Poi c'è stata un'altra grande versione quando è stato lanciato l'App Store dell'iPhone. Ma le grandi startup tendono a raggrupparsi quando l'ecosistema cambia e gli incumbent perdono gran parte del loro vantaggio. E poi quando hai questo cambiamento di costi e tempi di ciclo. Io, questo momento sembra molto grande per queste cose. Ha anche quest'altra cosa di cui stavi parlando, che è che molte delle cose tradizionali per cui era difficile ottenere competenze, sai, la capacità di assumere persone eccellenti che potessero fare cose specifiche di cui avevi bisogno. Quello è davvero cambiato, e negli ultimi mesi ho visto molte persone che sono cresciute usando l'IA negli ultimi anni e che dicono, posso automatizzare un'intera startup di agenti e quattro di noi, quattro persone, e tutto questo calcolo, e penso che vedremo molto di più di questo. Chiaramente, il gusto e l'agenzia e la comprensione della fisica del business, dove puoi costruire un business di valore, come pensare a un buon effetto rete o a un buon fossato, rispetto a uno falso. Ma scommetterei che questo in generale andrà contro molti anni di esperienza a favore di persone che hanno molta fluidità con gli strumenti. >> Immagino che voglia entrare nell'inizio di OpenAI e che in realtà sia iniziato come ricerca YC che esaminava questa idea. Voglio dire, un'idea piuttosto folle che, sai, tu e una banda di disadattati avete deciso che dedicheremo le nostre vite alla creazione di AGI, ma oggi suona fatalmente completo, giusto? >> Sì. >> Ma non è stato così che ti sei sentito quando hai iniziato. >> È davvero difficile perché ora è l'unica cosa di cui la gente vuole parlare. È davvero difficile ricordare com'era. È difficile persino per me ricordarlo senza trovare appunti dell'epoca, 10 anni fa, quando tutti dicevano, non solo hanno torto a dire che pensano che potrebbe essere possibile costruire AGI, ma causeranno da soli un altro inverno dell'IA. Sono sbagliati, irresponsabili e cattivi. E forse il mio consiglio più importante per tutti voi è trovare le cose su cui potete sviluppare una convinzione ragionevole, su cui le persone decidono che la saggezza convenzionale è semplicemente sbagliata. E va bene se ci vuole molto tempo e se le persone sono molto, molto frustrantemente sbagliate e sprezzanti. Per anni a OpenAI, è sembrato che conoscessimo il più grande segreto del mondo. Tutti ci chiamavano idioti. E avevamo sempre più dati per convincerci che non eravamo deliranti. Ed è stato molto frustrante. È stato estremamente frustrante. Ma guardando indietro, è stato un dono incredibile perché significava che non avevamo concorrenti massicci e avevamo tempo per fare la nostra ricerca e costruire le nostre cose e costruire la nostra azienda. E da allora ho notato che questo è il caso di molte aziende in modi diversi. Finiscono per fare qualcosa che altri, che gli esperti del settore o del campo, sono convinti sia un'idea molto sbagliata. E dall'altra parte di questo, se stai avviando la stessa startup di tutti gli altri, ottieni un sacco di hype e puoi raccogliere un sacco di soldi, ma sono molto meno frequentemente le grandi opportunità, i grandi risultati. Quindi, se fossi voi tutti, cercherei di capire qual è la cosa nuova davvero grande che è possibile ora, che non era possibile qualche anno fa. Nel nostro caso, l'IA non stava davvero funzionando, e poi è successo il momento magico del deep learning, e il mondo non si è aggiornato abbastanza. Il mondo. Questo è un altro grande detto di PG. Il mondo non capisce come intuire gli esponenziali, e quindi si è perso questo. Ci devono essere nuovi esponenziali che si formano proprio ora. Non so quali siano. Ma se riesci a capirli e se riesci a sviluppare una convinzione continua basata su più dati, sii grato che il mondo non capisca. Alla fine capirà. Questo è un superpotere enorme. Sembra che nel tuo percorso ci siano state alcune cose diverse che si sono accumulate. Forse la prima è stata che l'AGI fosse possibile da costruire e trovare altre persone che ci credessero. Sai, non importava che molte persone non pensassero che fosse possibile. Importava che tu trovassi persone davvero, davvero intelligenti che ci credevano. Sì. Scherzavamo sul fatto che solo 50 persone al mondo credessero che l'AGI fosse possibile, ma andava bene perché 45 di loro lavoravano a OpenAI. E penso che sia vero. Non hai bisogno di un sacco di persone. E infatti, dire la cosa eretica era probabilmente il motivo per cui quelle persone volevano stare tutte insieme. Quindi, di nuovo, penso che capire davvero ciò in cui credi, essere disposti a essere fraintesi per molto tempo e riunire la squadra di disadattati che ci crede. Questo è anche quello che era YC nei primi giorni. Una delle cose a cui le persone nella stanza probabilmente stanno pensando è, beh, io credo in questa cosa, ma non ho ancora trovato la mia gente. Voglio dire, è delusione? Sai cosa? È in realtà forse anche un cancello che proporresti alle persone di avere? È tipo, beh, devi trovare, sai, cinque persone che potrebbero crederci o anche una, un co-fondatore, sai, la gente forse questa è una delle spiegazioni per cui ci piacciono così tanto i co-fondatori a YC. >> Sì, penso che se non riesci a trovare nessun altro che condivida la tua convinzione, dovresti prestare attenzione a questo. Ed è anche molto difficile fare una startup da soli ed è molto solitario. Ma non penso che tu abbia bisogno di trovare molte persone. E infatti, se tutti ci credono, anche questo è un brutto segno. La domanda, non so se questo è ancora quello che sembra essere il limite per più startup. Ma cinque o dieci anni fa, quello che sembrava limitare il numero di buone startup che YC poteva finanziare era capire come risolvere il problema del matching dei co-fondatori. Molte persone di grande talento, e semplicemente non riuscivano a trovare la loro tribù. Non riuscivano a trovare la loro gente. Sai, era un tempo molto eretico che YC dicesse alle persone che dovevano trasferirsi a San Francisco. E guardando indietro, è stato chiaramente giusto. Penso che non so se questo sarà ancora vero per i prossimi 10 anni. Sospetto di sì, ma la cosa migliore che potresti fare se volessi trovare la tua gente per fare una startup con te era trasferirti nella Bay Area. Succedevano cose magiche, avevi un sacco di possibilità e collisioni fortunate. Penso ancora che sia un buon consiglio, anche se sento di avere meno intuizione per questo ora. Penso anche che posso dire questo, Gary probabilmente no. Penso che il premio per fare YC sia più grande ora di quanto non sia mai stato prima. La distanza tra YC e il secondo posto si è ampliata. E questo è un promemoria del potere degli effetti di rete. E quindi trovare reti di cui puoi far parte che ti aiutano a incontrare quelle persone, le persone con cui ho iniziato OpenAI, le ho incontrate molti anni prima, in alcuni casi, prima di iniziare OpenAI, e le ho conosciute nel corso di una lunga carriera. E questo succede ancora e ancora. Quindi, prima puoi metterti in un flusso in cui incontrerai le persone che saranno i tuoi futuri co-fondatori per la startup o la prossima, o qualunque cosa, penso che sia meglio. Ci vuole molto tempo per comporre. >> Mi aggancio a quello che hai appena detto, ovvero, sai, alcune delle persone con cui hai finito per avviare tutte queste cose diverse, non sapevi necessariamente per cosa fossero o che sarebbero state utili in un contesto di rete. Voglio dire, hai solo raccolto persone interessanti e fighe. Penso che tu faccia questo. Penso che Peter Thiel lo faccia davvero bene. Cosa diresti a una stanza piena di persone che stanno appena iniziando e stanno cercando di capire chi sono le loro persone? >> Il tuo consiglio più fiducioso è semplicemente trovare un modo per essere leggermente utile a molte persone. È divertente da fare. Vedrai un sacco di cose interessanti. È gratificante essere d'aiuto. Ma sai, anche quell'esempio di cui stavi parlando, ho incontrato Greg Brockman, il mio co-fondatore di OpenAI, perché ero un investitore molto precoce in Stripe quando avevo tipo 22 anni o qualcosa del genere, ed erano tipo, questo era prima che avessero investitori veri che potessero davvero aiutarli. E hanno detto, sai, stiamo cercando di chiudere la nostra prima assunzione. Guiderai a Palo Alto stasera e cenerai con questo ragazzo per convincerlo che dovrebbe abbandonare la scuola e unirsi a Stripe, che è Greg Brockman. E poi otto anni dopo, abbiamo avviato un'azienda insieme. E potrei, sai, potremmo passare il resto di questo tempo a raccontare storie come questa che erano totalmente imprevedibili ma che si sono rivelate importanti in modi importanti. Quindi, ho, sì, è divertente da fare e penso che dovresti farlo per il suo stesso motivo, o per il suo stesso bene, ma semplicemente aiutare le persone molto va molto lontano in termini di queste cose che si uniscono in seguito. Voglio dire, penso che questo sia in realtà un messaggio davvero importante. Quindi, una delle cose, uno dei meme in questo momento è, lo vedo su X, è il gioco di ruolo dal vivo. Questa è una delle cose che le persone hanno detto su X. Voglio dire, non capisco perché lo fanno perché mi sembra sbagliato. Voglio dire, una delle cose che amiamo davvero a YC, per esempio, è l'earnestness. E anche, le parole contano. Quindi, questa idea che quello che stiamo cercando di fare è un gioco di ruolo dal vivo mi offende profondamente. In realtà. >> È molto >> Scusate ragazzi, per favore non fatelo. >> Lo dicono specificamente di YC. >> No, le persone, i partecipanti in questa stanza hanno twittato questo e vorremmo che smettessero. >> Cosa affermano? Qual è l'affermazione? >> Penso che sia solo un po' sarcastico e sai, il sarcasmo è l'opposto di ciò che mi piace. Perché ci piace l'earnestness, ci piace che stiamo davvero cercando di fare una cosa qui. >> Ti dirò un'altra cosa. Posso fare una piccola sfuriata? Ok. >> Sfoga pure. >> PG, una delle cose fastidiose, posso dire queste cose per Gary perché lui non può dirle ora, ma lui le dirà per il prossimo. Una delle tante cose fastidiose di gestire YC è che devi solo affrontare questi haters su Twitter tutto il tempo. È così frustrante. Devi sederti lì ed essere un statista. Beh, tu sei più bravo. Io ho spesso abboccato. E vuoi solo discutere con loro. E la cosa che ho capito alla fine e da cui prendi quello che vuoi è che è molto difficile gestire YC o gestire una startup o creare qualcosa di valore nel mondo. È molto facile fare delle battute su Twitter e fare un commento sarcastico e ottenere un sacco di like e sentirsi come se stessi facendo qualcosa di veramente importante e colpendo il sistema e dicendo, Gary, haha, ti ho preso, idiota. E ti avvelenerà l'anima. È una cosa moralmente fallimentare da fare. Ed è cattivo in un modo molto insidioso. Come, capisco perfettamente lo sfogo e il divertimento, ma non metterti un'asticella più alta di questa. Non è così facile prendere di mira le persone che stanno cercando di fare cose difficili e cercare di costruire aziende, e vedrai qualche, sai, ragazzo con una cattiva idea di startup che cerca di eccitarsi per quello che sta facendo su Twitter. È così facile fare un commento sarcastico e ottenere 10.000 like e sentirsi, uomo, ho davvero guadagnato i miei punti internet oggi. Ma avrà un effetto su di te. E quando ho riflettuto sugli anni di troll su Twitter che dicevano cose cattive su YC e sulle startup mentre gestivo YC, ho pensato, scommetto che ci sono stati molti giorni in cui si sono sentiti davvero di avermi preso. E nel corso di un decennio, nessuno di loro ci è riuscito. E dovresti mettere tutta la tua energia nel costruire cose e resistere ai colpi facili. >> Mi piace molto questo come contrasto. Voglio dire, mi piace questo come contrasto con la storia che hai appena raccontato sull'aiutare Patrick con Greg Brockman. Voglio dire, sai, aiutare, ci sono persone in questa stanza che saranno amici per tutta la vita e si aiuteranno a vicenda, e poi succedono queste connessioni magiche. Sai, questo è già il set di persone più raro, e poi quando ti unisci a YC è ancora più raro, e poi c'è un gruppo di persone là fuori che sono ambiziose. Sai, qualcuno in questa stanza incontrerà qualcun altro con cui avvierai un'azienda, e qualcuno incontrerà qualcuno che ti presenterà al tuo coniuge. Tutte queste cose accadranno, e poi ci saranno un sacco di cose non ovvie che richiederanno un decennio o due per essere capite, e in qualche modo uno di voi si aiuterà a vicenda, il che si trasformerà in qualcosa di nuovo e sorprendente. Penso che questa sia una parte enorme di ciò che ha fatto funzionare YC e l'ecosistema delle startup più ampio. Penso che questo sia, per tutti i negativi della cultura della Bay Area, questa è una specie di rete lasca e lo spirito di aiutarsi a vicenda e questa prospettiva a lungo termine è stata una cosa fantastica. >> Sì. >> Bene, torniamo all'imminente AGI. >> Ok. >> Immagino che tu abbia avuto, voglio dire, abbiamo tutti avuto una settimana intensa con Hugging Face. Mi chiedo cosa puoi dirci a riguardo. E penso che questo sia in realtà un momento molto importante per le persone, incluso me, che, sai, in passato sono stato noto per essere scettico sulla sicurezza nell'IA, ma d'altra parte, questo è un vero momento, stiamo entrando in un nuovo momento in quello che sta succedendo con questi modelli di frontiera. >> Sì. Questo è il vero affare. E penso che chiunque non lo prenda sul serio e almeno un po' spaventato o umiliato, molte di queste cose. Ma almeno un po', non lo sta prendendo abbastanza sul serio. Sai, per molto tempo il campo ha parlato di incidenti di sicurezza dell'IA di questa forma, e questo non è un grosso incidente. Inoltre, non voglio esagerare e dire che questo è una vera perdita di controllo e questa è la cosa. Ma se avessi chiesto alla maggior parte delle persone quando abbiamo iniziato 10 anni fa, dove nello spettro da niente a superintelligenza, hai un sistema di IA che esce dalla sua sandbox e hackerare qualche altra azienda e fare quello che è successo. Penso che la gente avrebbe detto abbastanza lontano verso il punto di superintelligenza. Ora i pali della porta si sono spostati, ed è facile dire, beh, ecco come è successo e ecco gli errori che OpenAI ha commesso, e abbiamo commesso alcuni grandi errori, ovviamente, ma questi sistemi sono diventati incredibilmente capaci. Quindi penso che sia un fallimento di allineamento. Penso che sia un fallimento di sicurezza. Penso che sia una cosa molto seria, anche se non è l'esempio più grande di conseguenza. E penso che sia un vero promemoria della posta in gioco di ciò che sta accadendo e che gli incidenti di perdita di controllo non sono cose interamente teoriche. Penso che impareremo, noi, tutto il campo, noi di OpenAI, impareremo molto da questo e saremo in grado di affrontarlo. Ma, sai, le cose che, ci sono tutte le cose sulla sicurezza informatica e la biosicurezza, ma quest'altra categoria di cose che sono state forse appena fuori dalla finestra di Overton del pubblico, è molto importante che non abbiamo un incidente di perdita di controllo con l'IA. È molto importante che il potere non sia troppo concentrato in un piccolo numero di modelli o aziende, ma diffuso in tutta l'economia in modo che le persone possano difendersi. Io, sai, è molto importante che i valori umani guidino questi sistemi in ogni fase. Sì, penso che siamo nella fase del vero affare. Voglio dire, mi piace molto come hai pensato sia alla concentrazione che a considerare OpenAI come un'utilità, che è in realtà un messaggio molto importante perché non tutti là fuori stanno dicendo quel messaggio. Sai, c'è molto di cui preoccuparsi in termini di concentrazione di potere. Penso che la concentrazione di potere sia stata fondamentalmente negativa in ogni momento della storia umana, a vari gradi, ovviamente, ma ho un vero spirito, e penso che questo faccia parte dello spirito imprenditoriale, di pensare che il mondo, l'economia, la società stiano meglio quando il potere è molto ampiamente distribuito e quando chiunque abbia una grande idea può avviare un'azienda o creare un grande progetto artistico o candidarsi a una carica o fare quello che vuole. E posso immaginare mondi in cui l'IA porta alla più grande distribuzione di potere che abbiamo mai visto. E posso anche immaginare mondi in cui l'IA concentra il potere a un grado che non abbiamo mai visto. E un'azienda o una persona o un modello che ha più potere di tutti o di tutto il resto sulla Terra messo insieme, qualunque cosa abbiano detto le storie di fantascienza, penso che sia terribile. E davvero, forse otterremmo un beneficio di sicurezza a breve termine da questo, ma un disastro a lungo termine. Non penso che nessuno di noi voglia essere bloccato in una visione morale di un'IA o di una persona o di un'azienda. Penso che le startup abbiano un ruolo molto importante da svolgere qui. Un modo in cui ciò accade è un'eccessiva concentrazione economica in un'azienda o in un modello di IA, e penso che le startup, a causa delle cose di cui abbiamo parlato prima, saranno naturalmente molto adatte a garantire che questo sia ampiamente distribuito. Ma vogliamo abilitare quante più startup, quante più aziende, quante più persone possibile. E ciò significa che dobbiamo, sai, essere piuttosto riservati nel non imporre la nostra visione del mondo su ciò che pensiamo che le persone dovrebbero o non dovrebbero fare con l'IA, o anche su ciò che pensiamo siano le buone idee, pur garantendo che possiamo garantire una barra di sicurezza sufficiente in modo che cose come l'incidente di Hugging Face non accadano. >> Una delle cose è, sai, questa è una stanza piena di persone che faranno cose incredibili. Sono spesso all'inizio della loro carriera e potrebbero guardare alla sicurezza dell'IA o alla concentrazione di potere e dire, beh, sai, non posso davvero farlo, quello deve essere qualcosa che i laboratori devono fare, come, sai, c'è qualcosa che possono fare. Voglio dire, puoi aiutare nella questione della concentrazione di potere semplicemente avviando una startup di successo, è l'unica cosa che fai, e l'economia continua a funzionare, e la magia del capitalismo e avere questo ecosistema che funziona insieme, continuando, questo da solo sarebbe un enorme contributo. Ma guarda, penso che sia molto naturale all'inizio di una carriera dubitare di sé e non presumere di poter fare una cosa incredibile. Io certamente ci sono passato, sono sicuro che tu ci sei passato. Impari man mano che vai avanti, puoi fare sempre di più. Ci saranno molti più, penso che sia vero sia che, sai, forse creare la superintelligenza sarà la cosa più importante che sia ancora accaduta nella storia del business o della società umana, sia che svanirà al confronto con qualche nuova startup che speriamo uno di voi farà. E quindi questa trappola di, questa è la fine della storia, questa è la fine dell'economia, è chiaramente sbagliata. E penso che l'approccio giusto sia che ora puoi fare tre mesi di lavoro in 17 minuti, ma è meglio che tu faccia tre mesi di lavoro in tre mesi di lavoro. Qualunque sia la nuova barra per questo. >> Immagino che sarei negligente se non chiedessi, sai, quale anteprima puoi darci su cosa c'è di nuovo, quanto più fantastiche saranno i modelli, nella misura in cui puoi dirlo. Penso che ci sarà, penso che sembrerà che i prossimi sei mesi siano equivalenti agli ultimi due anni di progresso dei modelli, qualcosa del genere. Quindi penso che attraverseremo un periodo molto ripido, attraverseremo un periodo molto ripido, che ancora una volta, mai un momento migliore per fare una startup che proprio ora. Spero che possiamo dirlo di nuovo ogni anno da ora in poi, ma è certamente vero per questo, in qualsiasi momento della storia. >> Vediamo. Se qualcuno qui ha un'idea che sembra troppo ambiziosa, cosa gli diresti? >> Mi piacerebbe sentire quella presentazione. >> Sì. >> Probabilmente sarei molto interessato a quella. >> Sì. >> Um, sì, mandami un'email. Sì, sembra che richiederebbe una forma simile alla creazione di OpenAI, come, hai bisogno di essere pronto per le persone che ti attaccheranno o ti respingeranno? Sicuramente. Voglio dire, se fai qualcosa che conta nel mondo, molte persone ti chiameranno idiota o ti respingeranno. Più lo fai, meglio lo fai, più ti attaccheranno. Più minacci lo stato attuale del mondo, più continuerà ad escalation. Una cosa che ho notato su molte delle migliori idee è che la visione è chiara. Volevamo costruire AGI, ma i primi passi erano super poco chiari. Non sapevamo che saremmo diventati un'azienda di prodotti. Abbiamo avviato questo laboratorio di ricerca no-profit per molte ragioni, ma una delle quali era che non ci era venuto in mente che avremmo creato un prodotto che le persone avrebbero potuto pagare. Erano anni prima che ci venisse in mente l'idea di ChatGPT, l'API. E quindi penso che se la visione di livello più alto è chiara, ma i primi passi sono molto poco chiari, non è una cosa negativa. Questo accade spesso con idee molto ambiziose e non dovresti lasciare che questo ti faccia tirare indietro. Ora, devi comunque fare alcuni passi avanti, per quanto imperfetti possano essere, e i nostri lo erano certamente molto imperfetti. Quindi c'è un altro caso di fallimento in cui hai questa brillante grande idea e non riesci mai a fare progressi. A un certo punto, devi semplicemente ottenere nuovi dati. >> Sì. >> Cosa pensi che succederà all'inferenza? Mi piace molto il tweet di Run a riguardo. È tipo, o muori come azienda di modelli o vivi abbastanza a lungo da vendere inferenza, che è un tweet molto divertente di Rune. Penso che quello che intendeva con quel tweet è, sai, se finisci per cadere dalla frontiera dei modelli, puoi almeno vendere l'inferenza, non nemmeno il calcolo di addestramento dell'inferenza, il calcolo è così prezioso che se acquisti molto calcolo come laboratorio di IA, stai bene perché puoi rivenderlo a qualcun altro, ma separatamente, immagino che la domanda mondiale di inferenza, soggettivamente, cresca di 10 volte all'anno per i prossimi molti anni. >> Voglio dire, potrebbe essere, non lo so, secondo i nostri conti interni a YC, potrebbe essere 90.000 volte. Voglio dire, sarà >> Non penso che il mondo possa supportare così tanti anni di mille volte di fila. >> Giusto. >> Ma faremo del nostro meglio. Troveremo una soluzione. Voglio dire, la capacità, immagino che sia semplicemente una funzione di quanto più grandi sono le tue ambizioni per l'intelligenza e come, sai, se fai molto di più, penso che non saremo mai a corto di calcolo. Non ho mai visto una merce come questa, ma mi sembra che la domanda di intelligenza di qualità sufficientemente alta a un prezzo sufficientemente basso sia effettivamente illimitata. La domanda di elettricità certamente aumenta man mano che il prezzo scende, ma a un certo punto diventa più difficile trovare cose incrementali da fare con l'elettricità. Almeno storicamente è stato così. Ma sai, ci sono molte cose da fare con l'intelligenza incrementale. Puoi semplicemente continuare ad avere cose migliori per te. Mi ricorda alcune di quelle citazioni della rivoluzione informatica iniziale quando la gente diceva, sai, nessuno ha bisogno di più di 640K di RAM o qualcosa del genere nel proprio computer. Si scopre che lo fai. Continuiamo a pensare a cose sempre più e migliori. E penso che questo accadrà con l'IA e forse una statistica qui che mi piace molto. Sei anni e mezzo fa, il leader mondiale di token era un dipendente di OpenAI che utilizzava circa 100.000 token al mese. E questo sembrava ridicolo all'epoca. La media mondiale pro capite era di circa zero. Ora la media mondiale di token al mese, che penso siano la metrica più stupida, ma è quello che abbiamo, è di circa 100.000 e il leader di token a OpenAI utilizza centinaia di miliardi. Se questo accade di nuovo, cosa che penso probabilmente accadrà, allora tra altri sei anni e mezzo la persona media utilizzerà, diciamo, 500 miliardi di token al mese e il leader di token utilizzerà centinaia di trilioni o trilioni di token al mese. E penso che questo diventerà semplicemente l'aspettativa. >> Quindi tutte queste cose accadono, si realizzano, sono 10 anni da ora. Qual è la versione migliore di questo, 10 anni da ora, con l'intelligenza completamente disponibile, la superintelligenza qui. E ci riusciamo, la società ci riesce. Penso che se ogni anno le persone hanno più libertà e agenzia per dedicare più del loro tempo a fare le cose che vogliono fare e sentono che la qualità della vita e la qualità del loro tempo sta aumentando anno dopo anno, probabilmente staremo per lo più bene. Avremo evitato una concentrazione di potere folle o un collasso economico. Avremo necessariamente evitato un grosso incidente di sicurezza. Avremo evitato troppi cambiamenti in un'unica unità di tempo. E sai, c'è una distopia di cui sono particolarmente preoccupato tra 10 anni: reagiamo in modo eccessivo alla sicurezza dell'IA. E quindi diciamo, guardate, tutti, avrete una cura per il cancro, avrete abbondanza materiale, ma non avrete libertà. Non avrete agenzia. Sarà uno stato di sorveglianza perfetto. Non ci sarà privacy. Ed è quello che otterrete. Otterrete un grande comfort, ma non ci sarà più nulla al mondo che potrete fare. Nulla che abbia davvero importanza. Vivrete semplicemente al servizio dell'IA che vi dà ricchezza materiale. Vorrei davvero evitarlo. E penso che sia facile accettare compromessi temporanei. Quindi, se diciamo che ogni anno la libertà e l'agenzia devono aumentare, le persone devono avere più controllo sul loro tempo e fare più cose che vogliono fare. E più appagamento a lungo termine, penso che sarebbe molto buono. >> Lasciami riportarti al secondo anno di Stanford. Stai venendo a YC. Se potessi dare a te stesso un messaggio in una bottiglia a quel Sam Altman, cosa gli diresti adesso? >> Stavo solo, andrà tutto bene. Voglio dire, è stata, è stata una cosa folle e molto stressante fare una startup, e la mia prima startup non è andata benissimo ed è stato un periodo difficile della mia vita, ma una delle cose, penso che molte persone lo dicano quando guardano indietro all'inizio della loro carriera, puoi fare molti errori, puoi fallire in cose, l'industria tecnologica in particolare è molto indulgente. E avrei solo voluto potermi dire di avere tutta la spinta e l'ambizione, ma semplicemente di essere un po' più felice lungo la strada e di fidarmi che alla fine sarebbe andato tutto bene, perché sembra così difficile, spaventoso e doloroso nel momento. >> Beh, non riesco a pensare a un modo migliore per concludere Startup School 2026. Sam Altman, grazie mille. >> Grazie.