Transcription
E hoje eu vou conversar com Fábio Aquita, cara. Muito obrigado por vir aí de novo.
>> Não, eu que agradeço pelo espaço. Espero que a gente possa explicar tudo de IA dessa vez e finalmente responder todas as perguntas.
>> Cara, eu acho que essa foi a última vez da última vez a gente ficou respondendo um monte de pergunta. A gente tentou, inclusive, até interessante você falar isso que eu não tinha notado isso na época. Depois as pessoas vieram me falar. Ah, da forma como eu falei,
>> eh, eu não tinha entendido que eu estava passando essa mensagem, mas parecia que eu não gostava de IA, porque
>> é, não foi isso que eu saquei, mas realmente eu vi uns comentários assim, é,
>> é, mas porque das últimas vezes o que eu vim fazer foi explicar como funciona na teoria e tudo mais e falar que aquele medo de Skynet, AGI e toda aquela baboseira não fazia nenhum sentido e explicar para onde que as coisas poderiam estar indo.
Então aí hoje a gente chegou num ponto de virada que eu estava te falando e inclusive no último ano teve vários convites de podcast para falar de IA. Acho que até vocês me chamaram, só que não tinha nada de relevante para falar e eu não queria só ficar repetindo a mesma coisa, mas dessa vez
>> eu eu voltei porque eu tenho literalmente, metaforicamente, parece que eu escalei o Evereste, voltei e aí eu vim, eu estou me sentindo a Mirklin, que eu atravessei o Atlântico, voltei e aí agora
>> quantas horas por dia sentado na frente de
>> 16 horas por dia, 7 dias por semana, mais de 2 meses, mais de 500 horas experimentando todas as IAs. Eu fiz benchmarks e eu escrevi no meu blog aqui raises.com, tem acho que 50 posts só este ano. A gente está em abril ainda, então tem bastante coisa.
>> E o que que tem, você falou, a gente, você antes da gente começar um pouco, tu falou de um ponto de virada que teve no final do ano passado, né? Eh, é a partir desse ponto de virada que tu que tu entra de cabeça nessas ferramentas? O que que aconteceu que chamou tanto a atenção?
>> Então, o que que aconteceu foi o seguinte: desde que saiu GPT2, GPT3, tudo mais, lá em 22, 23, eu fiquei testando
>> e nunca foi útil. É todos aqueles memes que todo mundo viu falar: "Ah, você pede para, tem que ficar consertando e tudo mais". É dessa geração. Essa foi a geração que ficou aí, subiu de 1 bilhão de parâmetros para 1 trilhão de parâmetros e ficou só naquela corrida de parâmetro. Mas por mais que aumentasse 10 vezes, 100 vezes a quantidade de parâmetros, não multiplicava 10 vezes, 100 vezes a inteligência, vamos dizer assim. Agora, no ano passado, finalmente a gente chegou, eu vou depois eu vou explicar mais sobre isso, mas parece que a gente chegou num ponto onde acabaram as possibilidades, eles finalmente tiveram que "vamos parar de ficar aumentando, ver o que a gente tem e realmente usar o que a gente tem".
E aí durante o ano de 2025, isso ajudou bastante que a gente teve a OpenAI, a Anthropic, aí teve também os chineses, Alibaba, Tencent, todo mundo, Google entrou no jogo finalmente.
>> Então teve uma competição ali e por causa dessa competição, no final de novembro do ano passado, a gente teve de fato os lançamentos que me interessam, que foi o Anthropic, o Cloud Opus 4.5, o GPT 5.1, um, as ferramentas que a gente chama de harness, que é o cloud code e o codex. E aí durante o mês de dezembro todos os desenvolvedores que estão tão mais na fronteira brincando de IA começaram a descobrir coisas muito diferentes que dava para fazer. Quando eu voltei em janeiro, eu comecei a olhar esses desenvolvedores que eu acompanho, falei: "Caralho, o que que mudou?" E aí eu eu comecei a me sentir, cara, alguma coisa aconteceu nos últimos três meses que eu não estou sabendo.
>> Aham. Porque eu também saí de férias, Ano Novo, pá, pá, pá. E eu falei: "Cara, mudou tanto as coisas que agora eu estou me sentindo atrasado, atrasado para caramba". Eu comecei, então eu já tinha até cancelado minha conta do Claude que eu falei: "Cara, o Claude não é tudo isso que todo mundo falava, 3 sonet que todo mundo falava, blá blá blá". Então, em 2025 eu não dei muita atenção também para isso. Quando começou isso, eu reassinei o Claude, comecei a fazer os experimentos e aí aconteceu que eu tenho hiperfoco, né? Eu tenho meu o nível autista nível um e o meu problema, o meu hiperfoco, se eu não tenho obstáculo, eu vou. E o problema de projeto de software é que por melhor que eu seja, eu não sou bom em tudo. Então sempre tem alguma coisa, tipo, eu odeio fazer tela, eu odeio fazer HTML, eu sei fazer, mas eu odeio fazer. Então sempre que eu for fazer um projeto e cai num pedaço desse, aí eu fico: "Ai, que bosta, deixa eu olhar um tutorial, deixa eu, aí eu vou fazer outra coisa, jogar videogame, etc." e não sai o projeto. Dessa vez acabaram os obstáculos, foi indo, foi indo, foi indo, foi indo, foi indo, foi indo. E nesse foi indo, foi indo, começou no final de janeiro, quando eu fui ver, eu estava em abril assim,
>> inspirando isso diretão.
>> Eu estava almoçando e jantando na frente do computador e para. E eu também, uma coisa que eu não gostava antes porque tinha muita teoria, mas muita coisa prática. Todo mundo chegava com futurologia, ah, vai dar para fazer, vai dar para fazer, fiz um livro, fiz uma palestra, mas cadê o resultado? Ninguém mostra um resultado. Então, para quebrar isso também, tudo que eu fiz, praticamente tudo que eu fiz, eu abri open source e documentei. Então, no meu blog Ross tem a documentação do que eu fiz, a como foi o passo a passo de tudo que eu fiz. E no GitHub, nos meus repositórios, tem lá 16 projetos que estão abertos. São mais de 300.000 linhas de código, que é o equivalente a um projeto médio, vamos dizer assim.
>> Ah, então tudo aberto para que as pessoas possam ver. Alguns projetos open source já têm contribuidores, têm issues que as pessoas colocam, ele está rodando versão 01, 02, 03, então tem ferramental que as pessoas já estão usando. E aí a ideia toda é que mudou essa forma de trabalhar. Então aí a ideia é que eu quero tentar mostrar o que significa isso sem ser futurologia, o que de fato dá para fazer,
>> coisas que dá pra gente fazer na prática agora, né? Então, eh, vamos começar então
>> no seguinte, cara. Eh, existem várias formas de você lidar com, aqui a gente está falando de código, tem várias formas da gente lidar com inteligência artificial e código, né? Para começar, eh, o teu jeito de escolha é rodando local ou tu roda em nuvem? Como é que tu, como é que tu prefere usar?
>> É uma excelente pergunta. Você vai ver 500 milhões de opiniões a respeito. Então, na semana passada eu realmente resolvi fazer um teste mesmo. Então, eu fiz, tem um, o projeto está no GitHub, ele chama LLM Coding Benchmark. Eu não gosto dos benchmarks oficiais porque, normalmente, a maioria dos oficiais eles são pequenos trechos de código muito simples. É o que a gente chama até de "leet code". Então, ah, como fazer a ordenação de uma lista? Ah, como eu mudo as cores disso para isso? Umas coisas bem pequenininhas, não é um projeto.
>> Então o que eu fiz foi, eu automatizei uma ferramenta chamada Open Code, que é uma versão open source do que você conhece como Codex ou Cloud Code, tá?
>> E eu fiz esse Open Code, eu fiz com ele porque o Open Code conecta com quaisquer outros LLMs locais e comerciais, tá?
>> Então eu fiz um, eu fiz uma bateria de testes rodando mais de 33 modelos. Então isso está tudo documentado, rodando modelos open source locais na minha máquina e as versões comerciais desses open source que estão rodando na nuvem. Então existe um serviço chamado Open Router, você conhece?
>> Não.
>> Open Router funciona assim. Em vez de você criar uma conta em cada um dos provedores, você cria na Open Router, paga só para a Open Router e ele permite escolher. Eu posso ir de Claude para GLM, para Minimx, para Kim. DPC, o que eu quiser, eu numa única API com um único token, numa única bilhetagem, eu pago uma vez só,
>> eu recarrego os créditos e ele usa em quaisquer que eu pedi. Então eu automatizei o Open Code para desenvolver um microprojetinho. É, é nível Hello World, tipo nível entrevista de emprego de projetinho, que era para fazer uma aplicação web que tem uma pequena cara parecida com ChatGPT, que você vai online, tem um chat que conecta no Open Router para fazer um chat mesmo. Então ele, eu pedi para cada um deles fazer uma aplicação de um mini chat.
>> Então, ou seja, não é, não é complicado de fazer. Qualquer programador júnior deveria fazer isso em um ou dois dias, no máximo. Então, eu fiz como se fosse no cloud code ou no Codex, que você começa a fazer prompt, ele faz as coisas. Eu fiz um prompt para gerar a primeira versão e um segundo prompt para amarrar o projeto no final. Então são dois prompts.
>> Aham.
>> Que é diferente de você fazer: "Faça um algoritmo, faça um pequeno trecho". E aí eu fui rodar em todos eles. Para rodar em todos eles, eu tenho uma RTX 5090 da Nvidia e que é a melhor placa de vídeo que tem hoje no mercado. Só que ele tem um grande problema que ele tem muito pouca VRAM, que é a memória que tem nele, é 32 GB só. Significa que eu não consigo rodar modelos com mais de 30 bilhões de parâmetros. Então, para isso, eu comprei um mini PC que é fraco, que é a MD Ryzen AI Max, que é o chip AI Max, e ele tem uma GPU embutida que permite compartilhar a RAM que vem nela. E eu comprei com 128 GB de RAM, aí eu consigo dar 96 GB para essa máquina. Aí eu consigo rodar modelos maiores como o Quen 3, 122 bilhões de parâmetros. Então eu fui até o, eu fui até os openur 122. O que acontece se tu tentar rodar isso numa máquina que não aguenta?
>> Fica lento.
>> Fica lento só.
>> Então foi isso porque eu tentei, eu baixei aquele o o Llama, eu acho,
>> né? E aí eu tentei alguns modelinhos quando eu estava brincando, tentando descobrir onde é que eu me encaixava melhor.
>> Eh, e eu tentei, [ __ ] deixa eu ver qual que é o mais fodão aqui, sem noção nenhuma, baixei enquanto eu jogava minha partidinha de Hearthstone, né? Quando eu fui rodar a parada, o computador virou uma carroça na hora.
>> Vira. Vira carroça porque ele vai usar toda a sua GPU.