ChatGPT não é Deus, mas é bom em fingir que está sempre certo

As pessoas não estão entendendo o que que é inteligência artificial, não estão entendendo como a vida delas está sendo impactada com essa tecnologia. E eu realmente quero mostrar a inteligência artificial de uma maneira mais humana e também mais responsável e mais, eu acho que crítica, né?

A gente só consegue tirar o viés da tecnologia entendendo quais são os vieses que nós temos e quais são os vieses que os dados têm. Só assim que a gente consegue criar algoritmos que realmente funcionem para todo mundo.

O chat EPT não é Deus, não é correto o tempo todo. Ele só é muito bom em fingir que é correto.

A gente tá criando uma nova geração que não sabe ler, que não sabe escrever e que não sabe pensar por si só e que sempre vai depender de uma tecnologia de inteligência artificial para viver.

Olá, sejam bem-vindos à série de entrevistas do Estadão de Aquecimento para o São Paulo Innovation Week. A nossa conversa de hoje é com Catarina Dória. Catarina é uma influenciadora especialista em ética e inteligência artificial que se tornou uma das principais vozes sobre o [música] tema nas redes sociais. Ela é fundadora do AI Survival Club, uma comunidade de discussão sobre tecnologia e letramento crítico em inteligência artificial. Catarina é conhecida por traduzir conceitos complexos da tecnologia para o grande público, ajudando a gente a viver num mundo cada vez mais cheio de. Seja bem-vinda, Catarina. Obrigado por todo o tempo para vir aqui com a gente.

>> Muito obrigada pelo convite.

>> Legal, Catarina, você tem uma bastante fama já na internet pensando nos conteúdos de inteligência artificial, mas a inteligência artificial ela é um conteúdo que saiu da bolha da galera de tech e tá em toda a sociedade agora. como você tem feito para comunicar com o público e trazer os riscos e benefícios associados aí?

>> Olha, eu acho que isso é uma ótima pergunta e isso vai me remeter um pouco ao por que eu comecei a fazer esses tipos de conteúdo, porque aí tudo vai fazer sentido junto. Eu trabalhei na indústria por bastante tempo, né? Então eu trabalhei eh empresas no Silicon Valley. Então eu tive conversas assim sobre inteligência artificial nos maiores níveis tecnológicos possíveis. E o que acontecia muitas vezes é quando eu tava lá nos Estados Unidos, eu tava nessas reuniões onde a gente tá falando do futuro, da tecnologia e aí depois a minha mãe me ligava falando: "Ai, Kaká, olha esse vídeo aqui desse desse bichinho ou ah olha para esse vídeo de uma pessoa fazendo não sei o quê". E eu falava pra minha mãe: "Mãe, isso aí minha irmã, a mesma coisa eh meus irmãos, a mesma coisa." E isso começou a me deixar muito preocupada, porque de uma de um lado eu tava falando sobre essa tecnologia de um nível alto escalão e aí no outro eu tava vendo as pessoas ao redor não entendendo o que que é a inteligência artificial e como elas estavam impactando elas. Então para mim essa decisão de criar conteúdo e da maneira que eu falo com o público vem muito dessa dessa fonte do OK, as pessoas não estão entendendo o que que é inteligência artificial, não estão entendendo como a vida delas está sendo impactada com essa tecnologia. Então, eu tento ser muito didática, eu tento criar vídeos divertidos e curtos, eu falo rápido e eu fico irritada. E tem vezes que eu grito, tem vezes que eu tô mais, sabe, tranquilinha. Mas assim, eu realmente quero mostrar a inteligência artificial de uma maneira mais humana e também mais responsável e mais, eu acho que crítica, né? A gente vê sim que a inteligência artificial hoje é um tema que tá todo mundo falando, tem um monte de influencer aí falando, muito expert falando, mas aí no final das contas quando a gente vê a sustância desse conteúdo, muitas vezes é muito raso, muitas vezes falando dessa adoção sem pensar, será que ela é necessária? Será que ela pode ser prejudicial? Então eu tô tentando trazer um pouco do contraponto da inteligência artificial de uma maneira muito didática, divertida e realmente aberta às pessoas.

>> Perfeito. E você fez uma escolha de produzir os conteúdos em inglês. Por quê?

Ótima pergunta. Então, eu sou brasileira, nasci e cresci aqui em São Paulo, mas eu morei na Europa por muito tempo e trabalhei com empresas americanas quase minha carreira inteira. Então, eu aprendi sobre inteligência artificial em inglês. Eu trabalhei com inteligência artificial em inglês. E aí quando eu acabei voltando pro Brasil o ano passado, eu me vi com essa pergunta: "Eu faço conteúdo para brasileiros falando português ou eu vou realmente continuar e fazer um double down no conteúdo em inglês?" E no final das contas, o que eu percebi é que eu queria ajudar muita gente. E obviamente eu posso ajudar muita gente no Brasil, mas hoje em dia eu sei que eu posso impactar mais pessoas ainda falando inglês, porque o inglês querendo ou não, é sim uma língua internacional e muita gente tá falando. A maneira que eu tento contornar isso é colocando legendinhas em português e tentando ajudar dessa maneira a população brasileira que me assiste. Mas é que eu, para mim, eu queria ajudar todo mundo do mundo inteiro e eu pensei, eu consigo fazer fazer isso um pouquinho mais falando em inglês.

Perfeito. Quando a gente fala sobre inteligência artificial, muito se fala sobre eficiência, seja em empresas, seja em na vida pessoal. Quando a gente começa a usar a inteligência artificial indiscriminadamente, pensando tanto nas empresas quanto na para organizar as coisas da vida, da casa e tudo mais, isso vai na contramão da ética?

Eu acho que sim, pode ser contra a ética, mas eu acho que o mais importante nessa discussão que a gente poderia começar a ter é referente a essa otimização de tempo, né? As pessoas falam a produtividade, a inteligência artificial vai me ajudar a ser mais rápido, vai ajudar eu ser mais eficiente? Mas e novos estudos estão mostrando que não é bem assim, né? As empresas já estão soltando relatórios, os pesquisadores soltando relatórios, mostrando que realmente não necessariamente está ajudando as pessoas a serem mais rápidas e produtivas, que tem bastante hype nessa conversa, mas os dados não estão acompanhando essa mística que as pessoas têm sobre a IA. Então, sim, a gente pode falar na questão ética, né, de utilizar inteligência artificial para ser mais produtivo ou não, mas eu acho até mais interessante a gente perguntar, será que a inteligência artificial tá ajudando a gente a ser mais produtivo? Essa é uma coisa que a gente tá vendo aí na realidade que não é bem assim.

>> Perfeito. E você já falou publicamente que teve um livro bem importante pra sua carreira que foi Algoritmos de opressão da Safia Noble. Esses algoritmos de opressão mencionados ali são muito ligados a buscas, né? El mostravam ali um viés racial, alguns tipos de preconceitos associados a buscadores. Na IA a gente também corre esse mesmo risco. Você já chegou a fazer alerta sobre isso também? Como a gente consegue contornar isso?

>> Ótima pergunta. Como é que a gente consegue contornar esses vieses que acontecem nos algoritmos hoje em dia? Então, acho que primeiro a gente tem que entender e ter uma clareza completa de que algoritmos a gente tá falando, né? Então, você falou aqui do Algormons of Opression, que é o livro da Safia Noble, que fala muito do Google e das pesquisas. A gente também tem inteligência artificial hoje sendo utilizado por bancos para ver se você merece o crédito ou não. Você quer comprar um carro e você pede pro banco, você pediu R$ 10.000, R$ 50.000, R000, um banco vai usar um algoritmo para decidir se você é um bom credor ou não. Se você aplica, você quer um trabalho, você tá lá no LinkedIn, você coloca o seu currículo lá, tem um algoritmo que também vai decidir se você é bom o suficiente para ir pra próxima etapa, se você vai ser entrevistado. Então, primeiro, eu acho que a gente precisa dessa clareza de quais são esses algoritmos que estão impactando a nossa vida. E aí, pra gente melhorar eles, a gente tem que pensar quais são os dados que a gente tá utilizando para criar esses algoritmos. Então, por exemplo, clássico exemplo da da Amazon que criou os algoritmos para currículos, né? Isso já aconteceu uns bons anos atrás e esse algoritmo nunca foi realmente foi utilizado para escolher quem são os melhores candidatos ou não, mas foi um algoritmo que eles criaram e testaram. Basicamente o que aconteceu? Eles criaram esse esse algoritmo para ver quais eram os melhores candidatos em uma piscina de 100, 200, 500 milhares de de applications. Só que o que eles acabaram percebendo é que com o tempo esse algoritmo foi preferindo homens. Então, com o tempo eles só estavam eh aceitando esses trabalhos de homens. Eles estavam tentando entender por que isso aconteceu, porque que o algoritmo só prefere homens e acaba jogando o currículo das mulheres todos no lixo. E o que eles entenderam é que esses algoritmos eles foram treinados com o quê? Com os últimos 10 anos de dados de pessoas que eles empregaram na Amazon e quem eles empregaram na vida real eram só homens. Então o algoritmo ele aprendeu com os dados e falou: "Ser homem é bom, ser mulher é ruim". e acabou aplicando isso para o futuro, generalizou e as as predictions, as previsões foram todas baseadas nisso. Então, por que que eu tô contando essa pequena história aqui? Eu tô contando porque a gente precisa precisa entender que esses algoritmos eles são treinados com dados. Então, se a gente quer realmente melhorar como esse algoritmo responde, se a gente quer tentar tirar os vieses de lá, a gente precisa primeiro entender quais são os dados que a gente utilizou e segundo a gente precisa entender que as pessoas que estão criando esses algoritmos também tem vieses. Então, se eu crio um algoritmo, eu vou colocar a maneira que eu penso no mundo, eh, a minha religião, se eu sou preconceituosa, se eu não sou, se eu sou racista ou se eu não sou, se eu sou todos os ismos que você pode ser. E e as pessoas que tão codificando esses algoritmos, eles acabam fazendo com que o algoritmo também represente as próprias opiniões que elas têm. Então, não é só o suficiente a gente melhorar os dados, mas a gente também precisa melhorar as pessoas que estão criando esses algoritmos e entender que a neutralidade não existe e que a gente precisa realmente de secar e tirar todos esses preconceitos para conseguir criar um algoritmo que funcione. A gente só consegue tirar o viés da tecnologia entendendo quais são os vieses que nós temos e quais são os vieses que os dados têm. Só assim que a gente consegue criar algoritmos que realmente funcionem para todo mundo.

>> Perfeito. E até na esteira desse mesmo assunto, que eu acho que no fim é completamente relacionado, queria perguntar na sua visão, Catarina, como o que que as pessoas no geral precisam saber sobre inteligências generativas como Geminai e chatt.

>> Nossa, tem muita coisa. Eh, acho que uma questão que é muito importante que as pessoas entendam é que essas ferramentas de inteligência artificial generativa, então vamos ver, chat aptod, elas não são inteligentes, elas não têm uma super inteligência, ela não, elas não entendem o que elas estão falando. Basicamente essas tecnologias funcionam, basicamente eles estão fazendo previsões. Eh, quando você pergunta pro chat EPT, chat EPT, eu deveria escrever assim ou assado? O chat EBT, ele não tem esse conhecimento cognitivo que a gente tem na nossa cabeça para saber o que que é certo ou errado. Basicamente o que ele tá fazendo lá prever. Então assim, quando eu falo atirei o pau, você sabe que depois vem no gato.

>> Você sabe. Mas por que que você sabe? Porque você escutou isso várias e várias e várias vezes. Se você é da nossa geração, a nova geração não utiliza mais essa essa essa música.

>> O cérebro já faz o auto compete, né?

>> Já faz o auto compete na hora. Mas isso não é porque a gente é muito inteligente e a gente tá pensando em tod Não, é porque a gente escutou aquilo demais e a gente sabe se alguém falar isso depois vai vir aquilo. O chat EPT tá basicamente fazendo a mesma coisa. Ele não sabe, ele não é inteligente. Ele basicamente sabe que depois de uma palavra, a chance probabilística e matemática é que depois dessa palavra venha a outra. Eu falo: "Eu te amo" ou "Eu te odeio". O chatpt ele fala: "Ah, você falou eu t depois provavelmente vem o amo ou odeio". E o chatpt é basicamente isso. Então, quando a gente fala de inteligência artificial generativa de texto, eu preciso muito que as pessoas entendam que aquilo lá não é um ser inteligente que tá do outro lado tentando te ajudar. Não é isso. É uma matemática que tá fazendo probabilidade de palavrinhas e basicamente dando uma resposta que parece muito correta, mas que não necessariamente é. E então chega no outro ponto que para mim é muito importante que as pessoas entendam. O chat EPT não está falando coisas que necessariamente são verdadeiras. Ele só fala, só é muito bom em falar coisas que parecem verdadeiras. E é uma coisa e com como uma ISIS, né, uma especialista de inteligência artificial ética, é uma coisa que a gente fala muito no nosso ramo, é que a gente tem muito medo em relação a isso, porque as pessoas estão vendo hoje em dia o Claud do chat EPT como realmente bíblias ou como algum serzinho que realmente vai te dar todas as respostas corretas do mundo que você pode aprender. Um oráculo digital. Então eu tô com uma tosse, vou lá no chat EPT e falo: "Chatt eu tô com gripe? Que que eu tomo? Será que eu tomo esse remédio ou será que eu tomo aquilo lá? Chat PT. E aí a gente começa a entrar em campos muito problemáticos, porque tem pessoas que têm eh doenças psicológicas, um uma um uma depressão, um transtorno bipolar ou alguma coisa que acabam indo pro chat EP PT tentando ajuda, porque de novo vê esse serzinho aqui como se fosse algo mítico e correto e acaba pedindo ajuda para coisas que não deveriam. E o chat EPT é muito bom em parecer que tá falando a verdade. Como eu falei, ele é muito bom em Ele finge muito bem. E aí algumas vezes ele tá certo e muitas vezes ele está errado. E muitas vezes ele pode estar até certo, mas não necessariamente deveria ter essa conversa. Ele não deveria poder ter essas conversas porque ele não tem, não é um psicólogo, não é um psiquiatra, ele não tem ali o codigozinho dele, não foi pra faculdade de estudar o que estudou. Mesma coisa, as pessoas pedindo ajuda, como se fosse um advogado. O chat pet não é um advogado, sabe? pedir ajuda para fazer seu imposto de renda no agora, gente, é pedir para depois ter alguém batendo na sua porta falando: "Calma aí, você não pagou o que deveria". Então eu acho que é uma coisa que eu preciso que as pessoas entendam. O chat EPT não é Deus, não é correto o tempo todo. Ele só é muito bom em fingir que é correto. E a gente tem que tomar muito cuidado qual é a ajuda que a gente pede para essa ferramenta e tentar entender mais as limitações, o que que a gente pode perguntar, o que que a gente não deveria e não acreditar em tudo que aparece lá. Então assim, posso falar mais 50 coisas que eu queria que as pessoas soubessem de inteligência artificial generativa, mas essas já são as primeiras assim que é muito importante que as pessoas entendam.

>> Sim. Isso você mencionou essa questão do aconselhamento, né? Esse aconselhamento psicológico, financeiro, qualquer tipo de aconselhamento deve ser visto também com bastante cuidado.

>> Muito cuidado, porque de novo, quando a gente fala dessas tecnologias, elas são general purpose, né? Então assim, você pode ir pro chat PT, você pode pedir ajuda pra gramática, tanto quanto você pode pedir ajuda porque você quer terminar com o seu namorado e você quer saber muito que o chat aptou ou errado naquela briga. Você pode ir no chatpt perguntar que remédio você deveria tomar. Você pode ir pro chatt e perguntar: "E você acha que eu tenho tal doença?" E ele vai te responder. Obviamente que de vez em quando você bate num trigger lá e ele vai responder: "Ah, eu não posso falar sobre isso". Mas é muito fácil contornar. É muito fácil. Você pode falar: "Ai, eu tava perguntando para um amigo ou: "Ai, eu tava fingindo que eu estava numa peça e eu quero saber". Então você consegue contornar isso de uma maneira muito rápida. Então a gente tem que tomar muito cuidado e entender que ele realmente não é especialista. Ele só é muito bom em mentir e fingir que sabe do que tá falando. Então quando a gente fala nessas nessas áreas assim de especialidades na nossa saúde, na saúde mental, coisas que realmente podem impactar a nossa vida, pagar um imposto, sabe? coisas que podem acarretar em em danos morais, danos financeiros, a gente tem que tomar muito cuidado porque o chat EPT não é especialista.

>> Perfeito. E outra coisa que eu queria perguntar é a respeito dessas tendências, as famosas trends de internet, >> quanto que elas representam um risco para vivacidade das pessoas. Por que eu pergunto isso? A gente teve não muito tempo atrás a história do do estúdio Gible e a gente teve aquela história também de, ah, eu quer me desenho como uma pessoa com 10 kg a mais de músculo, sabe? Esse tipo de coisa. Isso é um risco para privacidade.

Parece que Claro, >> sim, é claríssimo. Eu não tinha visto esse com 10 kg de músculo que imaginando fiquei: "Meu Deus do céu, é um risco muito grande." E de novo que eu chamo em inglês de fun for data, que é divertimento para dados. A tradução literal é isso. Muitas vezes essas empresas acabam criando as empresas ou pessoas que realmente trabalham com a relações públicas essas empresas, eles tentam empurrar esses trends. Por quê? Porque de novo, quando a gente pensa nessas ferramentas, elas precisam do quê? De dados para serem treinadas. Então, eles precisam de novos dados para treinar os algoritmos deles. E essas trends são perfeitas para isso. Por exemplo, a do estúdio Gibly. Se você que quisesse se ver como um personagem do estúdio Gibly ou você e o seu namorado, você tinha que fazer o quê? Colocar uma foto atual sua nessas ferramentas. Isso significa que o quê? você está dando os seus dados biométricos, o seu rostinho, a sua íris, é basicamente tudo, sua olho, seu cabelo, é as roupas que você usa, a localização onde você tá, você coloca isso no algoritmo lá e aí ele te devolve você muito bonito no como se fosse estúdio Gibly. Você no final você criou uma imagem que você provavelmente vai esquecer porque todo mundo que participou daquele trende, daquela trend, provavelmente já deletou aquela imagem. Mas aquela imagem que você deu pra empresa vai ficar lá para todo sempre. E não só lá em um lugarzinho, uma caixa fechada, mas aquela foto vai ser utilizada depois para treinar mais algoritmos, para treinar mais maneiras de como criar uma imagem, como criar um rosto mais eh perfeito, mais humano. Então, tudo que a gente dá para essas ferramentas, sendo texto ou imagem, acaba sendo utilizado para treinar esses algoritmos para que eles fiquem melhores e melhores, melhores. Mas no final, o que que a gente tá fazendo? é, dando o nosso rosto, os nossos eh detalhes biométricos para essas empresas fazerem o que quiserem com isso. Então, assim, eu sempre falo para as pessoas, toma muito cuidado e ainda mais uma coisa é você ser adulto. Então, assim, eu sou adulta e eu quero me ver no estúdio Gible, então eu faço. É uma decisão que você fez. Mas o que acontece muito é que hoje em dia os pais de crianças estão colocando os dados biométricos de seus filhos nessas plataformas. E a gente tá falando de dados de crianças, isso acaba sendo muito pior, muito mais problemático e muito mais com risco muito maior. Então eu peço aqui, se você decidir isso por você, faça. Você quer fazer, você sabe que talvez você seja utilizado de outra maneira, beleza? Mas não faça isso com seus filhos, porque ainda eh essa nova geração, a gente ainda nem sabe direito como eles podem utilizar esses dados. Então, tudo que você pode fazer para proteger os seus filhos, eu realmente recomendaria. Não faça trend com seus filhos. Não alimente essas inteligências artificiais com fotos de crianças. Isso pode ser extremamente problemático e perigoso pro futuro deles.

>> Perfeito. Senta responda das perguntas que era justamente essa questão das crianças. [risadas]

>> Você até fez um vídeo recente falando sobre a importância de fazer um uso consciente disso, especialmente com crianças para não prejudicar o desenvolvimento cognitivo e tudo mais.

>> Na sua visão, então tem que ser um uso bem supervisionado e muito muito pontual, então, de uso de a por crianças.

Olha, então isso são eh acho que duas conversas diferentes. A primeira é utilizar a foto de de crianças, né, para não colocar em trendes, que acho que é muito importante. Então esse é um tópico, a gente coloca aqui do lado que eu já respondi. Aí o outro tópico é esse de hoje em dia o que tá acontecendo muito é que as escolas e os pais estão vendo a inteligência artificial generativa em todos os lugares e tem essa esse pensamento muito dia fatalista que a inteligência artificial tá aqui e é o futuro e não tem mais como a gente brecar isso. Então a gente precisa adotar a inteligência artificial sim ou sim. Então, muitas vezes o que acaba acontecendo é que escolas e pais estão deixando seus filhos usarem a inteligência artificial generativa, porque isso é o futuro, porque elas precisam aprender a utilizar essas ferramentas. Só que isso é muito, muito, muito problemático e muito prejudicial para as crianças. Por a inteligência artificial generativa eh o primeiro ponto que é muito importante, tá criando um crédito cognitivo, né? Então assim, as crianças precisam aprender o quê? A ler, a escrever e a pensar. Isso. Eu fui pra escola para fazer isso. Apó que você também, todo mundo que tá assistindo, a gente foi lá, eu aprendi a escrever à mão, tive que escrever 50 páginas à mão e odiava aquilo e falavaco, tinha que copiar da lousa, eu tinha que ler livro, um livro e aí eu deixava para último momento. E aí uma, um dia antes eu tava lá lendo aquele livro de 400 páginas. Faz parte. É o processo de aprender, né? é o processo de escrever, o processo de pensar, o processo. Isso é um processo que a gente precisa fazer e é um processo que que requer tempo e prática. Quanto mais você escreve, melhor você fica. Quanto mais entrevistas você dá, melhor você fica e dá entrevistas, né? Então, acho que isso é um processo que a gente entende que é um normal. Mas o que acontece? Essas crianças que estão crescendo agora nessas escolas que estão permitindo a inteligência artificial generativa, elas não estão aprendendo a escrever ou a ler sozinhas. Elas estão utilizando essas ferramentas de inteligência artificial generativa para fazer isso. Agora eu te pergunto, >> o que que você acha que vai acontecer com o cérebro dessas crianças que elas não estão aprendendo a escrever sozinhas, elas estão utilizando essas ferramentas para escrever? É, talvez não escrevam tão bem quanto a gente. Ou isso, eu, eu eu gosto de comparar isso com a história do da memória que a gente tinha para gravar número de telefone.

>> Exato.

>> A gente super gravava número de telefone. Hoje em dia você no máximo grava de uma duas pessoas. Você não não tem mais necessidade de gravar. Você não usa mais, não exercita mais essa parte do cérebro, né? E acho que o risco da IA é esse, né?

>> Exatamente. E é exatamente esse o ponto, porque quando a gente fala exatamente desse desse exemplo do telefone, você não lembra mais o número de telefone da sua mãe, da sua irmã? Outra calculadora, por exemplo, que as pessoas amam comparar, né? A calculadora com a inteligência artificial generativa. Tá bom? Talvez você não saiba fazer matemática usando sua cabeça, mas quando a gente fala dessa tecnologia é muito mais que isso.

>> Uhum.

>> É aprender a realmente escrever qualquer coisa. É uma frase, duas frases. É conseguir juntar dois temas diferentes e conseguir uni-los. Se você não consegue ter essa capacidade, você não consegue realmente exercer o seu, a sua humanidade. Eu diria, hoje em dia você precisa ler, você precisa escrever. Obviamente tem pessoas que não conseguem fazer isso, mas o que a gente tá falando da inteligência artificial generativa é que as crianças estão crescendo sem aprender a escrever, porque elas estão usando inteligência artificial de nativa para escrever para elas. Elas não estão lendo mais. Então elas pegam lá um livro ou um capítulo e jogam lá na inteligência artificial generativa e fala: "Me fala que que eu preciso saber daqui".

>> Hum.

Então elas não estão mais lendo textos e secando e falando: "Ah, esses são os pontos importantes." Ah, era isso que eu tinha que ter aprendido isso acaba criando esse crédito cognitivo, porque ao invés de você aprender a escrever, você tá delegando isso a uma ferramenta. Ao invés de você ler, você delega isso para uma ferramenta. Então, no final, você não tem esse conhecimento na sua cabeça. Você está sempre delegando isso a uma ferramenta. O que significa que a gente tá criando uma nova geração que não sabe ler, que não sabe escrever e que não sabe pensar por si só e que sempre vai depender de uma tecnologia de inteligência artificial gerativa para viver.

>> Hum.

>> Porque se você não sabe escrever, se você não sabe pensar, como é que você vai trabalhar?

>> Como é que você vai vai ganhar seu dinheiro? Como é que você vai escrever um e-mail? Não, você vai precisar dessa ferramenta. E quem ganha com isso? É minha pergunta. é quem tá fornecendo serviço ali,

>> quem tá fornecendo o serviço. E esse que é o ponto muito crítico e depois eu quero falar do segundo problema que a gente tem em relação às crianças utilizando tecnologia, mas o que eu preciso que as pessoas entendam é que quem se beneficia com essa nova geração sendo super eh dependente dessa tecnologia são as empresas vendendo essa tecnologia.

>> Porque se você tem milhões de crianças que não sabem ler e escrever sem eh inteligência artificial generativa, são milhões de crianças que vão se tornar adultos que vão pagar por essas ferramentas. Então você acaba exatamente o oposto que o Paulo Freire fala, né? O Paulo Freire fala que a educação precisa ser libertadora. Você aprende, você vai pra escola, você pega esse conhecimento e com esse conhecimento você é um ser humano que consegue se libertar.

>> Você é independente, né? você quais são ositos em você e você disso que a gente está fazendo com a inteligência artificial e generativa é o oposto. Em vez de libertar as crianças com conhecimento, a gente tá fazendo com que elas fiquem independentes, porque elas não têm esse conhecimento na cabeça, o conhecimento tá fora delas. Então, problema, problema enorme. O outro problema que eu queria falar aqui em relação às crianças é a homogeneização do do pensamento, homogenization of thoughts. Esse é um grande problema, porque a inteligência artificial generativa, ela funciona como o chat PT, o Cloud, foi treinado com dados, dados de tudo. foi o Reddit, foi as redes sociais, foi a Wikipédia, foi os sites, foi os blogs, foi tudo, tudo que podia e tava lá digitalizado, acabou indo para esses algoritmos. Aí, que que esse é o problema que as pessoas não entendem? O chat PT, o cloud, eles têm personalidade, eles têm uma maneira muito específica de responder. Então assim, se eu pegar o meu celular e você pegar o seu e se você tiver o chatt e a gente fizer a mesma pergunta, provavelmente a gente vai ter a mesma resposta, porque o chat EPT, o cloud, essas ferramentas tem uma maneira muito quadradinha de ver o mundo, de responder. É como se fosse o mesmo professor, sabe? você vai pra escola, você tem professores distintos com opiniões diferentes, opiniões políticas, ideologias, mas essas ferramentas pensam igual. E o que tá acontecendo agora é que essas crianças estão utilizando essas ferramentas para ler, pensar e escrever. E são milhões de crianças utilizando essas ferramentas para ler, pensar e escrever. O que significa que milhões de crianças estão aprendendo com o mesmo professor e estão aprendendo com os mesmos quadradinhos, a mesma box. E não adianta usar, por exemplo, diferentes e >> ah, você poderia utilizar, mas no final são que três que existem hoje em dia, quatro que são as grandes. É um poder ideológico e uma maneira de pensar o mundo muito grande, né? Então são quatro, são cinco, se fossem 10, são milhões de crianças e milhões de pessoas utilizando essas ferramentas, lendo, escrevendo e pensando. E a homogeneização do pensamento é isso, é como é que a gente tá criando milhões de pessoas que pensam da mesma maneira, que escrevem da, você vai no LinkedIn hoje em dia, todo mundo tá escrevendo da mesma maneira. Os blogs de inteligência artificial é tudo a mesma coisa. você parece você tá lendo a mesma pessoa escrevendo. Isso é vai par além dos posts no LinkedIn. As pessoas estão começando a pensar da mesma maneira. Se você usa essas ferramentas para ter ideias, isso significa que as pessoas vão ter as mesmas ideias. Você não tá usando o seu lado criativo e humano para fazer essas sinapses que são diferentes, pensar fora da caixinha. Você tá pensando dentro dos confins de uma caixinha de inteligência artificial generativa, isso já é ruim para adultos, para crianças ainda mais, porque elas nunca tiveram essa esse tempo de exercer o músculo delas para conseguir fazer isso sozinho.

>> Então, é como aquela aquela frase, tem um estudioso de de mídia que fala sobre isso, que a gente molda a tecnologia, depois a tecnologia nos molda, né? No fim do dia é isso que tá acontecendo, né?

>> Exatamente. Isso tá acontecendo agora. Isso é um problema muito grande. E de novo, é ruim pros adultos, mas assim, se eu tenho vários amigos meus que utilizam um chat EPT, se o chat EPT acabar amanhã, eles vão ter dificuldade para voltar. Tem que escrever os e-mails para escrever os textos, mas eles vão conseguir voltar porque por muitos anos eles fizeram isso. Eles sabem, o músculo tá lá, entendeu? Você você vai pra academia, você para de ir, aí você volta lá, você vai para suas férias, você vai você vai pra Itália e você volta depois de um mês. Você tá até difícil, mas depois de um tempo quê? o seu corpo lembra, então você volta. Que que acontece com essas crianças que nunca conseguiram desenvolver o pensamento crítico? Elas não têm para onde voltar. Elas não têm como seguir adiante sem essas ferramentas. E é por isso que eu sempre falo, eu não acho que as escolas deveriam estar permitindo que essas crianças usem inteligência artificial antes dos 8 anos. É um não, depois também, mas antes dos 18 ainda mais. Não deveria estar acontecendo.

>> Perfeito. Queria mudar um pouco o assunto e falar um pouco sobre vídeo, porque eu acho que até no início da conversa você mencionou que avisa amigos e parênteses quando vê que é alguma coisa que é claramente gerado por IA. Mas essas ferramentas estão ficando cada vez mais sofisticadas e a gente tá em um ano de eleição.

>> A gente provavelmente vai ver o uso de IA generativa para vídeos que tá muito simples. Agora com um comando, a gente consegue fazer um vídeo falso com alguma personalidade ou alguém famoso. Tá ficando mais difícil identificar. Que dica que você pode dar para quem quer identificar um conteúdo gerado por IA?

Nossa, essa pergunta é a pergunta do milhão. E e realmente um ano atrás ou dois anos atrás, quando me fazziam essa pergunta, era tão mais fácil responder, porque você falava: "É a mão, é a voz, é o nariz. E hoje em dia é muito difícil". Então assim, a primeira coisa que eu falo é: "Não confia em nada". Não tem como confiar. Não tem. Mesmo sendo uma pessoa que você segue e você acha que pode confiar, tipo um político, é, a gente fez isso muito nos Estados Unidos, né? A pessoa fala: "Ai, mas eu confiava tanto em você e aí você fez isso". Não confia em ninguém. Não confie nos seus pais, não confie no seu irmãozinho, não confie em ninguém. Eu acho que assim, a primeira coisa que a gente tem que entender com a com hoje em dia é a inteligência artificial generativa de vídeo tá muito boa,

>> tá muito boa. Então eu que sou especialista nisso, eu caio nisso também, entendeu? Então eu acho que todo mundo precisa partir desse desse pressuposto que tudo pode ser falso. Tudo tudo tudo o áudio que você recebeu, a foto que você recebeu, o vídeo que você pode que você recebeu. Então em vez de partir do pressuposto que tudo é real e talvez eu esteja procurando por Iá, é o oposto. Hoje em dia eu quero que as pessoas pensem: "Isso pode ser Iá". E aí a partir daí sair pro não, isso é real. Então acho que isso é um uma chavezinha que as pessoas precisam mudar. Saí do tudo é real, algumas coisas são iá. Para tudo é Iá. Vamos ver se isso é real. Essa é a primeira coisa que eu acho muito importante, ainda mais num ano de eleições, né? Aí depois, primeiro é o pensamento crítico, que é isso? Isso aí ou não? O segundo é, já que essas ferramentas estão muito, muito, muito boas hoje em dia, eu recomendo que você vá para sites com repórters, com jornalistas, que você confia, porque muitas vezes, se você tá com dúvida e sobre algum vídeo, outra pessoa também teve e outra pessoa também teve. Então, normalmente, o que eu falo e o que eu faço, eu faço um print do vídeo e aí eu vou pro Bom e Velho Google, coloco a imagem lá e eu vejo onde aquela imagem foi compartilhada e lá você vai ter, vai ter jornal, vai ter Miri O outlets, vai ter um monte de gente falando sobre isso. E aí você lê e vê o que as pessoas falaram sobre isso. Muitas vezes quando você faz isso, você acaba descobrindo que aquele vídeo que você tá vendo foi compartilhado em sites de fofoca, de meme, de de literalmente contas de inteligência artificial generativa. Então você já matou a resposta aí sabendo o que é aí você fala: "Cata, não apareceu em nenhum lugar. Esse vídeo que eu vi aqui desse político falando não sei o quê, pesquisei o vídeo, não achei. Aí o que eu recomendo hoje são, mas de novo, pode ser completamente falho, porque tá muito bom hoje em dia checar a voz. Hoje em dia, um dos maiores problemas com essa tecnologia é a voz, que é muito metálica. Por exemplo, tô falando aqui, ela varia, eu subo, eu desço de tom, eu subo de tom, de vez em quando minha voz falha. A voz de vídeos de inteligência artificial generativa normalmente são mais metálicas, tem aquele sonzinho mais. Então, prestar atenção nisso. A segunda coisa que eu falo, presta atenção no dente, que para mim isso ainda é batata. É muito difícil você ver um vídeo que eu tá fazendo o dente certo. Quando você me vê nesse vídeo aqui ou em qualquer outro lugar, os meus dentes são >> nos mesmos. >> São os mesmos, mas eles são detalhados, sabe? Tem cada dente, tem um dente. É isso. >> Quando você vê vídeos de inteligência artificial generativa, em vez de ter dentes separados, muitas vezes é como se fosse um uma coisa branca assim, sabe? Pode aparecer até um ou outro dente, mas muitas vezes se você para e olha para dentro da boca é só um borrão branco. Por quê? Porque os algoritmos têm muita dificuldade de fazer a boca abrindo e fechando e aparecer o detalhe do dente, desaparecer, aparecer e desaparecer. Então, uma simplificação é deixar tudo branco. Então, eu falo, se você pensou isso é I ou não, você foi pesquisar de um Google, não apareceu em nenhum lugar se é IA ou não é a, aí eu falaria dá uma olhada na voz e dá uma olhada no dente. Se você fez esses dois e você ainda acha que, tipo, tá direitinho, eu ainda falaria: "Toma cuidado e espera um pouquinho pr para ver se alguém vai falar sobre esse vídeo em um dia, dois dias." De novo, eu não quero que ninguém siga regras e fale: "Ah, não, mas eu segui isso, eu vi o dente, não é verdadeiro". Não dá para saber. É isso que eu quero falar. Não dá para saber. Realmente a gente tem que esperar para que jornalistas ajudem a gente, pessoas que estão trabalhando todos os dias com isso que possam falar. Tem uns vídeos que é óbvio, tem uns vídeos que eu olho, sabe, o tempo todo e meu vídeo tá meu meu olho tá realmente muito treinado, porque eu trabalho com isso. Então tem vídeos que nem parecem óbvios que eu sei que é Iá, que eu sei que é Iá, mas tem muitos vídeos que a gente acha que não é, que na verdade são e vice-versa. Então, eu não boto a mão no fogo em nada. As pessoas não deveriam botar a mão e fogo em nada. E a gente tem que esperar realmente os especialistas que a gente confia fazerem a pesquisa para falarem se é e há ou não. E quando a gente fala de política e um ano político, um ano ele ainda mais isso. A gente vai ter que sim acreditar nos jornalistas e pessoas profissionais em falarem o que que é e o que que não é, porque se for depender só da gente vai ser muito muito difícil.

>> Perfeito. Outro ponto que eu queria comentar também, Catarina, que tem muita gente falando sobre a e falando sobre como ela ameaça os empregos. Na sua visão, queria perguntar o seguinte: como você acha que as pessoas, os profissionais brasileiros, podem evitar serem atropelados pela EA? Que tipo de habilidade eles precisam desenvolver? Que tipo de conhecimento?

Acha muito interessante essa pergunta e eu vou respondê-la com outro ângulo e depois eu volto para ela. Acho que muitas vezes, não dizendo que a inteligência artificial não possa acabar com alguns trabalhos, isso pode acontecer sim, mas eu acho que muitas vezes essa narrativa acontece muito mais para assustar as pessoas ou porque empresas elas querem fazer o layoff, demitir as pessoas falando: "Ah, é por causa da inteligência artificial, só para depois contratar outras pessoas mais barato em outros lugares." Isso é um movimento que a gente vê muito nos Estados Unidos, é um movimento que a gente vê em outros lugares e é uma coisa que também pode acontecer aqui no Brasil. Então, eh, é o marketing que as pessoas que trabalham na minha indústria falam, né? Então, eles falam que, ah, é por causa da inteligência artificial generativa, a gente vai demitir todo mundo, mas no final eles vão contratar as mesmas pessoas em lugares mais baratos, porque eles querem cortar custos. Agora, isso é dizer que a inteligência artificial eh generativa ou não tradicional não pode roubar uns trabalhos? Eu acho que pode, mas eu não acho que é na escala que estão falando aqui. Eh, você vê os maiores names, os maiores nomes de tecnologia falando que, ah, em um ano, em dois anos, não precisa mais ter advogado, porque o chat GPT ou essas ferramentas vão ser melhores que advogados. Então, nem nem vai estudar advocacia, nem vai lá cursar seu direito, porque não precisa mais. Eu acho que é importante a gente entender quem se beneficia com isso. Se eu falar que não

Precisa mais. As pessoas não precisam mais estudar direito. As pessoas não precisam ser mais médicos. Não precisa, não precisa. A inteligência artificial generativa vai fazer isso no futuro. Quem se beneficia com isso? As empresas vendendo essas ferramentas. Se eu falo que não precisa de advogado, significa que a gente não vai ter advogado e significa que a gente vai ter que usar essas ferramentas para serem nossos advogados.

>> Perfeito.

>> Se eu falo: "Ah, não vai cursar medicina, você quis cursar medicina a vida inteira". Mas agora tá todo mundo falando que não precisa mais de médico. Aí a gente tem uma nova geração que não cursa medicina e a gente não tem mais médico. E a que que a gente vai fazer? É a vai precisar suprir esse essa profissionais. Aí vai precisir. E aí significa que o quê? A gente vai pagar essas ferramentas para serem os médicos virtuais. E aí a gente entra nesse ciclo de que a gente tem essas empresas tentando vender a ferramenta delas, criando uma narrativa e as pessoas caindo nessa narrativa. De novo, eu não estou falando que talvez não tenha realmente o impacto de inteligência artificial no mercado de trabalho, mas eu também acho que a gente tem que tomar muito cuidado em se a gente aceita essas narrativas ou não, porque de novo, falar que em dois anos a gente não vai mais precisar de advogados porque a IA vai fazer isso, não sei. Médicos, não sei. Eu recomendo o quê? Estude, aprenda, vá para a faculdade, porque conhecimento ninguém te tira e o conhecimento é libertador. O problema vai ser quando eles falarem: "Não, não, pode usar essas ferramentas, são futuro e aí eles tiram essa ferramenta da gente". Ou aí você depende dessa ferramenta, eles aumentam o preço. Então, o que que é R$ 50? Vira 100, que vira 200, que vira 500. E aí você vai ter que pagar de qualquer maneira, porque se você não sabe ler, escrever e pensar sozinho, você vai ter que pagar. Eu acho que ninguém nunca vai se arrepender em ter estudado alguma coisa. E quem falar que se arrepende, desculpa, é mentira. Conhecimento ajuda, conhecimento agrega e conhecimento te faz uma pessoa melhor, com certeza.

>> e mais cuidadosa com essa pensamento crítico. Então sim, pode impactar, pode. Agora eu vou te responder a pergunta. Sabendo que a IA pode impactar, mas não vamos cair nessa narrativa de que vai e todo mundo vai perder o emprego porque, etc., porque essa é uma narrativa que beneficia essas empresas. em sim, tendo impacto. Eu acho que as pessoas deveriam focar em humanidades e mesmo para para empregos técnicos. Eu acho que ter o pensamento crítico vai te ajudar em qualquer qualquer coisa que você for fazer. Se você vai trabalhar como um desenvolvedor, você tá lá fazendo até mesmo esses próprios algoritmos, você precisa entender a tecnologia, mas hoje em dia isso não é o suficiente. Você precisa entender o lado humano. E a máquina obviamente nunca vai ter esse lado humano. A ética, o certo, o errado são coisas que humanos tem que pensar e coisas que a máquina não consegue fazer. Então assim, se em um futuro hipotético a IA realmente roubar o nosso trabalho, porque a IA é muito boa, isso é uma coisa que a IA não vai conseguir roubar, que é o nosso pensamento crítico, a nossa ética e a decisão do que é certo e o que que é errado. Também acho que se a IA realmente for pegar trabalho, ela vai pegar trabalhos mais mecânicos. Eu não acho que a IA vai pegar médicos, porque médicos é uma coisa 100%, você ser um médico, você é um humano com outro humano, é a doença. Sim, obviamente você pode ir lá e falar: "Eu tô com isso, isso, isso, o que que pode ser essa doença?" Mas no final, se você morrer, você vai processar o chat EPT, você vai processar essas ferramentas. A IA ela não carrega uma vida na mão, ela não carrega responsabilidade na mão. O médico sim. Eu quero colocar minha vida em outro ser humano que tenha responsabilidade com a minha vida ou eu quero colocar a minha vida em uma IA genérica de uma empresa genérica. Então eu acho que a gente tem que pensar, as pessoas não vão querer pagar para uma IA, as pessoas vão querer pagar pro médico. Eu quero ir no SUS ser tratada por um médico. Não quero ser tratado por Maiaá, que não sei de quem é, quem fez, como fez, não sei. Mas é coisa com o advogado. Você tá falando da minha vida criminal ou não criminal. Assim, eu não quero que o chat EPT faça isso. Eu quero que uma pessoa que estudou isso, que sabe sobre isso e que também vai recorrer se der alguma coisa errada, porque essa pessoa que tá me ajudando. Por exemplo, as pessoas gostam de falar: "Ai, porque o marketing, o futuro do marketing vai seiar". Não vai. Por quê? O marketing é conhecer pessoas, é entender o que que as pessoas precisam, o que que elas não precisam, quais são os medos delas, que que são as coisas que a gente pode comunicar para realmente fazer com que as pessoas conectem. A IA não consegue fazer isso. Então eu acho que a gente tem que tomar um pouco mais de calma, sabe? Tá tudo bem, relaxa. A IA não tá lá ainda. E quando tiver, eu vou ser a primeira a falar: "Gente, agora é o momento que a gente se estressa, mas ainda eu acho que é muito mais hype de que a IA vai roubar nossos trabalhos do que realmente a IA roubando nossos trabalhos". E também de novo que eu falei, hoje em dia as pessoas podem falar: "A IA está roubando o nosso trabalho". Mas toma cuidado, será que tá mesmo roubando? Será que essas empresas que estão fazendo layoff para demitir as pessoas pra IA estão utilizando a IA de verdade ou depois de um ano, depois de seis meses eles não estão recontratando por menos dinheiro? Então a gente tem que tomar um pouco de cuidado, ser um pouco mais crítico com isso.

>> Perfeito.

>> Respondi bem.

>> Super.

>> Tá.

>> E Catarina, só a história de ativismo digital, ela começa muito antes do do canal do do das suas páginas nas redes sociais. você fez um aplicativo ali chamado Sai para lá em 2015 ali para denúncias de assédio contra mulheres. E foi um exemplo car claro do uso da tecnologia que na época era resumida basicamente aplicativo de telefone para pro bem.

>> Aiá pode ser usado pro bem para evitar assédios ou ajudar mulheres de alguma forma?

>> Ótima pergunta e é muito interessante porque eu não sei nem como eu vou conseguir explicar isso que eu tô pensando porque é uma é uma questão que eu comecei a formular hoje porque eu tô lendo, eu tenho meu clube do livro, né? E esse mês a gente tá lendo o livro chamado Atlas da IA. E eu não sei nem como eu vou explicar, se isso vai fazer algum sentido, mas no final do livro, que é um livro excelente, eu recomendo todo mundo comprar porque é muito bom, no final ela responde: "Será que a gente consegue utilizar a inteligência artificial para o bem?" Por quê? Quando a gente pensa da sobre a inteligência artificial, é uma ferramenta que começou muito com a militarização. Então, muito dinheiro que foi investido nessa ferramenta foi para a vigilância, para controle de corpos, controle de pessoas. Então, tem ferramentas legais, sim, mas quando a gente pensa realmente na base, na na raiz, no que da questão, ela é uma ferramenta muito difícil. Então, talvez quando a gente fale sobre ela, como ela tá sendo aplicada hoje, talvez seja necessário a gente pensar de uma maneira de destruir para reconstruir de uma maneira menos colonial, menos problemática e menos preconceituosa. Então, essa é uma resposta um pouco mais metafórica, né, quando a gente pensa na inteligência artificial como instituição, como como cultura, como metáfora, mas a gente também tem a questão prática, que é o que as pessoas querem saber e provavelmente a sua pergunta vem dessa dessa questão mais prática. Sim. A inteligência artificial pode ser utilizada pro bem, que é, por exemplo, um exemplo que eu que eu amo dar. Hoje em dia tem empresas que estão usando a inteligência artificial para mapear a o Amazonas lá, a floresta amazônica e o Amazonas. Basicamente eles estão fazendo fotos de satélite e estão vendo se tá tendo deforestação ou não, ou seja, essas pessoas estão cortando árvores ou não. Então eles fazem todo o mapeamento de muitos, muitos hectares e vem se tá tendo diminuição ou não. Para mim, isso é uma maneira maravilhosa de usar inteligência artificial. Incrível. Você tá ajudando os animais lá, a fauna e a flora. Você tá eh dando a responsabilidade para as pessoas que estão fazendo coisas erradas e ilegais. Outro exemplo de inteligência artificial que é incrível, saber se é uma pessoa tem câncer nos estágios iniciais. Então, por exemplo, hoje em dia a gente já tem algoritmos que vem se a sua pintinha é cancerígena ou não e que conseguem ver muito antes do tempo se aquilo é cancerígena ou não para você poder se tratar antes de que aquilo realmente vire algo muito problemático e difícil. Então, sim, tem casos incríveis da inteligência artificial, mas eu acho que a gente precisa voltar um pouco na questão metafórica também, como é que esses dados são são recolhidos, quem tá recolhendo eles? Por que que a gente tá criando essas ferramentas? Quando a gente pensa nas maiores utilizações dessa ferramenta, onde são, como funcionam, quem se prejudica? E aí a gente começa de novo a entrar nessa parte mais metafórica do será que a inteligência artificial ela é realmente boa pra gente, mesmo a gente tem tendo aqui milhares de exemplos positivos, será que quando a gente pega realmente a concepção dessa tecnologia, será que ela foi feita pro bem? E se não, será que talvez seja algo que a gente comece a pensar de destruir para recomeçar de uma maneira, sabe, começar com pé direito, ficou agora, talvez se a gente tenha começado com pé esquerdo, então acho que obviamente é uma discussão mais metafórica, mas é uma coisa que as pessoas podem começar a pensar.

>> não? Com certeza. E outra coisa que eu ia perguntar a respeito do além do seu trabalho nas redes sociais, você também deu um spoiler já nas redes falando que está preparando livros.

>> Não sei se um ou dois. Que que você pode contar pra gente?

>> Esqueci. [risadas] Isso é um segredo secreto. Eu esqueci totalmente que tá. Tava no LinkedIn, né?

>> Tava no LinkedIn.

>> Ai, que droga. [risadas]

>> Então, eu estou escrevendo dois livros. Não posso falar muito sobre eles, mas sou sobre inteligência artificial e vai ser de uma maneira que nunca ninguém fez antes. Então, esperem o inesperado.

>> Muito bom. E é uma coisa para esse ano, pro ano que vem.

>> Isso.

>> é que quando a gente fala de livro demora muito tempo. Eu diria que ano que vem para daqui a 2 anos, 2028 talvez.

>> Aqui, nossa, livros demoram muito porque você vende, aí depois você edita, depois você edita mais, você edita mais, aí depois você tem que fazer todo o processo de marketing e aí sei lá, um ano só para imprimir depois de todo esse processo ser feito, dia 2028.

>> Legal. E falando em spoilers, que que você pode adiantar a respeito dos seus painéis na São Paulo nove weekend?

>> Olha, vai ser basicamente o que a gente falou aqui e mais, então, eh, a gente vai falar em, eu vou participar de dois em um, a gente vai falar do lado ético da inteligência artificial, que vão trazer essas conversas de homogeneização do pensamento. a gente vai falar sobre essa questão de dependência desses algoritmos e depois eu tenho outro painel que a gente vai falar mais sobre essa questão política, anoeleitoral, fake news e como os algoritmos hoje em dia estão sendo utilizados para a ir realmente empurrar essas fake news e como a gente pode distinguir o que que é o verdadeiro e o que que é o falso. Então vai ser legal, vai ser muito divertido e com pessoas muito interessantes e inteligentes também. Então espero que as pessoas gostem.

>> Legal. E lá a gente vai ter uma trilha de conteúdos de A com mais de 20 debates simultâneos acontecendo e tudo mais. Diante disso, queria te perguntar o seguinte: o que que você gostaria que as pessoas que fossem esse evento saíssem de lá sabendo sobre a

>> Olha, eu vou ser meio olhando pro meu próprio umbigo falando sobre isso, porque eu sei que tem pessoas incríveis lá e cada um eh vendendo seu próprio peixe, mas o meu peixe é inteligência artificial responsável. Então eu gostaria que as pessoas saíssem de lá entendendo que a inteligência artificial não é inevitável, que é uma escolha humana. A gente escolheu que isso existisse e a gente também pode escolher que isso não exista mais. Então acho que a gente precisa entender isso. A gente precisa entender que o lado humano sempre vai vencer. Então assim, as pessoas que falam: "Ah, o futuro é IA". Não, o futuro é humano. E se a IA quiser estar lá porque a gente escolheu, beleza. Mas o futuro não é IA. O conhecimento vai ser humano, ler, pensar e escrever são coisas humanas e que a gente tem que continuar fazendo. A gente não pode fazer terceirizar essas essas essas eh skills que são muito importantes hoje em dia. E eu acho que eu gostaria que as pessoas entendessem que a gente não pode aceitar de uma maneira vazia o que as pessoas contam pra gente. Mesmo que eu falei aqui, tem muita gente que me segue que fala: "Catarina, eu quero saber a sua opinião sobre X, quero saber o que você pensa de Y". E é importante é porque eu sou especialista no assunto e as pessoas olham para mim para realmente aprender. Mas o que eu gostaria que as pessoas saíssem de lá entendendo é que toma cuidado com que você aprende de quem. Eu acho que tem muito especialista falando que é especialista, muito vendedor de curso, muito, sabe? E tem gente que chega a mim falando: "Ah, é outra vendedora de curso, eu fico, não sou, eu sei que eu tô falando, pode pesquisar, eu sou boa no que eu falo." Então eu gostaria que as pessoas saíssem de lá entendendo que é importante ter um olhar crítico, independente de lá do que eles aprendam, com quem, que nome, eu mesma, saia lá pensando, será que isso é mesmo de verdade? Será que sim? Será que não? Vou pesquisar um pouco mais. Então, acho que isso é uma parte importante também que eu amaria que é sobre a, mas também é sobre muito mais, é sobre o pensamento crítico que eu espero que eles carreguem para fora também.

>> Perfeito. E para fechar nessa entrevista, a última pergunta que eu vou te fazer, acho que talvez seja a mais difícil.

>> Ai, não.

>> Vai ser o seguinte. A gente pode afirmar por A mais B que as ferramentas de as empresas que têm ferramentas de as generativa, Google, Open Plantier, todo mundo perplexity, elas têm uma conduta ética em relação à sociedade.

>> Ai, que pergunta. Sinto cheiro de processinho. Brincadeira. Eh, eu falo pelo que eu vejo, a gente tá vivendo hoje em dia em um uma sociedade capitalista e uma sociedade capitalista as empresas querem ganhar dinheiro. Então, eu acho que o que acontece muitas vezes é que o norte dessas empresas é o dinheiro, é deixar investidores felizes para conseguir ganhar mais dinheiro. Então, eu acho que dentro de uma sociedade capitalista, a ética fica um pouco de lado, porque o que a gente tenta fazer é ganhar mais dinheiro. Então, eu não tô lá dentro e eu não posso falar com toda a certeza do mundo. Eu consigo ver com os resultados que eu vejo. Crianças ficando viciada nessas plataformas, crianças se suicidando por causa dessas plataformas, eh, adultos viciados nessas plataformas. E aí quando eu vejo isso como o algoritmo tá sendo desenhado para captar a nossa atenção, para que as pessoas fiquem 8 horas no aplicativo ou que esses algoritmos que são utilizados para para ver se você é bom ou ruim são racistas ou preconceituosos, eu começo a olhar e falar: "Putz, será que eles estão pensando no bem da gente? Será que eles realmente estão otimizando pra humanidade ser melhor ou eles estão otimizando para fazer mais rápido? e ágil. E vamos lançar essa tecnologia amanhã, porque a gente precisa ser primeiro. Em vez de pensar, será que isso tá bom o suficiente? Será que a gente pensou e tem governança o suficiente para liberar esse algoritmo? Então eu não sei se eles estão agindo da melhor maneira ética, porque também eu não sei se o capitalismo consegue entrar nesse mundo assim e ter essa prioridade.

>> É tudo muito complexo, né? complexo, é muito novo e eu gostaria de pensar que tá todo mundo tentando fazer da melhor maneira possível, mas eu não sei se isso realmente é a verdade ou se eu vivo no mundo de poneis e arco-íris. [risadas]

>> Perfeito, Catarina, foi um prazer. Muito obrigado. Essa foi a nossa entrevista aqui e a gente vê você então no São Paulo Innovation Week em maio.

>> Sim, fico super animada lá e eu ve espero ver vocês lá. Obrigado. Obrigado pelo convite. Obrigado.