![[4SA Clauderman contra o Aranhaço.jpg]] Já usei o Claude para pesquisas de dados obscuros de mercado envolvendo centenas de fontes. Quem diria que o que quebraria ele seria uma pergunta inócua sobre o Homem-Aranha. Assisti ao trailer recente do Homem-Aranha: Um Novo Dia e me chamou a atenção um vilão que parece pular de corpo em corpo possuindo as suas vítimas. Queria saber mais. É o tipo de pesquisa que costuma funcionar melhor com [[XC Large Language Models (Inteligência artificial)]], quando você não sabe o nome ou termo exato. A IA acaba sendo o "Yahoo Respostas de hoje", pra aquelas questões do tipo "qual era a música pop que tinha um sininho no começo, lá dos anos 2000?" Perguntei pro Claude qual era aquele oponente do Homem-Aranha. O Claudinho pi-rou. Entrou em uma espiral progressivamente mais desesperada, que eu achei fascinante, porque mostra um pouco do funcionamento por debaixo do capô das IAs. Ele mudou de opinião dezenas de vezes, citando 20 respostas. Repare nos termos que ele usa para tentar transmitir confiança: "o vilão certeiro é", "o correto é", "vou ser direto", "o que você procura é". A maioria das IAs com as quais trabalho tem essa função de mostrar o raciocínio, mas ele passa a "pensar" e mudar de opinião em voz alta. Conforme o desespero cresce, começa a usar tamanho de letras maior, OS NOMES DOS VILÕES FICAM TODOS EM MAIÚSCULA. Claude chega até a inventar nomes que *soam* verdadeiros. Aranhaço? Carnevil? Parecem mesmo nomes de oponentes do Homem-Aranha que podem ter aparecido em duas ou três edições nos anos 90. As IAs são especialistas em falar mentiras de um jeito casual e passando toda a confiança do mundo. Mas confie nelas sem verificar e você vai escrever um texto sobre o "Aranhaço" no trailer do filme do Homem-Aranha. As IAs são apenas um novo reflexo do que todas as big techs querem no final: engajamento. Eu nunca esqueci anos atrás quando [um CEO da Netflix falou que o grande concorrente deles não era outros serviços de streaming, a Amazon, a HBO; mas o sono](https://www.fastcompany.com/40491939/netflix-ceo-reed-hastings-sleep-is-our-competition). Até uma necessidade biológica humana de descanso vira um adversário. Para as IAs, admitir que não tem uma informação diminui o engajamento, logo, quando as IAs não "sabem" de algo, elas falam o que é estatisticamente mais provável que seja. Uma forma que eu tento minimizar o fenômeno "fonte: Data Foda-se" das IAs em pesquisas de trabalho (não relacionadas a curiosidades do Homem-Aranha) é criando "diretrizes" (sim, me inspirei no Robocop). Cada IA tem um nome diferente para essa padronização, skills no Claude, "Gems" no Gemini. Além da diretriz de citar sempre fontes, eu instituí um "Honesty Gap", um bloco ao final da pesquisa sobre o que a IA teve dificuldade de encontrar e o quão confiável são as informações. Mas diretriz nenhuma substitui o bom e velho olho humano confirmando de uma fonte confiável (enquanto elas ainda existem) se é real esse tal de Aranhaço.