Alucinação, viés e o limite da máquina

O protocolo de conferência

Você já sabe do módulo 2 que ele inventa. O que falta é o que fazer com isso, e a resposta não é conferir tudo, porque ninguém confere tudo e quem tenta desiste na segunda semana. A resposta é ter um protocolo por tipo de informação. Antes disso, vale entender por que ele chuta, porque a explicação é melhor do que parece. A OpenAI publicou uma pesquisa sobre o assunto com uma tese direta: os modelos alucinam porque os procedimentos padrão de treino e avaliação premiam o chute em vez de premiar o reconhecimento da incerteza. A analogia é da própria empresa e é perfeita: é como prova de múltipla escolha. Se você não sabe e chuta, pode ter sorte e acertar. Deixar em branco garante zero. O modelo aprendeu a jogar o jogo que a gente montou para ele.

Duas consequências desmontam mitos dos dois lados. A primeira: alucinação não é inevitável, e a OpenAI diz isso com todas as letras, porque modelos podem se abster quando estão incertos. O número que ilustra isso é ótimo: num teste citado pela empresa, um modelo mais novo se absteve em 52 por cento das perguntas, acertou 22 por cento e errou 26 por cento, enquanto um modelo mais antigo se absteve em apenas 1 por cento, acertou 24 por cento e errou 75 por cento. O antigo acerta um pouquinho mais e erra três vezes mais. A segunda consequência: a acurácia nunca chega a 100 por cento, porque algumas perguntas do mundo real são inerentemente irrespondíveis. E, honestidade que vale registrar, a própria OpenAI escreve que o ChatGPT também alucina, e que os modelos mais novos alucinam bem menos, especialmente quando raciocinam, mas ainda alucinam.

A documentação oficial dá duas frases que valem como regra de bolso. A primeira: confiança não é confiabilidade, porque o modelo pode expressar alta confiança mesmo em respostas incorretas. Isso significa que o tom seguro da resposta não é evidência de nada, e que a sua sensação de que aquilo está certo não conta como conferência. A segunda: use o ChatGPT como primeiro rascunho, não como fonte final, e sempre verifique citações, dados, informação técnica ou referências a documentos externos. Repare que quem está dizendo isso é a empresa que vende o produto. Quando o fabricante avisa que a ferramenta não é fonte final, não faz sentido o usuário tratar como se fosse.

O viés que ele carrega

O segundo limite é menos comentado e mais incômodo: ele não é neutro. E não tem como ser. O modelo aprendeu padrões a partir de uma quantidade enorme de texto escrito por pessoas, com as opiniões, os pontos cegos e os preconceitos que as pessoas têm. Depois foi ajustado com feedback humano, ou seja, gente decidindo qual resposta é melhor, segundo critérios que também são humanos e também são escolhas. Nenhuma etapa desse processo é neutra, porque não existe texto neutro nem avaliador neutro. Quando você pergunta o que ele acha de um assunto polêmico, a resposta não é a verdade destilada: é uma média do que se escreve sobre aquilo, filtrada por regras que alguém definiu.

A OpenAI documenta esse limite de forma bem específica, e a lista dela é melhor do que qualquer generalidade que eu pudesse escrever. Ela reconhece que o modelo pode apresentar uma perspectiva única como verdade absoluta, pode simplificar demais questões complexas ou cheias de nuance, e pode representar mal o peso do consenso científico ou de um debate social. Pense no efeito prático disso para um estudante. Você pergunta sobre um tema em que existe divergência real entre especialistas e recebe uma resposta redonda, segura, sem indicar que há divergência. A resposta não mentiu em nenhum fato específico, e ainda assim deu uma impressão errada do assunto, porque apagou a controvérsia. Esse é um erro mais difícil de pegar do que um número inventado, justamente porque não há um ponto para checar.

De quem é o que ele gera

O terceiro limite é jurídico, e aqui a precisão importa mais do que em qualquer outro ponto do módulo. Os termos de uso que valem no Brasil, os chamados Rest of World, dizem que, entre você e a OpenAI, você mantém os direitos de propriedade sobre o que envia e é dono da saída, e que a empresa cede a você todo o direito, título e interesse que ela tenha sobre a saída, se algum existir. Aquele se algum existir é a parte que quase todo curso corta, e é a parte que importa. A OpenAI está cedendo o que ela tiver, e não está afirmando que existe direito autoral sobre o texto gerado. São coisas muito diferentes. O contrato resolve a relação entre você e a empresa: ela não vai reivindicar aquilo. O contrato não resolve, porque não pode, se a obra é protegida pela lei de direito autoral do seu país.

Some a isso uma ressalva dos próprios termos que costuma passar batida: a saída pode não ser única, e outros usuários podem receber saída parecida do serviço. Pense no que isso significa para quem quer usar o texto comercialmente. Dois concorrentes podem pedir a mesma coisa e receber respostas muito próximas, e nenhum dos dois recebeu garantia de exclusividade. Para um rascunho interno, isso é irrelevante. Para o slogan da sua marca, para o texto do seu livro, para o material que vai sustentar o seu negócio, isso é uma informação que muda a decisão. Não é motivo para não usar. É motivo para saber o que você tem na mão antes de apostar nele.

E o que a lei brasileira diz sobre obra gerada por IA? A resposta honesta é que este curso não vai te dizer, porque a questão está em aberto e inventar jurisprudência seria exatamente o tipo de coisa que esta aula ensina a não fazer. O que dá para afirmar com segurança: o Brasil não tem um marco legal de inteligência artificial em vigor, o PL 2338/2023 não virou lei até julho de 2026, e a proteção autoral de conteúdo gerado por IA não é um ponto pacificado. Se o seu uso é doméstico ou interno, siga a vida. Se você vai construir um produto comercial em cima disso, registrar uma marca, publicar um livro ou assinar um contrato apoiado nesse conteúdo, converse com um advogado especializado. Não é resposta desanimadora, é a única resposta honesta disponível.