Quando não usar e a revisão humana

Onde não usar sem um profissional

Este é o ponto em que o curso para de falar de recurso e passa a falar de critério. E ele tem uma vantagem rara: não depende de opinião, porque está escrito no contrato que você aceitou. Os termos de uso que valem no Brasil dizem que você não deve usar nenhuma saída relacionada a uma pessoa para qualquer finalidade que possa ter impacto legal ou material sobre ela, e dão os exemplos: decisões de crédito, educacionais, de emprego, moradia, seguro, jurídicas, médicas ou outras decisões importantes sobre ela. Leia de novo pensando no RH que pediu ao chat para ranquear candidatos. Não é uma recomendação de boas maneiras. É uma cláusula, e ela proíbe exatamente aquilo.

As políticas de uso reforçam por outro caminho. Elas proíbem a automação de decisões de alto risco em áreas sensíveis sem revisão humana, e listam infraestrutura crítica, educação, moradia, emprego, atividades financeiras e crédito, seguro, jurídico, médico, serviços essenciais de governo, segurança e aplicação da lei. Repare na expressão exata: sem revisão humana. A política não proíbe usar IA nessas áreas, proíbe automatizar sem gente no meio. E há uma segunda proibição igualmente direta: fornecer conselho especializado que requer licença, como jurídico ou médico, sem envolvimento apropriado de um profissional habilitado. Ou seja, o ChatGPT te ajudar a entender a sua situação é uma coisa. O ChatGPT substituir o advogado ou o médico é outra, e a própria OpenAI não permite.

Aqui vale um contraste que quase ninguém no Brasil conta, e ele é importante. Muita gente repete que a LGPD garante o direito à revisão humana de decisão automatizada. Não garante. O artigo 20 do texto original falava em revisão por pessoa natural, mas essa expressão foi suprimida pela Lei 13.853/2019, e o parágrafo 3, que tentava reintroduzir a ideia, foi vetado. O texto vigente diz apenas que o titular tem direito a solicitar a revisão de decisões tomadas unicamente com base em tratamento automatizado que afetem seus interesses. Solicitar a revisão, sem dizer que ela precisa ser feita por uma pessoa. Isso é o erro jurídico mais comum em curso de IA no Brasil, e agora você não vai cometê-lo. O detalhe irônico é bonito: a revisão humana que a lei brasileira não garante é exigida pelo contrato da OpenAI, que manda você avaliar a saída quanto à precisão, inclusive usando revisão humana quando apropriado, antes de usar ou compartilhar.

Apoio ou fraude

No estudo e no trabalho, a linha entre usar bem e trapacear existe e é mais nítida do que as pessoas fingem. A pergunta que separa os dois lados é simples: você está usando a ferramenta para aprender e produzir melhor, ou para entregar como seu um trabalho que deveria demonstrar uma capacidade que você não tem? Pedir para o chat explicar um conceito que você não entendeu é estudo. Pedir para ele revisar a sua redação e apontar os problemas é estudo. Mandar ele escrever a redação que vale nota, e entregar como sua, é fraude, e não deixa de ser porque a tecnologia é nova. As políticas de uso da OpenAI, aliás, listam desonestidade acadêmica entre os usos proibidos, e os termos proíbem representar que uma saída foi gerada por humano quando não foi.

Tem um detalhe que resolve a maior parte das dúvidas honestas nessa área: combine com quem manda. A regra que vale para você não é a que você deduziu sozinho, é a política da sua escola, da sua universidade ou da sua empresa. Algumas proíbem qualquer uso, outras exigem que você declare, outras incentivam abertamente. Nenhuma dessas posições é absurda, e todas são melhores do que a fingida ignorância de quem usa e não pergunta para não ouvir não. Se a sua instituição ainda não tem política, perguntar é o movimento mais inteligente que existe, porque transforma um risco pessoal seu numa decisão institucional. E se você é quem define a política, lembre que a LGPD, no artigo 52, parágrafo 1, inciso IX, coloca a adoção de política de boas práticas e governança como critério de dosimetria da sanção.

Quem assina responde

Se você guardar uma única frase deste módulo, guarde esta: a responsabilidade é sempre de quem assina, nunca da ferramenta. Quando o parecer sai errado, quem responde é o contador que assinou. Quando o laudo está furado, é o profissional que o emitiu. Quando o cálculo da rescisão está errado e o funcionário recebe a menos, é a empresa que responde, e não a OpenAI. Isso não é uma opinião moralista do curso: é como funciona a responsabilidade profissional e é o que a LGPD diz, no artigo 42, ao estabelecer que o controlador ou o operador que causar dano a outrem em violação à legislação de proteção de dados é obrigado a repará-lo. A ferramenta não assina nada, não tem registro em conselho, não é ré em processo nenhum. Você é.

Isso não deveria gerar medo, e sim clareza. Ninguém aqui está sugerindo usar menos o ChatGPT: o curso inteiro é sobre usar mais e melhor. O que muda é a postura. Um piloto usa piloto automático e continua responsável pelo voo. Um cirurgião usa equipamento sofisticado e continua responsável pela cirurgia. Você usa o ChatGPT, aproveita tudo que ele tem de bom, e continua responsável pelo que entrega. E tem um efeito libertador nisso que quase ninguém percebe: sabendo que a revisão é sua, você pode pedir coisas ousadas à ferramenta sem susto, porque a sua conferência é a rede. Quem não confere é que precisa ter medo.

Se você não sabe o suficiente para revisar a resposta, você não sabe o suficiente para usá-la.

Esse critério fecha o módulo e resolve quase todos os casos difíceis. Ele explica por que um programador experiente pode aceitar código do ChatGPT com tranquilidade e um iniciante não deveria: o primeiro percebe quando está errado, o segundo não. Explica por que um advogado pode usar o chat para rascunhar uma peça e você não deveria usá-lo para resolver o seu processo sozinho. Explica por que o professor pode aceitar um plano de aula sugerido e por que ninguém deveria aceitar um diagnóstico. Não é sobre a ferramenta ser boa ou ruim: é sobre existir alguém capaz de perceber o erro antes que ele vire consequência. Quando essa pessoa não existe, a resposta não deveria ser usada, por mais bem escrita que ela esteja. E ela vai estar muito bem escrita, porque é exatamente nisso que ele é bom.