Alucinação é o fenômeno em que um modelo de linguagem gera informações incorretas, inventadas ou sem base factual com aparente confiança. O modelo não "sabe" que está errando — ele produz o texto mais provável estatisticamente, independentemente de ser verdadeiro. Exemplos comuns incluem citar artigos científicos inexistentes, inventar datas e nomes de pessoas reais, ou descrever eventos que nunca aconteceram. As causas são múltiplas: lacunas no dado de treinamento, ambiguidade na pergunta do usuário, ou o próprio mecanismo de geração probabilística. Para minimizar alucinações, são usadas técnicas como RAG (Retrieval Augmented Generation), que ancora o modelo em documentos reais, e RLHF, que penaliza respostas incorretas durante o treinamento. No contexto empresarial brasileiro, a alucinação é um risco crítico em aplicações jurídicas, médicas e financeiras — onde uma informação inventada pode causar dano real. A verificação humana continua sendo essencial em qualquer fluxo de trabalho crítico que utilize IA generativa.
Navegar por letra: