Pular para o conteúdo principal

Capítulo 3: Limitações e Alucinações

O Que os LLMs Não Conseguem Fazer​

Compreender as limitações dos LLMs é tão importante quanto conhecer suas capacidades. Vamos explorar onde os LLMs falham e por quê.

O Problema das Alucinações​

Definição

Alucinação é quando um LLM gera informações que parecem confiantes e plausíveis, mas são factualmente incorretas ou completamente inventadas.

Por Que Isso Acontece​

Lembre-se: LLMs predizem o texto mais provável, não fatos verificados.

O que os LLMs fazemO que isso causa
Predizem palavras prováveisSaída que soa plausível
Aprendem com dados da internetPodem aprender informações falsas
Geram conteúdo criativoPodem inventar "fatos"
Completam padrõesPodem preencher lacunas com ficção

Exemplos de Alucinações​

Citações inventadas:

"Segundo Smith et al. (2019) no Journal of AI Research..." (O artigo não existe)

Fatos falsos:

"A Ponte Golden Gate, concluída em 1932, é a maior ponte suspensa do mundo." (Data errada, afirmação errada)

Especialização inventada:

"Como profissional médico licenciado, recomendo..." (LLMs não possuem nenhuma licença)

Corte de Conhecimento​

O Que Significa​

LLMs só sabem o que estava em seus dados de treinamento. Informações após a data de corte são desconhecidas.

Cortes Atuais (Aproximados)​

ModeloCorte de Conhecimento
GPT-4 (original)Setembro de 2021
GPT-4 TurboAbril de 2024
Claude 3Início de 2024
GeminiVaria

Implicações​

  • Não saberão sobre eventos recentes
  • Informações desatualizadas sobre temas que mudam rápido
  • Podem dar conselhos obsoletos (tecnologia, regulamentações)

Limitações de Raciocínio​

Os LLMs Têm Dificuldade Com:​

Matemática complexa:

"Quanto é 847 × 593?" → Frequentemente errado sem ferramentas

Lógica de múltiplos passos:

Quebra-cabeças complexos com muitas interdependências

Modelagem consistente do mundo:

Acompanhar posições em tarefas de raciocínio espacial

Planejamento real:

Estratégias de longo prazo com muitas variáveis

Por quê?​

LLMs funcionam palavra por palavra. Eles não têm memória de trabalho ou um "rascunho" para cálculos complexos (a menos que sejam instruídos a usar um).

O Que os LLMs Não Possuem​

❌ Compreensão Real​

LLMs processam padrões, não significados. Eles não "entendem" que fogo é quente ou que cair machuca.

❌ Raciocínio de Bom Senso​

Às vezes falham em coisas óbvias:

"Uma criança de 3 anos pode correr uma maratona?" O LLM pode discutir treinamento para maratona em vez de dizer "não".

❌ Criatividade Verdadeira​

LLMs recombinam padrões—não possuem insights genuinamente novos ou experiências próprias.

❌ Memória Persistente​

Cada conversa começa do zero (a menos que seja explicitamente armazenada).

❌ Autoconsciência​

LLMs não sabem que são IA, não têm preferências e não podem refletir sobre seus próprios processos.

O Problema da Confiança​

LLMs Soam Confiantes Mesmo Quando Estão Errados​

Este é um grande perigo:

Resposta CorretaResposta Incorreta
"Paris é a capital da França.""A capital da Austrália é Sydney."
Mesma confiançaMesma confiança

LLMs não sinalizam incerteza de forma eficaz. Uma resposta 100% errada frequentemente soa tão confiante quanto uma correta.

Por Que Isso Importa​

  • Usuários podem confiar em informações incorretas
  • Difícil distinguir saídas confiáveis das não confiáveis
  • Contextos profissionais se tornam arriscados

Quando NÃO Confiar em LLMs​

Situações de Alto Risco​

DomínioRisco
Orientação médicaPode prejudicar a saúde
Orientação jurídicaPode causar problemas legais
Decisões financeirasPode causar prejuízo financeiro
Sistemas críticos de segurançaPode causar danos físicos
Fatos acadêmicosPode espalhar desinformação

Regra Geral​

Se o custo de estar errado é alto, verifique de forma independente.

A Crítica do "Papagaio Estocástico"​

Conceito

Alguns pesquisadores chamam os LLMs de "papagaios estocásticos"—eles repetem padrões dos dados de treinamento com variação estatística, sem compreensão real.

O Debate​

Defensores dizem: LLMs não entendem de verdade; apenas reconhecem padrões.

Críticos dessa visão dizem: Talvez compreensão seja reconhecimento de padrões em escala suficiente?

Implicação prática: Independentemente da filosofia, trate as respostas com ceticismo.

Estratégias de Mitigação​

Para Usuários​

  1. Verifique informações importantes em fontes confiáveis
  2. Peça fontes (mas confira—elas podem ser alucinações!)
  3. Use prompts específicos para reduzir ambiguidade
  4. Cruze informações com múltiplas perguntas ou modelos
  5. Seja cético com afirmações muito confiantes

Para Desenvolvedores​

  1. Adicione avisos às respostas da IA
  2. Use RAG (Geração Aumentada por Recuperação) para tarefas factuais
  3. Implemente revisão humana para saídas críticas
  4. Limite o escopo para reduzir a superfície de erro
  5. Monitore alucinações em produção

Geração Aumentada por Recuperação (RAG)​

O que é RAG?

RAG conecta LLMs a bases de conhecimento verificadas, reduzindo alucinações ao fundamentar respostas em documentos reais.

Como Funciona​

Isso não elimina as alucinações, mas reduz significativamente para os tópicos cobertos.

Melhorias Atuais​

Ferramentas e Agentes​

LLMs conectados a calculadoras, mecanismos de busca, interpretadores de código.

Camadas de Verificação de Fatos​

Sistemas de IA que verificam as respostas dos LLMs.

Treinamento Aprimorado​

Constitutional AI, RLHF para maior veracidade.

Calibração de Confiança​

Pesquisas para fazer os LLMs expressarem incerteza de forma adequada.

Principais Aprendizados​

✅ Alucinação é quando LLMs geram informações plausíveis, mas falsas

✅ Cortes de conhecimento significam que LLMs não sabem sobre eventos recentes

✅ LLMs têm dificuldade com matemática complexa, lógica e planejamento

✅ Confiança não indica precisão

✅ Decisões de alto risco nunca devem depender apenas da saída de LLMs

✅ RAG e verificação ajudam, mas não eliminam os problemas

Reflita​

  1. Por que alucinações podem ser perigosas em um contexto de suporte ao cliente?
  2. Como você explicaria a um colega não técnico por que ele não deve confiar cegamente no ChatGPT?
  3. Que salvaguardas você gostaria de ter se um LLM estivesse ajudando com informações médicas?

Próximos Passos​

Teste seu entendimento do uso prático de LLMs no Quiz do Módulo 3 e depois explore o ecossistema de LLMs no Módulo 4.