Módulo 1: Introdução aos Large Language Models
Visão Geral do Módulo
Este módulo introdutório oferece uma base abrangente para entender os Large Language Models (LLMs). Vamos explorar o que torna esses modelos “grandes”, traçar sua evolução a partir de abordagens anteriores e mapear o cenário atual dos modelos disponíveis.
Objetivos de Aprendizagem
Ao final deste módulo, você será capaz de:
- ✅ Definir o que constitui um Large Language Model
- ✅ Explicar as principais características que diferenciam os LLMs de modelos anteriores
- ✅ Descrever a evolução histórica dos RNNs aos Transformers
- ✅ Identificar os principais provedores de LLMs e suas ofertas
- ✅ Comparar modelos open-source e proprietários
Conteúdo do Módulo
Capítulo 1: O que são Large Language Models?
Explore a definição, características de escala e capacidades emergentes dos LLMs. Entenda o que os torna diferentes de modelos de linguagem menores.
Capítulo 2: História – Dos RNNs aos Transformers
Acompanhe a evolução dos modelos neurais de linguagem, dos Recurrent Neural Networks passando pelos LSTMs até a arquitetura revolucionária dos Transformers.
Capítulo 3: O Cenário Atual dos LLMs
Mapeie o ecossistema atual dos LLMs, incluindo grandes players como OpenAI, Anthropic, Google e Meta, além da vibrante comunidade open-source.
Prévia dos Conceitos-Chave
| Conceito | Definição |
|---|---|
| Large Language Model | Rede neural com bilhões de parâmetros treinada em grandes corpora de texto |
| Capacidades Emergentes | Habilidades que surgem apenas em larga escala, não presentes em modelos menores |
| Transformer | Arquitetura baseada em self-attention, permitindo processamento paralelo |
| Pré-treinamento | Treinamento inicial em grandes volumes de dados de texto não rotulados |
| Scaling Laws | Relação previsível entre tamanho do modelo, dados e desempenho |
Leituras Recomendadas
Antes de iniciar este módulo, considere revisar:
- Attention Is All You Need – O artigo original sobre Transformers
- Language Models are Few-Shot Learners – Artigo sobre o GPT-3
Estimativa de Tempo
- Leitura: 2-3 horas
- Quiz: 30-45 minutos
- Total: 3-4 horas