Módulo 8: RLHF & Alinhamento
Tornando LLMs úteis, inofensivos e honestos.
Objetivos de Aprendizagem
- ✅ Compreender o pipeline de RLHF e modelos de recompensa
- ✅ Aprender a abordagem de Constitutional AI
- ✅ Abordar desafios de segurança e alinhamento
Capítulos
- RLHF: Pipeline, modelos de recompensa, treinamento PPO
- Constitutional AI: Treinamento baseado em princípios
- Segurança & Alinhamento: Jailbreaking, ataques adversariais, pesquisas em andamento