Módulo 3: Fine-Tuning Eficiente en Parámetros (PEFT)
Fine-Tuning eficiente para todos
Este módulo introduce el Fine-Tuning Eficiente en Parámetros (PEFT), una familia de métodos que hace que el fine-tuning sea accesible en hardware de consumo manteniendo la calidad.
Lo que aprenderá
En este módulo, usted:
- Comprenderá la motivación de PEFT y por qué fue desarrollado
- Comparará PEFT vs fine-tuning completo para saber cuándo usar cada uno
- Explorará todos los principales métodos PEFT incluyendo LoRA, QLoRA, Prefix Tuning y más
- Elegirá el método adecuado para su caso de uso específico
Estructura del módulo
| Capítulo | Tema | Duración |
|---|---|---|
| Capítulo 1 | Introducción a PEFT | 25 min |
| Capítulo 2 | PEFT vs Fine-Tuning Completo | 25 min |
| Capítulo 3 | Resumen de Métodos PEFT | 30 min |
| Quiz | Quiz del Módulo 3 | 30 min |
Vista previa de conceptos clave
PEFT (Fine-Tuning Eficiente en Parámetros)
Métodos que entrenan solo un pequeño subconjunto de parámetros mientras mantienen el modelo base congelado.
LoRA (Low-Rank Adaptation)
Agrega matrices entrenables de bajo rango a los pesos congelados, el método PEFT más popular.
Adaptadores
Pequeños módulos entrenables insertados entre capas congeladas.
Prefix Tuning
Agrega "tokens virtuales" entrenables como prefijos a la entrada.
Por qué esto es importante
Los métodos PEFT han democratizado el fine-tuning de LLM:
- Accesibilidad: Entrene modelos de 7B+ en GPUs de consumo
- Reducción de costos: Ahorro de memoria superior al 90%
- Mantenimiento de calidad: Resultados comparables al fine-tuning completo
- Flexibilidad: Mezcle e intercambie adaptadores para diferentes tareas
- Seguridad: Sin olvido catastrófico del conocimiento base
Requisitos previos
Antes de comenzar este módulo, usted debe:
- Haber completado los Módulos 1 y 2
- Comprender por qué el fine-tuning completo es intensivo en recursos
- Estar familiarizado con conceptos de redes neuronales
- Conocer operaciones básicas de PyTorch
¡Comencemos!
Empiece con Capítulo 1: Introducción a PEFT.
Tiempo estimado para completar este módulo: 2 horas