Module 12 : Avenir des LLM
Où vont les grands modèles de langage.
Chapitres
- Lois d'échelle et limites : Chinchilla, entraînement optimal en calcul
- Architectures émergentes : Modèles d'espace d'état, Mamba, alternatives
- La route vers l'AGI : Capacités actuelles vs AGI, échéanciers