Aller au contenu principal

Chapitre 2 : AGI et au-delà

La quête de l'intelligence générale​

L'intelligence artificielle générale—une IA qui égale l'intelligence humaine dans tous les domaines—est l'objectif à long terme du domaine. Comprendre l'AGI aide à contextualiser les progrès actuels.

Qu'est-ce que l'AGI ?​

Définition​

Intelligence Artificielle Générale (AGI) : systèmes d'IA capables de comprendre, d'apprendre et d'appliquer des connaissances dans n'importe quel domaine à un niveau humain ou supérieur.

AGI vs. IA actuelle​

IA actuelle (étroite)AGI
Excelle dans des tâches spécifiquesExcelle dans n'importe quelle tâche
Nécessite une formation par tâcheApprend et s'adapte
Pas de véritable compréhensionCompréhension authentique
OutilAgent autonome

Progrès vers l'AGI​

Preuves de progrès​

  • Capacités émergentes à grande échelle
  • Apprentissage multi-tâches
  • Améliorations du raisonnement
  • Résolution de problèmes dans divers domaines

Lacunes restantes​

  • Véritable compréhension vs. reconnaissance de motifs
  • Raisonnement de bon sens
  • Apprentissage efficace (apprentissage par quelques exemples)
  • Intelligence incarnée
  • Planification à long terme

Débats sur le calendrier​

Vue optimiste (5-15 ans)​

  • Les tendances actuelles se poursuivent
  • L'échelle résout les problèmes restants
  • AGI réalisable cette décennie

Vue prudente (15-50+ ans)​

  • Percées fondamentales nécessaires
  • Les approches actuelles ont des limites
  • Chemin incertain à suivre

Facteurs clés​

  • Poursuite des lois d'échelle
  • Découvertes révolutionnaires
  • Disponibilité du calcul
  • Financement et talents

Sécurité et alignement de l'IA​

Le problème de l'alignement​

Assurer que les systèmes d'IA :

  • Font ce que nous voulons
  • Restent sous contrôle humain
  • Ne causent pas de dommages involontaires

Domaines de recherche​

  • Interprétabilité (comprendre les décisions de l'IA)
  • Robustesse (comportement fiable)
  • Apprentissage des valeurs (inférer les valeurs humaines)
  • Containment (contrôler les IA puissantes)

Pourquoi c'est important​

Une IA plus capable = enjeux plus élevés pour réussir l'alignement.

Implications potentielles​

Scénarios positifs​

  • Percées scientifiques (médecine, climat)
  • Abondance et productivité
  • Résolution de problèmes mondiaux complexes
  • Capacités humaines améliorées

Scénarios de risque​

  • Systèmes puissants mal alignés
  • Concentration du pouvoir
  • Perturbation économique
  • Risques existentiels (débattus)

L'importance de bien faire les choses​

Les bénéfices potentiels et les risques de l'IA avancée sont sans précédent.

Points clés à retenir​

✅ L'AGI représente l'intelligence humaine dans tous les domaines

✅ Les progrès sont significatifs mais des lacunes fondamentales subsistent

✅ Les prévisions de calendrier varient largement

✅ La sécurité et l'alignement de l'IA sont des domaines de recherche cruciaux

✅ Les bénéfices et les risques augmentent avec la capacité

Prochaines étapes​

Continuez vers Chapitre 3 : Se préparer pour l'avenir de l'IA.