Les modèles d’intelligence artificielle (IA) atteignent des niveaux impressionnants, mais une étude publiée en juillet 2024 dans Nature par une équipe de chercheurs de Stanford et d’Oxford (liens sous l’article) alerte sur un risque structurel : le model collapse. Ce phénomène survient lorsque les modèles d’IA sont entraînés de manière répétée sur des données synthétiques (générées par d’autres IA) au lieu de contenus humains authentiques. Résultat : chaque nouvelle génération de modèles devient progressivement moins fiable, moins précise et moins créative.

illustration du « model collapse » à force de générations

Le risque du model collapse

L’étude démontre qu’une boucle d’entraînement fermée, où les IA réutilisent leurs propres productions, amplifie les erreurs et les biais. C’est comparable à « une photocopie d’une photocopie » : chaque version perd en qualité. Ce constat est d’autant plus préoccupant que le web contient de plus en plus de contenus générés par IA, rendant difficile l’identification de données réellement humaines.

Le rôle du « dead internet »

Ce problème est associé à la théorie du dead internet, selon laquelle une grande partie des contenus en ligne est automatisée ou générée par IA. Les modèles qui s’appuient sur ces données risquent de s’éloigner de la réalité humaine, réduisant leur capacité d’innovation.

Les réponses de l’industrie

Les entreprises technologiques prennent ce risque au sérieux :

• Filtrage massif des données : Des entreprises comme OpenAI ou Google signalent rejeter une large majorité des données brutes pour ne conserver que les plus fiables (Propella AI, 2024).
• Partenariats documentaires : La Bibliothèque nationale de France (BnF) a annoncé un axe stratégique IA (2025) pour rendre accessibles ses collections numérisées et authentifiées. D’autres bibliothèques et consortiums académiques (ISTEX, COLLEX) suivent cette tendance.
• Watermarking : OpenAI, Google et Meta développent des filigranes numériques invisibles pour marquer les contenus générés et éviter qu’ils ne soient réutilisés dans l’entraînement.
• Diversité linguistique : Les géants de la tech enrichissent leurs jeux de données avec des textes multilingues pour éviter une surreprésentation anglophone.

Pourquoi c’est crucial

L’IA repose sur des données de qualité. Si le model collapse progresse, les modèles deviendront moins utiles et plus coûteux à maintenir. L’enjeu majeur n’est donc plus seulement la puissance des modèles, mais la préservation et la collecte de données humaines authentiques.

---

Sources

Google, Meta, OpenAI (2024-2025). Communiqués officiels sur le watermarking et les modèles multilingues.

Shumailov, I. et al. (2024). AI models collapse when trained on recursively generated data. Nature 631, 755–759. DOI: 10.1038/s41586-024-07566-y

Propella AI (2024). Understanding ‘Model Collapse’: Assessing the Rumours of AI’s Looming Crisis.

Bibliothèque nationale de France (2025). L’intelligence artificielle, un axe stratégique.

---

💡 Cet article fait écho à mon script Instagram sur le model collapse. Suivez mes publications pour comprendre les enjeux profonds de l’IA et comment s’y préparer.