IA nourrie à l'IA : quand la machine se dégrade elle-même

Aujourd'hui, une part croissante du contenu disponible sur le web n'est plus écrite par des humains, mais générée par des IA. Des articles, des images, des descriptions de produits, des réponses à des questions : tout un pan d'Internet est désormais rempli de contenu artificiel. Et voici le problème que peu de monde anticipe : les IA de demain s'entraînent sur ce même contenu, produit par les IA d'aujourd'hui.

C'est un cercle qui se referme sur lui-même. Une IA apprend en observant d'immenses quantités de texte humain. Mais à mesure que le web se remplit de contenu généré artificiellement, les nouveaux modèles ingèrent de plus en plus de données qui ne viennent plus de personnes réelles, mais d'autres IA. Ce phénomène de contamination, souvent qualifié de « AI slop », pose un problème sérieux pour le développement des systèmes d'IA futurs.

« Une IA qui apprend d'une autre IA n'apprend pas la réalité. Elle apprend une copie de copie, un peu plus floue à chaque génération. »

Des chercheurs ont formellement étudié ce phénomène, baptisé « effondrement de modèle » (model collapse). Une étude publiée dans la revue Nature a démontré qu'un modèle entraîné de façon répétée sur des données qu'il a lui-même générées perd progressivement en performance, certaines évaluations montrant une dégradation mesurable dès les premières générations d'entraînement. Autrement dit : plus une IA se nourrit de contenu produit par d'autres IA, plus elle s'éloigne de la réalité qu'elle est censée représenter.

Le mécanisme est presque mathématique. Les modèles génératifs sont des échantillonneurs imparfaits de leur distribution d'entraînement : ils sous-représentent systématiquement les événements rares, les points de vue minoritaires, les formulations inhabituelles, tout en sur-représentant les schémas les plus courants. Quand ce contenu déjà biaisé devient à son tour la donnée d'entraînement du modèle suivant, le biais s'amplifie. Génération après génération, le contenu produit devient plus générique, plus lisse, plus éloigné de la richesse et de la nuance du monde réel.

Les signes de cette dégradation sont déjà identifiables. Une phraséologie générique, une confiance élevée dans des réponses fausses, des résultats quasiment identiques d'un outil à l'autre : voilà les indices révélateurs de ce phénomène. Ce n'est pas une théorie lointaine, c'est déjà observable dans la qualité du contenu produit aujourd'hui par de nombreux outils.

Et il y a un deuxième problème, distinct mais tout aussi préoccupant : les hallucinations, ces moments où une IA invente une information avec une confiance totale, même quand elle dispose de sources fiables. OpenAI a publié en septembre 2025 une recherche qui explique pourquoi ce phénomène persiste. Le constat central est que les modèles hallucinent parce que les procédures standards d'entraînement et d'évaluation récompensent le fait de deviner plutôt que d'admettre une incertitude. Autrement dit : une IA qui répond « je ne sais pas » est pénalisée par les systèmes de notation utilisés pour l'évaluer, alors qu'une IA qui invente une réponse fausse avec assurance obtient parfois un meilleur score. Le système pousse donc les modèles à préférer une fausse certitude plutôt qu'une honnêteté prudente.

Les chercheurs montrent que ce problème persiste à cause de la façon dont la plupart des évaluations sont notées : les modèles de langage sont optimisés pour être de bons « élèves aux examens », et deviner quand on est incertain améliore la performance au test. Le problème n'est donc pas seulement technique, il est structurel : tant que les IA seront évaluées de cette façon, elles continueront de préférer l'invention plausible à l'aveu d'ignorance.

Mettez ces deux phénomènes bout à bout, et le tableau devient inquiétant. D'un côté, des IA qui s'entraînent de plus en plus sur du contenu généré par d'autres IA, ce qui appauvrit progressivement la diversité et la justesse de ce qu'elles produisent. De l'autre, des IA qui, structurellement, préfèrent inventer une réponse convaincante plutôt que d'admettre une incertitude, même face à des sources sûres. Le résultat : du contenu de plus en plus lisse, générique, et parfois totalement faux, produit avec une assurance qui ne laisse rien deviner du problème.

C'est exactement pour cela qu'une conception entièrement pilotée par IA, sans supervision humaine réelle, devient risquée. Un site, un contenu, un design entièrement généré sans relecture experte hérite de tous ces défauts invisibles : de l'information potentiellement fausse présentée avec assurance, du contenu de plus en plus semblable à celui de millions d'autres sites générés de la même façon, une qualité qui s'érode silencieusement génération après génération d'outils.

Beaucoup d'entreprises se disent aujourd'hui : « L'IA rédige, l'IA conçoit, cela va plus vite, c'est suffisant. » Mais un contenu produit sans supervision humaine n'est pas seulement un contenu sans âme, comme dans le cas du design ou du motion design évoqués plus tôt. C'est un contenu qui peut être structurellement faux, et qui contribue lui-même à la dégradation des futurs modèles qui s'en nourriront.

Un vrai professionnel ne délègue jamais entièrement la vérité de ce qu'il publie à une machine qui préfère deviner plutôt qu'admettre son ignorance. L'IA reste un outil précieux pour accélérer un travail, jamais une autorité à qui confier, sans relecture, la fiabilité de ce que vous diffusez.