Les mathématiques derrière l'IA générative : GAN, VAE et modèles de diffusion

Le travail d'un modèle génératif, une fois dépouillé des schémas d'architecture, est toujours le même problème statistique sous-jacent : apprendre la distribution de probabilité dont les données réelles ont été tirées, suffisamment bien pour pouvoir en tirer un nouvel échantillon qui semble provenir du même endroit. Les GAN, VAE et modèles de diffusion résolvent tous ce même problème — ils empruntent simplement des voies mathématiques complètement différentes pour y parvenir.

Les GAN : transformer la génération en compétition

Un réseau antagoniste génératif (GAN) contourne presque entièrement la question de la distribution de probabilité, en transformant la génération en un jeu à deux joueurs. Un réseau générateur transforme du bruit aléatoire en un faux échantillon ; un réseau discriminateur est entraîné à distinguer les vrais échantillons des faux. Le générateur est entraîné à tromper le discriminateur ; le discriminateur à ne pas se laisser tromper. Formellement, c'est un jeu minimax sur une fonction de valeur, et le point fixe théorique — où le générateur correspond parfaitement à la distribution réelle des données et où le discriminateur ne peut plus que deviner à 50/50 — est un équilibre de Nash.

En pratique, cet équilibre est difficile à atteindre de façon fiable. L'entraînement peut osciller plutôt que converger, et un mode d'échec bien connu appelé mode collapse survient lorsque le générateur trouve une poignée de sorties qui trompent fiablement le discriminateur actuel et cesse d'explorer davantage — trompant techniquement le jeu, tout en sous-représentant gravement la diversité réelle de la distribution véritable.

Les VAE : un modèle probabiliste honnête, approximé

Un autoencodeur variationnel (VAE) emprunte la voie plus directe : il suppose que chaque point de données est généré à partir d'une variable latente cachée z, et tente d'apprendre correctement ce processus génératif. Le problème est que calculer la vraie distribution a posteriori de z étant donné un point de données observé est incalculable pour tout ce qui dépasse les modèles les plus simples. La réponse d'un VAE est d'entraîner un second réseau pour approximer cette distribution a posteriori, et au lieu de maximiser directement la vraisemblance des données (ce qu'il ne peut pas calculer), il maximise une borne inférieure démontrable de celle-ci — la borne inférieure de l'évidence, ou ELBO — qui se décompose proprement en un terme de reconstruction et un terme de divergence KL qui maintient l'espace latent appris proche d'une loi a priori simple et bien définie.

C'est ce terme KL qui rend l'espace latent véritablement utile : il maintient les éléments similaires proches les uns des autres et empêche le modèle de simplement mémoriser des points isolés, ce qui explique pourquoi les espaces latents des VAE permettent une interpolation fluide entre deux entrées très différentes, l'une des propriétés les plus utiles de la méthode.

Les modèles de diffusion : la génération comme un défaisage contrôlé

Un modèle de diffusion emprunte une troisième voie, très différente. Le processus direct est fixe et ne nécessite aucun entraînement : prendre une image réelle et lui ajouter une petite quantité de bruit gaussien, à de nombreuses reprises, jusqu'à ce qu'il ne reste plus rien de reconnaissable. La seule chose réellement apprise est le processus inverse — un réseau entraîné à prédire, à chaque étape, quel bruit vient d'être ajouté, afin de pouvoir le soustraire. Exécutez ce processus inverse appris en partant de bruit aléatoire pur, et vous générez un tout nouvel échantillon.

Cela rejoint directement le calcul stochastique : le processus direct de bruitage est une équation différentielle stochastique, et le réseau apprend en pratique la fonction de score nécessaire pour exécuter la version inversée dans le temps de cette équation. C'est une cible d'entraînement bien plus stable que le jeu adversarial d'un GAN — pas deux réseaux qui s'affrontent, juste un réseau qui apprend à prédire du bruit — ce qui est la principale raison pour laquelle les modèles de diffusion sont devenus l'approche dominante pour la génération d'images.

Le schéma à retenir à travers les trois : un GAN évite de modéliser directement la distribution et utilise une compétition à la place ; un VAE la modélise honnêtement mais doit approximer une étape incalculable ; un modèle de diffusion transforme la génération en de nombreuses petites prédictions de débruitage faciles plutôt qu'une seule difficile.

Ce qui reste véritablement non résolu

Trois questions dans ce domaine n'ont pas encore de réponse tranchée, même au niveau de la recherche. L'évaluation est plus difficile qu'il n'y paraît — aucun chiffre unique ne capture de façon fiable si un échantillon généré est réellement bon ; des métriques standard comme le FID comparent des statistiques de représentations de caractéristiques apprises, pas un véritable jugement humain, et sont connues pour pouvoir être trompées. La contrôlabilité — orienter de façon fiable ce qu'un modèle génère via une instruction ou un signal de conditionnement, plutôt que de l'influencer largement — reste un domaine de recherche actif plutôt qu'un problème d'ingénierie résolu. Et la question ouverte la plus profonde concerne les limites théoriques : ces modèles sont-ils capables d'une véritable généralisation au-delà de leur distribution d'entraînement, ou ce qui ressemble à de la nouveauté est-il une interpolation sophistiquée à l'intérieur de celle-ci — une question sur les capacités fondamentales des modèles, pas seulement sur leur implémentation actuelle.

Rien de tout cela n'est une raison de considérer ce domaine comme peu rigoureux — bien au contraire. Savoir précisément où se situent les questions ouvertes est ce qui distingue une compréhension véritable de l'IA générative de la simple capacité à utiliser les outils sans savoir comment ils fonctionnent. Si l'étude des fondements mathématiques de l'IA au niveau des études supérieures est la destination de votre enfant ou la vôtre, c'est exactement le niveau de profondeur auquel nous enseignons — voyez notre tutorat IA pour études supérieures ou le parcours d'apprentissage complet ici.