Effondrement de modèles d'intelligence artificielle

Carte Commune · n° 266830

Dans le domaine de l'intelligence artificielle (IA), l'« effondrement de modèle » (ou model collapse en anglais) est la perte d'efficience que peuvent subir des modèles d'apprentissage automatique, par accumulation d'erreurs, après des entraînements sur des données générées (éventuellement récursivement) par un autre modèle d'intelligence artificielle (ou par des versions antérieures de cette même intelligence artificielle). Certains chercheurs et analystes pensent que cela peut aussi concerner l'apprentissage sur certaines données synthétiques. Mais d'autres pensent que ce risque est limité ou nul car l'apprentissage des modèles d'IA se fait toujours aussi avec des donnés neuves (ou anciennes) provenant de l'environnement réel. Shumailov et al. (2024) (qui ont inventé le terme de Model collapse) distinguent deux étapes spécifiques dans cette dégradation : 1) une phase précoce et souvent discrète ; 2) une phase d' effondrement du modèle. Lors de la phase précoce, le modèle commence à perdre...

Lire sur Wikipédia