Grand modèle de langage

Carte Épique · n° 8707

Un grand modèle de langage, grand modèle linguistique, grand modèle de langue, modèle de langage de grande taille ou encore modèle massif de langage (abrégé LLM de l'anglais large language model) est un modèle de langage possédant un nombre élevé de paramètres. Ce type de modèle repose sur des réseaux de neurones profonds entraînés par apprentissage auto-supervisé à partir d'une grande quantité de textes. Les grands modèles de langage sont apparus vers 2017 et ont été utilisés pour la mise en œuvre d'agents conversationnels. Ils constituent également le socle technique des moteurs de recherche génératifs, qui synthétisent directement une réponse en langage naturel à partir de multiples sources plutôt que d'afficher une liste de liens. Au lieu d'être entraînés pour une tâche spécifique comme l'analyse des sentiments, la reconnaissance d'entités nommées ou le raisonnement mathématique, ils peuvent accomplir un large éventail de tâches. Ils sont d'abord « pré-entraînés » à prédire une suite...

Lire sur Wikipédia