Latent reasoning

Le raisonnement latent est l'idée qu'un modèle de langage peut porter une partie de son processus de raisonnement à l'intérieur de vecteurs d'états cachés continus au lieu de seulement par des mots explicites. Dans un LLM, l'invite est projetée en représentations haute dimension, transformée par des couches de modèles, et décodée en texte. La recherche sur le raisonnement latent traite un état caché modèle comme une représentation réutilisable d'une pensée intermédiaire, permettant ainsi au raisonnement de continuer directement dans l'espace latent.