404 Mates

Accueil/Lexique/IA

IA

Transformer

Aussi : transformers

En clair

Le Transformer est l’architecture de réseau publiée en 2017 sur laquelle repose la quasi-totalité des modèles de langage actuels. Sa nouveauté : traiter tous les fragments d’un texte en parallèle, en apprenant lesquels comptent les uns pour les autres. C’est une fondation commune, pas un gage de qualité — deux modèles bâtis dessus peuvent être très différents.

Concrètement

GPT, Claude et Llama reposent tous sur des variantes de Transformer, avec des capacités, des coûts et des limites très éloignés.

Pourquoi ça compte

Le mot rassure dans une plaquette commerciale sans rien dire de l’aptitude au métier. Fondation identique ne signifie pas résultats comparables.

Définition technique

Architecture de réseau à attention (2017) à la base de la plupart des LLM modernes.

Termes liés

Vu dans ces articles

← Tout le lexique