404 Mates

Accueil/Lexique/IA

IA

Benchmark

Aussi : benchmarks

En clair

Un benchmark est un examen standardisé : on pose les mêmes questions à plusieurs modèles et on compare les notes. Certains sont publics et très commentés, d’autres se construisent en interne. C’est utile pour situer un ordre de grandeur, mais une bonne note sur de la culture générale ou des exercices de programmation ne dit presque rien de vos propres documents.

Concrètement

Un modèle en tête d’un classement académique peut échouer sur quatre cas de facturation interne sur dix.

Pourquoi ça compte

Décider d’après un classement public, c’est acheter sur une moyenne. Les écarts se creusent dès qu’on sort du terrain couvert par l’examen.

Définition technique

Jeu de référence public ou interne pour comparer des modèles (MMLU, HumanEval, etc.) — à lire avec prudence hors domaine.

Termes liés

Vu dans ces articles

← Tout le lexique