Mercor a publié une carte de référence américaine (US Benchmark Map) qui mesure la couverture des benchmarks IA actuels sur le travail réellement effectué aux États-Unis. Son constat principal : environ 90% des heures travaillées américaines portent sur des tâches peu ou pas couvertes par les benchmarks existants, ce qui rend très difficile l'évaluation de la performance des modèles d'IA sur des emplois réels.
La carte s'appuie sur la taxonomie O*NET du ministère américain du Travail, qui découpe la population active en 923 métiers et 18 797 tâches. Mercor présente ce travail comme une première étape vers une image constamment actualisée des capacités de l'IA dans l'économie, en avertissant que les résultats restent provisoires.
Ce qu'a révélé la carte de référence de Mercor
Mercor est partie d'une liste de 29 benchmarks choisis pour leur qualité et leur pertinence économique, puis a utilisé un modèle de langage évaluateur (LLM judge) pour associer chaque question de benchmark aux tâches O*NET correspondantes. Une tâche n'est considérée comme couverte que si au moins cinq questions y renvoient. L'entreprise a validé cet étiquetage par des annotations d'experts humains sur ses propres benchmarks APEX, un sous-ensemble des 29.
Sur cette base, seuls 208 métiers sur 923 comptent une tâche couverte par au moins cinq questions de benchmark, et 6 des 22 familles professionnelles n'ont aucun métier couvert.
- Seuls 208 des 923 métiers O*NET comptent une tâche couverte par au moins 5 questions de benchmark
- 6 des 22 familles professionnelles n'ont aucun métier couvert
- Environ 90% des heures travaillées aux États-Unis portent sur des tâches peu ou pas couvertes



