Aller au contenu

GPT-6-Astra

OpenAICodexRaisonnement: faible

GPT-6-Astra répond juste à environ 3 questions de vocabulaire sur 10. Il réussit le mieux en kabyle. Son point faible : écrire les mots en tarifit en tifinagh. Il passe du tifinagh au latin presque sans faute (96,4 sur 100).

Rang 1 sur 9À égalité avec GPT-6.1-Sol

Comparer avec d’autres

Score TifinaghBench

29,4sur 100

Intervalle à 95 % : 28,3–30,4

28,5 en orthographe stricte

0–100, avec intervalle à 95 %

Score d’écriture

96,4sur 100

Intervalle à 95 % : 95,7–97,0

77,7 en orthographe stricte

Score de translittération, 0–100

Scores par dialecte et par tâche

Score obtenu dans chaque case, sur 100. La colonne de translittération mesure l’écriture, pas le vocabulaire.

Amazighe standard marocain

Tifinagh → anglais
29,0244 justes, 93 partielles, 663 fausses sur 1000
Anglais → tifinagh
11,7117 justes, 0 partielles, 883 fausses sur 1000
Tifinagh ↔ latin
99,0990 justes, 0 partielles, 10 fausses sur 1000

Tarifit

Tifinagh → anglais
37,8333 justes, 84 partielles, 576 fausses sur 993
Anglais → tifinagh
9,089 justes, 0 partielles, 904 fausses sur 993
Tifinagh ↔ latin
93,0930 justes, 0 partielles, 70 fausses sur 1000

Kabyle

Tifinagh → anglais
62,1561 justes, 116 partielles, 320 fausses sur 997
Anglais → tifinagh
26,7266 justes, 0 partielles, 731 fausses sur 997
Tifinagh ↔ latin
97,1971 justes, 0 partielles, 29 fausses sur 1000

Par dialecte

Tâches de sens uniquement

  • Amazighe standard marocain20,4
  • Tarifit23,4
  • Kabyle44,4

Par tâche

 

  • Tifinagh → anglais43,0
  • Anglais → tifinagh15,8
  • Tifinagh ↔ latin96,4

Notes tifinagh → anglais

Sens en texte libre, notés par le juge ou reconnus à l’identique.

  • Justes
  • Partielles
  • Fausses
  • Échouées
  • Amazighe standard marocain244 justes, 93 partielles, 663 fausses sur 1000

  • Tarifit333 justes, 84 partielles, 576 fausses sur 993

  • Kabyle561 justes, 116 partielles, 320 fausses sur 997

Taux d’erreur par caractère

Pour les réponses à correspondance exacte : la plus petite distance d’édition à une réponse acceptée, divisée par sa longueur. Plus c’est bas, mieux c’est ; il révèle les quasi-réussites qu’un score de 0 masque.

Anglais → tifinaghTifinagh ↔ latin
Amazighe standard marocain66,3 %0,2 %
Tarifit75,0 %17,1 %
Kabyle55,3 %0,7 %

L’essai

Protocole
Protocole officiel
Harnais
Codex 0.163.0@openai/codex-sdk 0.163.0
Juge
Claude Haiku 5.5 (Claude Code)
Échantillon
1 000 mots par dialecte, graine 1
Taille des lots
100
Sessions
97 de réponse, 30 de notation
Jetons
1 042 163 en entrée · 163 647 en sortie · 7 775 de raisonnement
Coût du modèle
Non communiqué par le harnais
Coût du juge
0,19 $US
Dates
20 oct. 2026, 10:44 UTC → 20 oct. 2026, 10:56 UTC
Version de la CLI
0.1.0
Empreintes des jeux de données

SHA-256 de chaque dictionnaire, pour vérifier l’essai une fois les jeux de données publiés.

  • Amazighe standard marocain633505d9ccd2244f9a53b64f56bd153c428cc3dbd7229066845404bf3d7c5060
  • Tarifitd144a5619aa31cc06ffcc4eb26c361c65ca2c71451dfdfbea7fa134206481c4f
  • Kabyleed3a9882ac0f4ef10630917a302fd7d9ff6ac706654bb317b94c715f6b4cf9ea

Dossier de l’essai sur GitHub