Claude Haiku 5.5
AnthropicClaude CodeRaisonnement: élevé
Claude Haiku 5.5 répond juste à environ 1 question de vocabulaire sur 10. Il réussit le mieux en kabyle. Son point faible : écrire les mots en amazighe standard marocain en tifinagh. Il fait encore des erreurs en passant du tifinagh au latin (81,3 sur 100).
Rang 8 sur 9
Score TifinaghBench
8,0sur 100
Intervalle à 95 % : 7,4–8,6
7,9 en orthographe stricte
0–100, avec intervalle à 95 %
Score d’écriture
81,3sur 100
Intervalle à 95 % : 80,0–82,6
70,1 en orthographe stricte
Score de translittération, 0–100
Scores par dialecte et par tâche
Score obtenu dans chaque case, sur 100. La colonne de translittération mesure l’écriture, pas le vocabulaire.
Amazighe standard marocain
- Tifinagh → anglais
- 3,923 justes, 32 partielles, 945 fausses sur 1000
- Anglais → tifinagh
- 0,88 justes, 0 partielles, 992 fausses sur 1000
- Tifinagh ↔ latin
- 89,0890 justes, 0 partielles, 110 fausses sur 1000
Tarifit
- Tifinagh → anglais
- 8,562 justes, 44 partielles, 887 fausses sur 993
- Anglais → tifinagh
- 0,99 justes, 0 partielles, 984 fausses sur 993
- Tifinagh ↔ latin
- 61,9619 justes, 0 partielles, 381 fausses sur 1000
Kabyle
- Tifinagh → anglais
- 25,4202 justes, 102 partielles, 693 fausses sur 997
- Anglais → tifinagh
- 8,484 justes, 0 partielles, 913 fausses sur 997
- Tifinagh ↔ latin
- 93,0930 justes, 0 partielles, 70 fausses sur 1000
| Tifinagh → anglais | Anglais → tifinagh | Tifinagh ↔ latin | |
|---|---|---|---|
| Amazighe standard marocain | 3,923 justes, 32 partielles, 945 fausses sur 1000 | 0,88 justes, 0 partielles, 992 fausses sur 1000 | 89,0890 justes, 0 partielles, 110 fausses sur 1000 |
| Tarifit | 8,562 justes, 44 partielles, 887 fausses sur 993 | 0,99 justes, 0 partielles, 984 fausses sur 993 | 61,9619 justes, 0 partielles, 381 fausses sur 1000 |
| Kabyle | 25,4202 justes, 102 partielles, 693 fausses sur 997 | 8,484 justes, 0 partielles, 913 fausses sur 997 | 93,0930 justes, 0 partielles, 70 fausses sur 1000 |
Par dialecte
Tâches de sens uniquement
- Amazighe standard marocain2,4
- Tarifit4,7
- Kabyle16,9
Par tâche
- Tifinagh → anglais12,6
- Anglais → tifinagh3,4
- Tifinagh ↔ latin81,3
Notes tifinagh → anglais
Sens en texte libre, notés par le juge ou reconnus à l’identique.
- Justes
- Partielles
- Fausses
- Échouées
Amazighe standard marocain23 justes, 32 partielles, 945 fausses sur 1000
Tarifit62 justes, 44 partielles, 887 fausses sur 993
Kabyle202 justes, 102 partielles, 693 fausses sur 997
Taux d’erreur par caractère
Pour les réponses à correspondance exacte : la plus petite distance d’édition à une réponse acceptée, divisée par sa longueur. Plus c’est bas, mieux c’est ; il révèle les quasi-réussites qu’un score de 0 masque.
| Anglais → tifinagh | Tifinagh ↔ latin | |
|---|---|---|
| Amazighe standard marocain | 88,4 % | 3,2 % |
| Tarifit | 94,5 % | 19,9 % |
| Kabyle | 77,1 % | 1,8 % |
L’essai
- Protocole
- Protocole officiel
- Harnais
- Claude Code 2.1.302@anthropic-ai/claude-agent-sdk 0.3.303
- Juge
- Claude Haiku 5.5 (Claude Code)
- Échantillon
- 1 000 mots par dialecte, graine 1
- Taille des lots
- 100
- Sessions
- 93 de réponse, 30 de notation
- Jetons
- 784 886 en entrée · 1 170 057 en sortie · 923 891 de raisonnement
- Coût du modèle
- 0,69 $US (équivalent API ; essai sur abonnement)
- Coût du juge
- 0,22 $US
- Dates
- 20 oct. 2026, 14:05 UTC → 20 oct. 2026, 14:30 UTC
- Version de la CLI
- 0.1.0
Empreintes des jeux de données
SHA-256 de chaque dictionnaire, pour vérifier l’essai une fois les jeux de données publiés.
- Amazighe standard marocain
633505d9ccd2244f9a53b64f56bd153c428cc3dbd7229066845404bf3d7c5060 - Tarifit
d144a5619aa31cc06ffcc4eb26c361c65ca2c71451dfdfbea7fa134206481c4f - Kabyle
ed3a9882ac0f4ef10630917a302fd7d9ff6ac706654bb317b94c715f6b4cf9ea