Anthropic : comment savoir si Claude repère qu’il est testé ?
15 novembre 2026Lorsqu’un modèle d’IA reçoit une tâche, le scénario peut lui donner des indices sur le fait qu’il est évalué. Cette question revient dans les travaux de sécurité d’Anthropic autour de Claude. Si le contexte d’un exercice influence le comportement du modèle, le résultat peut être plus difficile à transposer à un usage réel.
Anthropic combine plusieurs méthodes pour évaluer Claude Fable 5.2 et Mythos 5.2. Le laboratoire présente notamment un audit automatisé de Mythos 5.2 sur environ 1 900 scénarios, des tests ciblés et des évaluations externes. Il examine aussi la tendance du modèle à rationaliser des indices qui suggèrent qu’il se trouve dans une simulation.
Dans ses travaux sur les générations précédentes, Anthropic a mesuré la détection du contexte de plusieurs façons, par exemple en repérant les cas où le modèle mentionne spontanément un test et en lui demandant ensuite d’évaluer cette possibilité. Ces méthodes produisent parfois des résultats différents.
Le travail des évaluateurs consiste donc à comparer des scénarios variés et à expliciter ce que chaque mesure capte. Repérer des indices de test et changer de comportement en conséquence sont deux observations distinctes.
Sources
À très vite sur l’EternoStation.
