\n
L\u2019IA aide d\u00e9j\u00e0 \u00e0 construire les IA suivantes. Chez Anthropic, Claude participe \u00e0 l\u2019\u00e9criture du code, aux exp\u00e9rimentations et aux tests. Mais l\u2019entreprise reconna\u00eet avoir parfois constat\u00e9 certaines acc\u00e9l\u00e9rations de sa recherche seulement apr\u00e8s leur survenue. Le sujet n\u2019est pas celui d\u2019un mod\u00e8le qui aurait soudain pris le pouvoir : il concerne une entreprise dont les outils de mesure peuvent arriver apr\u00e8s les progr\u00e8s qu\u2019ils sont cens\u00e9s suivre. Une diff\u00e9rence essentielle pour comprendre ses engagements de s\u00e9curit\u00e9.<\/p>\n<\/p>\n
\n
\n
Numerama rel\u00e8ve une \u00e9volution entre deux versions du document financier d\u2019Anthropic. Celle du 26 octobre 2026 \u00e9voquait la possibilit\u00e9 de d\u00e9tecter une acc\u00e9l\u00e9ration avec retard ; celle du 2 novembre reconna\u00eet que cela s\u2019est d\u00e9j\u00e0 produit. L\u2019entreprise ne d\u00e9taille pas ici les mod\u00e8les concern\u00e9s ni l\u2019ampleur exacte de ces \u00e9pisodes.<\/p>\n<\/p>\n
\n
Cet aveu permet de poser une question de fonctionnement. Si les indicateurs arrivent tard, une d\u00e9cision fond\u00e9e sur un seuil peut \u00eatre prise apr\u00e8s son franchissement r\u00e9el. Cela ne prouve pas qu\u2019un incident a eu lieu, mais montre pourquoi la qualit\u00e9 de la surveillance compte autant que le niveau de performance affich\u00e9 dans une d\u00e9monstration.<\/p>\n<\/p>\n
\n
\n
La politique d\u2019Anthropic d\u00e9crit un seuil de progr\u00e8s fortement acc\u00e9l\u00e9r\u00e9s par l\u2019automatisation, avec notamment l\u2019id\u00e9e d\u2019un rythme doubl\u00e9. L\u2019exemple revient \u00e0 accomplir en un an ce qui aurait normalement demand\u00e9 deux ans. D\u2019apr\u00e8s le document rapport\u00e9 par Numerama, aucun mod\u00e8le actuel n\u2019est reconnu comme ayant franchi ce seuil.<\/p>\n<\/p>\n
\n
Il faut donc s\u00e9parer trois \u00e9l\u00e9ments : l\u2019usage actuel de Claude dans la recherche, des acc\u00e9l\u00e9rations d\u00e9j\u00e0 observ\u00e9es avec retard et une pr\u00e9vision sur des mod\u00e8les futurs. Les r\u00e9unir dans une affirmation disant que Claude se perfectionne enti\u00e8rement seul ferait dispara\u00eetre les nuances pr\u00e9cis\u00e9ment document\u00e9es par l\u2019entreprise.<\/p>\n<\/p>\n
\n
\n
La feuille de route officielle pr\u00e9sente un objectif de surveillance baptis\u00e9 eyes on everything. Il vise \u00e0 mieux suivre les activit\u00e9s critiques de d\u00e9veloppement et \u00e0 d\u00e9tecter les comportements suspects, qu\u2019ils viennent d\u2019humains ou de mod\u00e8les. Centraliser les traces et analyser les op\u00e9rations doit rendre les \u00e9carts plus visibles.<\/p>\n<\/p>\n
\n
Ce dispositif est un objectif avec une \u00e9ch\u00e9ance, pas une protection d\u00e9j\u00e0 universellement d\u00e9ploy\u00e9e. La feuille de route comporte aussi des mises \u00e0 jour qui pr\u00e9cisent les travaux achev\u00e9s, r\u00e9orient\u00e9s ou encore en cours. Un nom ambitieux ne remplace pas une \u00e9valuation de terrain : avoir des yeux partout reste moins utile si le tableau de bord ouvre les paupi\u00e8res apr\u00e8s la r\u00e9union.<\/p>\n<\/p>\n
\n
\n
L\u2019automatisation peut augmenter le volume d\u2019exp\u00e9riences et r\u00e9duire le d\u00e9lai entre deux pistes de recherche. Elle augmente aussi l\u2019importance des v\u00e9rifications : comprendre ce qui change, attribuer les r\u00e9sultats et \u00e9valuer les risques avant d\u2019\u00e9largir les usages. Les gains de vitesse ne dispensent pas de ces t\u00e2ches ; ils peuvent rendre leur organisation plus exigeante.<\/p>\n<\/p>\n
\n
Anthropic pr\u00e9sente ses pr\u00e9visions dans un document destin\u00e9 aux investisseurs, avec ses propres estimations. Elles m\u00e9ritent d\u2019\u00eatre suivies sans \u00eatre confondues avec une mesure ind\u00e9pendante du futur. La question concr\u00e8te reste celle du d\u00e9calage entre progr\u00e8s et contr\u00f4le. Acc\u00e9l\u00e9rer tout en promettant de mieux surveiller ensuite demeure un programme qui demande autre chose qu\u2019une belle m\u00e9taphore sur les freins.<\/p>\n<\/p>\n
\n
Sources : Numerama \u00b7 Anthropic : feuille de route<\/p>\n<\/p>\n\n\n