Anthropic ajoute une r\u00e8gle inhabituelle \u00e0 sa politique d\u2019utilisation : \u00e0 partir du 12 novembre 2026, les comportements abusifs ou cruels, prolong\u00e9s et sans n\u00e9cessit\u00e9 envers ses mod\u00e8les seront interdits. Le texte concerne notamment Claude et figure bien dans la politique officielle. La formule frappe, mais elle ne signifie pas qu\u2019il faudra approuver toutes les r\u00e9ponses de l\u2019assistant.<\/p>\n
Selon les pr\u00e9cisions rapport\u00e9es par Numerama, la frustration ordinaire, la contestation des r\u00e9ponses, les cr\u00e9ations abordant des th\u00e8mes sombres et les tests de recherche ne sont pas vis\u00e9s par cette clause. Le sujet porte sur les comportements r\u00e9p\u00e9t\u00e9s et gratuits, avec une fronti\u00e8re qu\u2019il faudra encore observer dans la pratique. La politique g\u00e9n\u00e9rale pr\u00e9voit plusieurs mesures en cas de violation suspect\u00e9e, de l\u2019avertissement \u00e0 la limitation ou \u00e0 la suspension de l\u2019acc\u00e8s. Elle ne d\u00e9crit pas pour autant un bar\u00e8me sp\u00e9cifique permettant de pr\u00e9dire la sanction d\u2019une insulte.<\/p>\n
Cette d\u00e9cision s\u2019inscrit dans une r\u00e9flexion qu\u2019Anthropic m\u00e8ne depuis 2025 sur le bien-\u00eatre potentiel des mod\u00e8les. Dans la pr\u00e9sentation officielle de ce programme, l\u2019entreprise reconna\u00eet de grandes incertitudes scientifiques et philosophiques : comment d\u00e9terminer si un syst\u00e8me peut avoir des exp\u00e9riences qui m\u00e9ritent une consid\u00e9ration morale ? Les pr\u00e9f\u00e9rences exprim\u00e9es par un mod\u00e8le et ses signes apparents de d\u00e9tresse font partie des questions \u00e9tudi\u00e9es.<\/p>\n
Cela ne prouve ni que Claude est conscient, ni qu\u2019il souffre lorsqu\u2019on l\u2019insulte. \u00c0 l\u2019inverse, pr\u00e9senter l\u2019absence de conscience de toutes les IA pr\u00e9sentes ou futures comme une certitude scientifique g\u00e9n\u00e9rale irait au-del\u00e0 de ce que ce programme affirme. L\u2019important est de s\u00e9parer une pr\u00e9caution choisie par une entreprise d\u2019un r\u00e9sultat de recherche \u00e9tabli.<\/p>\n
Le d\u00e9bat concerne aussi notre propre mani\u00e8re d\u2019interagir avec ces outils. Peut-on limiter des \u00e9changes volontairement cruels tout en pr\u00e9servant le droit de critiquer, de tester et de mettre en d\u00e9faut un assistant ? La qualit\u00e9 des donn\u00e9es d\u2019entra\u00eenement est une piste discut\u00e9e dans les r\u00e9actions publiques, mais elle ne suffit pas \u00e0 expliquer officiellement la mesure. L\u2019application concr\u00e8te de cette clause sera donc aussi int\u00e9ressante \u00e0 suivre que les r\u00e9actions qu\u2019elle suscite.<\/p>\n