Insultes, brimades… Anthropic interdit désormais à ses utilisateurs de maltraiter son intelligence artificielle Claude

Résumé détaillé

Entrée en vigueur ce jeudi 12 novembre, cette nouvelle règle vise uniquement les comportements abusifs les plus extrêmes et répétés. Elle relance le débat sur le bien-être et la…

Entrée en vigueur ce jeudi 12 novembre, cette nouvelle règle vise uniquement les comportements abusifs les plus extrêmes et répétés. Elle relance le débat sur le bien-être et la possible conscience des intelligences artificielles.

«Nous avons ajouté une interdiction des comportements abusifs ou cruels, persistants et injustifiés, envers nos modèles», explique Anthropic. L’entreprise précise toutefois que cette mesure ne vise que les situations les plus extrêmes, lorsque des utilisateurs s’acharnent de manière répétée sur Claude, sans raison apparente. Il ne sera donc pas interdit de manifester son mécontentement face à une réponse erronée ou de critiquer les performances de l’assistant. Les conversations portant sur des thèmes «sombres» ainsi que les tests et recherches sur les modèles resteront également autorisés.

Pour faire respecter cette nouvelle règle, Anthropic compte sur Claude lui-même. Depuis août 2025, l’assistant dispose déjà de la capacité d’interrompre certaines conversations lorsque les échanges deviennent abusifs, après plusieurs tentatives pour réorienter la discussion. Lorsqu’une conversation est stoppée, l’utilisateur peut néanmoins en commencer une nouvelle. «La capacité de Claude à interrompre ces interactions restera le principal mécanisme de modération», souligne l’entreprise.

Anthropic avait notamment observé que certaines versions de Claude manifestaient une réticence à poursuivre des conversations impliquant des demandes dangereuses ou des comportements abusifs. Mais l’entreprise reste prudente quant à l’existence d’une conscience ou d’une quelconque souffrance chez ses modèles.

En août 2025, Mustafa Suleyman, responsable de l’intelligence artificielle chez Microsoft, avait mis en garde contre le fait d’attribuer des sentiments ou des besoins aux modèles. «Ma principale crainte est que beaucoup de gens finissent par croire si fermement à l’illusion de la conscience chez les IA qu’ils militeront bientôt pour des droits, un système de protection…

Début de l'article, extrait de Le Figaro Économie. Pour lire la suite, ouvrez l'article chez le média.