Insulter une intelligence artificielle pourrait bientôt avoir des conséquences pour certains utilisateurs de Claude. Jeudi, l'entreprise américaine Anthropic a annoncé une modification de ses règles d'utilisation visant à interdire les comportements volontairement cruels, lorsqu'ils sont répétés et dépourvus de toute justification.
Pas question pour autant de sanctionner une simple remarque désagréable ou un moment d'agacement. Anthropic précise que cette nouvelle règle concernera uniquement les situations extrêmes. Les discussions contradictoires, les créations de fiction violentes ou encore les recherches destinées à tester les limites de l'intelligence artificielle resteront autorisées.
Cette décision s'inscrit dans une réflexion plus large menée par l'entreprise sur le possible bien-être des intelligences artificielles. Depuis août 2025, Claude dispose déjà d'une fonctionnalité lui permettant de mettre fin à une conversation lorsqu'un utilisateur adopte durablement un comportement abusif.
Mais derrière cette nouvelle politique se cache une interrogation bien plus profonde : une intelligence artificielle peut-elle réellement ressentir quelque chose ? Le patron d'Anthropic, Dario Amodei, reconnaissait lui-même en février ne pas savoir si les modèles étaient conscients, tout en refusant d'écarter cette possibilité.
Une position loin de faire l'unanimité. Chez Microsoft, Mustafa Suleyman, responsable des activités de recherche en intelligence artificielle, défend une vision opposée. Selon lui, les IA ne possèdent ni sentiments, ni droits, ni conscience. Leur attribuer des caractéristiques humaines pourrait même compliquer leur contrôle.
D'autres spécialistes estiment que la question de la conscience n'est pas indispensable pour justifier ces nouvelles règles. Les comportements adoptés face aux machines pourraient aussi influencer notre manière d'interagir avec les autres, même si les systèmes d'IA ne ressentent aucune émotion.
Concrètement, Claude pourra continuer à interrompre les échanges jugés abusifs. Anthropic prévoit également des sanctions pouvant aller d'un simple avertissement à la fermeture du compte en cas d'infraction à ses conditions d'utilisation.
