9 questions à vous poser : utilisez-vous l'IA ou est-ce l'IA qui vous utilise ?
Récemment, je préparais une proposition commerciale pour un nouveau client. Le montant était inhabituel, les conditions aussi. Mon instinct me disait : mets X, tu connais ce marché. Mais j’ai décidé de « vérifier » avec Claude. Le modèle m’a renvoyé une réponse argumentée avec un autre chiffre – 15 % en dessous de mon estimation. C’était convaincant. J’ai changé le chiffre.
Une semaine plus tard, le client a signé sans négocier. Et au lieu d’être satisfait, j’ai ressenti de l’agacement : et si mon chiffre initial aurait aussi été accepté ? Je ne le saurai jamais – parce qu’au moment de la décision, j’ai étouffé mon propre jugement au profit d’une réponse « statistiquement fondée » de l’algorithme.
C’est exactement le schéma que les chercheurs d’Anthropic appellent Disempowerment – la perte de contrôle. Pas dramatique, pas évidente. Juste le remplacement silencieux de « j’ai décidé » par « l’IA m’a suggéré ».
Lire la suite
