Ce qu'un agent IA ne doit jamais faire seul dans une PME

Un agent IA ne doit jamais faire cinq choses seul : envoyer un message qui engage votre entreprise, toucher à l’argent, décider du sort d’une personne, improviser quand il ne sait pas, et poser un geste qu’on ne peut pas annuler. Tout le reste, ou presque, peut se déléguer. Nous installons des agents IA chez nos clients, c’est une partie de notre métier. Et c’est précisément pour ça que cet article commence par les interdits.

Un chiffre pour poser le décor. En octobre 2025, l’étude EBU/BBC « News Integrity in AI Assistants » a réuni 22 médias publics de 18 pays, dont Radio France : leurs journalistes ont évalué 2 709 réponses de ChatGPT, Copilot, Gemini et Perplexity à des questions d’actualité. Verdict : 45 % de ces réponses contenaient au moins un problème important. Presque une sur deux.

Faut-il en conclure que l’agent IA n’a rien à faire dans une PME ? Non. Il faut en conclure qu’on ne le laisse pas travailler sans filet. La différence entre un agent utile et un agent dangereux tient moins à la technologie qu’au périmètre qu’on lui confie, et à l’endroit exact où l’on place l’humain.

C’est quoi, un agent IA, au juste ?

Mettons-nous d’accord sur les mots, parce que tout le monde les mélange.

Un assistant IA, c’est ChatGPT : vous posez une question, il répond, et c’est vous qui agissez ensuite. Un agent IA, c’est le cran au-dessus : un logiciel qui utilise la même intelligence pour faire une partie du travail à votre place. Lire les messages qui arrivent, préparer une réponse, classer un justificatif comptable au bon endroit, remplir une fiche client, préparer une relance. Chez nos clients, ce sont par exemple des agents qui traitent les demandes WhatsApp, préparent des devis ou rangent les pièces comptables.

La nuance qui change tout tient en une phrase : un assistant vous parle, un agent agit. Dès qu’un logiciel agit au nom de votre entreprise, la bonne question n’est plus « est-ce que c’est impressionnant ? » mais « que se passe-t-il le jour où il se trompe ? ».

Que risque une entreprise quand son IA répond seule ?

Ce jour-là a déjà eu lieu, et il a un nom : l’affaire Air Canada.

Un client de la compagnie perd sa grand-mère et interroge le chatbot du site avant d’acheter ses billets. Le robot lui répond qu’il peut payer plein tarif, puis demander après coup le tarif deuil, réduit. C’était faux : cette politique n’existait pas, le chatbot l’a inventée. La compagnie refuse le remboursement, l’affaire part au tribunal. Et là, Air Canada ose une défense restée célèbre, telle que le tribunal la résume : son chatbot serait « une entité légale distincte, responsable de ses propres actes ».

Le tribunal n’a pas apprécié. En février 2024, il a condamné Air Canada à verser 812 dollars canadiens au client, en posant un principe limpide : une entreprise est responsable de toute l’information publiée sur son site, qu’elle vienne d’une page classique ou d’un chatbot, rapporte CBC News.

Le montant est modeste. Le principe, lui, est énorme, et il vaut pour votre PME : ce que votre agent écrit, c’est vous qui l’écrivez. Une promesse de délai inventée, une remise accordée de travers, un conseil erroné, et c’est votre signature en bas de la page. Sans compter le coût que le tribunal ne chiffre pas : la confiance du client qui s’est senti baladé.

Les IA se trompent-elles si souvent que ça ?

Dès qu’on les laisse improviser sur des questions ouvertes, oui. C’est exactement ce que mesure l’étude EBU/BBC citée plus haut : sur 2 709 réponses évaluées par des journalistes professionnels, 45 % présentaient au moins un problème important. La première cause, dans 31 % des réponses, ce sont les sources : absentes, trompeuses ou mal attribuées. Viennent ensuite les erreurs factuelles, dont ces réponses fabriquées de toutes pièces que les chercheurs appellent des hallucinations : l’IA ne sait pas, mais au lieu de le dire, elle produit une réponse plausible, avec un aplomb parfait.

Soyons justes, car ce chiffre demande une lecture honnête. Ces 45 % mesurent des assistants grand public interrogés sur l’actualité, le terrain le plus glissant qui soit : ouvert, mouvant, impossible à borner. Un agent d’entreprise bien conçu travaille à l’opposé : il pioche ses réponses dans une base que vous avez validée, vos tarifs, vos horaires, vos procédures, et rien d’autre. Sur ce périmètre fermé, le risque change de nature : l’agent peut encore mal piocher, il ne peut plus inventer une politique commerciale. Et comme le risque ne tombe jamais à zéro, on garde le circuit de validation.

Le vrai danger, c’est l’IA en roue libre : celle qu’on branche face aux clients sans lui interdire de répondre à ce qu’elle ne sait pas. Ces mêmes assistants grand public, vos futurs clients les utilisent d’ailleurs déjà pour se faire recommander des entreprises, un sujet qu’on a creusé dans être cité par les IA.

Ce qu’on interdit à nos propres agents

Voilà notre doctrine, celle qu’on applique aux agents installés chez nos clients. Cinq interdits, sans exception.

1. Envoyer seul ce qui engage l’entreprise. Un devis, un prix, une promesse de délai, un geste commercial : l’agent prépare le message, un humain le relit et appuie sur envoyer. L’agent fait le gros du travail, l’humain garde la signature.

2. Toucher à l’argent. Ni déclencher un paiement, ni accorder un remboursement, ni modifier une facture. Jamais. Même plafonné à dix euros.

3. Décider seul du sort d’une personne. Refuser un dossier, trancher une réclamation, écarter une candidature. L’agent peut préparer le dossier et le résumer. La décision revient à quelqu’un qui a un nom.

4. Improviser quand il ne sait pas. Hors de sa base, un agent bien réglé ne brode pas : il transfère à un humain et le dit franchement. C’est l’interdit qui aurait sauvé Air Canada.

5. Poser un geste irréversible. Supprimer des données, publier publiquement, signer, résilier. Tout ce qui ne s’annule pas passe par une validation.

Ce circuit ajoute un clic ? Oui. C’est le prix pour dormir tranquille, et il est faible : valider une réponse prend quelques secondes, la rédiger en prenait plusieurs minutes.

Et la loi, elle en dit quoi ?

Ce garde-fou humain n’est pas qu’une conviction de prudents. En Europe, il est déjà écrit noir sur blanc, deux fois.

D’abord le RGPD, le règlement européen sur les données personnelles, en vigueur depuis 2018. Son article 22 donne à chacun « le droit de ne pas faire l’objet d’une décision fondée exclusivement sur un traitement automatisé » dès que cette décision a un effet juridique ou significatif sur lui. Traduction pour une PME : refuser un client, un crédit ou une candidature par la seule décision d’une machine, sans intervention humaine possible, c’est illégal depuis 2018.

Ensuite le règlement européen sur l’IA, adopté en 2024, que vous croiserez sous son nom anglais d’AI Act. Son article 14, titré « Contrôle humain », impose que les systèmes d’IA dits à haut risque, ceux qui touchent par exemple au recrutement, au crédit ou à l’éducation, permettent « un contrôle effectif par des personnes physiques pendant leur période d’utilisation ». La personne qui surveille doit pouvoir comprendre les limites du système, refuser sa proposition, intervenir ou l’arrêter.

La plupart des agents d’une PME, qui trient des messages ou préparent des devis, ne relèvent pas de la catégorie « haut risque ». Mais la direction est claire : pour le législateur européen, l’humain dans la boucle n’est pas une option de confort. C’est le standard.

Alors, que peut faire un agent IA tout seul ?

Beaucoup de choses, et c’est là que l’agent gagne sa place. La grille qu’on utilise tient en trois colonnes.

Cette grille est la colonne vertébrale des agents que nous installons : chacun couvre une tâche bornée, avec son circuit de validation. Et le gain honnête, le voici : un agent bien cadré vous rend du temps sur le répétitif, chaque jour. Il ne remplace pas une personne, il enlève à vos journées la partie qui n’avait pas besoin de vous.

Par où commencer, concrètement ?

Pas par la tâche la plus impressionnante. Par la plus bornée.

Choisissez une seule tâche répétitive, au périmètre net, avec un volume mesurable : le tri des messages entrants est souvent le bon candidat. Posez le circuit de validation avant la mise en route, pas après le premier incident. Puis regardez les chiffres chaque semaine pendant un mois : ce que l’agent a traité, ce qu’il a transféré, ce qu’il aurait dû transférer. Vous saurez vite si le périmètre tient.

Et avant d’automatiser quoi que ce soit, vérifiez l’état de vos fondations numériques : un agent qui s’appuie sur un site bancal ou des informations périmées répétera vos erreurs plus vite que vous. Notre audit en ligne gratuit fait ce tour d’horizon, sans rendez-vous et sans engagement.

Un agent IA, seul, est un stagiaire brillant et sûr de lui : rapide, infatigable, et capable d’affirmer une bêtise avec le plus grand sérieux. Personne ne laisserait ce stagiaire signer les devis le premier jour. Votre agent non plus.

Sources. EBU/BBC, « News Integrity in AI Assistants », octobre 2025 : 2 709 réponses de ChatGPT, Copilot, Gemini et Perplexity à des questions d’actualité, évaluées par les journalistes de 22 médias publics (18 pays, 14 langues, dont Radio France) ; 45 % contenaient au moins un problème important, 31 % un problème de sources. CBC News, février 2024 : décision Moffatt c. Air Canada (Civil Resolution Tribunal, Colombie-Britannique, 2024 BCCRT 149), 812 dollars canadiens accordés. RGPD, article 22, texte intégral sur le site de la CNIL. Règlement (UE) 2024/1689 sur l’IA, article 14 « Contrôle humain » ; texte officiel sur EUR-Lex.