Vous avez demandé à un assistant numérique de vous faire gagner du temps. Vous lui avez donné accès à vos e-mails, à vos fichiers et peut-être même à votre boutique en ligne. S'il prend une mauvaise décision, jusqu'où cela peut-il aller ?
Le 19 octobre 2026, Microsoft a soulevé une question concernant l’utilisation quotidienne de l’intelligence artificielle au travail : le risque posé par les agents IA mis en place par l’entreprise elle-même.
L’assistant capable d’en faire plus que nécessaire
Dans son communiqué intitulé « Securing the agentic insider », l’entreprise souligne que les agents disposent souvent de droits excessifs. Ils ont accès à des données et à des outils, et interviennent dans des processus critiques. Leur comportement peut s'écarter de l'intention de l'utilisateur, sans qu'il y ait eu au préalable de violation de leur part par des pirates informatiques.
Microsoft recommande une surveillance et des contrôles permanents de leurs actions, en présentant le rôle des « Guardian Agents » et du « Project Perception ». Il s’agit de sa propre approche en matière de sécurité, et non d’une garantie qu’un outil élimine tout risque.
Du « écris-moi » au « fais-le pour moi »
Pour illustrer ce changement, imaginez deux tâches différentes. Dans la première, vous demandez à l’IA de rédiger une réponse à un client. Vous lisez le texte, vous corrigez ce qui doit l’être et vous l’envoyez. Dans la seconde, vous lui demandez de lire les e-mails entrants, de déterminer ceux qui nécessitent une réponse et de se charger de la communication.
La deuxième option promet un gain de temps plus important. Mais elle confie à l’assistant toute une série de choix : quel message est important, quel dossier concerne ce client précis, ce qu’il peut lui promettre et à quel moment il doit s’arrêter pour te consulter.
C’est là que réside tout l’intérêt des agents, et c’est là qu’il faut faire preuve de vigilance. La capacité à mener à bien une série de tâches n’a de véritable valeur que lorsque chaque étape reste dans les limites de la mission confiée.
L'e-mail qui tente de se transformer en ordre
Il existe également un piège moins évident. L’OWASP, le projet international dédié à la sécurité des applications, décrit l’« injection indirecte par invite » : des instructions contenues dans du contenu externe, tel qu’une page web ou un fichier, peuvent influencer le comportement du modèle.
En termes simples, un texte que l’assistant doit lire comme une information tente de lui dicter ce qu’il doit faire. L’OWASP décrit également un scénario impliquant un assistant de messagerie électronique, dans lequel un e-mail malveillant le trompe afin qu’il recherche des informations sensibles et les transmette. Il s’agit d’un exemple de risque figurant dans la documentation, et non d’un incident que nous avons constaté dans une entreprise grecque.
Le résultat dépend de l’application et des autorisations qui lui sont accordées. Un assistant qui ne peut que lire a un champ d’action différent de celui qui peut en outre envoyer, supprimer ou modifier des données.
Un exemple simple tiré d’une boutique en ligne
Imaginons que vous demandiez à un assistant de repérer les commandes en retard. Pour cette tâche, il doit consulter des données et établir une liste. Si vous lui avez également donné la possibilité d’effectuer des remboursements, de modifier des prix ou d’envoyer des messages, vous lui avez ouvert bien plus de possibilités.
Cet exemple est hypothétique. Il montre toutefois pourquoi l’accès doit être subordonné à la tâche spécifique. « Identifie le problème » et « fais ce que tu juges nécessaire » sont des consignes différentes.
Le piège du « puisqu’il a bien fait les choses hier »
Reprenons l’exemple hypothétique de la boutique en ligne. Le premier jour, l’assistant prépare une liste de commandes impeccable. Le deuxième jour, il rédige des réponses utiles. Puis survient un cas limite : le client demande un échange, le produit n’est plus disponible et une ancienne note fait état d’un accord différent.
Le succès des tâches précédentes ne permet pas de déterminer qui a le droit d’engager la responsabilité du magasin à ce stade. Avant d’automatiser cette étape, il faut définir quelles décisions peuvent être prises par l’assistant et lesquelles nécessitent l’intervention d’un responsable.
Un test pratique consiste à demander qu’on vous décrive ce qui se passera en cas d’exception. Tout le monde est capable de présenter un scénario sans accroc. La qualité d’une installation se mesure également à la manière dont elle gère une commande ambiguë, un destinataire erroné ou une tâche qui ne doit pas être poursuivie.
Les limites nécessitent également une mise en œuvre technique
L'OWASP associe une autonomie excessive à trois éléments : davantage de fonctionnalités, davantage de droits et davantage de liberté d'action que ne l'exige le travail. L’organisation recommande des autorisations limitées, une validation humaine pour les actions à fort impact et des contrôles d’autorisation sur les systèmes connectés.
Cela signifie que le principe « ne rien envoyer sans autorisation » ne doit pas rester une simple bonne intention dans la conversation. Lorsqu’une autorisation est requise, c’est le flux de travail lui-même qui doit l’imposer. L'enregistrement des actions aide à comprendre ce qui s'est passé, mais n'annule pas en soi un envoi déjà effectué.
Ce qu’il faut clarifier avant de cliquer sur « Connexion »
Pour une petite entreprise, quatre questions précises constituent un bon point de départ :
- Que peut-il consulter ? Uniquement les fichiers indispensables ou l’intégralité du fichier clients ?
- Que peut-il modifier ? Prépare-t-il des propositions ou intervient-il directement ?
- Quand doit-il demander une autorisation ? L'envoi à un client et le remboursement nécessitent des règles claires.
- Comment vérifiez-vous ce qui a été fait ? Vous devez pouvoir contrôler l’action et bloquer l’accès.
Ce sont là des suggestions pratiques de BEEGITAL pour la conception d’un flux de travail. Elles ne constituent pas la description d’un cas particulier.
Comme nous l’avons vu dans l’article consacré à la question de savoir qui peut rédiger une réponse sur Facebook, l’IA passe de la rédaction de texte à l’exécution d’actions.
Avant de lui confier une tâche, définissez clairement les limites de ses compétences. C’est ce qui rend l’automatisation plus utile et plus facile à contrôler.
Photo illustrative : FlyD / Unsplash.