Permissions et niveaux de confiance
Un agent CLI peut modifier le système réel
Contrairement à un chatbot web, un agent CLI a potentiellement accès en lecture et écriture au système de fichiers, voire à l'exécution de commandes shell. La gestion des permissions n'est pas une option secondaire, c'est un enjeu de sécurité central.
Modes de permission typiques
| Mode | Comportement |
|---|---|
| Lecture seule | L'agent peut consulter des fichiers, jamais les modifier |
| Approbation manuelle | Chaque action (édition, commande) demande confirmation avant exécution |
| Auto-approbation ciblée | Certaines actions sûres (lecture, édition) sont automatiques, d'autres (suppression, commandes réseau) demandent confirmation |
| Confiance totale | Toutes les actions s'exécutent sans confirmation, réservé à un environnement isolé et non critique |
Le sandboxing : isoler l'agent
Exécuter un agent CLI dans un environnement isolé (conteneur, machine virtuelle, sandbox dédiée) limite l'impact d'une erreur ou d'une action non désirée au périmètre isolé, plutôt qu'au système de production réel.
flowchart TD
A[Agent CLI] --> B{Environnement}
B -- Poste de production --> C[Impact direct sur\nle systeme reel]
B -- Sandbox/conteneur isole --> D[Impact limite au\nperimetre isole]
Cas concret
Un technicien utilise un agent CLI pour nettoyer des fichiers temporaires sur un serveur de production, avec le mode "confiance totale" activé par gain de temps. Une mauvaise interprétation d'une instruction ambiguë conduit l'agent à supprimer un dossier de configuration important, sans qu'aucune confirmation n'ait été demandée avant l'action irréversible. Un mode d'approbation manuelle sur les commandes de suppression aurait intercepté cette erreur avant exécution réelle.
Erreurs fréquentes
- Activer une confiance totale sur un environnement de production pour gagner du temps, sans mesurer le risque d'une action irréversible non supervisée.
- Exécuter un agent CLI directement sur un poste ou serveur critique sans envisager un environnement isolé pour les tâches expérimentales.
- Confondre "l'agent a l'air fiable" avec "l'agent ne fera jamais d'erreur" : même un modèle très performant peut mal interpréter une instruction ambiguë.
À retenir
- Les agents CLI ont un accès potentiel en lecture/écriture au système réel, contrairement à un chatbot web classique.
- Les modes de permission vont de la lecture seule à la confiance totale, à calibrer selon la criticité de l'environnement.
- Le sandboxing (conteneur, VM isolée) limite l'impact d'une erreur de l'agent au périmètre isolé.
Mini-exercice
Un technicien veut tester un agent CLI sur des commandes de nettoyage système potentiellement risquées, pour la première fois. Quel environnement et quel mode de permission choisir ?
Réponse : un environnement isolé (sandbox, conteneur ou VM jetable), avec un mode d'approbation manuelle activé sur les actions destructrices, permettant d'observer le comportement de l'agent sans risque pour un système de production réel.