Votre assistant IA dispose de trop de droits d'accès (et vous ne vous en rendez probablement pas compte)

photo de Dominic Wellington
4 min read
Résumez cela avec l'IA

Les agents IA gagnent sans cesse en capacités. Ils sont capables de raisonner, de planifier, d'analyser le contexte et d'agir automatiquement sur des dizaines de systèmes. Ils peuvent collaborer entre eux et faire appel à des outils externes. Et ils sont déjà déployés aujourd'hui dans des environnements de production. Mais ces agents posent un problème de gouvernance qui ne retient pas suffisamment l'attention. 

La plupart des agents IA disposent de droits d'accès bien plus étendus que ce dont ils ont besoin. Lorsqu'un développeur connecte un agent IA à un ensemble d'outils (par exemple, un CRM, une base de données ou un système ERP), la solution la plus rapide est aussi celle qui est la moins contrôlée. Une clé API renvoie des données. Un compte de service accorde l'accès. L'agent appelle ce dont il a besoin. La démonstration est convaincante. La validation de principe est un succès. 

Puis quelqu'un creuse un peu plus et pose des questions :

  • À quoi cet agent a-t-il exactement accès ? 
  • Qu'est-ce qu'il a fait hier ? 
  • Se pourrait-il qu'il ait eu accès à des données auxquelles il n'était pas censé avoir accès ?

Dans la plupart des déploiements en entreprise aujourd'hui, la réponse honnête est la suivante : nous n'en sommes pas tout à fait sûrs.

Le problème lié à un accès généralisé

Le modèle par défaut utilisé pour donner aux agents IA l'accès aux outils de l'entreprise ressemble étonnamment à celui qui consiste à remettre un passe-partout à un nouvel employé dès son premier jour. Non pas parce que quelqu'un y avait mûrement réfléchi, mais parce que c'était la solution la plus simple pour que tout fonctionne.

La plupart des frameworks d'agents IA permettent d'exposer des outils en configurant l'agent pour qu'il pointe vers un point de terminaison API. Il n'y a ni application des politiques, ni délimitation des accès, ni piste d'audit. L'agent appelle l'outil, l'outil répond, et tout le monde passe à autre chose.

Cela fonctionne très bien dans un environnement de test. Dans un environnement d'entreprise où les données sont réglementées, où il existe des exigences de conformité et où les utilisateurs sont réels et dont l'identité est importante, cela devient un problème de gouvernance aux conséquences réelles.

Ce que signifie réellement le « principe du privilège minimal » pour les agents IA

Le principe du privilège minimal est une norme de sécurité depuis des décennies. Les utilisateurs et les systèmes ne devraient avoir accès qu'aux ressources dont ils ont réellement besoin pour accomplir leur travail.

Pour les agents d'IA, ce principe doit être appliqué à chaque niveau.

De quels outils l'agent dispose-t-il ? Tous les agents n'ont pas besoin d'accéder à tous les systèmes. Un assistant des ressources humaines n'a pas besoin de consulter les dossiers financiers. Un agent du service client n'a pas besoin d'un accès en écriture à la base de données de production.

Au nom de qui l'agent agit-il ? Lorsqu'un agent IA effectue une action, il doit le faire avec les autorisations de l'utilisateur spécifique qui l'a déclenché, et non en tant que compte de service générique disposant d'un accès permanent étendu.

Que peut réellement faire l'agent au sein de chaque outil ? La réduction de la portée des jetons vous permet de délivrer un identifiant à portée restreinte pour chaque action, limitant ainsi l'accès de l'agent même au sein d'un système qu'il est autorisé à utiliser ; ainsi, même en cas de problème, l'ampleur des dégâts est limitée.

Les réponses à ces trois questions ne sont pas compliquées. Mais la plupart des frameworks d'agents d'IA actuels ne les posent tout simplement pas.

L'approche de SnapLogic : l'appel d'outils régi par des règles

Le MCP (Model Context Protocol) est une norme ouverte qui définit la manière dont les agents IA identifient et interpellent les outils d'entreprise. Le serveur MCP de SnapLogic repose sur un modèle d'accès aux agents différent. Chaque outil est un pipeline SnapLogic, qui s'exécute sur votre infrastructure, est régi par vos politiques et soumis aux mêmes règles de gestion des API que celles qui s'appliquent au reste de vos intégrations d'entreprise.

La gouvernance n'est pas facultative et ne peut pas être ajoutée a posteriori. Il est impossible de créer un serveur MCP sans l'associer à un groupe de stratégies. Il s'agit d'un champ obligatoire lors de la création.

Cela signifie que la limitation du débit, les restrictions d'adresse IP, les exigences d'authentification et les contrôles d'accès basés sur les rôles sont obligatoires pour chaque outil que vos agents IA peuvent invoquer avant même qu'un seul appel ne soit effectué.

Pourquoi c'est plus important que vous ne le pensez

La question n’est pas de savoir si vos agents IA finiront par intervenir sur des systèmes sensibles. C’est justement la raison pour laquelle vous les déployez. La question est de savoir si vous pourrez contrôler cet accès le moment venu.

L'autre solution consiste à les verrouiller afin qu'ils ne puissent causer de dommages ni divulguer d'informations sensibles, mais cette restriction limite également considérablement l'utilité de ces agents. Restreindre l'accès n'est pas synonyme de gouvernance.

La gouvernance des accès pour les agents IA ne relève pas uniquement de la sécurité. C'est une condition préalable à l'exploitation de l'IA à l'échelle de l'entreprise. Sans elle, chaque nouvel agent que vous déployez introduit une nouvelle surface d'attaque, un nouveau risque de non-conformité et une nouvelle source d'incertitude.

Dans la deuxième partie, nous approfondirons la question de l'identité : plus précisément, pourquoi il est important de savoir en tant que quel utilisateur un agent IA agit, et comment la solution de propagation des jetons de SnapLogic, Trusted Agent Identity, garantit que l'identité correcte accompagne l'agent jusqu'au système backend.

Il s'agit d'une série en trois parties destinée à présenter notre prochaine table ronde virtuelle intitulée «Gérer les agents IA : sécurité des accès, identité et contrôle à l'échelle de l'entreprise ».Rejoignez-nous le 10 juin dans votre région : inscrivez-vous à la diffusion EMEA ou à la diffusion en Amérique du Nord. À bientôt !

photo de Dominic Wellington
Directeur du marketing produit pour l'IA et les données chez SnapLogic
Catégorie : IA