Qu'est-ce qu'un « runtime » ?
Un « runtime » désigne l'environnement dans lequel un programme s'exécute après avoir été écrit et compilé ou interprété. Il fournit les ressources sous-jacentes dont un programme a besoin pendant son exécution : gestion de la mémoire, contexte d'exécution et accès aux ressources système telles que les appels d'E/S et les appels réseau.
Tout programme a besoin d'un environnement d'exécution pour fonctionner, qu'il s'agisse d'un moteur d'exécution complet, d'une machine virtuelle ou de l'environnement de processus natif du système d'exploitation. C'est cet environnement d'exécution qui transforme les instructions compilées ou le code interprété en un comportement concret et exécutable.
Comment fonctionne un environnement d'exécution ?
Un environnement d'exécution comprend généralement un moteur d'exécution ou une machine virtuelle, des bibliothèques standard et des interfaces au niveau du système pour la gestion de la mémoire, des E/S et des processus. L'environnement d'exécution détermine ce qui est mis à la disposition d'un programme en cours d'exécution : les bibliothèques qu'il peut appeler, la manière dont les erreurs sont gérées et la façon dont les ressources sont allouées pendant l'exécution.
Dans le cas des langages compilés, le moteur d'exécution gère souvent les aspects que le compilateur n'a pas entièrement résolus à l'avance, comme le ramasse-miettes ou l'allocation dynamique de mémoire. Dans le cas des langages interprétés, le moteur d'exécution assure davantage le travail en temps réel, en traduisant le code source en instructions d'exécution ligne par ligne ou via un compilateur « juste à temps ».
Qu'est-ce qu'un environnement d'exécution d'IA ?
Un environnement d'exécution d'IA applique le même concept d'exécution spécifiquement aux charges de travail d'IA. Il s'agit de l'environnement qui exécute un modèle ou un agent entraîné, gère ses appels d'inférence, assure la gestion de l'état entre les différentes étapes et régit les ressources (puissance de calcul, mémoire, accès aux API) disponibles pendant son exécution.
Alors que les systèmes d'IA font de plus en plus appel à des agents à plusieurs étapes qui mobilisent des outils, conservent la mémoire d'une étape à l'autre et prennent des décisions séquentielles, c'est le moteur d'exécution de l'IA qui garantit la cohérence, l'observabilité et le contrôle de cette exécution. C'est la couche au sein de laquelle se déroule le comportement réel d'un agent.
Pourquoi la durée d'exécution est-elle importante pour les agents d'IA ?
Le lieu et la manière dont un système s'exécute déterminent ses capacités. Un environnement d'exécution restreint limite les performances ou les capacités ; un environnement bien équipé garantit la fiabilité à grande échelle. En ce qui concerne plus particulièrement l'IA, c'est au sein de l'environnement d'exécution de l'IA que les contrôles de gouvernance, de surveillance et de sécurité sont appliqués pendant l'exécution.
La gouvernance logicielle traditionnelle s'exerce principalement lors de la révision du code ou du déploiement. Avec les agents autonomes ou semi-autonomes, c'est souvent au niveau de l'exécution que l'on peut observer, limiter ou interrompre un comportement au moment même où il se produit, ce qui fait des contrôles au niveau de l'exécution une préoccupation majeure en matière de conception.
