Agents IA : au-delà du "buzzword", quels impacts ?

Mais que recouvre réellement le terme "agent IA" ? Loin d’être une nouveauté, ce concept évolue par son échelle et sa sophistication. Cet article vise à dépasser l’effet de mode pour comprendre leur nature, leur évolution et leurs implications, notamment éthiques et juridiques.

Histoire de l’IA agentique

Commençons par une définition simple : un agent d’IA est une entité qui perçoit des percepts (son, texte, image, pression, etc.) à l’aide de capteurs et qui réagit (à l’aide d’effecteurs) à son environnement. Dès les années 1980, des systèmes basés sur des règles codées permettaient d’automatiser des tâches. En 1995, Stuart Russell et Peter Norvig ont formalisé une classification des agents dans Artificial Intelligence : A Modern Approach. Les agents réflexes simples réagissent aux stimuli sans mémoire, tandis que les agents à modèle interne prennent en compte un état interne pour mieux anticiper leur environnement. Les agents basés sur des objectifs choisissent leurs actions en fonction d’un but donné, et les agents utilitaires optimisent leurs décisions selon une fonction de satisfaction. Enfin, les agents apprenants adaptent leur comportement à partir de l’expérience. Ces concepts, bien établis, forment la base des agents IA modernes qui intègrent aujourd’hui des modèles avancés et des capacités d’apprentissage profond.

Caractéristiques des agents IA contemporains

Définis par la norme ISO/IEC 22989 (2022), les agents fonctionnent avec un certain degré d’autonomie tout en étant encadrés par des permissions et des droits d’accès. L’intégration des grands modèles de langage (LLM) leur permet de comprendre et d’exécuter des instructions en langage naturel, facilitant leur adoption Contrairement aux anciens systèmes automatisés aux workflows rigides, ils peuvent désormais décomposer des tâches complexes en sous-tâches optimisées via l’approche Chain‑of‑Thought (CoT). Cette méthode, basée sur une structuration en graphes, améliore leur capacité de prise de décision. Les agents IA s’intègrent aux environnements numériques, interagissant avec bases de données, API, capteurs et applications métiers. Cette capacité à collecter et analyser des informations en temps réel leur permet d’ajuster leurs décisions en fonction du contexte.

Contrairement aux chatbots répondant aux requêtes, les agents interagissent avec leur environnement

Cas d’usage : des modèles de langage aux modèles d’action

Dans le domaine de l’automatisation du web, ces agents peuvent naviguer sur des interfaces graphiques comme un utilisateur humain. Grâce aux Large Vision Models (LVM), ils analysent les écrans, détectent les éléments interactifs et remplissent automatiquement des formulaires. Operator d’OpenAI illustre cette approche, notamment pour réserver un billet de train. L’agent ouvre le site, identifie les champs "Départ", "Destination" et "Date", saisit les informations, sélectionne l’option la plus adaptée, finalise la transaction et envoie la confirmation. Cette automatisation permet d’interagir avec des plateformes dépourvues d’API dédiées.

D’autres agents sont spécialisés dans des secteurs comme le droit, les ressources humaines ou la cybersécurité. Claude 3.5, par exemple, permet leur intégration aux CRM via le Model Context Protocol (MCP) pour une meilleure gestion des données. Des avancées restent nécessaires pour le passage à l’échelle. À terme, dans un cabinet juridique, un agent pourrait analyser des contrats, détecter les clauses clés et signaler les risques. En recrutement, il trierait les candidatures, sélectionnerait les profils pertinents et automatiserait les premiers entretiens.

Les systèmes multiagents, quant à eux, favoriseraient la collaboration entre entités autonomes. Dans un centre logistique, l’un optimiserait les livraisons, un autre gérerait les stocks et les réapprovisionnements, tandis qu’un troisième superviserait les robots de manutention. En interagissant en temps réel, ces agents optimiseraient l’efficacité opérationnelle, réduiraient les coûts et accéléreraient les processus, ouvrant la voie à des systèmes plus adaptatifs et autonomes.

Questions éthiques spécifiques

Des chercheurs de Microsoft et de l’Allen Institute for AI ont identifié onze questions clés pour encadrer le développement et l’usage des agents IA. Elles portent sur des aspects critiques, tels que la vérification de leur comportement, leur cohérence, le niveau de transparence à offrir aux utilisateurs et la manière dont ils intègrent les interactions passées pour affiner leur communication.

Un enjeu majeur est l’alignement sur les attentes de l’utilisateur pour éviter des actions inappropriées

Exemple anodin, un agent de planification de voyage pourrait mal interpréter une mission professionnelle comme un séjour touristique et proposer des choix inadaptés. Ces recherches soulignent l’importance d’un ajustement progressif du comportement de l’agent en fonction des retours utilisateurs pour garantir une interaction pertinente et contrôlée, pour des cas qui pourraient être davantage sophistiqués.

Pour garantir la sécurité des agents IA, plusieurs garde-fous sont nécessaires. Il faut évaluer leur pertinence pour chaque tâche, limiter leur champ d’action et exiger une validation humaine pour les décisions critiques. Leur comportement par défaut doit être strictement défini pour éviter toute initiative risquée. Leur activité doit rester traçable, avec une surveillance automatique détectant les anomalies et identifiant les responsables. Enfin, des mécanismes d’interruption et de contrôle humain doivent être assurés pour prévenir tout usage abusif.

Des enjeux juridiques inédits

Les modalités de fonctionnement des agents IA pourraient remettre en cause plusieurs principes juridiques fondamentaux. Contrairement aux systèmes classiques, ces agents prennent des décisions et exécutent des actions qui peuvent engager financièrement ou légalement leurs utilisateurs, sans intervention humaine directe. Cela soulève des questions sur la capacité juridique déléguée (un agent IA peut-il contracter au nom d’un tiers ?), l’imputabilité des erreurs (qui est responsable en cas de préjudice ?) et l’auditabilité des décisions (comment prouver l’origine et la légitimité d’une action prise par un agent ?). En outre, les agents IA peuvent interagir entre eux, créer des conflits d’intérêts ou persister sans supervision, posant un défi inédit en matière de régulation. Enfin, la notion d’"intention algorithmique" devra être clarifiée pour encadrer les cas où un agent commet une action interdite sans programmation explicite de son utilisateur.

Enfin, quelle sera la qualification juridique d’une IA agentique au sens de l’AI Act et quelles seront les obligations correspondantes ? Cela dépendra notamment des codes de conduite que publiera courant 2025, le bureau de l’IA, à la fois sur les modèles d’IA à usage général, mais également sur les systèmes d’IA à haut risque dans les domaines critiques, comme la santé, la finance, ou la cybersécurité. Cela pourrait impliquer des obligations renforcées en matière de traçabilité des actions, de validation des décisions et de mécanismes d’arrêt d’urgence pour éviter tout usage abusif ou non contrôlé.

SUR L’AUTEUR

Avocat au barreau de Paris, Adrien Basdevant est spécialiste des enjeux de data et d’IA. Il a fondé Entropy, un cabinet en droit du numérique connu pour intervenir sur des dossiers à la pointe des technologies. Diplômé de l’Essec, Adrien aide grands groupes et start-up sur leurs stratégies réglementaires et le développement de leurs produits innovants. Membre du Conseil national du numérique (CNNum), il enseigne l’éthique des technologies et la régulation des données à l’Essec CentraleSupélec. Auteur de plusieurs ouvrages, dont L’Empire des données, un essai sur la société, les algorithmes et la loi, il a également rédigé, avec des chercheurs de Mozilla et Columbia, un Framework sur l’open source dans l’IA.