Alex Combessie (Giskard) : "La régulation de l'IA est plus un défi technique qu’un enjeu juridique"

Décideurs. Malgré la forte progression de l’IA, déployer des projets en interne nécessite d’importants moyens. Quel est votre constat sur l’adoption des entreprises françaises ?

Alex Combessie. Les projets d'IA générative impliquent des coûts d'entrée qu'il faut dimensionner avec précision : infrastructures, compétences, évaluation et sécurisation. Pourtant, dès que ces projets sont bien cadrés, avec les bons processus et des outils adaptés, j'observe chez nos clients que le retour sur investissement est réel et mesurable. On le constate sur deux axes : d’abord avec une amélioration significative de la satisfaction client puis par une réduction des coûts opérationnels en interne. Quant au service client en particulier, les équipes humaines sont souvent débordées et les chatbots classiques suivent des scripts figés, souvent frustrants pour les utilisateurs. Bien déployée, l'IA générative apporte une véritable valeur ajoutée dans ce domaine.

Les acteurs de la banque et de l'assurance ont été parmi les premiers à se lancer, portés par leur maturité en matière de gestion des risques et des nouvelles technologies. Les entreprises industrielles et de services suivent le même chemin. L'enjeu n'est tant de savoir si l'IA générative crée de la valeur, il réside désormais dans le choix des cas d'usage, puis dans la mise en place des garde-fous, des outils de test et de suivi pour la déployer de manière fiable et sécurisée. C'est précisément notre mission chez Giskard.

Quels sont les retours autour de votre plateforme de test des chatbots et agents IA ?

Au lancement de Giskard en 2021, nous avons d’abord fédéré une communauté autour de notre solution en open source. Puis, il y a un an, nous avons commercialisé notre produit d’évaluation des chatbots et agents IA. Notre objectif consiste à les sécuriser tant sur le plan de la qualité que des potentielles manipulations et attaques. Nous avons ainsi accompagné la Société générale, la BPCE, Axa ou encore BNP Paribas et Michelin dans leurs projets.

"Beaucoup trop d’entreprises appréhendent les risques associés à l’IA au lieu d’en discerner les perspectives de compétitivité et de qualité du service client"

La plupart des banques et assureurs français ont lancé des agents IA directement auprès de leurs clients. Un choix audacieux lorsque l’on sait que de nombreuses entreprises expérimentent d’abord leurs outils en interne. Dans les deux cas, notre mission de sécurisation consiste à identifier et évacuer les biais, hallucinations ou faiblesses face au jailbreaking [méthode qui consiste à contourner ou supprimer les restrictions de sécurité imposées par les éditeurs sur un LLM, ndlr]. À l’heure actuelle, des centaines de milliers de clients finaux interagissent avec ces agents bancaires qui, en plus de n’avoir généré aucun incident, cumulent d’excellents retours sur l'expérience et l'adoption des utilisateurs.

Les outils comme le nôtre sont encore peu nombreux et beaucoup trop d’entreprises appréhendent les risques associés à l’IA au lieu d’en discerner les perspectives colossales de compétitivité et de qualité du service client. Giskard s’attache à encourager l’adoption en devenant un leader européen de la sécurisation de l'IA générative.

Quelles tendances observez-vous en matière d’IA ?  
L’IA agentique connaît un essor phénoménal. Et pour cause, les agents IA ont fortement gagné en autonomie et sont désormais capables de se connecter à des API ou des bases de données. Le champ des possibles s’élargit avec l’automatisation de tâches plus sophistiquées, comme créer des applications. Il s’agit d’une vraie révolution. Pour autant, cette autonomie d’interaction implique une hausse des risques cyber. À ce titre, il faut impérativement délimiter le champ d’action de ces agents IA sans oublier de renforcer sa sécurité informatique. À mesure que les investissements dans le domaine s’intensifient, nous recevons toujours plus de demandes de tests d’agents IA.

Après l’effervescence autour de l’AI Act, la proposition « omnibus numérique » entend simplifier certains éléments du texte. Comment analysez-vous ce revirement ?

Une chose est sûre, la réglementation progresse beaucoup plus lentement que l’innovation. Sur le marché, l’ensemble des acteurs techniques s’accordent sur l’importance de mettre en place des garde-fous et de tester l'IA, mais cela reste un champ actif de recherche et développement. Le principal enjeu repose sur la méthode de sécurisation de ces modèles. C’est justement le travail que l’on opère.

"L’ensemble des acteurs techniques s’accordent sur l’importance de mettre en place des garde-fous"

Nos clients n’ont pas attendu les réglementations pour innover. Lorsqu’on fait de l'IA sérieusement dans des applications critiques, nous sommes d’autant plus vigilants. Nous le constatons notamment chez les acteurs américains ou israéliens qui nous contactent. Même sans cadre normatif contraignant, leurs volets de test et de sécurité sont beaucoup plus matures que ceux des entreprises européennes. Sur ces trente dernières années, l’engagement de l’Europe en matière de régulation s’est fait au détriment de l’essor des compétences en sécurité. À mon sens, la régulation de l'IA est moins un enjeu juridique qu’un défi technique à appréhender au fil des avancées technologiques.

Au-delà de votre activité commerciale, vous produisez un important travail de recherche. Quels en sont les contours ?

Chaque mois, nous actualisons notre benchmark des LLM, baptisé Phare, lancé en partenariat avec Google DeepMind. Ce rapport comparatif dresse un état des lieux des tendances en matière d’hallucinations, de niveau de sécurité ou des disparités entre les langues d’usage. L’enjeu est d’étudier l’évolution de ces caractéristiques pour différents modèles. Fin février 2026, nous avons ajouté cinq nouveaux modèles au benchmark dont Claude 4.6 Opus, Gemini 3.1 Pro Preview ou GPT-5.2.

Cette dernière analyse montre que la sécurité des modèles d’IA les plus récents stagne, sinon régresse. À titre d’exemple, Gemini 3.1 est moins robuste que Gemini 3.0. Parmi les éléments qui sautent aux yeux : les modèles Claude d’Anthropic affichent un coup d’avance significatif par rapport à ses concurrents. Pourtant, le niveau global de sécurité et de fiabilité reste largement perfectible pour ces applications sensibles. Preuve en est, même les meilleurs modèles atteignent difficilement 80 % de résistance face aux jailbreaks.

Propos recueillis par Léa Pierre-Joseph