Depuis deux ans et demi, le service de la CNIL consacré à l’intelligence artificielle conjugue recherche et recommandations pour promouvoir un usage éthique et sécurisé de l’IA. Entretien avec Félicien Vallet, chef du département au sein de l’autorité de protection des données personnelles.

Décideurs. En matière d’IA, la Cnil mise sur l’accompagnement des développeurs et des utilisateurs. Quelles recommandations formulez-vous pour favoriser une prise en main optimale ? 
Félicien Vallet. Les recommandations que nous élaborons s’adressent autant aux concepteurs d’outils d’IA, qu’ils soient natifs ou disponibles sur étagère, qu’à leurs utilisateurs. Les technologies d’IA évoluent vite, il est essentiel de suivre la cadence pour ne pas se laisser dépasser. Pour cela, nous sensibilisons les professionnels, y compris nos collègues au sein de la Cnil, mais aussi le grand public. Les supports que nous concevons irriguent l’ensemble des métiers et des secteurs. À titre d’exemple, certains contenus destinés aux enseignants précisent les "do’s and don’ts" dans le cadre du déploiement d’un système d'IA en classe. De même, nous accompagnons les entreprises dans le choix de leur IA générative par rapport à leurs besoins en les alertant sur les différents enjeux clés : la sécurité, les biais ou encore la robustesse.

"Les systèmes d’IA les plus conformes à la réglementation ont déjà d’un coup d’avance"

Du côté des développeurs, nous avons, entre autres, publié treize fiches pratiques afin qu’ils développent leur système dans le respect du RGPD. Les sujets que nous traitons s’étendent du choix de sa base juridique en fonction du type de données collectées, aux méthodes de sécurisation des modèles, en passant par la détection des phénomènes de mémorisation des données personnelles. 

Sur quels mots d'ordre se fondent les actions de la Cnil ?

La vigilance est une posture incontournable. La capacité d'innovation ne suffit pas si l’on ne veille pas à maîtriser les risques potentiels. Pour les entreprises, cela se traduit notamment par un choix d’outils adaptés à leurs besoins.

Du côté des fournisseurs de solutions, la loyauté et la transparence sont indispensables. Les systèmes les plus conformes à la réglementation disposent déjà d’un avantage concurrentiel. De la même façon que la conformité au RGPD est devenue un standard mondial en matière de protection des données personnelles, le respect de l’AI Act représentera un véritable facteur différenciant. Dans le même sens, les entreprises qui s’appuient sur un hébergeur de données qualifié SecNumCloud délivrent déjà un fort gage de sécurité. Ces notions recoupent également un enjeu de souveraineté dont le poids pèse toujours plus lourd sur le plan stratégique et économique.

Quelles sont les questions les plus récurrentes de la part des utilisateurs ?

Les utilisateurs s’interrogent énormément sur la licéité des solutions d’IA. Les principales préoccupations concernent le respect du RGPD, les enjeux de cybersécurité, de protection des secrets industriels et des droits d’auteurs. Les systèmes extra-européens, en particulier chinois et américains, sont au centre de l’attention.

"Une IA qui peut elle-même exécuter une requête API peut constituer une brèche importante de cybersécurité"

Pour se prémunir des risques liés à ces technologies, il est crucial d’en définir clairement l’usage. Du point de vue de la cybersécurité, il est essentiel de contrôler la latitude accordée à ces systèmes : une IA qui peut elle-même exécuter une requête API peut constituer une brèche importante. Dès 2022, nous avons mis en garde sur ces enjeux de sécurité spécifiques à travers les publications de notre Laboratoire d'innovation numérique (LINC). Nous avons également collaboré avec l'ANSSI (Agence nationale de sécurité des systèmes d'information) pour publier un guide sur la sécurisation des systèmes d'IA générative destiné à aider le plus grand nombre d’utilisateurs.

Ces derniers temps, les cas de deepfakes se multiplient. Quels bons gestes pour s’en protéger ?
Le potentiel de manipulation, de désinformation ou d'ingérence liés aux deepfakes est énorme. Les cas de deepnude, utilisés à des fins de cyberharcèlement ou de sextorsion, ou ceux de deepfakes, employés dans des objectifs de fraude, d'escroquerie ou d’arnaques au président, augmentent.

S’il n’est pas possible de faire reposer uniquement sur les utilisateurs la responsabilité de débusquer ces faux contenus, quelques bons réflexes restent cruciaux. D’abord, une bonne hygiène numérique est primordiale : faîtes attention aux contenus que vous partagez sur les réseaux sociaux et auprès de votre audience. La pratique du "sharenting", contraction des termes anglais share et parenting – "partager" et "parentalité" –, décrit les situations dans lesquelles des parents postent des photos de leurs enfants en dehors du cercle familial. Cela peut aboutir à des dérives en tout genre, comme la génération de contenus pédopornographiques. Limiter le partage de ces contenus à un cercle restreint ou nettoyer ses historiques sont donc des gestes indispensables.

Ensuite, dans les cas où vous soupçonnez qu’une image, une vidéo ou un fichier audio a été manipulé, il est important de signaler ces contenus sur les plateformes qui les hébergent et, en fonction de la situation, sur le portail national Pharos. Il est également recommandé de conserver les preuves ou encore de joindre les différents guichets d'aide aux victimes, voire de déposer une plainte auprès de la police nationale ou d’une brigade de gendarmerie si le contenu a été utilisé dans le but de commettre un délit ou de porter atteinte à votre réputation.
 
Quelles solutions techniques pour identifier ces faux contenus ?

Les technologiques nécessaire à la réalisation de deepfakes s'améliorent continuellement. Elles sont désormais accessibles à des personnes sans connaissances techniques. Dans le même temps, identifier ces faux contenus s’avère toujours plus difficile. Certains indices peuvent néanmoins persister. L’image est-elle trop pixelisée ? L’orientation des yeux est-elle étrange ? Les ombres sont-elles incohérentes ? Le propos est-il surprenant, voire choquant ? Selon la situation, se rendre sur un site de fact checking ou valider les informations avec son interlocuteur par un autre canal – un coup de téléphone, notamment – peuvent être très efficaces.

"L'AI Act et le DSA introduisent le concept de « watermarking » afin de « tatouer » les contenus générées artificiellement"

Afin de lutter contre la recrudescence de ces contenus, le règlement européen sur l'IA et celui sur les services numériques (DSA) introduisent le concept de "watermarking", un marquage numérique. L’objectif consiste à "tatouer" ces contenus pour être capable de les identifier. Les plateformes devront ainsi signaler aux utilisateurs les images ou vidéos générées artificiellement. Toutefois, le problème n’est pas encore résolu car certains systèmes d’IA sont déjà en mesure de contourner ou supprimer ce marquage.   

Selon une étude Ipsos, 44 % des Français considèrent que le risque de dépendance aux IA est élevé. Quel est votre état des lieux ? 

La question d’une éventuelle dépendance est délicate, les technologies d’IA pouvant apporter d’indiscutables progrès. Le baromètre du numérique publié par l'Arcep fournit des chiffres clés sur le sujet. On y observe notamment une accélération de l'adoption de l’IA par la population française, alors même qu’on la considérait plus réticente que d’autres nations jusque-là. Aujourd’hui, les systèmes d'IA générative représentent un nouveau point d'entrée pour la recherche d'information par rapport aux moteurs de recherche. La problématique de la fiabilité des résultats se déplace et s’articule désormais autour des risques d’hallucination et de biais.

D’autres perspectives de partenariats d’autant plus stratégiques entre les fournisseurs d’outils d’IA et les entreprises se dessinent. Certaines marques pourraient ainsi bénéficier d’une visibilité encore plus sélective, avec la possibilité d’acheter en un clic à partir d’une simple requête. Récemment, l’Autorité de la concurrence a d’ailleurs lancé des travaux spécifiques sur ce dernier point.

Le laboratoire d’innovation de la Cnil innove sans cesse. Quels sont vos projets en cours ?
Il est essentiel pour la Cnil de maintenir un lien fort avec la recherche, en particulier en matière d’IA. En tant qu’autorité de protection des données, notre rôle consiste à dessiner une voie souhaitable pour le développement de ces technologies, notamment au regard du respect de la vie privée. Parmi nos projets, nous avons mené une étude sur la question de l'explicabilité des modèles d’IA qui consiste à déterminer la logique de fonctionnement d'un algorithme. Un sujet intéressant, car il ne fait pas consensus d'un point de vue scientifique sur ses attendus ou sa mise en œuvre. L’un des enjeux est d’identifier de quelle façon ce thème peut s'aligner avec les exigences réglementaires à venir.

Nous travaillons également sur les enjeux de mémorisation des modèles d’IA. Ce phénomène se produit lorsqu’un modèle formé sur des données dans le cadre de son entraînement peut ensuite les restituer à l’identique. Cela peut s’avérer particulièrement problématique dans certains cas, notamment celui où le système d’IA est entraîné sur des comptes-rendus médicaux et qu’il restitue des informations relatives à un patient. La Cnil a donc lancé un projet, en partenariat avec l’ANSSI, le PEReN et le projet IPoP, intitulé PANAME, pour Privacy AuditiNg of Ai ModEls. Celui-ci vise à produire une librairie de tests standardisés en open source afin que les professionnels évaluent eux-mêmes si leur modèle présente un tel risque et, par la même occasion, si le RGPD s'y applique.

"Nous avons mené une étude sur l'explicabilité des modèles d’IA pour déterminer la logique de fonctionnement d'un algorithme"

Dernière illustration en matière de mémorisation avec la plateforme HuggingFace qui héberge plus de 2 millions de modèles, allant des modèles de base et, au fil des personnalisations, des modèles spécialisés issus de ces modèles "fondation". La plateforme propose, entre autres, une information dite "de descendance" qui permet de suivre la généalogie des modèles. Nous avons récemment publié un démonstrateur exploitant ces informations pour visualiser les liens entre les différents modèles. Un tel outil peut ainsi permettre de remonter jusqu’aux fournisseurs des modèles "parents" afin d’exercer ses droits d’opposition, d’accès ou d’effacement au titre du RGPD pour les personnes concernées par ce phénomène de mémorisation.

Cette année, la France compte plus de 1 000 start-up spécialisées en IA. Quelles sont les répercussions sur votre activité ?
Si le nombre de start-up spécialisées en IA ne cesse de croître, toutes ne se posent pas les mêmes questions concernant l’encadrement de leurs pratiques, ni au même rythme. Les entreprises les plus impliquées en la matière évoluent souvent dans des secteurs fortement régulés, tels que la finance ou la santé, où l’absence de conformité nuit à leur pérennité sur le marché. Dans d'autres secteurs, certains acteurs ont tendance à nous saisir à un stade plus tardif. L’un de nos objectifs consiste à mieux sensibiliser ces publics, notamment en s’appuyant sur des communautés ou des fédérations professionnelles. 

À l’heure actuelle, la Cnil se prépare à l’exercice de ses futures missions au titre du règlement européen sur l'IA. Un texte dont l'entrée en vigueur s’échelonnera de manière progressive, en suivant le déploiement de l'Omnibus numérique préparé par la Commission européenne. 

Propos recueillis par Léa Pierre-Joseph