«  Il y a vraiment beaucoup à faire autour de l’intelligence artificielle »

À l’occasion de la présentation du rapport d’activité 2024 de la Commission nationale de la protection des données (CNPD), Ecorama Luxembourg a interrogé Alain Herrmann, commissaire spécialisé dans l’intelligence artificielle. Il évoque le rôle de l’institution comme point de contact unique pour l’« IA Act » et la nouvelle initiative « REMI » qui créera une communauté de pratiques dans le domaine de l’Intelligence artificielle avec le secteur public, les secteurs privés et les startups.

Ecorama Luxembourg : Alain Herrmann, vous êtes commissaire à la Commission nationale pour la protection des données, spécialisé dans l’intelligence artificielle. Il semblerait qu’elle ait donné du fil à retordre à votre institution en 2024…

Alain Herrmann : Ce n’est pas nécessairement qu’elle a donné du fil à retordre, mais c’est effectivement une technologie et des systèmes qui se développent, qui vont être de plus en plus intégrés dans notre quotidien, tant privé que professionnel.

Il y a également au niveau européen une régulation qui a été adoptée. Chaque pays doit nommer certaines autorités pour assurer le suivi de cette régulation-là. Le projet de loi au Luxembourg nous confie un grand nombre de missions quant à la régulation de l’acte au Grand-Duché. De ce fait, nous sommes en train de nous préparer avec nos équipes pour assumer ces missions lorsque la loi sera adoptée.

E.L : Est-ce que vous pouvez nous dire quelles sont les principales missions ?

A.H : Nous serons le point de contact unique. Si le projet de loi est voté, on sera le point de contact unique national, c’est-à-dire avec l’AI Office et l’AI Board à travers le ministère.

Nous serons également l’autorité de régulation des marchés par défaut pour l’intelligence artificielle, associée à certaines autres autorités qui sont des autorités verticales. L’IA utilisée dans le domaine financier sera gérée par la CSSF. Tout ce qui ne tombe pas dans les autorités verticales sera pour nous.

Nous serons également autorités chargées des droits fondamentaux dans le cadre de l’intelligence artificielle avec l’ALIA et l’ITM. Nous avons également l’obligation de mettre en place un bac à sable réglementaire dans le contexte de l’« AI Act ». Un bac à sable réglementaire, c’est un outil qui va permettre de travailler ensemble sur des projets avec les acteurs eux-mêmes sur les défis de conformité auxquels ils feraient face et pour leur aider à trouver des solutions dans ce contexte-là.

Nous serons également l’organisme notifié dans le cadre de l’« IA Act » pour certains systèmes d’IA qui sont utilisés par la police, les frontières, l’immigration et ce domaine-là. Donc il y a vraiment beaucoup à faire autour de l’intelligence artificielle. C’est un très grand travail, d’autant plus qu’il nécessite une collaboration entre les différentes autorités, une collaboration avec l’écosystème de l’innovation.

C’est aussi une approche plus par la construction, par le by-design, plutôt que d’être répressive. Dans ce contexte-là, nous avions déjà lancé cette initiative Sandkëscht en amont. Le lancement sera officiel le 7 octobre de l’initiative « REMI », Regulations Meet Innovations, avec laquelle nous sommes associés à AI Office, pour créer une communauté de pratiques dans le domaine de l’IA avec le secteur public, les secteurs privés et les startups.

Nous avons énormément de candidatures pour participer à cette initiative et elle va rencontrer un beau succès.

E.L : Comment voyez-vous le rôle de la CNPD dans le futur vis-à-vis de l’intelligence artificielle ? Parce que vous êtes là pour informer les citoyens de tous leurs droits, tout ce qui se passe autour du numérique. Comment percevez-vous cela ?

Le rôle va être à plusieurs niveaux. Il y a effectivement un rôle de sensibilisation vis-à-vis des citoyens, de leur dire à ceux qui doivent faire attention. Il y a également un rôle de sensibilisation vis-à-vis des acteurs qui développent les systèmes d’IA et de ceux qui implémentent des systèmes d’IA.

Il y a toutes les règles de régulation des marchés qui vont entrer là-dedans. Il y a cette communauté de pratiques qu’on est en train de mettre en place pour justement être en mesure d’échanger avec les acteurs qui développent ces systèmes d’IA. Nous, en tant qu’autorité, avons de bonnes connaissances juridiques, des connaissances sur les droits fondamentaux.

Les startups qui développent les systèmes d’IA ont des compétences techniques. Elles n’ont pas nécessairement des compétences juridiques. Et donc, nous avons créé cette communauté pour nous rapprocher et faire en sorte que les systèmes d’IA qui sont développés et implémentés au Luxembourg respectent les droits des personnes.

L’info en plus

L’IA au centre des missions de la CNPD

« Ce rapport est le reflet d’une année intense et riche en défis », s’est exclamé Tine A. Larsen, la présidente de la Commission nationale pour la protection des données (CNPD) ce lundi matin lors de la présentation du rapport annuel 2024. L’intelligence artificielle a été au cœur des missions de la structure. Ayant développé ses compétences en matière d’intelligence artificielle au cours des dernières années, la CNPD a été proposée à la fin de l’année dernière comme autorité compétente et coordinateur dans le cadre de la mise en œuvre nationale du règlement européen sur l’intelligence artificielle, l’IA Act adopté le 13 mars 2024. La Commission a, entre autres, lancé Sandkëscht (voir interview), DAAZ (Data Accountability from A to Zen), une plateforme e-learning destinée aux PME et startups pour les aider à comprendre et appliquer le RGPD dans leurs opérations quotidiennes ainsi qu’une campagne en ligne « Vos données, vos droits ! ». Elle sensibilise le public à ses droits en matière de protection des données.

En tout, la CNPD a reçu 516 réclamations dont les raisons principales étaient le non-respect du droit à l’effacement (18 %) et le non-respect du droit d’accès (17 %). Elle a émis 442 notifications de violations de données. La cause principale étant l’erreur humaine (51%). En outre, elle a ouvert 29 dossiers d’enquêtes en 2024 pour 44 dossiers actifs. Enfin, 2 300 € d’amendes administratives ont été données, uniquement sur des dossiers nationaux.