Quelle gouvernance pour le futur règlement sur l’IA ?

En prévision de l’adoption du règlement européen sur l’intelligence artificielle (IA), le Conseil d’État, à la demande de l’ancien Premier ministre Jean Castex, a publié le 30 août 2022 une étude établissant les bases de la stratégie française en la matière. Ce document, qui plaide pour une IA au service de la puissance publique, préconise notamment de faire de la Commission Nationale de l'Informatique et des Libertés (CNIL) l’autorité de contrôle nationale responsable de la régulation des systèmes d’IA prévue par le futur règlement.

Construire une intelligence artificielle publique de confiance

Pour le Conseil d’État, l’intelligence artificielle est d’abord, et avant tout, un ensemble d’outils numériques au service de l’humain. Toutefois, bien qu’à l’origine de réalisations spectaculaires, (reconnaissance de personnes sur des images, création automatique de contenus, analyse sémantique, etc.), l’IA suscite encore de nombreuses craintes. Or, « en permettant notamment la résolution rapide de problèmes grâce à un apprentissage automatique, elle offre une opportunité unique pour améliorer la qualité du service public », affirme la juridiction.

En pratique, l’IA n’est encore que peu employée dans les secteurs et services publics, et de façon expérimentale. A ce titre, le Conseil d’État cite la gestion de la circulation automobile, la défense, la sécurité, ou encore la lutte contre la fraude et les politiques de l’emploi. Selon la plus haute juridiction administrative, l’intelligence artificielle pourrait en outre améliorer la qualité du service public, en favorisant une continuité 24h/24, en améliorant la pertinence des décisions et prestations délivrées, ainsi que l’égalité de traitement, ou encore en réduisant les délais d’examen des demandes des usagers, par exemple.

La CNIL, au service de l’innovation et de la performance publique

Le rapport note tout d’abord que la gouvernance de l’IA publique a vocation à assurer plusieurs fonctions :

• la définition et le pilotage de la stratégie ;
• la mise en œuvre opérationnelle par les administrations, incluant la conduite des projets et la conformité interne ;
• la régulation externe des systèmes, dans un cadre en voie d’harmonisation à l’échelle européenne ;
• la réflexion sur l’usage éthique de l’IA et l’implication des citoyens.

Le Conseil d’État met par ailleurs en exergue « la très forte adhérence entre la régulation des systèmes d’IA et celle des données, en particulier des données à caractère personnel, et l’intérêt d’une internalisation institutionnelle de l’articulation des deux régimes juridiques ».

L’étude préconise par conséquent que la CNIL se voie confier ces deux fonctions, rejoignant en cela l’avis du 18 juin 2021 adopté par la CNIL, ses homologues, et le Contrôleur européen de la protection des données sur la proposition de règlement de la Commission européenne sur l'IA. Pour le Conseil d’État, ce choix suppose néanmoins une transformation profonde de la CNIL, à deux égards. Il s’agit en premier lieu de « changer d’échelle en ce qui concerne les moyens, en particulier humains, accordés à cette autorité » et donc d’investir immédiatement et massivement pour augmenter ses capacités. Il convient d’autre part de faire évoluer le positionnement et l’image de la CNIL, afin qu’elle soit perçue comme un véritable régulateur et comme et un facilitateur de l’innovation technologique au service de la société.