Création d'un institut national pour l'évaluation et la sécurité de l'Intelligence Artificielle (INESIA)

Depuis l’essor de l'intelligence artificielle et son intégration dans l'ensemble des sphères de la société, les gouvernements débattent quant à la mise en place de garde-fous. C’est ainsi que l’Institut National pour l’Evaluation et la Sécurité de l’IA (INESIA) a été officialisé par la France en février 2025. Voici de quoi il s’agit.

Un engagement international pour encadrer l’IA

L’idée de la création de l’INESIA remonte à mai 2024, lorsque la France signe la Déclaration de Séoul aux côtés de dix autres nations, dont les États-Unis, le Canada et le Japon. Ce texte, axé sur une IA qui se doit d’être à la fois sûre, novatrice et inclusive, appelle à la création d’un réseau mondial d’instituts dédiés à la sécurité de l’IA. Un engagement qui prend forme en France avec l’INESIA, lancé officiellement le 3 février 2025, à quelques jours du Sommet pour l’action sur l’IA organisé à Paris.

L’objectif de cet institut est clair : éviter que la course à l’innovation ne se transforme en anarchie. Le ministère de l’Économie souligne en effet la nécessité d’adopter des outils pour encadrer l’utilisation de l'intelligence artificielle, notamment dans des secteurs sensibles comme la santé, la sécurité intérieure, l’éducation ou encore l’industrie.

Un institut pensé pour fédérer les acteurs nationaux

Contrairement à d’autres pays qui ont opté pour une agence centralisée (comme le NIST aux États-Unis), la France choisit une approche plus collaborative. L’INESIA ne dispose pas de personnalité juridique propre, l’institut a pour rôle de fédérer quatre acteurs déjà présents :

• l’ANSSI (Agence nationale de la sécurité des systèmes d'information)
• l’Inria (Institut national de recherche en sciences et technologies du numérique)
• le PEReN (Pôle d’expertise de la régulation numérique)
• le LNE (Laboratoire national de métrologie et d’essais)

L’INESIA sera piloté à la fois par le Secrétariat général de la défense et de la sécurité nationale (SGDSN) et par la Direction générale des Entreprises (DGE).

Les 3 missions phares de l’INESIA

L’INESIA se fixe trois objectifs principaux pour encadrer l’usage de l’intelligence artificielle :

• Analyser les risques, notamment ceux qui touchent à la sécurité nationale. L’ANSSI sera au centre de ce dispositif et sera chargée d’analyser les vulnérabilités des modèles d’IA face aux cyberattaques ou aux usages malveillants.
• Soutenir la mise en œuvre de l’AI ACT européen, adopté en 2024 et qui entrera pleinement en vigueur en 2026. L’institut conseillera les régulateurs, comme l’AI Office de la Commission européenne, pour harmoniser les normes.
• Évaluer la fiabilité des modèles d’IA, via des benchmarks et des tests standardisés. Le LNE et l’Inria vont travailler de pair dans ce sens en s’inspirant d’initiatives internationales comme le International Scientific Report on the Safety of Advanced AI.

Un institut uniquement consultatif ?

Si l’INESIA séduit par son approche collaborative, il soulève aussi des questions. En effet, son statut juridique n’est pas bien défini et son rôle semble être uniquement consultatif. Selon certains experts, il risque d’ajouter encore plus de complexité à un système de régulation déjà compliqué, fragmenté entre différentes instances. D’autres professionnels auraient quant à eux préféré voir se créer un organisme spécialement dédié à l’encadrement de l’IA et non pas un institut dont le rôle est de fédérer des acteurs déjà en place.

De plus, comme le rapporte le journal Le Monde, l’INSIA ne disposera pas de son propre budget ni de ses propres moyens humains. C’est ce qu’a annoncé Clara Chappaz, ministre déléguée chargée de l’intelligence artificielle et du numérique. L’Institut National pour l’Évaluation et la Sécurité de l’IA (INESIA) ne sera pas non plus doté de moyens humains spécifiques. Il ne pourra pas s’appuyer sur les pouvoirs d’un régulateur et aura donc pour unique mission de surveiller l'environnement lié à l’IA.

Avec la création de l'institut INESIA, la France vient tout de même rejoindre un groupe encore très restreint de pays ayant pris des mesures concrètes pour réguler l’usage de l’intelligence artificielle. Avec l’IA ACT, l’UE entend placer le respect de la vie du citoyen au cœur de sa réglementation. Une orientation claire, qui diffère quelque peu des réglementations prises par la Chine et les États-Unis. Charge maintenant aux institutions françaises et aux entreprises de se former aux enjeux et aux risques liés à l’IA, notamment en matière de cybersécurité et de confidentialité des données sensibles.