L'IA Act : à quelles réglementations s'attendre pour la formation professionnelle ?

Difficile d'être passé à côté : ces dernières années, l'intelligence artificielle était sur toutes les lèvres, notamment celles des professionnels RH et formation. Son arrivée massive sur le marché du travail a totalement transformé nos façons de travailler. Le hic ? Jusqu'à très récemment, ce sujet devenu central n'était pas réglementé. Adoptée par le Parlement européen en mars dernier, l'IA Act encadre désormais l'utilisation de l'intelligence artificielle. Découvrons ensemble ce que cette nouvelle loi réserve aux professionnels de la formation.

IA Act : un règlement européen pour encadrer l'utilisation de l'intelligence artificielle

Après avoir été adopté le 13 mars dernier par le Parlement européen, l'Artificial Intelligence Act, plus communément appelé IA Act, a été validé par le Conseil de l'Union européenne le 21 mai dernier et entré en vigueur le 1er août 2024. Mais concrètement, qu'est-ce que l'IA Act ? Il s'agit du premier règlement complet qui encadre l'intelligence artificielle et ses usages. La loi classe les applications de l'IA dans quatre grandes catégories de risques – que nous détaillerons juste après.

Le projet de loi, initialement présenté le 21 avril 2021, a été profondément révisé suite à l'arrivée massive des IA génératives, qui ont redistribué les cartes. Cette nouvelle législation reflète la volonté de l'Union européenne de se doter d'un cadre juridique solide pour encadrer le développement et l'adoption de systèmes d'IA fiables, éthiques, transparents et sécurisés. Ce texte, le premier au monde à réglementer spécifiquement l'intelligence artificielle, revêt ainsi d'une importance majeure.

À travers cette loi, l'Union européenne souhaite se positionner comme un acteur majeur dans la réglementation de l'IA. Ses objectifs sont nombreux et précis : construire une stratégie numérique européenne cohérente et respectueuse des libertés et des droits fondamentaux des individus ; favoriser la coopération entre les États membres pour empêcher la fragmentation du marché ; faciliter le développement d'un marché unique pour des applications d'IA légales, sûres et dignes de confiance.

Des obligations définies selon le niveau de risques des systèmes d'IA

Toutefois, cette nouvelle loi ne sera applicable que 24 mois après son entrée en vigueur. Il faudra donc attendre 2026 pour que les premiers textes soient mis en place. Un laps de temps nécessaire, que les entreprises peuvent mettre à profit dès à présent pour se préparer à son application.

Comme l'évoquait Sarah Lenoir dans une interview publiée sur notre blog en janvier dernier, « L’IA Act définit une pyramide de risques associés à l’utilisation d’outils d’intelligence artificielle, entraînant des exigences de documentation, de sécurité et de process pour les acteurs qui développent ou utilisent des systèmes d'IA ». Voici les 4 niveaux de risques définis par l'IA Act :

• Les systèmes d'IA « inacceptables » : ils sont considérés comme une menace directe pour les personnes. Ces systèmes peuvent inclure des mécanismes manipulant des groupes vulnérables, comme les jouets activés par la voix qui pourraient induire des comportements dangereux chez les enfants, ou des systèmes de notation sociale classant les individus en fonction de leur situation socio-économique ou de leur comportement. Ces technologies seront proscrites au sein de l'Union européenne en raison de leurs risques pour les droits fondamentaux et la sécurité des individus.
• Les systèmes d'IA « à haut risque » : ils présentent des risques pour la santé et la sécurité des personnes. Cela inclut les systèmes qui établissent des profils et traitent automatiquement des données personnelles pour évaluer divers aspects de la vie d'une personne, tels que ses performances professionnelles, sa situation économique, ou ses préférences. Les infrastructures de transport, les services de santé, les services financiers, la formation professionnelle et les systèmes de justice font partie de cette catégorie. Ces systèmes nécessitent une gestion rigoureuse des risques, une transparence accrue et une supervision humaine pour garantir leur conformité et la protection des droits des citoyens européens. Des exceptions sont prévues pour des situations spécifiques comme la recherche de personnes disparues ou la prévention de menaces terroristes éminentes.
• Les systèmes d'IA « à risque limité » : ils incluent des technologies telles que les chatbots, les systèmes de recommandations et les deepfakes. Ces systèmes doivent être transparents et fournir des informations claires aux utilisateurs sur le contenu généré par l'IA. Par exemple, les utilisateurs doivent être informés lorsqu'ils interagissent avec des textes générés par une IA ou des informations d'intérêt public produites par des systèmes automatisés.
• Les systèmes d'IA « à risque minimal » : il s'agit de ceux qui ne présentent que des risques négligeables pour les utilisateurs. Cela inclut des applications comme les filtres anti-spam ou les intelligences artificielles utilisées dans les jeux vidéo.

Les implications de l'IA Act pour les professionnels de la formation

Premièrement, il est important de noter que toute personne morale (entreprises, associations, organismes, etc.) fournissant, distribuant ou utilisant des modèles ou systèmes d'intelligence artificielle au sein de l'Union européenne est concernée par cette réglementation. Pour le secteur de la formation professionnelle plus spécifiquement, l'entrée en vigueur de l'IA Act implique différentes mesures. Comme expliqué précédemment, la formation professionnelle se situe dans le deuxième niveau de risques, à savoir le niveau « à haut risque ».

Tout d'abord, il convient d'identifier les systèmes d'IA utilisés dans les secteurs de l'éducation et de la formation considérés comme présentant des risques élevés, selon la réglementation de l'UE. On compte 4 grandes familles :

• Les systèmes d'IA permettant de déterminer l'accès ou l'admission de personnes physiques aux établissements de formation professionnelle ou d'enseignement ;
• Les systèmes d'IA permettant d'évaluer le niveau d'éducation ou de compétences des collaborateurs ;
• Les systèmes d'IA permettant l'évaluation et le suivi des résultats des apprenants ;
• Les systèmes d'IA destinés à surveiller et détecter les potentielles triches et comportements interdits.

L'IA Act prévoit ainsi de sécuriser les données, en s'assurant de leur pertinence et de leur exactitude, une documentation technique, ainsi que des mesures de supervision, de transparence et de cybersécurité. Pour les professionnels de la formation, cela implique une analyse précise et obligatoire des systèmes d'IA déployés au sein de l'entreprise.

IA Act : quelles sanctions en cas de non-respect du cadre légal ?

Dans la continuité de la classification des risques, l'IA Act prévoit des sanctions en cas de non-conformité au règlement européen. À titre d'exemple, « les amendes prévues pourront s'élever jusqu'à 35 millions d’euros ou 7 % du chiffre d’affaires mondial pour les violations des applications interdites, 15 millions d’euros ou 3 % du CA pour les violations des obligations et 7,5 millions d’euros ou 1 % du CA pour la fourniture d'informations inexactes », selon BPI France.

Face à ces nouvelles réglementations, les décideurs formation et RH ont tout intérêt à se pencher dès à présent sur la conformité de leurs systèmes d'intelligence artificielle. Pour les aider à se préparer au mieux, le Future of Life Institute (FLI), organisme indépendant à but non lucratif, a conçu un vérificateur de conformité à la loi européenne sur l'IA, permettant à toute organisation utilisant l'intelligence artificielle de s'assurer que ses outils sont conformes. Dans le même objectif, la CNIL (Commission nationale de l'informatique et des libertés) a récemment publié un guide d'auto-évaluation.