Les risques juridiques liés à l'utilisation de l'IA générative

L’IA générative s’est depuis quelque temps imposée comme une solution révolutionnaire pour les entreprises. Elle a largement modifié la façon de travailler de nombreux professionnels. Avec elle, ces derniers ont notamment pu gagner en temps et en efficacité. Presque aucun secteur d’activité n’est épargné par cette révolution. Il est donc naturel que l’IA se soit aussi immiscée dans le quotidien des professionnels du droit. Et ces derniers n’ont pas toujours conscience des risques juridiques liés à l’utilisation de ces outils. Voici donc quelques précisions sur les risques de l’IA d’un point de vue juridique.

Respect de la vie privée

L’IA générative a besoin de collecter beaucoup de données pour générer des réponses pertinentes. Pour fonctionner, elle collecte et traite donc de grandes quantités d’informations. Celles-ci sont parfois sensibles, notamment lorsqu’elles sont extraites de contrats, de mails internes ou de bases de données clients. Or, une fois ces données injectées dans un outil externe comme ChatGPT, leur devenir devient plus qu’incertain. Les conditions d’utilisation de nombreux modèles autorisent l’exploitation des inputs pour améliorer le système. Des informations confidentielles peuvent ainsi fuiter ou être utilisées sans aucun contrôle.

Ces fuites de données confidentielles exposent les entreprises à des violations du RGPD ou d’autres lois sur la protection des données. Des amendes lourdes peuvent alors tomber, sans parler des atteintes à la réputation de l’entreprise. Lorsque des professionnels, du droit notamment, utilisent les IA, le risque que les informations de leurs clients leur échappent est grand. En plus d’encourir des amendes financières, c’est la confiance de leurs clients qui est aussi fortement impactée.

La propriété intellectuelle

Une autre question se pose avec l'utilisation des IA génératives : qui possède le contenu créé par l’IA ? Les intelligences artificielles dites génératives se basent en effet sur une grande quantité de données trouvées en ligne pour créer des contenus. Dans les sources scannées par les algorithmes, on peut retrouver du contenu privé et parfois même des œuvres protégées. Lorsque ce type d’information est utilisé, sans autorisation préalable de la part de leur auteur initial, les IA risquent de violer le droit d’auteur.

De même, les IA n’inventent rien, mais se basent sur ce qu’elles trouvent en ligne ou sur une mécanique d’apprentissage automatique pour créer des contenus. Si l’outil d’IA génère un texte ou une image qui ressemble à s'y méprendre à une création existante, l’entreprise qui a généré et utilisé ce contenu risque un procès pour violation de la propriété intellectuelle ou du droit d’auteur. La propriété des contenus générés par IA reste aujourd'hui juridiquement assez floue. Si le contenu a été produit par une IA qui a elle-même puisé son inspiration sur des œuvres appartenant à d’autres auteurs, est-il possible de revendiquer un droit d’auteur sur un contenu généré par IA ? Pour le moment, il est difficile de répondre à cette question.

Les biais et les discriminations

Les algorithmes d’IA ne sont jamais neutres à 100 %. Ils ont tendance à faire ressortir dans leurs réponses les biais présents dans leurs données d’apprentissage. Dans le cadre d’un processus de recrutement, un outil d’IA chargé d’analyser des candidatures pourrait ainsi écarter injustement certains profils si les données sur lesquelles il se base sont discriminantes. Les conséquences peuvent être graves pour l’entreprise en cas de contrôle.

Dans le domaine judiciaire, ces biais ont fait grand bruit il y a quelques années (2016) suite à une affaire ayant eu lieu aux Etats-Unis. Certains tribunaux utilisaient un outil d’IA appelé COMPAS (Correctional Offender Management Profiling for Alternative Sanctions) pour évaluer le risque qu’un prévenu récidive. Cette évaluation via l’IA influençait les décisions de mise en liberté conditionnelle ou de condamnation des prévenus. Or, cet outil présentait des biais raciaux importants. Il évaluait à la hausse le risque de récidive chez les personnes noires et le sous-évaluait chez les personnes blanches.

Quid de la responsabilité en cas d’erreur ?

Et si l’IA se trompe, qui est responsable ? Dans certains domaines très sensibles, comme dans le droit par exemple, les erreurs peuvent avoir de lourdes conséquences. Si un avocat utilise une IA pour résumer une jurisprudence et qu’il reçoit une analyse erronée, son client risque d’être mal conseillé, voire même de perdre son procès. Dans ce cas, le client peut porter plainte mais contre qui ? Contre l’avocat qui n’a pas fait son travail de vérification ou contre le développeur du modèle d’IA ? Ici encore, le cadre juridique reste flou, ce qui ne permet pas d’avoir de réponse précise à cette question. Les professionnels, du droit ou d’ailleurs, se doivent donc superviser en permanence les résultats obtenus via des outils d’IA. Ces outils sont une aide mais ne doivent pas supplanter l’expertise humaine.

L’IA générative reste un formidable levier pour les entreprises et les services juridiques. Elle libère du temps, simplifie des tâches chronophages et ouvre le champ des possibles. Mais son utilisation s’accompagne de nouveaux risques juridiques qu’il convient de comprendre pour apprendre à les contrer.