Fermer la publicité
Journal d'information juridique et d'annonces légales

Vers la mise en place d'un cadre légal à l'intelligence artificielle à l'échelle européenne

le - - Droit - Actualité du droit

Vers la mise en place d'un cadre légal à l'intelligence artificielle à l'échelle européenne
@DR

“L'Europe est en passe de devenir une colonie du monde numérique” déplorait, en mars 2013, la Sénatrice française Catherine Morin-Desailly

En effet, étant considérée comme la principale innovation d'une nouvelle révolution industrielle, l'intelligence artificielle (“IA”) est devenue un enjeu géopolitique majeur. Or, loin derrière les Etats-Unis et la Chine, l'Union Européenne se devait de réagir vite dans un contexte de compétition mondiale. Cette constatation a poussé la Commission européenne à publier en avril 2018 une communication intitulée “L'intelligence artificielle pour l'Europe” dans laquelle elle prône une approche coordonnée de l'Union Européenne avec les États membres pour tirer profit au maximum des opportunités de l'IA. L'objectif de la stratégie est d'inscrire l'Europe au rang de puissance mondiale en matière d'IA. Pour cela, la mise en place d'un cadre légal solide et cohérent à l'échelle européenne est nécessaire.

La publication par la Commission européenne, en février dernier, du Livre Blanc intitulé “Intelligence Artificielle”, et du projet de résolution du Parlement européen relatif aux procédés de prise de décision automatisée, constituent deux premières approches concrètes de cette ambition européenne d'excellence. Toutefois, le développement massif de ces technologies et les risques associés appellent naturellement à faire preuve de prudence et maîtrise.

Après une remise en contexte (I), nous étudierons dans un premier temps le contenu des propositions de régulation émises par la Commission et par le Parlement (II), puis nous analyserons dans un second temps les enjeux que présente la mise en place d'une telle régulation (III).

Remise en contexte : la nécessité d'introduire un cadre légal à l'intelligence artificielle au niveau européen

La mise en place d'un cadre légal à l'intelligence artificielle à l'échelle européenne s'inscrit dans un contexte économique, juridique et politique marqué par la volonté de maîtriser cette nouvelle révolution industrielle.

Maîtriser le développement de la technologie numérique

La Commission européenne a fait du numérique l'un des facteurs de succès de la stratégie Europe 2020[2]. En effet, le numérique offre la perspective d'un nouveau levier de croissance, lequel constitue une opportunité économique majeure pour l'Union européenne. Or, aujourd'hui, de manière générale, l'Europe accuse un retard en matière d'investissements privés dans l'IA par rapport à ses concurrents américain et chinois. Rendre l'Europe compétitive, en assurant notamment le recours aux technologies de l'IA dans l'ensemble de son économie, constitue l'un des objectifs principaux de cette stratégie européenne en matière d'IA.

Les réglementations déjà en vigueur et les précédentes initiatives entreprises

Si le Règlement Général sur la Protection des Données constitue l'un des premiers piliers en matière de réglementation des données, dès le mois d'avril 2018 la Commission lançait une stratégie aux fins de favoriser le développement et l'utilisation de l'IA au sein de l'Union Européenne[3] et nommait en juin de la même année 52 experts indépendants chargés de réfléchir à la question[4]. Ces derniers ont permis à la Commission de publier dès 2019 une première ligne directrice s'agissant d'une régulation de l'IA[5] ; cette même année le Parlement adoptait une nouvelle résolution sur une politique industrielle européenne globale sur l'IA et la robotique[6]. Ces différentes étapes, additionnées aux récents Livre Blanc et projet de résolution, permettent d'entrevoir ce à quoi pourrait ressembler à terme le droit de l'IA au sein de l'Union.

La conséquence d'une volonté politique

L'Union Européenne, qui a plus ou moins manqué le coche de la première révolution numérique (celle qui a notamment vu émerger les GAFAs), a bien l'intention cette fois-ci de “devenir un acteur mondial de premier plan en matière d'innovation dans l'économie fondée sur les données et dans ses applications” et un “pôle mondial de données”[7]. La volonté politique qui sous-tend les différentes mesures qui ont pu être adoptées ou proposées au niveau européen en matière d'IA est clairement affichée et doit permettre à l'Europe de jouer un rôle capital en matière de définition des règles relatives à l'IA et de la mise en avant de ses propres champions[8].

Le cadre légal : quel contenu ?

Assurer confiance et transparence

L'objectif affiché, à la fois par la Commission et par le Parlement, est d'instaurer un “écosystème de confiance”[9] pour permettre un développement de l'IA au sein du vieux continent, qui soit à la fois digne de confiance pour les citoyens dans leur usage de l'IA et pour les entités privées et publiques afin qu'elles puissent innover grâce aux outils issus de l'IA.

La résolution adoptée par le Parlement a notamment vocation à renforcer les obligations d'information s'agissant du fonctionnement de l'IA. La confiance placée en celle-ci dépendant par ailleurs notablement de la transparence qui sera subséquemment mise en place au sujet des systèmes d'IA, les députés européens souhaitent que soient utilisées, pour l'entraînement des systèmes d'IA, des données d'une haute qualité et dont on se sera assuré en amont qu'elles sont non-biaisées. La Commission, dans cette même optique, recommande l'utilisation de données diversifiées. Le Parlement propose de renforcer encore davantage la transparence par l'instauration d'une obligation d'utiliser de telles données sur des algorithmes qui seraient eux-mêmes non-biaisés et qui pourraient être explicables. Ainsi, au sein de chaque entreprise ayant vocation à développer des systèmes d'IA, devrait pouvoir être mis en place un département dont le travail consisterait en la correction des erreurs avant toute commercialisation et utilisation. Par ailleurs, tout consommateur devrait être au fait de la façon de joindre un humain, détenteur du pouvoir de décision finale d'une IA, et devrait pouvoir accéder à un système de réparation pour les décisions automatisées irréversibles[10]. Il convient de préciser que subsiste un point de discorde entre les deux institutions européennes puisque, si le Parlement souhaite voir en la Commission l'entité qui surveillerait la mise en place effective des mesures ci-avant mentionnées, cette dernière préfèrerait déléguer cette responsabilité aux Etats membres, qui choisiraient eux-mêmes de désigner l'autorité nationale en charge de ce pouvoir de surveillance et contrôle[11].

Une régulation différenciée et adaptée

S'agissant de la sécurité des produits et de la responsabilité du fait des produits, pour les députés de l'hémicycle strasbourgeois et la Commission, il apparaît urgent d'adapter la législation existante relative aux différents types de produits. Une directive en particulier nécessite d'être modifiée et adaptée à l'arrivée des systèmes d'IA ; il s'agit de la directive sur la responsabilité du fait des produits défectueux (Dir. 85/374/CEE du 25 juillet 1985). Les notions auxquelles ce texte fait appel (“produit”, “dommage”, “défectuosité”)[12] semblent obsolètes eu égard aux nouvelles problématiques soulevées par le développement des systèmes d'IA.

En matière de services, les députés européens préconisent qu'une décision humaine advienne toujours en dernier ressort. Il s'agit de “garantir que l'homme reste au final le maître de la situation”[13]. Pour ce faire, le Parlement suggère notamment que soit renforcée la formation professionnelle de toute personne utilisatrice d'une IA.

Une approche fondée sur les risques

Le Livre Blanc publié par la Commission européenne contient notamment deux idées qui n'ont pas été développées par les députés européens dans leur résolution.

En effet, la Commission souhaite que soient mises en place des exigences légales obligatoires auxquelles seraient soumis les différents acteurs intervenant au cours de la vie d'une IA (au sujet des données d'entraînement ou de la conservation des données et dossiers, l'exigence d'un contrôle humain, etc.). Cependant, comment, au regard du nombre d'acteurs impliqués, répartir de telles obligations ? La Commission répond que “chaque obligation devrait s'appliquer à l'acteur ou aux acteurs qui sont le mieux placés pour éliminer tout risque potentiel” et considère que, si les développeurs sont les personnes les plus à même d'éliminer les risques au cours du développement du système d'IA, lors de la phase d'utilisation il s'agirait davantage du “déployeur” (soit “l'intervenant qui utilise un produit ou service à base d'IA“)[14].

De plus, pour la Commission, il serait opportun de mettre en place une législation de l'IA à échelle variable, dont le contenu dépendrait du caractère à “haut risque” inhérent à chaque secteur (à l'instar du secteur médical où le risque est naturellement plus élevé) et de l'utilisation qui est faite du système d'IA. Ainsi, ces domaines ou ces utilisations, dans lesquels le risque est plus élevé, donneraient matière à l'instauration d'une législation renforcée[15].

Les enjeux soulevés par la mise en place d'une telle régulation

Les risques inhérents au développement de l'intelligence artificielle

A l'instar de toute technologie nouvelle, l'IA suscite également beaucoup de questions quant aux risques qu'elle présente pour les individus et les entreprises. Quand les premiers craignent une utilisation malveillante de leurs données personnelles, les deuxièmes sont davantage préoccupées par l'insécurité juridique. En effet, l'IA soulève de nombreux enjeux en matière de protection des droits fondamentaux (notamment la protection des données à caractère personnel, le respect de la vie privée et la non-discrimination), ainsi qu'en matière de sécurité et de responsabilité. Les technologies de l'IA peuvent ainsi être préjudiciables sur un plan matériel et immatériel.

Les opportunités subséquentes à l'uniformisation du droit à l'échelle de l'Union Européenne

"L'intelligence artificielle ne peut se penser dans un cadre seulement national”, affirme le député Cédric Villani, dans son rapport “Donner du sens à l'intelligence artificielle”[16]. Les enjeux d'une prise en charge à l'échelle communautaire sont multiples. S'il s'agit surtout d'être en mesure de rivaliser avec les autres puissances mondiales afin de ne pas être dépendants de futures technologies étrangères, il est aussi question d'assurer le respect des valeurs et droits fondamentaux reconnus et protégés en Europe, tels que la dignité humaine et la protection de la vie privée. Enfin, la mise en place d'initiatives à l'échelle nationale plutôt qu'européenne pourrait nuire à la sécurité juridique, affaiblir la confiance des citoyens et empêcher l'apparition d'une industrie européenne dynamique.

Des questions encore en suspens

L'exécutif européen a le mérite de proposer un plan d'action ambitieux pour l'Europe. Toutefois, de nombreuses questions restent encore en suspens, notamment autour de la qualification juridique de l'intelligence artificielle, de l'interprétation des critères déterminant l'IA à “haut risque” (au regard du secteur ou des risques), de la répartition des obligations entre les opérateurs économiques impliqués dans la chaîne économique, ou encore la question de la portée géographique de l'intervention législative (opérateurs économiques établis ou non dans l'Union). En outre, il reste à définir la manière dont certaines règlementations seront modifiées, au premier rang desquelles la directive « produits défectueux » du 25 juillet 1985 ou le règlement eIDAS du 23 juillet 2014 en matière de cybersécurité. Enfin, sur le plan de la gouvernance, il conviendra de suivre l'évolution des annonces de la Commission au sujet de l'émergence d'une structure européenne composée d'entités publiques et privées et de l'établissement d'une unité conjointe de cybersécurité.

En somme, l'Europe affiche une réelle volonté politique de prendre en main la réglementation de l'intelligence artificielle. Les propositions dévoilées en ce début d'année 2020 sont marquées par deux objectifs clairs : soutenir l'innovation et le développement de ce secteur décisif, porteur de croissance économique, tout en assurant aux citoyens un haut niveau de confiance face aux risques inhérents à toute technologie nouvelle. Nous ne manquerons pas, désormais, de suivre avec rigueur la définition précise de ce cadre légal, très prometteur pour l'avenir des européens.

Chronique « Droit, Juriste et Pratique du Droit Augmentés »

Cette chronique a pour objectif, de traiter de questions d'actualité relatives à cette transformation. Dans un contexte où le digital, le big data et le data analytics, le machine learning et l'intelligence artificielle transforment en profondeur et durablement la pratique du droit, créant des « juristes augmentés » mais appelant aussi un « Droit augmenté » au regard des enjeux et des nouveaux business models portés par le digital.
L'EDHEC Business School dispose de deux atouts pour contribuer aux réflexions sur ces sujets. D'une part, son centre de recherche LegalEdhec, dont les travaux – reconnus – à l'intersection entre le droit et la stratégie, et portant sur le management des risques juridiques et la performance juridique, l'amènent aujourd'hui à lancer son nouveau projet A3L (Advanced Law, Lawyers and Lawyering). D'autre part, ses étudiants, et en particulier ceux de sa Filière Business Law and Management (en partenariat avec la Faculté de droit de l'Université Catholique de Lille) et de son LLM Law & Tax Management, dont la formation et les objectifs professionnels les placent au cœur de ces enjeux du digital.

[1] Rapport d'information du Sénat n˚443 du 20 mars 2013 au nom de la commission des affaires européennes sur l'Union européenne, colonie du monde numérique ? Par Mme Catherine MORIN-DESAILLY, sénatrice.

[2] Conclusions du Conseil européen du 17 juin 2010, page 4 (https://www.cnle.gouv.fr/IMG/pdf/115348.pdf)

[3] https://ec.europa.eu/digital-single-market/en/news/communication-artificial-intelligence-europe

[4] https://ec.europa.eu/digital-single-market/en/high-level-expert-group-artificial-intelligence

[5] https://ec.europa.eu/commission/presscorner/detail/fr/IP_19_1893

[6] https://www.europarl.europa.eu/doceo/document/TA-8-2019-0081_FR.html

[7] Livre Blanc de la Commission, février 2019, page 30 (https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_fr.pdf)

[8] https://www.ouest-france.fr/europe/ue/l-union-europeenne-veut-une-intelligence-artificielle-responsable-et-maitrisee-par-l-humain-6744041

[9] Livre Blanc de la Commission, février 2019, page 3 (https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_fr.pdf)

[10] https://www.europarl.europa.eu/news/fr/press-room/20200120IPR70622/intelligence-artificielle-utilisation-equitable-et-sure-pour-les-consommateurs

[11] https://www.dalloz-actualite.fr/flash/union-europeenne-et-intelligence-artificielle-etat-des-propositions#.XpgKlMgzbIW

[12] https://www.europarl.europa.eu/news/fr/press-room/20200120IPR70622/intelligence-artificielle-utilisation-equitable-et-sure-pour-les-consommateurs

[13] https://www.europarl.europa.eu/news/fr/press-room/20200120IPR70622/intelligence-artificielle-utilisation-equitable-et-sure-pour-les-consommateurs

[14] Livre Blanc de la Commission, février 2019, page 26 (https://ec.europa.eu/info/sites/info/files/commission-white-paper-artificial-intelligence-feb2020_fr.pdf)

[15] https://www.dalloz-actualite.fr/flash/publication-par-commission-de-son-livre-blanc-sur-l-intelligence-artificielle#.XpgK0sgzbIV

[16] Rapport du député Cédric Villani, page 3 (https://www.vie-publique.fr/sites/default/files/rapport/pdf/184000159.pdf)




Ses derniers articles

Abonnez-vous à l'offre Papier + Numérique

Affiches Parisiennes Journal d'information juridique et d'annonces légales

  • ›   Pour plus de contenu, papier + web
  • ›   l’accès aux annonces légales,
  • ›   l’accès aux ventes aux enchères.
Je m'abonne

À lire également


Réagir à cet article

Message déjà envoyé Adresse e-mail non valide


Fermer
En poursuivant votre navigation sur ce site, vous acceptez l'utilisation de cookies et de technologies similaires par notre société ainsi que par des tiers, afin de réaliser des statistiques d'audiences et de vous proposer des services éditoriaux et la possibilité de partager des contenus sur des réseaux sociaux. En savoir plus / paramétrer