Le droit s'impose au salon de l'IA

La deuxième édition du salon AI Paris s'est tenue les 11 et 12 juin derniers à la Cité de la mode et du design, à Paris. L'intelligence artificielle y a été étudiée sous toutes ses coutures. Si le droit paraît éloigné de ce monde des algorithmes et des nouvelles technologies, il s'est finalement retrouvé au coeur de nombreux débats.
Le droit s'impose au salon de l'IA

ActualitéRégion Île-de-France & Grand Paris Publié le ,

Thème d'actualité incontournable et sujet sociétal d'envergure, l'intelligence artificielle (IA ou AI en anglais) a été abordé lors d'une conférence du dernier sommet du G7 qui s'est tenu les 8 et 9 juin derniers au Québec. En France, ce sont plus de 3 500 participants qui se sont réunis pour la deuxième édition d'AI Paris. Si l'envergure économique du sujet est évidente – le marché mondial de l'IA étant estimé à 37 milliards de dollars d'ici à 2025 – il recouvre aussi un aspect juridique et social très important.

Encadrement juridique et éthique

Le célèbre avocat Alain Bensoussan a donné une conférence inspirante sur l'encadrement éthique de l'IA. Le chantre de la personnalité juridique des robots a développé la nécessité de mettre en place « une régulation de rupture » selon un principe général de neutralité.

Sommes-nous dans un système où il faut laisser la technologie se développer ou bien l'encadrer ? L'éloquent juriste penche évidemment pour la seconde proposition. Sa plaidoirie intitulée ”Des codes et des Hommes”, dépeint notre société actuelle où l'IA est déjà sortie des laboratoires et a inondé tous les secteurs d'activité « pour démontrer l'urgence d'un encadrement juridique ».

« Les bâtisseurs de demain sont les codeurs d'aujourd'hui », scande Alain Bensoussan, convaincu de la nécessité de réguler le développement des IA. La responsabilité des codeurs est immence car les risques d'algorithmes malfaisants sont déjà présents (espionnage, chatbot discriminant, véhicule autonome défaillant...). Il faut qu'on puisse avancer avec prudence et mesures d'impact.

« L'enjeu de cette régulation de rupture est la liberté avant tout, puis la sécurité et la dignité », selon Alain Bensoussan.

L'avocat soulève la problématique de l'inadaptation du droit classique. « Nous sommes en présence d'un nouveau concept, les IA ne sont ni des humains ni des animaux ni des enfants, ni des machines », d'où la nécessité de créer un nouveau droit. « La régulation classique est en train d'imploser, car les IA sont autonomes grâce à leur fonction d'apprentissage ».

Plus de 3 500 participants se sont réunis pour la deuxième édition d'AI Paris.© A.P.

Le spécialiste a développé plusieurs principes pour que l'IA soit convenablement encadrée. Il souhaite que soient créés des droits de rupture : un droit à la neutralité, à la compréhension, à la dignité, et surtout « le droit au bouton rouge » pour toujours garder le contrôle, même s'il a une confiance totale dans les IA.

« On ne peut pas obtenir une nouvelle économie sans introduire le concept de dignité », a-t-il lancé à cet auditoire d'experts entrepreneurs.

Pour ce juriste, il faut dès aujourd'hui créer une culture du code éthique by design et responsabiliser les créateurs de solutions d'IA.

L'article premier de la loi informatique et liberté de 1978 prônait déjà que « l'informatique doit être au service de chaque citoyen », rappelle Alain Bensoussan. Il devrait en être de même pour l'IA, spécifiquement dans une société en pleine révolution technologique qui développe une grande dépendance face à de nouveaux outils trustés par des multinationales américaines et chinoises.

Transparence et confiance

Il ressort des interventions une crainte de l'effet « black boxe » et le problème de la faiblesse de l'investissement européen face à celui de la Chine et des Etats-Unis. Toutefois, « il reste à l'Europe ses données, cette ultime réserve qui peut nous faire rebondir», estime Denis Jacquet, président de l'Observatoire de l'uberisation. Alain Bensoussan a d'ailleurs souligné qu'il n'existe pas de concept de propriété des données alors que le droit fait tout pour encadrer leur utilisation et les protéger.

Cela fait déjà 25 ans que la société Thales développe de l'IA (reconnaissance d'images, de formes, de son, traitement de signal, voiture autonome) pour l'ensemble de ses activités civiles comme militaires, et est convaincue qu'il faut de la transparence et de la confiance. « Ce sujet représente un véritable défi », explique David Sadek, VP recherche, technologie et innovation chez Thales.

La question de fond est de savoir ce qu'on attend réellement des systèmes d'IA et de reconnaître que l'on souhaite que l'humain reste aux commandes.

« La confiance est une condition nécessaire à l'adoption des systèmes critiques », comme les algorithmes Thales embarqués dans les avions de ligne, explique David Sadek, VP recherche, technologie et innovation.

Pour cet expert, cela passe nécessairement par l'explicabilité, la validité et la responsabilité des systèmes d'IA. C'est le triptyque gagnant pour développer ce qu'il nomme des « IA de confiance ».

Dans son exposé sur l'IA flou augmentée, le chercheur Zied Zalila a aussi fait référence à la nécessité d'expliciter le fonctionnement des systèmes en suivant une logique aristotélicienne. « Aristote est l'inventeur de l'IA, car c'est le premier a avoir inventé la démonstration du raisonnement humain », souligne ce profes- seur. Ce dernier a développé la notion d'exocerveau, un assistant cognitif, comme l'exosquelette. Ce type d'IA améliore l'apprentissage et « apprend à mieux apprendre et découvrir des connaissances car il change lui-même sa façon de raisonner », d'où la qualification d'IA flou auto-apprenante.

Comme tous les experts présents, le professeur est convaincu que pour développer « des algorithmes à impact sociaux avérés, il faut impérativement que le système soit explicable et auditable ».

Il semblerait que la clé du succès de l'IA se trouve dans son encadrement juridique et la transparence de son développement. Un véritable choix de société en somme, à ne pas laisser aux multinationales étrangères.

Partager :
Abonnez-vous
  • Abonnement intégral papier + numérique

  • Nos suppléments et numéros spéciaux

  • Accès illimité à nos services

S'abonner
Journal du 09 décembre 2022

Journal du09 décembre 2022

Journal du 02 décembre 2022

Journal du02 décembre 2022

Journal du 25 novembre 2022

Journal du25 novembre 2022

Journal du 18 novembre 2022

Journal du18 novembre 2022

S'abonner
Envoyer à un ami
Connexion
Mot de passe oublié ?