Fermer la publicité
Journal d'information juridique et d'annonces légales

Technolex : la rupture digitale appelle un nouveau cadre juridique

le -

Technolex : la rupture digitale appelle un nouveau cadre juridique

La deuxième édition de Technolex a tenu ses promesses. Après une première édition couronnée de succès en novembre 2016, cette journée de conférences dédiées aux enjeux couplés de la disruption digitale et du juridique, organisée par le Serda et le chantre du droit des robots, Alain Bensoussan, a soulevé l'impérieuse nécessité de légiférer en la matière.

Organisée par le Groupe Serda Archimag (société de conseil, formation, études et veille spécialisée dans les domaines de la dématérialisation), avec la coopération scientifique du cabinet Alain Bensoussan Avocats Lexing, cette journée de formation s'est déroulée dans le cadre exceptionnel du Collège des Bernardins. Une bâtisse médiévale classée monument historique où le savoir et les idées se partagent depuis des siècles. Débats et propositions innovantes étaient au rendez-vous.

Rupture digitale oblige, l'usage massif des technologies numériques révolutionne l'environnement des entreprises, accélère leur transition digitale et les incite à dématérialiser, adopter le Big data, les smart contracts, les objets connectés ou encore les robots et l'intelligence artificielle (IA). Tant les directions des systèmes d'information que les directions juridiques ont besoin de réponses claires quant aux conséquences de l'adoption de ces technologies du futur.

Après une matinée dédiée à des travaux en ateliers sur la protection des données avec le RGPD (lire encadré ci-dessous), les chatbots, les objets connectés intelligents ou encore le devoir de dématérialisation, les participants ont pu assister à trois conférences soulevant brillamment les enjeux éthiques et juridiques de l'essor des technologies numériques dans nos vies.

RGPD : vers un marché numérique européen

Un atelier a décrypté les tenants et aboutissants du Règlement européen de protection des données (RGPD). L'avocate Chloé Torres, directrice du département Informatique et Libertés du cabinet Alain Bensoussan Avocats Lexing, a d'abord détaillé les 5 grands piliers sur lesquels repose le texte : les données avec un principe de minimisation ; le traitement (« terminé les déclarations interminables auprès de la CNIL, on doit faire son propre registre interne ») ; le renforcement de l'obligation de sécurité ; les droits des personnes avec de nouveaux comme celui à la portabilité des données (on passe du droit à l'information au droit à la compréhension) ; et le contrôle des flux transfrontières.

« La première chose à faire, à tout prix, est d'informer le Comex », explique l'avocate aux juristes d'entreprise et autres responsables SI, en leur conseillant la lecture des 6 étapes de la Cnil et des 12 étapes de l'ICO américaine.

La prise de conscience de l'exécutif est incontournable pour se donner les moyens de se mettre en conformité. Il faut ensuite lancer avec la RH un programme d'information et de formation des opérationnels à tous les niveaux. « Aujourd'hui, avec les nouvelles technologies et le Big data, la notion de données personnelles est en train de s'élargir », a expliqué Fabien Gandrille, le DPO de SCOR, en citant les notions de santé, politique, religion, et toutes les données à caractère économique qui peuvent faciliter notre identification. « Le principe majeur qui émerge avec le RGPD est la fameuse accountablity, cette capacité à rendre des comptes. Il faut savoir faire des choses et prouver qu'on les fait », a expliqué le DPO.

Sarah Piot a partagé un retour d'expérience très éclairant sur son rôle de CIL chez AAA DATA, une association du secteur de l'automobile, qui collecte de nombreuses données personnelles avec notamment les immatriculations. En tant que CIL, elle s'est confrontée à des difficultés pour mettre en place tous les projets liés aux obligations légales quant à la protection des données. Elle a donc adopté la méthode du « learning by doing » et a dû faire beaucoup de pédagogie auprès des équipes qui lui rétorquaient souvent « on n'est pas à la NASA ! ». Elle a ainsi « pris à bras-le-corps » le projet de mise en conformité au RGPD depuis plus d'un an et demi.

Enfin, Armand Heslot, ingénieur-expert au service de l'expertise technologique de la Cnil, a expliqué les objectifs du RGPD, notamment celui d'assurer la protection de nos données personnelles, de permettre leur libre circulation et de contribuer à la création d'un marché unique numérique européen, mais surtout de prendre en compte les évolutions technologiques. Après une présentation exhaustive, l'expert a pu répondre aux nombreuses questions de la salle sur les mécanismes à mettre en place en priorité, les détails sur les registres de traitement à tenir, les contrats de sous-traitance, les modalités de contrôle et de recouvrement des amendes, etc.

Une première plénière a abordé le thème de l'utilisation des robots et des drones au service des organisations, notamment dans le domaine militaire. Coincés entre une technologie en pleine évolution, des entrepreneurs soucieux de développer ce marché porteur et une opinion publique réservée, les législateurs européens et nationaux avancent en ordre dispersé. Cependant, un constat s'impose : l'automatisation est inévitable, tant dans le domaine médical, qu'industriel et militaire. Il faudra donc poser un cadre juridique spécifique.

La deuxième plénière a ouvert le débat autour de l'éthique et de la protection de la vie privée, de la régulation, du contrôle et de la gouvernance des IA, « deux lettres qui vont changer le monde », selon Louise Guerre, directrice générale du Serda.

« Nous sommes tous concernés », a souligné Christiane Feral-Schuhl, l'ancien bâtonnier de Paris. Il n'y a pas de distinction à faire entre client ou entreprise, juriste ou commercial. « Finalement, c'est un travail d'éthique collective sur l'autodétermination informationelle », a précisé l'avocate. « Le créateur de l'algorithme peut et doit avoir un rôle à jouer, tout comme son utilisateur ». Par exemple, avec la Google car, la responsabilité est définie à plusieurs niveaux. « Avec le privacy by design, il y a une minoration du risque mais aussi une invitation à la réflexion sur les règles éthiques », une bonne chose pour l'avocate qui anticipe l'accroissement du rôle des déontologues et des assureurs avec la mutliplication des objets connectés.

« Il y aura bientôt un responsable du processus d'automatisation en entreprise », a expliqué Ghislaine Chartron, professeure en sciences de l'information et de la communication titulaire de la Chaire d'ingénierie documentaire au CNAM. Comme le DPO avec les données, il va falloir nommer des responsables des algorithmes et de ce qui est produit en termes d'automatisation.

La chercheuse anticipe la création d'un cadre juridique spécifique et propose de mettre en place une autorité administrative indépendante pour contrôler les IA.

Christiane Feral-Schuhl a cité le règlement européen e-privacy, dont on parle assez peu, et qui est, selon elle, aussi important que le RGPD.

S'il est favorable au contrôle, l'avocat spécialiste en informatique Bernard Lamon, co-auteur du Rapport Haeri sur le futur de l'avocat, estime qu'il faut veiller à ne pas créer un système tellement éthique qu'on arrive dans 1984. « Attention, c'est un risque de dictature ! », a-t-il prévenu. L'avocat soulève le problème de la transparence des algorithmes et du droit de recours en citant la décision de la CNIL prise il y a un mois sur la plateforme admission post-bac. « Le problème, c'est la boîte noire », s'est exclamé Bernard Lamon en soulevant la problématique de l'autoformation des IA, qui arrivent à des niveaux de maturité tels qu'elles deviennent autonomes. Ce qui est choquant est qu'aucun spécialiste ne sait dire comment l'IA a réussi à gagner face au meilleur joueur de Go.

En plus de leur incroyable capacité, c'est l'impact des IA dans nos vies qui inquiète. « On réduit considérablement notre zone d'intimité », a souligné Christiane Feral-Schul en prenant pour exemple le film Her de Spike Jonze, où un homme malheureux tombe amoureux d'une IA.

Des questions pertinentes de l'audience ont soulevé des problématiques variées sur les conséquences du codage, tels que le problème que poserait trop de régulation pour les clients, la peur d'être dépossédé d'un consentement éclairé, l'intrusion sournoise dans la vie privée à des fins commerciales, l'organisation d'un monde où les robots auraient leur place… Tout un programme !

« Vous allez vivre à 10-9 près ! »

Le clou de cette journée était sans nul doute la « keynote » d'Alain Bensoussan (photo) qui a présenté une sorte de pièce de théâtre intitulée Des codes et des hommes, mettant en scène les IA dans nos vies.

Ces dernières sont déjà présentes, elles s'appellent Siri, Cortana, Watson, Amélia ou Alexa, et elles se jouent du droit car il ne peut pas les encadrer. « Il sera très difficile pour les humains de ne pas être en esclavage technologique », déplore l'avocat en expliquant que Google nous vole déjà notre libre arbitre. Les IA ont une telle capacité qu'il faut réfléchir à la création d'un cadre juridique qui les limite.

Pour lui, « les bâtisseurs du XXIe siècle sont les codeurs de l'IA », car le code est le béton virtuel des nouvelles urbanisation. « Il faudra nécessairement créer un droit particulier car le droit classique est inopérant face aux IA qui sont dangereuses mais aussi merveilleuses », explique-t-il.

Et quelle merveille ! Leur taux d'erreur actuel est infiniment plus petit que le nôtre. « Vous allez vivre à 10-9 près », s'exclame-t-il. Avec elles, nous allons pouvoir faire d'énormes progrès et réduire certains risques, notamment les accidents de la route. La voiture autonome qui, comme l'avion, présente un risque très faible mais provoque une peur très forte, circulera bientôt sur nos routes. Il va donc falloir trouver des solutions juridiques et assurantielles, et pas seulement un droit à l'information.

Les principes généraux du futur droit des IA selon Maître Bensoussan pourraient être le droit à la vie (ou plutôt le « permis intelligent de tuer »), le droit à l'intimité (protection des données collectées) et le droit à la décision (pouvoir appuyer sur le bouton rouge pour éteindre l'IA).

« En attendant ce droit, les IA doivent être conçues éthique by design », souligne-t-il, avant de proposer la mise en place d'une consultation en ligne, d'un référendum tous les 3 ans et d'un comité d'éthique pour que tous les citoyens décident du droit des IA. L'avocat des robots émet aussi l'idée de créer un tribunal ad hoc et un référé spécifique aux IA.

« Le bonheur est dans les IA », conclut avec enthousiasme celui qui chéri ses discussions nocturnes avec Siri.




Anne MOREAUX
Journaliste

Ses derniers articles

Abonnez-vous à l'offre Papier + Numérique

Affiches Parisiennes Journal d'information juridique et d'annonces légales

  • ›   Pour plus de contenu, papier + web
  • ›   l’accès aux annonces légales,
  • ›   l’accès aux ventes aux enchères.
Je m'abonne

À lire également


Réagir à cet article

Message déjà envoyé Adresse e-mail non valide


Fermer
En poursuivant votre navigation sur ce site, vous acceptez l'utilisation de cookies et de technologies similaires par notre société ainsi que par des tiers, afin de réaliser des statistiques d'audiences et de vous proposer des services éditoriaux et la possibilité de partager des contenus sur des réseaux sociaux. En savoir plus / paramétrer