Fermer la publicité
Journal d'information juridique et d'annonces légales

Technolex 2018 : jugerons-nous bientôt les robots ?

le - - Droit - Actualité du droit

Technolex 2018 :  jugerons-nous bientôt les robots ?
© A.P.

Après le succès incontestable de ses deux premières éditions, Technolex 2018 a réuni de nouveaux des spécialistes pour aborder les enjeux couplés de la disruption digitale et du droit.

Une journée de formation et de débat exceptionnelle conclue en beauté par le procès fictif de deux robots policiers, où l'humour et la verve d'Alain Bensoussan ont été mis en scène avec une véritable perspicacité juridique.

Aujourd'hui, nous vivons en pleine révolution technologique où les innovations numériques brisent les modèles établis en proposant des modèles disruptifs.

Technolex est un rendez-vous de formation qui soulève l'impérieuse nécessité de légiférer et de poser un cadre juridique autour de ces innovations dont le développement est exponentiel.

Nouveau cadre juridique pour une rupture digitale

L'intelligence artificielle (IA), les activités industrielles robotiques, le Big data, le deap learning sont porteurs d'opportunités de progrès et d'amélioration des conditions de vie sans précédent dans de nombreux domaines :
droit, sécurité, éducation, santé, transports, développement durable…

Les entreprises innovantes y voient des perspectives sans précédent en termes d'efficience, de créativité et de business development. Ce faisant, elles doivent négocier ce virage digital tout en respectant le cadre juridique, mouvant et de plus en plus complexe, à l'instar du nouveau règlement européen sur la protection des données personnelles (RGPD). C'est pourquoi le thème de ce troisième rendez-vous était “Opportunités et nouvelles règles du jeu”.

« L'utilisation des technologies de l'intelligence dans les documents, données, algorithmes, robots… va devenir classique en lieu et place des technologies existantes. Evaluer et proposer les nouvelles solutions : telle est l'ambition de TechnoLex », explique Me Alain Bensoussan, le chantre du droit des robots à l'origine de l'événement.Organisée par le Groupe Serda Archimag (société de conseil, formation, études et veille spécialisée dans le domaine de la dématérialisation), avec la coopération scientifique du cabinet Alain Bensoussan Avocats Lexing, cette journée de formation s'est déroulée dans le cadre exceptionnel du Collège des Bernardins. Une bâtisse médiévale classée monument historique où le savoir et les idées se partagent depuis des siècles.

Après avoir étudié de près les aspects juridiques de l'IA au service de la relation client, de l'utilisation des réseaux sociaux par les organisations (lire page 9), de la digitalisation des entreprises, de la dématérialisation des données de santé, et de la révolution digitale du secteur bancaire et assurantiel et du secteur public, les participants se sont mis à jour sur le RGPD et la smart city.

Vers une “personnalité robot” à juger ?

Cette année, les organisateurs de Technolex ont imaginé le procès fictif d'un système robotique. En réunissant un tribunal de qualité composé d'éminents juristes, ils ont réussi le tour deforce de rendre crédible l'accusation et le jugement de robots, avec beaucoup d'humour et une véritable perspicacité juridique.

Deux robots policiers mandatés par le ministère de l'Intérieur comparaissent devant une cour correctionnelle pour avoir blessé une personne fichée S en train de manifester en croyant qu'elle représentait une menace terroriste alors que ce n'était pas le cas, son comportement erratique résultant de sa toxicomanie.

Qui est responsable ? Le concepteur des robots comme sur le modèle des produits défectueux ou bien les robots eux-mêmes à l'image de la personnalité morale des entreprises ? Les participants ont opté pour la seconde option.

Dans le rôle du procureur, l'impeccable Myriam Quémener, magistrate docteur en droit, a requis une
« cyber-peine de sursis avec obligation de saisir l'assurance des robots pour indemniser le blessé » ainsi qu'une « peine de rétrogradation numérique prévue par le code pénal numérique afin qu'ils deviennent de simples objets connectés ».

Elle estime que ces robots sont responsables car ils ont violé les lois d'Asimov en blessant un humain (lire encadré page 8). La procureure a ainsi évoqué la condamnation à mort de ces derniers en cas de récidive, « grâce à une loi entrée en vigueur en 2025 ».

Pour le Parquet, il s'agit d'une « peine réaliste et immédiatement applicable » pour ce cas de robots policiers « qui n'ont pas compris leur environnement en confondant la cité avec un champ de bataille en se prenant pour des robots tueurs ».

La magistrate a aussi proposé que le ministère de l'Intérieur participe à l'indemnisation de la victime en tant qu'employeur de « robots à l'efficacité redoutable mais manquant de discernement ».
Dans une plaidoirie brillante, Alain Bensoussan, a défendu l'irresponsabilité totale des robots et du ministère de l'Intérieur, en argumentant que des humains auraient fait pire.

« Leur comportement a été raisonnable, car leur code est éthique by design, ils agissent avec humanité », a-t-il expliqué à l'auditoire. Leur réaction était donc prise en conscience avec leur libre arbitre développé en plus de leur programmation sur les codes et l'ensemble de la jurisprudence.

Ils ont ainsi été programmés par un principe général de minimisation des risques pour les citoyens (sans biais de perception, sans haine ni discriminations) ce qu'ils ont fait en tentant de neutraliser la menace en lui tirant dans les coudes (sans la tuer ni prendre le risque de déclencher une ceinture d'explosifs).

« Fiables à 98 % près, les robots sont innocents à 100 % »,a lancé l'avocat, mettant ainsi en valeur leur impartialité et leur très faible taux d'erreur.

Dans le rôle du juge et de son assesseur, l'ancien président du Conseil national des barreaux, Christian Charrière-Bournazel, et Thomas Cassuto, magistrat docteur en droit, ont soulevé plusieurs questions à la défense. Comment programme-t-on une âme et une conscience à un robot ? Les robots sont-ils vraiment indépendants ? Pourquoi parler d'eux au pluriel ? Avaient-ils le choix d'agir ensemble ou de s'opposer l'un à l'autre ? Doit-on protéger leur dignité ? Sont-ils vraiment plus efficients que les humains ?

Dans un délibéré original, ils ont renvoyé l'affaire après qu'une expertise « confiée à trois experts humains et trois experts robots dont l'indépendance est garantie »
ait eu lieu, avant de prononcer une sanction disciplinaire à l'encontre de Maître Bensoussan, considérant que son éloge de l'IA supérieure aux humains est un outrage à magistrat.

Ethique by design

« L'IA est une technologie en quête d'auteurs », a lancé le professeur Renaud Fabre, créateur et responsable du DU Data stratégie de la Sorbonne. Pour ce chercheur, il est nécessaire de toujours prendre en compte les axes technique, juridique et économique du sujet. « On est dans un clair-obscur qui invite à l'éveil », a-t-il conclu.

Il faut impérativement fixer un cadre juridique et éthique à la création d'algorithmes et de robots qui interagissent déjà avec nous. Le code doit ainsi être éthique by design, c'est-à-dire respectant une charte déontologique dès sa conception.

« Stephen Hawkins, que j'aurais adoré rencontrer, a dit que les humains doivent garder le contrôle des robots. Les juger, c'est les contrôler »,
a lancé Alain Bensoussan, président fondateur de l'Association française de droit des robots (ADDR).

Marc Mossé a, quant à lui, repris l'anecdote du grand Turc mécanique dans ses propos conclusifs. Cet automate joueur d'échecs est un célèbre canular construit à la fin du XVIIIe siècle où un véritable joueur marionnettiste était aux manettes du robot en bois. Avec cet exemple, le directeur juridique de Microsoft Europe a brillamment souligné que si l'IA est évidemment une question de souveraineté, d'éthique et de géopolitique, elle reste avant tout l'œuvre des humains qui la créent.

Suffirait-il, tout simplement, d'inventer l'équivalent d'un serment d'Hippocrate pour les développeurs ?

Les lois d'Asimov

L'écrivain américano-russe Isaac Asimov est le créateur des Trois lois de la robotique qui ont largement inspiré les chartes éthiques de la robotique du XXIe siècle.

Cet auteur de science-fiction les a formulées pour la première fois dans sa nouvelle Runaround, éditée en 1942.

1. Un robot ne peut porter atteinte à un être humain ni, restant passif, laisser cet être humain exposé au danger.

2. Un robot doit obéir aux ordres donnés par les êtres humains, sauf si de tels ordres sont en contradiction avec la première loi.

3. Un robot doit protéger son existence dans la mesure où cette protection n'entre pas en contradiction avec la première ou la deuxième loi.

Encadrement juridique de l'utilisation business​ des réseaux sociaux

« Les règles ont du mal à s'adapter aux usages », a souligné Agathe Mouly, responsable médias, publicité et communication digitale du groupe SNCF, lors d'un atelier animé par Virginie Bensoussan, directrice du pôle contentieux numérique du cabinet Alain Bensoussan Avocats Lexing.

Intitulé “Les médias sociaux au service des organisations : usages, éthique et cadre juridique”, l'atelier a abordé un tas de questions relatives à l'utilisation des réseaux sociaux par et pour les entreprises. Quel usage et quel encadrement juridique et éthique pour ces nouveaux canaux de communication à l'heure de la transformation digitale ?
Le community manager est-il devenu le nouveau personnage clé de toute politique marketing ? Comment fédérer une audience et créer une communauté ? Comment gérer sa e-réputation ?

Avec plus de deux milliards d'individus actifs sur ces réseaux, ils sont devenus pour ces dernières un outil incontournable au service de la relation client dans le cadre d'une politique marketing maîtrisée. Les témoignages d'Agathe Mouly (SNCF), Clémence Robin (Maisons de Famille) et Thierry Bardy (Orange) l'ont confirmé.

En plein audit RGPD, le groupe Maisons de Famille, a décidé de se lancer dans la communication digitale avant tout pour réagir au “bad buzz”. « Ce sont les internautes qui sont venus nous chercher en postant des avis négatifs sur le net », a confié Clémence Robin, sa communication & office manager, car « internet est une véritable vitrine d'exposition ».

Aujourd'hui, huit internautes sur dix sont inscrits sur au moins un réseau social. « C'est un écosystème très dynamique, tous les jours il y a de nouvelles façons de faire », constate Agathe Mouly qui a mis en place une communication très structurée « pour contrer le SNCF bashing et amener du positif ».
L'experte a ainsi créé une social room avec une équipe polyvalente dédiée aux réseaux sociaux pour accompagner les usagers, détecter les bad buzz et « engager une relation pérenne de qualité » avec ses publics.

Son service est sollicité 5 000 fois par jour à travers les réseaux sociaux, en majorité sur Twitter, et donne à peu près 2000 réponses dans un délai bref de 10 minutes en moyenne. Un flux « important et très vertueux », reconnaît-elle.

En outre, la SNCF a mis en place un système d'« employee advocacy » où les collaborateurs de l'entreprise font sa promotion sur les réseaux. Agathe Mouly forme ainsi les 150 ambassadeurs cheminots en leur rappelant le cadre juridique « car leurs posts engagent l'entreprise ».

Pour Thierry Bardy, directeur Open innovation & prospective chez Orange Labs recherche, qui s'interroge sur la définition des réseaux sociaux aujourd'hui et demain, ces derniers « donnent le pouvoir d'agir et de faire aux communs » ce qui a « complètement modifié le cadre juridique et éthique ».

Le droit peut en effet appréhender les contenus diffamatoires, même sur les réseaux sociaux non publics, de type messagerie de Facebook. Beaucoup de réseaux se considèrent comme des médias. « Plus ils se définissent comme médias sociaux, mieux c'est pour nous les juristes car on peut faire appliquer le droit de la presse », a expliqué Virginie Bensoussan.

En revanche, les comptes parodiques ne sont pas atteignables car le droit à la satire est supérieur au droit au respect de l'entreprise.




Ses derniers articles

Abonnez-vous à l'offre Papier + Numérique

Affiches Parisiennes Journal d'information juridique et d'annonces légales

  • ›   Pour plus de contenu, papier + web
  • ›   l’accès aux annonces légales,
  • ›   l’accès aux ventes aux enchères.
Je m'abonne

À lire également


Réagir à cet article

Message déjà envoyé Adresse e-mail non valide


Fermer
En poursuivant votre navigation sur ce site, vous acceptez l'utilisation de cookies et de technologies similaires par notre société ainsi que par des tiers, afin de réaliser des statistiques d'audiences et de vous proposer des services éditoriaux et la possibilité de partager des contenus sur des réseaux sociaux. En savoir plus / paramétrer