En 1997, le grand champion d’échec Garry Kasparov s’inclinait face à Deep Blue, un super-ordinateur conçu par IBM. Dans l’esprit du grand public, l’Intelligence artificielle quittait le domaine de la science-fiction. Aux automates exécutants des taches préprogrammées (machine à café) ont succédé les machines réactives capables d’interagir avec l’environnement, puis des robots cognitifs en mesure d’analyser leur environnement et de le prendre en compte dans leurs décisions. Si les robots les plus connus sont NAO (société AldebaranRobotics), Asimo (Honda), Ucroa et Aiko, le secteur se développe rapidement. Des chercheurs japonais ont, ainsi, mis au point et présenté en 2010 un robot d’apparence féminine capable de parler, calculer, réagir, obéir et interagir avec son environnement. Désormais, en raison de sa constante évolution technologique, de nombreux États industrialisés considèrent la robotique comme étant la prochaine frontière de la révolution technologique à l’horizon 2020[1].

Le robot peut être défini comme étant un dispositif artificiel, matériel ou immatériel, conçu pour effectuer des opérations selon un programme fixe ou modifiable, le cas échéant par apprentissage[2]. Or, en raison de leur entrée progressive dans la vie quotidienne, le fait que les robots interagissent de plus en plus avec les humains commence à poser des problèmes de nature juridique notamment liés à l’accroissement de leur autonomie[3]. La question de la responsabilité a notamment été posée suite à un accident intervenu pour la première fois le 29 février et impliquant l’un des véhicules autonomes de Google.

Ainsi, si la question du statut du robot se pose en droit, celle-ci s’accompagne de l’émergence progressive d’un droit des robots.

I.            Le robot sujet de droit

L’apparition progressive des robots dans la société pose la question du statut juridique des robots, mais également de celui des objets générés par les robots.

B. La question du statut juridique des robots

À mesure que les robots envahiront nos vies se posera la question de l’accompagnement ou non de leur autonomie d’action par la création d’une personnalité juridique propre. En droit commun, un robot est une chose objet de droit, un objet marchand, disposant d’un statut comparable à celui des animaux domestiques[4]. Toutefois, pour certains auteurs et spécialistes du droit des nouvelles technologies, les robots sont une plateforme autonome échappant à leur propriétaire et n’étant donc plus sous leur domination directe. L’émergence de cette autonomie d’action des robots devrait, dès lors, être accompagnée par le droit en les dotant d’une personnalité juridique propre[5]. Celle-ci permettrait au robot de bénéficier d’une capacité juridique les rendant aptes à exécuter des actes matériels tels qu’un acte d’achat courant[6].

Ce statut juridique pourrait s’inspirer de la personnalité morale dont sont dotées certaines structures n’ayant pas d’existence physique ou corporelle propre (société commerciale, association…), mais responsables pénalement et civilement des actes commis par leurs dirigeants et disposant d’un patrimoine propre[7]. Ce statut propre aux robots s’accompagnerait, dès lors, d’un numéro d’identification/d’immatriculation recensant les robots intelligents et autonomes agissants dans un environnement ouvert. Ce statut permettrait également d’accorder une protection spécifique aux robots contre toutes atteintes à leur intégrité physique, à leur intimité ou à leurs données, notamment en matière de protection de la mémoire, à l’instar de ce que pourrait prévoir une future législation sud-coréenne[8]. Cette dernière entend, en effet, protéger les données du robot, interdire l’utilisation des robots pour un usage illégal, réprimer le fait d’endommager ou de détruire délibérément un robot et enfin prohiber les traitements délibérément abusifs à l’égard des robots.

Toutefois, selon d’autres spécialistes de la question, le droit positif actuel accorderait un statut suffisant aux robots en tant que chose. Ils s’appuient, d’une part, sur une décision de la Cour de cassation (Civ 2e, 28 janvier 1954)[9]. Selon elle, « la personnalité morale n’est pas une création de la loi ; elle appartient, en principe, à tout groupement pourvu d’une possibilité d’expression collective pour la défense d’intérêts licites, dignes, par suite, d’être juridiquement reconnus et protégés[10] ». D’autre part, le robot est déjà protégé de manière cumulative par le droit de la propriété intellectuelle. Ainsi, le droit des brevets protège l’invention du robot. Le droit des bases de données peut, lui, protéger la mémoire du robot (article L342-1 du Code de la Propriété intellectuelle[11]). Le droit d’auteur est, quant à lui, susceptible d’assurer la protection du programme du robot ainsi que de son aspect extérieur. Enfin, le droit des marques peut intervenir en matière de protection du nom du robot[12].

Par ailleurs, la question de la protection à accorder aux objets générés par les robots mérite d’être posée.

B. La protection des objets générés par les robots

Si le recours à un robot pour faciliter la tâche d’un créateur ou d’un inventeur est une pratique désormais usuelle, les progrès technologies en matière d’autonomie des robots permettent d’envisager l’apparition de machines indépendantes produisant des œuvres artistiques et des inventions[13]. Or, l’article L111-1 du Code de la propriété intellectuelle indique que « l’auteur d’une œuvre de l’esprit jouit sur cette œuvre, du seul fait de sa création, d’un droit de propriété incorporelle exclusif et opposable à tous ». La question se pose donc de savoir si les objets créés avec ou par un robot sont protégeables et qui doit être reconnu, le cas échéant, titulaire des droits de propriété intellectuelle.

Dans un jugement du 5 juillet 2000, le tribunal de grande instance de Paris a jugé que « la composition musicale assistée par ordinateur, dès lors qu’elle implique une intervention humaine, du choix de l’auteur […] conduit à la création d’œuvres originales ». Se pose néanmoins la question de savoir qui du créateur du programme ou de l’utilisateur se verra attribuer les droits. La réponse dépend de la marge de manœuvre de l’utilisateur. Celui-ci sera dit auteur s’il a une capacité d’intervention dans le processus de création et peut marquer l’œuvre de sa personnalité. Dès lors, dans la majorité des hypothèses, la personne utilisant un programme comme outil sera considérée comme le créateur d’une œuvre originale (une musique, un article…) et bénéficiera des droits de la propriété intellectuelle en découlant[14].

La question d’une œuvre protégée par le droit d’auteur se pose différemment lorsque celle-ci a été réalisée par un robot bénéficiant de capacités cognitives autonomes. Le droit français, comme la plupart des autres droits, dispose que seule une personne physique peut se voir reconnaître la qualité d’auteur. Cette impossibilité a été confirmée à plusieurs reprises par la jurisprudence française (voir notamment Cass. 1ère Civ, 15 janvier 2015[15]). Se fondant sur l’article L113-1 du Code de la propriété intellectuelle[16], la Cour de cassation a rappelé « qu’une personne morale ne peut avoir la qualité d’auteur ». Seule une personne physique peut être donc être titulaire ab initio de l’intégralité des droits d’auteur, à savoir « des attributs d’ordre intellectuel et moral ainsi que des attributs d’ordre patrimonial (sauf œuvres collectives). Dès lors, les créations issues d’une automatisation totale, à l’instar de celle des animaux[17], ne seraient pas des œuvres de l’esprit au sens du droit d’auteur. L’United States Copyright Office d’août 2014 a récemment pris position en ce sens, notamment suite à une affaire opposant un photographe et Wikipédia dans un litige concernant un autoportrait photographique réalisé par un singe avec l’appareil du photographe. De la même manière, une machine et un robot sont des choses et donc ne créent pas. Toutefois, le droit français pourrait évoluer et s’inspirer du droit britannique qui classe depuis 1988 les œuvres créées par des ordinateurs parmi les œuvres soumises au droit d’auteur[18].

De même, des acteurs de secteurs concernés par ce sujet, notamment celui de la presse, pourraient demander la création d’un droit cousin du droit d’auteur que les agences et entreprises utilisant des ordinateurs pourraient solliciter. En effet, l’arrivée de nouveau programme informatique a pour conséquence une diminution substantielle du rôle du journaliste au profit de la machine. Par conséquent, plusieurs personnes physiques peuvent potentiellement prétendre à la qualité d’auteur : l’auteur du logiciel, l’utilisateur du logiciel, la personne qui effectue le choix éditorial final. Ce droit cousin du droit d’auteur pourrait s’inspirer des droits des producteurs de bases de données issues de la directive communautaire de 1996 et interdisant aux tiers et concurrents de reprendre sans autorisation des données ou œuvres ayant nécessité un investissement. Les agences et éditeurs de presse pourraient ainsi se garantir un retour sur investissement en protégeant les créations générées par ces robots journalistes.

Par ailleurs, aux côtés de la problématique du robot sujet de droit, l’émergence de robots toujours plus autonomes amène à envisager l’existence d’un droit des robots.

II.          Le droit des robots

L’émergence d’un droit des robots concerne l’adoption des règles d’engagement de la responsabilité, tant délictuelle que contractuelle visant à assurer la réparation, mais également l’instauration d’une protection juridique de la société face au potentiel danger que représentent les robots.

A.  La responsabilité juridique des robots

Pour certains auteurs, l’accroissement du nombre de robots dans la société ainsi que les progrès de leur autonomie doivent conduire à la création d’une responsabilité du fait des robots. En effet, la question d’une personnalité du robot est essentielle pour mettre en jeu une responsabilité, qu’elle soit celle du robot, du fabricant, du fournisseur de l’utilisateur ou encore du propriétaire.

Par conséquent, ces auteurs proposent que les robots puissent être dotés d’actifs (sorte de capital social) dont le montant serait proportionnel aux risques qu’ils seraient susceptibles de faire courir en terme économique et physique. Ces actifs serviraient, ainsi, à assurer une éventuelle réparation. Ce système pourrait être associé à la création d’un fonds de garantie à l’instar de ce qui existe actuellement en matière d’accident de la circulation[19].

Pour d’autres auteurs, la robotique ne serait encore qu’au stade de divers automatisme derrière lesquels se trouve un programme humain. Les robots n’auraient pas, et pour longtemps, de capacité de discernement justifiant de modifier le droit existant[20]. En outre, une responsabilité personnelle des robots (et donc la remise en cause de la qualification de bien) pourrait, selon eux, déresponsabiliser les fabricants et les utilisateurs.

En matière contractuelle, les robots intelligents ne seraient qu’une interface technique entre leur utilisateur, au nom duquel ils agissent, et les tiers contractants. En effet, l’application de la responsabilité contractuelle entre fabricants, vendeur et acheteur ne nécessiterait qu’un renforcement des procédés d’identification pouvant garantir le lien entre l’utilisateur et le robot[21]. Le droit prévoit ainsi des mécanismes de responsabilité contractuelle (délivrance non conforme, garantie des vices cachés…).

De même, des règles existent d’ores et déjà en matière de responsabilité médicale et de responsabilité du fait des produits défectueux (loi du 19 mai 1998) et pourraient tout à fait s’appliquer aux robots[22]. Ainsi, la première chambre civile de la Cour de cassation a indiqué dans un arrêt du 9 novembre 1999 qu’un médecin a une obligation de sécurité de résultat quant au matériel qu’il utilise, ce qui s’applique également à l’emploi de robots chirurgicaux. Cette jurisprudence a été reprise par le Conseil d’État dans un arrêt du 9 juillet 2003 Marzouk qui dispose que le service public hospitalier est responsable, même sans faute, des dommages causés par la défaillance des produits et appareils de santé qu’il utilise, d’où l’importance des assurances.

Toutefois, ces auteurs reconnaissent que les risques juridiques sont plus importants en matière de responsabilité délictuelle du fait d’un robot ayant causé un dommage à un tiers. La détermination de la garde pourrait poser problème. En effet, contrairement aux animaux également concernés par ce régime de la responsabilité du fait des choses, les robots sont composés d’une multitude d’éléments provenant de différents fabricants. Quelle responsabilité engager dans le cas où un robot journaliste diffuserait des informations erronées ou attentatoires aux droits d’autrui ? Celle du programmeur ? Du vendeur ? Du média propriétaire ? Déjà en Allemagne, un bras robotique dans une usine a récemment conduit au décès d’un ouvrier. Il s’agissait, en l’espèce, d’une erreur humaine, mais force est de constater que plus le robot disposera de solides capacités cognitives lui conférant une certaine autonomie, plus le pouvoir d’usage, de direction et de contrôle exercé de manière effectif et indépendant sera complexe à envisager.

Dès lors, selon ces auteurs hostiles à la création d’une responsabilité personnelle du robot, il conviendrait de réactiver la distinction entre la garde de la structure (le fabricant) et la garde du comportement (utilisateur). Ainsi, les utilisateurs pourraient voir leur responsabilité engagée lorsque l’acte dommageable du robot a pu être le résultat d’une influence des premiers sur ce dernier[23]. À l’inverse, les fabricants ne limitant pas l’autonomie des robots en interdisant les actes dangereux engageraient leur responsabilité.

A ce sujet, et pour la première fois, un accident a impliqué le 29 février 2016 l’un des véhicules autonomes de Google. Quelque jours plus tôt, la National Highway Transportation Safety Administration (NHTSA), l’autorité en charge des autoroutes aux Etats-Unis a décrété que que le système d’intelligence artificielle des voitures de Google peut être considéré comme le conducteur du véhicule, et donc être légalement responsable de ses actions.

B.  Protection juridique de la société et éthique

En matière de robotique, l’autonomie d’un robot est celle conférée par leur concepteur. Les questions d’éthiques doivent donc les concerner en premier lieu. L’un des premiers auteurs à s’être intéressé à la question de l’éthique des robots est le célèbre auteur de science-fiction, Isaac Asimov, qui a formulé trois lois de la robotique auxquelles tous les robots doivent obéir :

1. « un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ;
2. un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ;
3. un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi.»

S’inspirant des trois lois d’Asimov (plus de la loi zéro), la charte sud-coréenne, en développement depuis 2007, sera le premier texte à définir les rapports entre robots et humain[24]. Elle vise à :

• Imposer des limites à leur autonomie ;
• Fixer un respect des normes strictes de contrôle de qualité ;
• S’assurer de l’identification sûre et claire des robots ;
• S’assurer de la traçabilité de leurs actions…

D’autres projets ont été élaborés aux États-Unis et au Danemark. Selon eux, les robots à même de choisir parmi différents modes d’action doivent faire ce choix en considération de lois morales simples et élémentaires. La première d’entre toutes: ne jamais mettre en danger un humain.

La question de l’instauration d’une charte éthique réglementant les robots se pose, y compris en France ou les lois bioéthique de 1994 ne sont pas adaptées. La question se pose d’autant plus que des milliers de scientifiques et industriels ont exprimé leur inquiétude au sujet des robots[25].

• En matière de sécurité, davantage que la manipulation dont peuvent être victimes les humains, les robots pourraient être des cibles de choix pour des hackeurs. Ces derniers pourraient prendre possession à distance le contrôle des robots pour leur faire commettre un acte dommageable voire délictueux.
• En matière de conflit armé, la CERNA (Commission de réflexion sur l’Éthique de la Recherche en sciences et technologies du Numérique d’Allistene) travaille actuellement sur le sujet de l’éthique des robots « tueurs ». En effet, l’émergence de robots létaux autonomes d’ores et déjà employés dans des zones de conflit pourrait fragiliser le respect des conventions de Genève, du droit de la guerre et des règles d’engagement. En effet, les textes du Jus ad bellum et jus in bello nécessitent une véritable capacité d’interprétation qui rend déjà difficile le travail des humains et dont les robots ne disposent pas actuellement[26]. On se souvient de l’avion de ligne iranien abattu par erreur par un missile américain en 1987 dont le tir avait été déclenché par le système AEGIS sans qu’un opérateur humain n’ait préalablement fourni une identification visuelle de l’avion. En 2013, l’ONU a exprimé des inquiétudes au sujet de l’émergence des robots létaux autonomes. De plus, dans une lettre ouverte, plus de mille chercheurs et industriels tels que Elon Musk, Stephen Hawking, Steve Wozniak ou encore Noam Chomsky ont réclamé l’interdiction des armes autonomes déjà présentes en Corée du Sud, aux États-Unis ou en Israël[27]. De plus, en dehors de la protection des humains se pose celle de la responsabilité des robots tueurs en cas de crime de guerre. Si le protocole additionnel de 1977 aux Conventions de Genève impose aux États d’évaluer la licéité de toute nouvelle arme, la question de la responsabilité reste non tranchée.

Enfin, s’ils sont actuellement irremplaçables dans des pans entiers de l’industrie, l’apparition des robots dans la vie quotidienne risque de modifier profondément la place de l’humain sur le marché de l’emploi[28]. Le Japon et la Corée du Sud envisagent actuellement la robotique comme un segment majeur du marché : le Japon vise un marché de 100 milliards de dollars d’ici vingt ans, tandis que le montant de l’exportation de robots destinés aux services à la personne s’élevait à plus de 80 millions d’euros pour la Corée du Sud en 2012. Déjà, des robots sont en mesure d’effectuer des tâches agricoles, de ménage, de sécurité, de construction, d’accueil, de santé et de transport (les véhicules autonomes pourraient être commercialisés en Europe à partir de 2020 selon Carlos Ghosn PDG de Renault Nissan). Dès demain, ils seront légion dans les domaines de la surveillance des personnes dépendantes et de l’hôtellerie et pourraient envahir des métiers comme ceux du journalisme, de la police, de l’armée, de la comptabilité. Trois millions d’emplois pourraient être pourvus par des robots en 2025 en lieu et place d’humains.

Vaste sujet, l’impact de la révolution robotique sur le marché de l’emploi fera l’objet d’un prochain article sur ce site. Mais plus que le marché de l’emploi, c’est le fonctionnement de la société dans son ensemble qui pourrait être ébranlé selon le concept de singularité technologique[29] envisagé par des futurologues et des transhumanistes célèbres. Selon eux, à partir d’un certain point de son évolution technologique qui pourrait être la maîtrise de l’Intelligence artificielle, la civilisation humaine pourrait connaître une croissance technologique d’un ordre supérieur. Imaginons : une société dirigée par un humain et possédant un capital composé d’une forêt et de robots. Ces derniers pourraient couper des arbres, en replanter, transformer les armes en meubles, les emballer et les conduire directement à des clients qui les auraient commandés par internet. Tout cela sans un seul travailleur humain…

Alexandre Mandil

[1] http://www.alain-bensoussan.com/opportunite-robots-personnalite-juridique/2015/08/11/

[2] http://www.usine-digitale.fr/article/juridiquement-parlant-un-robot-intelligent-c-est-quoi.N326099

[3] http://www.lavoixdunord.fr/region/lille-l-avocat-xavier-labbee-et-le-statut-de-l-homme-ia19b0n3055889

[4] http://www.lexisnexis.fr/droit-document/article/la-semaine-juridique-edition-generale/48-2014/231_PS_SJG_SJG1448ET01231.htm#.VshH4_LhDIU

[5] http://www.dalloz-actualite.fr/auteur/gregoire-loiseau-et-matthieu-bourgeois

[6] http://www.usine-digitale.fr/editorial/creer-une-personnalite-juridique-pour-les-robots-intelligents-est-totalement-inutile.N313004

[7] http://blog.lefigaro.fr/bensoussan/2015/02/la-personnalite-robot.html

[8] http://www.alain-bensoussan.com/charte-robotique-coreenne/2014/01/17/ ; http://www.lemonde.fr/international/article/2007/03/07/la-coree-du-sud-elabore-une-charte-ethique-des-robots_880397_3210.html

[9] http://www.dalloz-actualite.fr/auteur/gregoire-loiseau-et-matthieu-bourgeois

[10] https://www.legifrance.gouv.fr/affichJuriJudi.do?idTexte=JURITEXT000006953231&dateTexte=,

[11] https://www.legifrance.gouv.fr/affichCodeArticle.do?cidTexte=LEGITEXT000006069414&idArticle=LEGIARTI000006279247

[12] https://www.cairn.info/resume.php?ID_ARTICLE=JIB_243_0125

[13] http://www.lexisnexis.fr/droit-document/article/propriete-industrielle/02-2013/001_PS_RPI_RPI1302ET00001.htm#.VshSFvLhDIU

[14] http://www.it-can.ca/2015/02/18/quelle-protection-juridique-pour-les-creations-de-robots-journalistes-france-2/?lang=fr

[15] http://larevue.squirepattonboggs.com/Une-personne-morale-ne-peut-avoir-la-qualite-d-auteur-d-un-logiciel_a2530.html

[16] https://www.legifrance.gouv.fr/affichCodeArticle.do?cidTexte=LEGITEXT000006069414&idArticle=LEGIARTI000006278881

[17] https://www.legifrance.gouv.fr/affichCodeArticle.do?idArticle=LEGIARTI000006428711&cidTexte=LEGITEXT000006070721

[18] https://www.cairn.info/resume.php?ID_ARTICLE=JIB_243_0125

[19] http://www.lesechos.fr/14/10/2014/LesEchos/21792-058-ECH_quel-statut-legal-pour-les-robots–.htm

[20] http://www.magazine-decideurs.com/news/robotique-et-responsabilite-le-choix-de-l-illusion-ou-du-pragmatisme

[21] https://humanoides.fr/2015/07/quelle-responsabilite-pour-un-robot-lors-dun-accident/

[22] http://www.magazine-decideurs.com/news/robotique-et-responsabilite-le-choix-de-l-illusion-ou-du-pragmatisme

[23] http://www.usine-digitale.fr/article/juridiquement-parlant-un-robot-intelligent-c-est-quoi.N326099

[24] http://www.alain-bensoussan.com/charte-robotique-coreenne/2014/01/17/

[25] http://www.liberation.fr/futurs/2015/07/28/intelligence-artificielle-danger-reel_1355397

[26] http://www.lemonde.fr/international/article/2014/05/13/une-premiere-reunion-internationale-pour-reguler-l-usage-des-robots-tueurs_4415847_3210.html

[27] http://www.lexpress.fr/actualite/sciences/hawking-musk-et-plus-de-1000-chercheurs-contre-les-robots-tueurs_1702681.html

[28] http://www.lemonde.fr/pixels/article/2015/07/17/le-premier-hotel-gere-par-des-robots-ouvre-ses-portes-au-japon_4687360_4408996.html ; http://www.liberation.fr/societe/2014/10/27/les-robots-vont-ils-nous-mettre-au-chomage_1130551 ; http://www.stanley-robotics.com/

[29] https://fr.wikipedia.org/wiki/Singularit%C3%A9_technologique