I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd)








télécharger 28.83 Kb.
titreI. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd)
date de publication03.02.2018
taille28.83 Kb.
typeRapport
l.21-bal.com > loi > Rapport
Compte rendu : Table ronde 

« Ethique, Algorithme et Justice »

La table ronde s’inscrit dans le prolongement du procès fictif qui a eu lieu le mercredi 28 juin 2017 à la cour d’appel de Lyon. L’objectif était d’évoquer les principaux domaines du droit qui seront concernés par le développement des nouvelles technologies. C’est un sujet très étendu et il génère de très nombreux débats. Cette table ronde s’est donc concentrée autour de l’automatisation des véhicules et l’impact sur le droit dont résulte leurs intégrations dans la société. En l’occurrence, quel cadre juridique faut-il donner à ces nouveaux véhicules ? A qui revient la responsabilité en cas d’accident ? Comment garantir la protection des données personnelles communiquées par ces véhicules. Voici les interrogations auxquelles les initiateurs de cette table ronde ont tenté de répondre.

Le recteur de l’Université catholique de Lyon, Thierry Magnin et le président de la Cour administrative d’appel de Lyon, Régis Fraisse ont ouvert la discussion. Ils ont commencé par féliciter les étudiants participant au procès fictif pour la réussite de cet exercice qui est selon eux « très enrichissante », avant d’ajouter « C’est un exercice à la fois pédagogique, doctrinal et professionnalisant ». C’est un exercice qui met en évidence le nombre de débats et de questions que posent l’utilisation des nouvelles technologies qui bouleversent les modes de vie étant donné la complexité des problèmes, les enjeux économiques et éthiques.

Les faits imaginés pour le procès touchent à la problématique de l’automatisation des véhicules. Ce vaste sujet de l’avenir des transports et de leur automatisation a été traité par Frédéric Ricard dans un rapport rendu en février 2017. Il met en avant les enjeux économiques de ces véhicules automatisés mais pointe également du doigt l’existence d’un cadre légal dépassé et insuffisamment préparé à l’utilisation de ces véhicules sur nos routes.

I.Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé « l’automatisation des véhicules » pour le conseil général de l’environnement et du développement durable (CGEDD)

Quel cadre d’intervention pour la puissance publique ?

Le cadre de l’intervention de la puissance publique ne peut être défini sans que l’objet même qui doit être encadré, ne le soit également.

Qu’est-ce qu’un véhicule autonome ?

Un véhicule autonome est un objet mouvant à moteur capable de se déplacer sans l’intervention d’un conducteur. Il existe cependant plusieurs niveaux d’autonomie. L’aide au stationnement et la Google Car sont deux exemples très différents de l’utilisation cette technologie.

Mais à quels moments peut-on parler de véhicule autonome ?

Pour répondre cette question, un barème a été inventé par l’Organisation International des constructeurs automobiles (OICA). Il possède 6 niveaux de 0 à 5 pour définir le niveau d’autonomie d’un véhicule. Ce barème est un indicateur mais il n’est pas reconnu à ce jour comme une norme.

  • Le niveau 0 correspond à un véhicule sans aucune assistance, le conducteur est entièrement maître du véhicule et réalise l’ensemble des manœuvres. Il peut cependant être aidé par des moyens de détection comme des radars ou caméras de recul.

  • Le niveau 1 correspond aux premiers outils autonomes qui vont opérer une seule fonction dans le but de limiter ou protéger le conducteur. C’est à ce niveau que l’on place le régulateur de vitesse.

  • Le niveau 2 correspond aux premières manœuvres autonomes du véhicule. Celui-ci peut prendre le contrôle et effectuer un mouvement dans certaines circonstances particulières. Le conducteur doit être attentif à tous les mouvements du véhicule durant ce temps et reprendre le contrôle de l’appareil en cas de problème. L’exemple idéal est l’aide au stationnement.

A l’heure actuelle, la majorité des véhicules individuels commercialisés en Europe se situe généralement entre les niveaux 0 et 2 en fonction de la date de production de la voiture. A partir du niveau 3, on atteint le domaine de la recherche et de l’expérimentation.

  • Le niveau 3 correspond à un véhicule capable de se déplacer tout seul dans la plupart des situations. Néanmoins, la présence d’un conducteur est toujours nécessaire même si celui-ci n’a pas besoin d’être aussi vigilant. C’est le cas du véhicule présenté dans le procès fictif. Le conducteur doit être attentif notamment dans les zones à forte densité humaine ou par mauvais temps.

  • Le niveau 4 correspond à une véhicule capable de se déplacer tout seul, y compris, sans la présence d’un conducteur dans certains cas limités. C’est l’exemple du valet de parking. La voiture dépose ses passagers et va automatiquement se garer sans intervention humaine.

  • Le niveau 5 correspond au dernier niveau d’automatisation. Le véhicule se pilote tout seul, les passagers n’ont pas à conduire. Ils n’ont qu’à indiquer leur destination et à s’asseoir sans prendre le contrôle du véhicule.

Cette classification de l’autonomie du véhicule est discutable étant donné que celle-ci correspond à des véhicules individuels. Elle semble moins adaptée au véhicule de fret ou aux transports en commun. Il semble évident qu’un bus autonome doit être capable de s’arrêter automatiquement à chaque arrêt, comprendre si une personne veut descendre et il doit être capable de détecter si tous les passagers sont montés avant de repartir. Mais quelle est la place du chauffeur? Doit-il être plus vigilant qu’un conducteur de véhicule individuel ?

« Le droit doit-il s’adapter à la société ou la société doit-elle suivre le droit ? » Cette question, posée en introduction par le Président Fraisse, prend dans cette problématique tout son sens. Si le droit doit s’adapter à la volonté des usagers de circuler avec des voitures autonomes, comment seront encadrés ces nouveaux moyens de transport ? D’un autre côté, la technologie pourra-t-elle être suffisamment perfectionnée pour garantir la sécurité des passagers dans les transports en commun, au sens de la loi ?

La mort de Joshua Brown au volant de sa voiture Tesla a rappelé à tous que la technologie n’était pas infaillible. Cet américain de 40 ans est la première victime d’un accident de la route impliquant un véhicule autonome. Il roulait avec l’autopilotage enclenché quand sa voiture a percuté un camion en sens inverse. D’après l’enquête, la voiture n’avait pas, à ce moment-là, la technologie nécessaire pour différencier précisément la remorque blanche du camion par rapport à d’autres éléments extérieurs.

Le rapport co-rédigé par Fréderic Ricard met en avant les faiblesses de la France dans son encadrement légal.

Etant donné que l’automatisation des véhicules semble inévitable et même souhaitable, car c’est à la fois un progrès économique et écologique, la France doit repenser son cadre juridique. Le code de la route, notamment, est prévu pour une autonomisation de niveau 2. Le niveau 3 n’est pas encore encadré. Le code de la route ne prévoit pas qu’un conducteur ne contrôle pas entièrement son véhicule. L’une des nombreuses recommandations de ce rapport est d’introduire progressivement l’autonomisation avec notamment l’expérimentation à grande échelle des véhicules autonomes, l’expérimentation des véhicules de fret autonomes, tels que les convois de camions (sauf pour le transport de matières dangereuses). Le niveau 4 peut également être testé avec le valet de stationnement ou les taxis-robot. Mais ces expériences doivent être encadrées pour garantir la sécurité des passagers comme des personnes extérieures

Il est en revanche trop tôt pour le niveau 5. La technologie est pourtant bien avancée et de nombreuses études montrent que ces véhicules totalement autonomes sont potentiellement moins dangereux que les véhicules conduits par l’Homme. Mais, la confiance dans ce type d’engin prendra surement plus de temps. Il faudra que ce type de véhicules démontre sa fiabilité dans le temps avant que la société ne les accepte progressivement.

A cela s’ajoute la pression des pays étrangers qui pour certains, comme les Etats Unis, sont en avance dans ce domaine. Les américains ont déjà commencé à expérimenter à grande échelle les véhicules autonomes de niveau 3 et 4. Ils ont également harmonisé leurs lois en septembre 2016 sous l’impulsion de la NHTSA (National Highway Traffic Safety Administration). Ils autorisent l’utilisation de véhicules de niveaux 3 et 4. Les véhicules de niveau 5 sont en expérimentation par différents groupes comme Google, Tesla et Nvidia pour ne citer que les projets les plus aboutis.

Nous devons préparer les futures automobilistes à ces nouvelles manières de conduire et cela passe également par une nouvelle manière d’enseigner la conduite aux jeunes automobilistes mais également aux anciens qui ont l’habitude de conduire depuis plusieurs dizaines d’années.

Un autre cadre juridique doit évoluer, c’est le régime de la loi Badinter et la responsabilité en cas d’accident.

II.II. Intervention de Marc Clément, rapporteur public à la Cour administrative d’appel de Lyon.

Algorithme et responsabilité

Depuis la loi Badinter du 5 juillet 1985, l’indemnisation intégrale des victimes des accidents de la route est imposée. Mais dans certaines situations d’exception, ce droit peut être réduit ou supprimé. Les exceptions sont généralement une faute grave ou inexcusable de la victime comme le fait de rechercher le dommage. Cette notion n’a pas vocation à changer mais la responsabilité du conducteur qui ne contrôle pas un véhicule autonome peut-elle être engagée ?

Le procès fictif, qui met en scène un accident de la route portant sur le défaut d’une balise gérée par la ville de Lyon, conduit à la condamnation de la ville de Lyon et à l’engagement de sa responsabilité. Mais en l’espèce, on se retrouve dans le cas très précis du défaut d’un élément extérieur.

Par principe, la responsabilité du conducteur est engagée en cas d’accident, sauf à démontrer la faute inexcusable de la victime. L’objectif de la loi Badinter est d’indemniser la victime d’un accident de la route et ce, même si le conducteur a causé cet accident en raison d’un cas de force majeur ou d’un élément extérieur. On ne recherche pas les causes de l’accident, simplement la personne gardienne de l’objet qui a causé l’accident.

Le problème se pose en cas d’accident avec un véhicule de niveau 3 ou 4. Si un véhicule roulant de manière autonome dans une rue ou sans conducteur dans un parking, blesse une personne. La responsabilité est-elle toujours celle du gardien de la chose, même s’il n’est pas présent dans le véhicule dans le cas du niveau 4 ?

Le problème s’accentue encore si on envisage un accident dans le type 5. Une voiture, dont les passagers pourraient potentiellement ne pas savoir conduire, entre en collision avec un piéton. La responsabilité du conducteur qui n’est en réalité qu’un passager du véhicule autonome doit-elle être engagée ?

La réponse n’est pas simple mais elle se réduit à deux possibilités. Soit le régime actuel est conservé, auquel cas le gardien du véhicule objet du dommage engage sa responsabilité, soit on considère que le véhicule doit être suffisamment fiable pour ne pas engager la responsabilité de son gardien. En ce cas, l’erreur de logiciel ou la défaillance du système entraîne la responsabilité du programmeur ou du constructeur. On peut aisément imaginer que ces derniers invoquent alors l’usage « aux risques et périls » de l’utilisateur du véhicule pour se décharger de leur responsabilité L’engagement de la responsabilité du constructeur nécessiterait alors la preuve de l’existence d’une défaillance du système ou du véhicule. Or, une telle défaillance est encore difficile à établir par expertise. L’usage des véhicules autonomes nécessite la collecte d’une masse énorme de données et le manque d’experts risque d’entraîner des problèmes au stade de l’enquête

La question est débattue mais elle est loin d’être tranchée. La convention de Vienne sur la circulation routière récemment amendée permet aux pays de l’Union Européenne d’autoriser la circulation des véhicules automatisés à la condition de respecter la législation de chaque Etat où leur circulation est autorisée et que le conducteur garde le contrôle et la possibilité d’intervention.

Par ailleurs, des questions éthiques sont soulevées. Si un véhicule doit prendre des décisions en fonction d’une situation définie pour empêcher un accident, comment un algorithme peut décider quelle est la meilleure alternative ? Un logiciel peut-il déroger à ses sécurités qui l’empêchent d’aller dans certaines zones ou peut-il enfreindre les règles pour sauver des vies humaines ? Doit-il choisir si plusieurs vies humaines sont en danger ?

Dans un futur encore lointain, si les hommes ne conduisent presque plus, comment peut-on alors leur demander d’intervenir en cas de défaillance du véhicule si eux-même ne savent presque pas conduire. Comment réagira un conducteur, coincé dans un col de montagne, sous une neige abondante, si la voiture ne parvient plus à garder le contrôle et demande au conducteur de reprendre le contrôle pour plus de sécurité ?

Toutes ces questions restent ouvertes et ce sont les enjeux de la recherche dans le domaine de l’automatisation des véhicules.

III.Intervention de Michèle Guilbot, Directrice de recherche à l’institut français des sciences et technologies des transports et de l’aménagement des réseaux (IFSTTAR)

La protection des données personnelles

Question qui anticipe beaucoup sur l’avenir de l’automobile. Si les véhicules communiquent entre eux ou avec des centres de gestion de données, quel type de données est échangé, collecté ? Dans quels buts ? Et qui a accès à ces données ? Peut-on garantir la sécurité des données en cas de cyberattaque ?

Cette problématique est généralisée à l’ensemble des objets connectés. Les données, que ces appareils enregistrent, soit dans le but de s’adapter à l’utilisateur, soit pour les entreprises qui utilisent les expériences des utilisateurs pour améliorer leur produit, doivent être protégées contre des cyberattaques. Ce sont des données à caractère personnel et la Constitution française ainsi que les textes fondateurs de l’Union Européenne obligent les Etats à protéger ces informations sensibles.

Pour les données émises par des véhicules autonomes, elles concernent surtout la liberté de mouvement. Il est facile d’identifier et de localiser un utilisateur, si une personne mal intentionnée accède à ces données.

Ce problème est en ce moment débattu au niveau européen. La commission européenne a initié un projet nommé « E-Call ». Il s’agit d’un système d’appel d’urgence embarqué capable d’envoyer un message de secours pour prévenir en cas d’accident. C’est un service public qui pourrait potentiellement diminuer les délais de prise en charge de personnes blessées dans un accident de circulation et ainsi sauver de nombreuses vies. Il sera installé sur les nouveaux modèles de voiture à partir d’octobre 2017 au sein du marché communautaire. Mais ce système repose sur une géolocalisation constante du véhicule et si celui-ci est piraté, on pourrait retrouver une personne et connaitre sa position exacte, ce qui est une atteinte grave aux libertés notamment de circulation.

Pour protéger les données personnelles émises par les véhicules autonomes, il est urgent de mettre en place des mesures qui visent à garantir la non-traçabilité des personnes, qui limitent le temps de conservation des données, en supprimant dans un délai raisonnable les données sauvegardées.

La difficulté vient principalement du nombre d’organisations qui travaillent sur la normalisation de la protection des données à caractère personnel. On peut citer les trois principales :

  • L’ETSI, (European Telecommunications Standards Institute) qui est un groupe de réflexion.

  • L’ENISA, (European union agency for network and information security) qui est l’organe de gestion des systèmes de sécurité européen.

  • L’ANSSI, (l’agence nationale de sécurité des systèmes d’information), qui est l’équivalent français de l’ENISA.

  • La CNIL, (Commission nationale de l’informatique et des libertés) qui est un organe de réflexion et qui propose des solutions au niveau français. Elle a notamment lancé le 23 mars 2016 une réflexion en mettant en œuvre le pack de conformité consacré aux véhicules connectés.

Michèle Guilbot met en avant le manque de concertation entre ces différents organismes qui pourtant cherchent tous à harmoniser les règles de protection qui garantissent les libertés et la protection des données des utilisateurs.

Un autre problème survient en ce moment, c’est le piratage des véhicules. Récemment, la démonstration de la prise de contrôle d’un véhicule Tesla et son pilotage ont ravivé les angoisses sur les cyberattaques de véhicule. A cela s’ajoute un contexte où plusieurs cyberattaques au niveau international ont également affolés une partie de la population. Il est certain que la question de la cybersécurité de ces véhicules doit être résolue pour que l’ensemble de la population soit en mesure de faire confiance à ces voitures.

IV. Observations :

Le procès fictif a permis de démontrer l’intérêt de la justice prédictive notamment quand les contentieux naissent de l’utilisation de nouvelles technologies. Si la justice ne veut pas être dépassée par le progrès, il faut développer de nouvelles méthodes pour anticiper les problèmes rencontrés et offrir des pistes de réponse avant que les juridictions ne soient submergées par les actions en justice.

Néanmoins, ce procès a montré ses limites. En l’espèce, l’accident a été causé par une balise située à l’extérieur du véhicule autonome. Or, les technologies les plus avancées dans ce domaine, notamment le projet Google Car, le projet Nvidia Drive, les véhicules autonomes de Tesla fonctionnent toutes de manières indépendantes, sans avoir besoin de balises extérieures. Il aurait été plus intéressant d’interroger la responsabilité en cas d’accident du véhicule en raison soit d’une défaillance de celui-ci, soit en raison d’une action humaine imprévisible du conducteur ou d’un piéton. Cela aurait interrogé davantage la survie de la loi Badinter dans un monde où les véhicules obéissent à des algorithmes.

On voit avec cette table ronde que de nombreuses questions restent encore sans réponses. Il faudra encore beaucoup de temps avant que la technologie des voitures autonomes ne se démocratise. Mais la science nous a déjà prouvé qu’elle pouvait faire des bonds parfois fulgurants et changer nos modes de vie en une dizaine d’années. Internet est le parfait exemple de la puissance d’une communauté connectée. Mais cette vitesse de développement est un défi à relever pour les juristes qui doivent trouver des solutions pour encadrer rapidement ces nouvelles technologies sans pour autant les brider et empêcher leur expérimentation et leurs développements. Peut-être que la communauté des objets connectés, et notamment des véhicules autonomes, amorcera une nouvelle révolution.

similaire:

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconQuel rôle pour le professeur-documentaliste dans l’Education à l’environnement...
«défi pour la terre», la charte de l’environnement, l’exposition de l’Education Nationale sur «le développement durable, pourquoi...

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconModifiant plusieurs décrets portant statuts particuliers de corps...
«sous l’autorité d’ingénieurs de la météorologie» sont remplacés par les mots : «sous l’autorité d’ingénieurs des ponts, des eaux...

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconModifiant plusieurs décrets portant statuts particuliers de corps...
«sous l’autorité d’ingénieurs de la météorologie» sont remplacés par les mots : «sous l’autorité d’ingénieurs des ponts, des eaux...

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconEducation à l’Environnement et au Développement Durable
«Our Common Future» (Notre avenir à tous) publié en 1987 est l’un des documents fondateurs du développement durable et a servi de...

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconEn circulation extérieure comme intérieure
«-véhicule d'intérêt général prioritaire; véhicules des services de police, de gendarmerie, des douanes, de lutte contre l'incendie...

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconDirecteur général du Programme des Nations unies pour l'environnement
«Ces réseaux criminels, opérant par le biais de chaines sophistiquées, pillent l’héritage et les ressources naturelles des Etats...

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconUn programme pour l’environnement, par le développement de la Filière...
«bois énergie» et le «bois construction». Ce rapport fut suivi par l'annonce en Conseil des ministres, fin 1998, d'un «Plan Bois...

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconRoyaume du Maroc
«L'écosystème cédraie, enjeu stratégique pour le développement régional», par le Haut Commissaire aux Eaux et Forêts et à la Lutte...

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconRapport de stage ingénieur-maître Année 2003 Spécialisation Chimie...
Etude préliminaire de la situation radiologique des anciens sites d’extraction d’uranium du Lodévois

I. Intervention de Frédéric Ricard, Ingénieur en chef des ponts, des eaux et des forêts, co-auteur du rapport intitulé «l’automatisation des véhicules» pour le conseil général de l’environnement et du développement durable (cgedd) iconCentre Européen des Entreprises à Participation Publique et des Entreprises...
«Cadre d’actions pour le développement des compétences et des qualifications tout au long de la vie»








Tous droits réservés. Copyright © 2016
contacts
l.21-bal.com