La réalisation technique n’est pas le seul obstacle à surmonter avant que les véhicules à conduite autonome puissent être autorisés dans la rue à grande échelle. Les questions éthiques jouent un rôle important dans le développement des algorithmes correspondants : le logiciel doit être capable de gérer des situations imprévisibles et de prendre les décisions nécessaires en cas d’accident imminent. Les chercheurs de TUM ont maintenant développé le premier algorithme éthique pour répartir équitablement les niveaux de risque plutôt que de fonctionner selon le principe de l’un ou l’autre. Environ 2 000 scénarios impliquant des situations critiques ont été testés, répartis sur différents types de rues et de régions telles que l’Europe, les États-Unis et la Chine. Les travaux de recherche publiés dans la revue « L’intelligence des machines naturelles » est le résultat conjoint d’un partenariat entre la Chaire TUM de technologie automobile et la Chaire d’éthique des affaires de l’Institut TUM pour l’éthique en intelligence artificielle (IEAI).

Maximilian Geisslinger, scientifique à la chaire TUM de technologie automobile, explique l’approche : « Jusqu’à présent, les véhicules autonomes étaient toujours confrontés à un choix entre l’un ou l’autre lorsqu’ils rencontraient une décision éthique. Mais le trafic routier ne peut pas nécessairement être divisé en clair- situations coupées, en noir et blanc ; bien plus, les innombrables nuances de gris entre les deux doivent également être prises en compte. Notre algorithme pèse divers risques et fait un choix éthique parmi des milliers de comportements possibles – et le fait en l’espace d’un instant seulement fraction de seconde. »

Plus d’options dans les situations critiques

Les paramètres éthiques de base sur lesquels s’oriente l’évaluation des risques du logiciel ont été définis par un groupe d’experts sous la forme d’une recommandation écrite au nom de la Commission européenne en 2020. La recommandation comprend des principes de base tels que la priorité aux plus démunis et la répartition équitable des risques. entre tous les usagers de la route. Afin de traduire ces règles en calculs mathématiques, l’équipe de recherche a classé les véhicules et les personnes circulant dans la rue en fonction du risque qu’ils présentent pour les autres et de la volonté respective de prendre des risques. Un camion, par exemple, peut causer de graves dommages aux autres participants à la circulation, alors que dans de nombreux scénarios, le camion lui-même ne subira que des dommages mineurs. C’est l’inverse pour un vélo. Dans l’étape suivante, l’algorithme a été informé de ne pas dépasser un risque maximum acceptable dans les différentes situations de rue respectives. De plus, l’équipe de recherche a ajouté des variables au calcul qui tiennent compte de la responsabilité des participants à la circulation, par exemple la responsabilité de respecter les règles de circulation.

Les approches précédentes traitaient les situations critiques dans la rue avec seulement un petit nombre de manœuvres possibles ; dans les cas peu clairs, le véhicule s’est tout simplement arrêté. L’évaluation des risques maintenant intégrée dans le code des chercheurs se traduit par plus de degrés de liberté possibles avec moins de risques pour tous. Un exemple illustrera la démarche : un véhicule autonome veut doubler un vélo, alors qu’un camion s’approche dans la voie inverse. Toutes les données existantes sur l’environnement et les participants individuels sont maintenant utilisées. Le vélo peut-il être dépassé sans rouler dans la voie de circulation venant en sens inverse et en même temps en maintenant une distance de sécurité par rapport au vélo ? Quel est le risque posé à chaque véhicule respectif, et quel risque ces véhicules constituent-ils pour le véhicule autonome lui-même ? Dans les cas peu clairs, le véhicule autonome avec le nouveau logiciel attend toujours que le risque pour tous les participants soit acceptable. Les manœuvres agressives sont évitées, tandis que dans le même temps, le véhicule autonome ne se fige pas et ne bloque pas brusquement les freins. Oui et Non ne sont pas pertinents, remplacés par une évaluation contenant un grand nombre d’options.

« La seule considération des théories éthiques traditionnelles aboutissait à une impasse »

« Jusqu’à présent, les théories éthiques traditionnelles étaient souvent envisagées pour dériver des décisions moralement acceptables prises par des véhicules autonomes. Cela a finalement conduit à une impasse, car dans de nombreuses situations de circulation, il n’y avait pas d’autre alternative que de violer un principe éthique », déclare Franziska Poszler, chercheur à la chaire TUM d’éthique des affaires. « En revanche, notre cadre place l’éthique du risque au centre. Cela nous permet de prendre en compte les probabilités pour faire des évaluations plus différenciées. »

Les chercheurs ont souligné le fait que même les algorithmes basés sur l’éthique du risque – bien qu’ils puissent prendre des décisions basées sur les principes éthiques sous-jacents dans toutes les situations de circulation possibles – ne peuvent toujours pas garantir une circulation routière sans accident. À l’avenir, il sera en outre nécessaire d’envisager d’autres différenciations telles que les différences culturelles dans la prise de décision éthique.

Le logiciel doit maintenant être testé dans la circulation routière

Jusqu’à présent, l’algorithme développé au TUM a été validé dans des simulations. À l’avenir, le logiciel sera testé dans la rue à l’aide du véhicule de recherche EDGAR. Le code incorporant les résultats des activités de recherche est disponible en tant que logiciel Open Source. TUM contribue ainsi au développement de véhicules autonomes viables et sûrs.