Des chercheurs ont créé une expérience novatrice visant à mieux appréhender comment les individus perçoivent les choix moraux liés à la conduite automobile. L'objectif est de recueillir des données pour enseigner aux véhicules autonomes à prendre des décisions éthiques.
Cette initiative vise à capturer de manière plus réaliste les défis moraux rencontrés sur la route. C'est-à-dire au-delà du scénario classique de vie ou de mort souvent débattu, également connu sous le nom de « problème du chariot ». Dario Cecchini, chercheur postdoctoral à la North Carolina State University, explique que le problème du tramway met en scène une situation où une personne doit décider délibérément s'il doit causer intentionnellement la mort d'une personne (enfreignant ainsi une norme morale) afin de prévenir le décès de plusieurs autres personnes.
Décisions morales et éthiques au volant : laisser le choix de la vie ou de mort à l'intelligence artificielle
Selon Cecchini, le problème du tramway a servi de modèle d'étude pour analyser le jugement moral lié à la circulation. « La situation courante implique un choix binaire pour un véhicule autonome alimenté par l'IA: dévier à gauche pour éviter un obstacle mortel ou continuer tout droit et entrer en collision avec un piéton traversant la rue », a-t-il ajouté.
Néanmoins, il s'agit de deux scénarios un peu moins réalistes, pourquoi ? Parce que les conducteurs sont confrontés à des choix moraux bien plus concrets. Comme : devrais-je dépasser la limite de vitesse ? Devrais-je ignorer un feu rouge ? Devrais-je céder le passage à une ambulance ?
« Ces décisions ordinaires revêtent une importance cruciale. Elles peuvent ultimement conduire à des situations de vie ou de mort », explique Veljko Dubljević, professeur agrégé au programme Science, Technologie et Société de NC State.
Par exemple, en dépassant la limite de vitesse de 20 miles et en grillant un feu rouge, un conducteur peut se retrouver contraint de choisir entre dévier dans la circulation ou entrer en collision. Or, la littérature actuelle offre peu de données sur la manière dont nous évaluons moralement les décisions des conducteurs dans ces situations quotidiennes.
Des expériences en RV révèlent les décisions éthiques des véhicules autonomes
Afin de combler cette lacune, les chercheurs ont mis au point une série d'expériences. Celles-ci visent d'ailleurs à recueillir des données sur la façon dont les individus portent des jugements moraux dans des situations de circulation présentant des enjeux minimes. Sept scénarios de conduite distincts ont alors été élaborés. Par exemple, celui d'un parent devant décider s'il doit enfreindre un feu de signalisation pour amener son enfant à l'école à temps.
Chaque scénario a été intégré dans un environnement de réalité virtuelle. Ce qui a permis aux acteurs de l'étude d'obtenir des informations audiovisuelles. C'est-à -dire des données sur les actions des conducteurs lorsqu'ils prennent des décisions, plutôt que de simplement lire le scénario.
Pour cette étude, les chercheurs ont utilisé le modèle appelé Agent Deed Consequence (ADC). L'approche propose que les individus considèrent trois éléments lorsqu'ils émettent un jugement moral. Autrement dit l'agent, représentant le caractère ou l'intention de la personne agissant. Mais aussi l'acte, décrivant ce qui est fait ; et la conséquence, faisant référence au résultat découlant de l'acte.
La prochaine frontière pour les véhicules autonomes
Huit versions différentes ont été créées pour chaque scénario de circulation, variant les combinaisons d'agent, d'acte et de conséquence. Par exemple, dans une version où un parent tente d'emmener son enfant à l'école, le parent est attentionné, respecte un feu jaune et conduit l'enfant à l'école à l'heure.
Dans une autre version, le parent est agressif, brûle un feu rouge et provoque un accident. Les six autres versions altèrent la nature du parent (l'agent). Mais aussi sa décision au feu de signalisation (l'acte), et/ou le résultat de cette décision (la conséquence).
« Le but est ici de permettre aux participants de visualiser différentes versions de chaque scénario. Et donc d'évaluer le degré de moralité du comportement du conducteur sur une échelle de 1 à 10 », explique Cecchini.
La prochaine phase impliquerait, selon Dubljević, une collecte de données à grande échelle. La participation de milliers de personnes est donc nécessaire. « Ces données serviront à développer des expériences plus interactives. Autrement dit, des flux visant à affiner encore notre compréhension de la prise de décision morale. Cette information sera ensuite utilisée pour la création d'algorithmes destinés à être intégrés dans les véhicules autonomes. Il y aura également des tests supplémentaires qui consisteront à évaluer le fonctionnement de ces algorithmes » ajoute-t-il.
- Partager l'article :
