Les bases culturelle des choix éthiques
Un quiz en ligne a popularisé le “Dilemme du Tramway” en se focalisant sur la thématique des voitures autonomes et en proposant de multiples scénarios nuancés. Les résultats sont impressionnants par leur différence, selon les pays et l’héritage culturel des répondants.
Focus sur la “Moral Machine”, une “plateforme en ligne qui collectionne des perspectives humaines sur les décisions morales faites par l’intelligence des machines” (définition originale www.moralmachine.net).
Un bref rappel du " Dilemme du Tramway" - le "Trolley Problem"
Le “Dilemme du Tramway” est une série de dilemmes éthiques, présentés comme des expériences de pensée, concernant les actions à entreprendre lorsque des vies humaines sont en jeu.
Dans sa formulation originale, un trolley ou un tramway en roue libre est voué à s’écraser sur un groupe de personnes enchaînées aux rails.
Un passant/observateur peut déclencher un aiguillage et dérouter le tramway sur un autre rail où se trouve un deuxième groupe de personnes (moins d’individus, une personne chère au passant ou autre).
Que choisirait le spectateur?
Bien que semblant farfelu, ce problème est désormais un grand classique pour les voitures autonomes. Si une voiture rencontre un événement inattendu – un enfant qui traverse soudainement la route, par exemple – quelle décision doit-elle prendre ?
Sauver l’enfant tout en s’écrasant contre une voiture qui arrive ? Protéger le “public” et écraser un seul enfant ? Que se passe-t-il si d’autres options sont incluses dans les scénarii, comme le comportement légal des personnes à risque, l’âge, le nombre de personnes impliquées, les animaux, etc.
Étant donné que les réponses plausibles ont un impact sur les réglementations relatives aux voitures autonomes, y compris sur la responsabilité civile et pénale des propriétaires et des fabricants, la résolution de cette question est une question d’éthique applicable.
L'expérience sociale
Lancé en 2016 et toujours en activité, le quiz et l’expérience sociale Moral Machine souhaitent capter les tendances des opinions à travers le monde.
Moral Machine a été développé et géré par un consortium d’universités (MIT, Université d’Exeter, Université de Colombie britannique, École d’Économie de Toulouse et l’Institut Max Planck pour le développement humain), en tandem avec des éthiciens et des experts de l’intelligence artificielle.
Son but n’est pas de dériver des modèles de règles éthiques, mais plutôt de jauger le spectre des choix qui sont populaires dans chaque pays.
Bien que le débat soit laissé aux experts et aux décideurs, une telle étude peut fournir un “thermomètre” de ce qui pourrait être plus ou moins accepté par les sociétés locales.
Ou potentiellement observer s’il existe des tendances régionales, continentales ou mondiales.
L’article qui en résultait, publié en 2018, décrit bien la variété des réponses et les clusters culturels qui ont émergé de l’étude.
Au niveau macro, les auteurs ont identifié trois macro-clusters : occidental, oriental et méridional, segmentés par les scores de similarité associés aux réponses.
Les étiquettes des clusters découlent du fait que, à quelques exceptions près (par exemple, Andorre appartient au groupe “occidental”), la plupart des pays d’un cluster peut également être regroupée géographiquement, ce qui indique une proximité culturelle globale.
3 blocs culturels pour des choix éthiques
Les résultats agrégés montrent que le bloc “occidental” préférerait l’inaction ou épargner le plus de personnes ou les plus jeunes.
Le bloc “oriental” a une préférence marquée pour sauver des piétons ou des citoyens en règle tandis que le groupe “méridional” aurait tendance à épargner les femmes, les jeunes ou les personnes ayant un statut social plus élevé.
Les deux premiers blocs préféreraient également sauver des humains, tandis que les “méridionaux” ne considèrent cela pas prioritaire.
La ventilation par pays révèle également des différences frappantes au sein des blocs et entre eux. Par exemple, les données des États-Unis révèlent une plus grande tendance à sauver les jeunes et les personnes en bonne santé; la Chine donnerait la priorité aux femmes et aux personnes âgées; les données russes, au contraire, montrent une plus grande préférence pour épargner les hommes, tandis que les Italiens préfèrent épargner les plus jeunes.
En utilisant les scores de similarité, il est également possible de déterminer quels pays sont “éthiquement” plus similaires. Certains résultats peuvent être attendus (par exemple, l’Italie et l’Espagne, l’Argentine et l’Uruguay, ou le Royaume-Uni et l’Australie).
D’autres résultats peuvent être plus surprenants, comme Malte et la Mongolie montrant une “proximité éthique”, ou la Lituanie et le Nicaragua.
En raison de ces résultats peu intuitifs, du nombre important mais potentiellement biaisé de répondants et du nombre limité de scénarios étudiés, l’étude ne peut être considérée comme concluante. Toutefois, la quantité impressionnante de données recueillies dans ce qui est la première expérience socio-éthique mondiale fondée sur des données constitue une base de discussion non négligeable.
Quelques Messages à retenir et ce qui Reste à Faire
Indépendamment des résultats individuels, deux considérations principales peuvent être tirées de l’expérience Moral Machine.
Première Considération
Premièrement, les traits culturels ont la capacité d’influer fortement sur les choix éthiques, dans différents pays. Les réponses au dilemme montrent des variations claires, qui doivent être prises en compte lorsque l’on discute des questions éthiques, à la fois en tant qu’expériences de pensée et en tant que décisions réalisables pour mettre en œuvre des choix algorithmiques.
Selon les interprétations des nuances, ces résultats peuvent même être utilisés en faveur ou en défaveur de la proposition d’équiper les voitures autonomes de commutateurs de “tolérance” (c’est-à-dire de permettre à l’utilisateur de décider du niveau de “combien une voiture doit privilégier telle ou telle décision”).
Comme les scénarios sont multiples et en constante évolution, il peut être extrêmement compliqué de prendre des décisions a priori et transmettre la responsabilité aux conducteurs – surtout si l’on tient compte des valeurs culturelles, géographiques et morales.
Deuxième Considération
Néanmoins, une deuxième considération montre que la recherche d’une base commune n’est pas condamnée dès le départ.
L’identification de clusters, présentant des similitudes au niveau macro, peut stimuler les efforts de recherche de consensus dans de nombreux pays. Or qu’est-ce qui se passerait-il pour les touristes ? Une question à laquelle il faut réfléchir davantage.
Globalement, l’expérience montre que les choix éthiques sont loin d’être partagés et monolithiques, mais qu’ils dépendent largement de la culture, des normes sociales et de l’origine ethnique.
L’établissement de directives éthiques acceptées et, par la suite, de lois civiles est une question de débats continus au sein des cultures et entre elles – pointant sur des efforts ardus et continus plutôt que des principes absolus.
La question suivante serait donc de savoir si les questions d’éthique doivent rester l’affaire des groupes d’experts ou si le public aurait directement son mot à dire, par le biais de sondages ou d’autres moyens.
Il est certain que, même si les normes éthiques sont probablement conventionnelles et consensuelles, la règle de la majorité est souvent trop simpliste pour fournir des procurations et des orientations adéquates.
Alors à l’avenir, une “éthique guidée par les données” pourrait-elle jouer un rôle significatif dans l’élaboration des conventions et du consensus ?
Daniele Proverbio holds a PhD in computational sciences for systems biomedicine and complex systems as well as a MBA from Collège des Ingénieurs. He is currently affiliated with the University of Trento and follows scientific and applied mutidisciplinary projects focused on complex systems and AI. Daniele is the co-author of Swarm Ethics™ with Katja Rausch. He is a science divulger and a life enthusiast.
-
In our first article of two, we have challenged traditional normativity and the linear perspective of classical Western ethics. In particular, we have concluded that the traditional bipolar category of descriptive and prescriptive norms needs to be augmented by a third category, syngnostic norms.
