A lire ailleurs

Pourrons-nous concevoir des machines capables d'automatiser l’éthique ? – Aeon.com

Tom Chatfield pour Aeon rappelle que pour le philosophe français Paul Virilio, le développement technique est indissociable de l'accident. Quand vous inventez le navire, vous inventez le naufrage, que vous inventez l'électricité, vous inventez aussi l'électrocution… Or, les préoccupations éthiques de l'innovation ont tendance à se concentrer sur la réduction et l'atténuation des dommages. La gestion du risque à l'heure des technologies semble ne reposer plus que sur un seul argument éthique : le conséquentialisme qui signifie que la conduite éthique des technologies ne peut être jugée que sur leurs conséquences. Si votre voiture autonome doit avoir un accident vaut-il mieux qu'elle renverse le bus scolaire qui arrive en face ou la voiture de la vieille dame qui est à côté ?

Mais notre propre sens moral est loin d'être parfait, rappelle Tom Chatfield en évoquant les recherches du psychologue Joshua Greene, directeur du Moral Cognition Lab de Harvard : nous privilégions l'immédiat sur le lointain, les actions plus que les omissions. C'est pour cela que nous trouvons la fable du bus inquiétante : la possibilité qu'une action éthiquement supérieure puisse être calculable par un algorithme (pour autant que ce supposé puisse être démontré) induit que la machine puisse avoir une éthique qui nous est supérieure.

Pour l'instant, ces conjonctures sont encore de la science-fiction… Mais pas tant que cela… Sur quels règles les médecins urgentistes font-ils le tri entre des patients leur arrivant en masse ? Pour Tom Chatfield, si notre voiture autonome est prête à sacrifier notre vie pour en sauver plusieurs, ce principe et ses paramètres doivent nous être connus. Pour Nick Bostrom et Eliezer Yudkowsky dans leur article “L'éthique de l'intelligence artificielle” (.pdf), le fait que le algorithmes de prise de décision deviennent de plus en plus complexes est à la fois inévitable et souhaitable, mais tant qu'ils restent transparents à l'inspection et résistants aux manipulations.

[MAJ] Matthieu Cherubini (@___________8532) du Royal College of Art de Londres a justement imaginé des algorithmes pour traiter le fameux problème éthique du bus scolaire… en créant trois algorithmes adhérants à des principes éthiques pour observer leurs réactions confrontés à ce type de dilemmes. Vidéo.

Ethical Autonomous Vehicles from mchrbn on Vimeo.