La valeur éthique du hasard pour les systèmes autonomes
Des robots domestiques se font délateurs, des agents conversationnels injurient leurs interlocuteurs. Pire encore : des systèmes informatiques participent aux conflits humains et parfois même les provoquent. Le 18 mars 2018, un véhicule autonome de la société Uber a tué une femme qui traversait la rue dans une ville de l’Arizona. Ce fut la première mort d’un piéton provoquée par un algorithme.
Qui est responsable ? La réponse à cette question compte parmi les défis les plus urgents à relever dans notre rapport aux technologies numériques. Mais il ne s’agit pas de savoir comment rendre l’intelligence artificielle bienveillante. Il s’agit de faire en sorte qu’elle ne se substitue pas à l’homme en tant qu’agent moral. Seul le recours au hasard, et ceci dès sa conception, peut libérer la machine de la responsabilité qu’on veut lui faire porter.
Ce séminaire s'inscrit dans le cadre du projet LUE Open Language and Knowledge for Citizens et vous est proposé par Maël Pégny, Anna Zielinska et Cyrille Imbert, des Archives Henri-Poincaré.
Chance as a value for artificial intelligence
Deep learning techniques lead to fundamentally non-interpretable decisions made by the machine. Although such choices do not have an explanation, they impact the users in significant ways. If the ultimate innovator is a machine, what is the meaning of responsible conduct? I argue in a recent book that the capacity to extract an AI system from human judgment, by reducing transparency in favor of opacity, is an essential value in machine ethics. This can be achieved through the use of randomness, as illustrated with the example of the trolley dilemma. Methodologically, a comparison of common motives between technological setups and mythological narratives is used to achieve ethical insights.
This seminar is part of the LUE project Open Language and Knowledge for Citizens and is initiated by Maël Pégny, Anna Zielinska et Cyrille Imbert, from the Archives Henri-Poincaré Lab.
Infos
- Claire Fugain
-
- Aurore Coince
- Anna Zielinska
- Feb. 7, 2020, midnight
- Colloques et Conférences
- French