Les systèmes autonomes sont de plus en plus présents dans le quotidien des humains : les aspirateurs fonctionnent tous seuls, tout comme les robots de cuisine et nous n'avons plus besoin de régler les thermostats. Comprendre en détail les choix opérés par une intelligence artificielle (IA) qui contrôle un véhicule autonome peut être difficile, voire impossible, pour un être humain.