larlet-fr-david/david/stream/2015/02/28/index.md

title: Lois de la robotique

Les 3 lois de la robotique par Asimov :

1. Un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
2. Un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
3. Un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi.

Que se passe-t-il lorsque l’on remplace « Un robot » par « Le code d’un développeur » ?

1. Le code d’un développeur ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger.
2. Le code d’un développeur doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la Première loi.
3. Le code d’un développeur doit protéger son existence tant que cette protection n’entre pas en conflit avec la Première ou la Deuxième loi.

La première loi rend le développement de drones impossible, la deuxième le trading haute fréquence impossible, la troisième la surveillance de masse impossible. Je ne résiste pas à réécrire la loi zéro également :

Le code d’un développeur ne peut pas faire de mal à l’humanité, ni, par son inaction, permettre que l’humanité soit blessée.

Une profession sans éthique (cache) n’est qu’une armée de robots. Sans lois.