Nos robots sont un danger pour nous

L'article Time To Apply The First Law Of Robotics To Our Smartphones (Il est temps d'appliquer les lois de la robotique à nos smartphones) fait résonner quelque chose en moi. Il assimile nos "téléphones intelligents" aux premiers robots grand public. Et nous presse d'appliquer la première loi de la robotique, telle que définie par Asimov dès 1942 :

Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger.

Cela fait quelques temps que la notion de système anthropo-technique est devenu une réalité pour moi. L'idée est simple : nous sommes la somme de nos capacités et de celles de nos outils. Un humain seul est moins apte à survivre qu'un humain avec un silex taillé dont il sait se servir. Il créé l'outil, et l'outil le fait évoluer en demandant l'apprentissage de gestes précis, d'une motricité fine d'une part, et en permettant à l'humain de survivre, voire de mieux vivre, de mieux manger, et donc de se préoccuper d'autres problèmes. Cela est parfait tant que nous contrôlons nos outils, et même quand d'autres les fabriquent pour nous, tant que nous sommes capables de les comprendre et d'en voir les limites.

Or les robots d'aujourd'hui sont bien loin des humanoïdes imaginés par Asimov, et bien plus invisibles. Nos ordinateurs, nos tablettes, nos smartphones, nos GPS, nos voitures pleines d'électroniques, nos gadgets prennent une part croissantes dans nos vies, en deviennent une composante importante, et en savent beaucoup sur nous. Que devenons nous si notre GPS révèle où nous sommes à nos amis, nos proches, nos collègues? Et si la liste de nos appels et messages personnels n'est plus privée? Notre télévision ou notre box vidéo peut elle révéler nos soirées films?

Science-fiction? Non. Aujourd'hui, il est possible de diffuser en temps réel sur Facebook la musique que l'on écoute. Sur Deezer, nos contacts peuvent de même suivre nos goûts. Un policier ou un privé peuvent parfaitement en apprendre beaucoup sur nous en regardant l'historique de nos actions sur nos appareils : qui sont nos contacts, qu'avons nous dit, qu'avons nous fait. Le service Latitude sur Google Maps permet de publier auprès de ses amis sa position en permanence, depuis le GPS de son téléphone. De nombreux moyens d'espionnage sont proposés au mari jaloux ou aux parents inquiets pour localiser leurs proches et écouter leurs conversations. Les DRM limitent les films et livres que vous avez le droit de regarder sur votre ordinateur : en résumé, quelqu'un d'autre décide ce que vous pouvez faire avec votre matériel.

Les œuvres d'Asimov étaient de la science-fiction, mais il avait entrevu l'enjeu de machines agissant par elles-mêmes et dédiées à nous aider. Ses lois sont la base d'une relation saine avec nos "robots", et elles ne sont clairement pas appliquées. Or il est de notre intérêt de maîtriser un minimum les outils dont nous dépendons. Ces lois sont une étape nécessaire.