Fabrice Delaye

JOURNALISTE

Fabrice Delaye a découvert Internet le 18 juillet 1994 sur les écrans des inventeurs du Web au CERN. La NASA diffusait ce jour-là les images prises quasi en direct par Hubble de la collision de la comète Shoemaker-Levy sur la planète Jupiter…Fasciné, il suit depuis ses intuitions sur les autoroutes de l’information, les sentiers de traverse de la biologie et étend ses explorations de la microélectronique aux infrastructures géantes de l’énergie.

L’idée ? Montrer aux lecteurs de Bilan les labos qui fabriquent notre futur immédiat; éclairer les bases créatives de notre économie. Responsable de la rubrique techno de Bilan depuis 2006 après avoir été correspondant de L’Agefi aux Etats-Unis en association avec la Technology Review du MIT, Fabrice Delaye est diplômé de l’Institut d’Etudes Politiques de Paris et de l’EPFL.

Membre du jury des SwissICT Awards, du comité éditorial de la conférence Lift et expert auprès de TA-Swiss à l’Académie Suisse des Arts et des Sciences, Fabrice Delaye est l’auteur de la première biographie du président de l’EPFL, Patrick Aebischer.

Les robots ont besoin d’un nouvel Asimov

A la demande d’une cinquantaine d’ONG, les Nations Unies viennent de débattre à Genève «des systèmes d’armes létaux autonomes». Comprenez des «robots tueurs». Le monde a-t-il besoin des trois lois de la robotique qu’exposait l’écrivain Isaac Asimov dans sa nouvelle «Cercle vicieux» en 1942 ? Pour mémoire: «Un robot ne peut porter atteinte à un être humain, ni, restant passif, permettre qu'un être humain soit exposé au danger. Un robot doit obéir aux ordres que lui donne un être humain, sauf si de tels ordres entrent en conflit avec la Première loi. Un robot doit protéger son existence tant que cette protection n'entre pas en conflit avec la Première ou la Deuxième loi.»

Pour les militaires, c’est superflu. Eux affirment que les scénarios à la Terminator appartiennent au domaine de la science-fiction. Leurs drones restent télé-opérés à distance par des humains. Et le droit international considère comme légal, sinon moral, l’emploi de drones tueurs dans le cadre de conflits armés. Le problème est que le progrès technologique d’un côté et la compétition entre puissances de l’autre rendent obsolète cette frontière entre télé-opération et décision autonome d’un robot. Comme l’indique Human Right Watch: «Les armes complètement autonomes sont l'étape d'après les drones armés contrôlés à distance.» Quinze ans de suivi de cette évolution le confirment.

Reprenons. En 2001, le Congrès des Etats-Unis fixe pour objectif qu’un tiers des véhicules aériens militaires du pays n’ait plus de pilote («unmanned») à l’horizon 2010. Pour les véhicules terrestres, un objectif identique est pris pour 2015. Dans le brouhaha de la désinformation qui entoure la «war on terror», personne ne prête attention à ces ambitions un brin hollywoodiennes. L’objectif pour les drones est pourtant atteint en 2012. Le nombre de véhicules terrestres automatisés de l’US Army est estimé à 12 000.  Les assassinats effectués par des drones se comptent en milliers. Certes, les militaires ont raison: la décision de tirer est encore prise par un opérateur. Combien de temps se passera-t-il avant que le permis de tuer ne devienne automatique?

C’est déjà le cas pour certains systèmes de défense. Les dispositifs anti-missiles de certains navires ou chars répliquent à une menace de manière autonome afin de ne pas être pris de vitesse. On ne voit pas très bien ce qui empêchera cette logique de vitesse de réaction de s’étendre à des armes  capables de mener des missions aussi complexes que de se poser sur un porte-avion

D’autant moins que si les Etats-Unis ont pris une longueur d’avance dans la guerre robotisée, nous sommes en pleine course aux armements. Selon Peter Singer de la Brookings Institution, 87 pays  sont équipés de drones militaires. Il faut s’appeler Ueli Maurer pour croire à l’utilité du Gripen. Plus un seul constructeur de jets militaires dans le monde n’envisage de nouvel avion. Après la Chine, les Européens entrent dans la bataille industrielle pour les drones. On ne sait pas très bien où elle finira. Il est évident qu’elle se fera à coup d’avancées dans l’automatisation.

L’évolution de l’agence de la recherche militaire américaine DARPA l’illustre. Après le véhicule autonome, elle a lancé le Robotics Challenge, des olympiades destinées à la mise au point d’un robot «pompier». Qu’est-ce qui empêchera ce soldat du feu de devenir soldat tout court? Si elle reste taboue en Europe, l’idée de systèmes autonomes menant la guerre ne l’est plus aux Etats-Unis. Dans son rapport Technologies Horizons 2010-2030, l’US Airforce envisage une augmentation radicale des systèmes autonomes. Les roboticiens qui travaillent sur ces programmes n’excluent pas la possibilité que des robots s’affrontent dans le futur. Ils admettent ne pas savoir ce que l’interaction de programmes d’origines différentes produira en définitive.

Contrairement à la technologie nucléaire qui a gelé la guerre, celle des robots a le potentiel de la réchauffer. De nouvelles lois d’Asimov sont urgentes.

Du même auteur

Les newsletters de Bilan

Le cercle des lecteurs

Le Cercle des Lecteurs est une plate-forme d'échanger sur tout ce qui touche votre magazine. C'est le reflet de vos opinions, et votre porte-parole le plus fidèle. Plus d'info

Image Footer

"Tout ce qui compte.
Pour vous."