L’arrivée de Skynet et de son armée de Terminator n’est plus tout à fait de la science-fiction et pourrait à terme signifier la fin de l’humanité. C’est pourquoi Plus de 1.000 experts en robotique et en intelligence artificielle mais aussi des intellectuels et philosophes, ont signé une lettre ouverte qui alerte sur le développement de l’intelligence artificielle militaire et les « armes autonomes » capables d’ôter la vie.
En guerre contre les « robots tueurs »
Ce qui effrayent le physicien Stephen Hawking, l’entrepreneur Elon Musk, le philosophe Noam Chomsky et d’autres grands noms qui ont signé cette lettre ouverte, c’est la « course au développement d’une Intelligence Artificielle Militaire » et la naissance d’ « armes autonomes » comme des drones, des tanks, des avions et des robots humanoïdes décidant de manière de manière autonome de tuer.
La différence avec les drones actuels -pilotés par des hommes, c’est que ce serait plus un humain qui « appuierait sur le bouton » mais un algorithme sophistiqué, « intelligent », capable de déterminer qui doit mourir, ou non.
Cette « menace » bien réelle « compte tenu des progrès technologiques » pourrait se manifester « d’ici quelques années », estiment les chercheurs.
Traités internationaux ?
Si « une puissance militaire majeure commence à se développer sérieusement dans ce domaine, inévitablement, les autres suivront ». Il faut donc, selon les signataires de la lettre ouverte, interdire au plus vite l’utilisation de l’IA dans le domaine militaire, tout comme la course vers « la guerre des étoiles » ou encore l’utilisation d’armes chimiques et biologiques ont été bannis dans différents traités internationaux.
Où en est la recherche militaire et civile ?
Nous sommes encore loin d’un Skynet et de ses Terminators et d’une véritable intelligence artificielle consciente d’elle-même et de ses robots mais les progrès sont bien réels.
L’explosion du « deep learning », utilisé par Google, Facebook, Microsoft, Amazon, Uber etc, technologie basée sur « des réseaux de neurones artificiels » capables d’apprendre à reconnaître une voix, une langue, des visages en est la preuve. D’autre part, les avancées technologiques en matière de mécaniques des robots leur permettent désormais de se déplacer sur terre, mer, air, de plus en plus facilement.
La peur de perdre le contrôle sur la machine
Peu coûteuses et ne nécessitant pas de matériaux rares, contrairement aux bombes nucléaires, ces armes deviendraient rapidement omniprésentes. Il ne faudrait pas attendre longtemps avant de les retrouver sur le marché noir et dans les mains de terroristes, de dictateurs souhaitant contrôler leur population, de chefs de guerre aux tendances génocidaire, etc
Et même si un jour, une machine surpuissante pourrait être dotée de capacité de morale, comment être sûr qu’elle ne décide pas, comme pourrait le faire un dictateur ou terroriste ou à cause d’un programme défectueux, d’éliminer l’humanité comme un logiciel de traitement de mails élimine nos spams?
L’intelligence artificielle a un énorme potentiel pour aider l’humanité », ce qui devrait d’ailleurs « être le but principal de cette technologie ».
[…] De la reconnaissance faciale, au super médecin en passant aux assistants personnels et même aux robots tueurs, voilà de quoi se poser nombres de questions sur le futur même de l’humanité qui selon certain […]