La technologie effraie les scientifiques: ils demandent l’interdiction des «robots tueurs» maintenant que le «progrès» nous a donné des mini-drones capables de transporter des explosifs sans être détectés

Une conférence internationale à Genève, en Suisse, se penchera cette semaine sur l’interdiction des robots soi-disant tueur basés sur l’intelligence artificielle.

Des représentants d’un groupe de plaidoyer connu sous le nom de Campagne pour arrêter les robots tueurs seront présents à la Convention des Nations Unies sur les armes classiques, le forum qui discutera des dangers posés par les armes autonomes mortelles et miniaturisées.

Lors de la conférence, le groupe constitué d’une coalition d’organisations non gouvernementales présente un court métrage intitulé «Slaughterbots» qui dramatise les risques pour les citoyens que posent les mini-drones fonctionnant avec un minimum de supervision humaine. La campagne vise à interdire le développement, la production et l’utilisation d’armes autonomes.

The Guardian résume ce que la vidéo fascinante et futuriste dépeint. Cela commence par une présentation de produit lors d’une conférence sur la technologie, mais la scène change pour devenir une scène de terreur. Un essaim de drones de la taille d’une paume, équipé d’explosifs et de capacités de reconnaissance faciale, pourchasse et tue les étudiants avec des coups à la tête alors qu’ils tentent de fuir une salle de classe.

Le film court et dérangeant est la dernière tentative des militants et des scientifiques concernés pour mettre en évidence les dangers du développement d’armes autonomes capables de trouver, suivre et tirer sur des cibles sans surveillance humaine. Ils préviennent qu’une interdiction préventive de la technologie est nécessaire de toute urgence pour prévenir de terribles nouvelles armes de destruction massive.

Bien que la technologie AI ait gagné en popularité dans les applications militaires, le scénario pourrait être encore plus dramatique si des drones autonomes (c’est-à-dire indépendants du contrôle humain) tombaient entre de mauvaises mains et étaient déployés dans des attaques terroristes ou agressives par des régimes voyous.

Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley, suggère que la technologie est plus proche du fait scientifique que de la science-fiction. «Ce n’est pas le Terminator que les experts de l’IA et de la robotique comme moi-même s’inquiètent, mais des technologies beaucoup plus simples actuellement en cours de développement», prévient Russell. Le Guardian poursuit en expliquant que «la fabrication et l’utilisation d’armes autonomes, telles que les drones, les chars et les mitrailleuses automatiques, seraient dévastatrices pour la sécurité humaine et la liberté, et la fenêtre pour arrêter leur développement se ferme rapidement.

Le Daily Mail a fait écho à cette évaluation en disant que « la technologie permettant à un robot préprogrammé de tirer pour tuer, ou un char pour tirer sur une cible sans implication humaine, ne sont que des années à dire des experts. »

Le PDG de Tesla et de SpaceX, Elon Musk, a averti à plusieurs reprises que l’avancement rapide de l’intelligence artificielle pourrait donner naissance à des machines auto-réplicantes qui pourraient menacer l’humanité. Mike Adams, l’éditeur fondateur de Natural News, a également mis en garde qu’une fois que la technologie de l’IA évoluera vers des systèmes hautement évolués et conscients de soi, la race humaine aura un gros problème avec Terminator transmission. (Connexes: En savoir plus sur l’intelligence artificielle à Robotics.news.)

Musk était l’un des quelque 100 experts en robotique qui ont signé une lettre ouverte en août recommandant que les États-Unis interdisent l’utilisation d’armes d’IA.

La conférence de cette semaine n’est qu’une première étape dans des négociations complexes qui pourraient conduire à l’interdiction des armes autonomes par un traité international. Ainsi, il reste à voir ce que l’avenir pourrait contenir pour les mini-drones ou autres armes similaires qui peuvent ou non correspondre à la définition de conventionnel. Une deuxième conférence des États-Unis est prévue pour la fin du mois alors que les diplomates et les bureaucrates abordent ce problème. Dix-neuf pays soutiennent actuellement l’appel à l’interdiction des armes AI.

Séparément, un scientifique australien s’est joint à ses collègues du Canada pour exhorter leurs gouvernements respectifs à réglementer les dispositifs d’IA au même titre que les armes chimiques, biologiques et nucléaires, a rapporté l’Independent.

Sans interdiction, il y aura une course aux armements pour développer des armes autonomes de plus en plus performantes. Ce seront des armes de destruction massive. Un programmeur sera capable de contrôler toute une armée.

Regardez la vidéo « Slaughterbots », qui a été visionnée environ 90 000 fois sur YouTube à ce jour, et faites vos propres conclusions.