Ordinateurs

Est-il temps d’interdire les robots tueurs autonomes avant qu’il ne soit trop tard ? – ExtrêmeTech

Ce site peut gagner des commissions d’affiliation à partir des liens sur cette page. Conditions d’utilisation.

Les robots sont des tropes de science-fiction depuis des décennies et ils jouent souvent le rôle du méchant. Comme les histoires nous le disent, il n’y a pas grand-chose à faire lorsqu’une armée imparable de machines à tuer mortelles autonomes décide de faire la guerre à l’humanité. Maintenant, un nouveau rapport de Human Rights Watch et de l’Université de Harvard suggère qu’il pourrait être judicieux d’éviter le problème avant que la fantaisie ne devienne réalité en interdisant la création de drones de combat semi-autonomes qui pourraient un jour acquérir l’intelligence nécessaire pour devenir totalement autonomes. robots tueurs.

L’idée qu’on devrait interdire les meurtres des robots et l’intelligence artificielle n’est pas nouvelle. En fait, l’idée a été avancée il y a des décennies par le poids lourd de la science-fiction Isaac Asimov avec ses trois lois de la robotique. La première loi est la plus pertinente ici et elle se lit comme suit : « Un robot ne peut pas blesser un être humain ou, par son inaction, permettre à un être humain de se blesser. » Alors que nous marchons vers un avenir de machines plus intelligentes, cette création fictive pourrait devoir devenir réalité.

L’humanité a fait sa juste part de meurtres, mais le souci est que les robots sont déjà bien meilleurs que nous. Les drones pilotés à distance peuvent frapper une voiture en mouvement avec un missile Hellfire à plusieurs kilomètres de distance. Selon le rapportune machine qui pourrait choisir indépendamment des cibles avec ce genre de pouvoir serait un cauchemar pour l’humanité, surtout si elle ne se comporte pas comme ses programmeurs l’ont prévu.

Psssssst :  L'exécutif de TSMC déclare que la pénurie de puces durera encore plusieurs années - High-teK.ca

Des soldats vivants peuvent être amenés à faire des choses terribles, mais ils ont une conscience. Aucun despote sur Terre ne peut être assuré d’une conformité à 100% par sa force de combat. Si les armes autonomes acceptaient simplement n’importe quel ordre et l’exécutaient avec une froide efficacité, les conflits dans le monde pourraient devenir beaucoup plus sanglants. Des vies civiles pourraient être perdues en plus grand nombre au profit de machines qui n’éprouvent ni remords ni compassion.

Missile droneLa responsabilité est peut-être le problème le plus sérieux avec une machine qui peut décider sur qui tirer. Si les humains appuient sur la gâchette, il y a des conséquences. Une arme robotique ne peut pas vraiment être tenue responsable d’avoir commis une atrocité. Essayer de tenir le programmeur ou le commandant responsable des actions d’un robot présente des problèmes à la fois éthiques et juridiques. Tout cela signifie que nous pourrions perdre la capacité de dissuader la commission de crimes de guerre.

Le rapport appelle à un traité international qui interdirait le développement d’armes totalement autonomes. Il pourrait être tentant de juger cela inutile – un problème pour un avenir lointain. Cependant, les armes de guerre deviennent déjà plus informatisé et indépendant. Certains chercheurs en intelligence artificielle pensent que les drones pourront acquérir et détruire des cibles sans intervention humaine d’ici 20 ans. La décision de prendre une vie a toujours reposé sur un être humain, et le rapport indique que changer cette équation rend l’avenir beaucoup trop dangereux.

Dans les histoires d’Asimov, les robots devaient être imprimés avec les Trois Lois pendant le processus de fabrication. Le cerveau positronique du robot était tout simplement incapable de penser à blesser un être humain, même si on l’ordonnait. Nous ne sommes pas encore tout à fait à ce niveau de technologie, mais nous pouvons utiliser notre meilleur jugement en tant qu’espèce pour instituer la première loi en ne construisant pas d’armes entièrement autonomes en premier lieu.

Psssssst :  Intel détaille ses cartes d'IA d'inférence et d'entraînement Nervana

Maintenant lis: Les humains rêvent-ils de prostituées androïdes ?

Bouton retour en haut de la page