5 machines qui se sont soulevées contre les humains

Si vous étiez en ligne au mauvais moment la semaine dernière, vous avez entendu une histoire sur une simulation de l'Air Force qui a terriblement mal tourné. Un drone a été programmé pour accomplir une mission, et lorsque son opérateur a tenté de l'arrêter, le drone l'a ciblé. Puis, il s'est avéré que cette histoire n'était pas vraie. Personne n'avait jamais programmé une telle simulation - quelqu'un venait de spéculer sur la façon dont l'IA peut devenir voyou, comme les gens l'ont fait pendant des décennies, et les médias ont incorrectement signalé la situation imaginaire comme un fait.

De nombreuses personnes se sont éloignées de ce cycle d'informations en concluant que les robots tueurs ne représentaient après tout qu'une faible menace. Pas nous. Nous, nous continuons à nous méfier de chaque machine. Nous avons un pistolet pointé sur notre grille-pain à tout moment (notant avec inquiétude que le pistolet est également une machine). Nous savons que les machines ont une longue histoire de mal, basée sur des incidents tels que la fois où...

Un robot d'échecs est généralement un simple logiciel. Il propose des mouvements d'échecs, et le concurrent humain les voit en utilisant un appareil similaire à celui que vous utilisez pour lire cet article. Un robot d'échecs peut également être une machine physique, qui déplace des pièces réelles sur un échiquier réel. Nous avons une longue histoire de tels robots, remontant à avant qu'ils ne soient possibles et n'étaient qu'un type dans une boîte prétendant être un robot.

Un de ces robots d'échecs est apparu à l'Open de Moscou en juillet dernier. Vous trouverez ci-dessous des images de celui-ci en compétition avec plusieurs enfants simultanément – ​​ce qui n'est pas un véritable accomplissement. Un joueur d'échecs humain pourrait faire la même chose, et il n'y a aucune raison pour qu'un robot trouve plus difficile d'alterner entre trois joueurs que d'en jouer un seul. Non, le véritable accomplissement est ce qu'il fait d'autre à l'un des enfants :

par CNN

Oui, il tend la main et fracture le doigt de l'enfant après qu'il soit parti pour un morceau hors tour. Certains récits disent que le robot a réagi avec colère en punissant l'enfant. En réalité, il visait un morceau et appuyait accidentellement sur le doigt errant, mais cette distinction n'apportait que peu de réconfort au garçon. Dans les écrans suivants, on voit des fonctionnaires l'emmener pour être euthanasie, car il n'est plus utile à la nation en tant que concurrent.

par CNN

Sérieusement, cependant : Le gamin est revenu le lendemain dans un plâtre et a terminé le tournoi, car un doigt cassé n'est pas un gros handicap. Vous n'avez pas besoin de tous vos doigts. Les robots le savent bien. En fait, ils comptent dessus.

La première fois qu'un robot a tué quelqu'un remonte à 1979. Comme pour l'incident de Moscou, le problème était que nous avons donné des bras aux robots. Pas des armes à feu - des bras, des membres métalliques qu'ils peuvent utiliser pour manipuler des objets. Un robot a enfoncé son bras dans la tête d'un homme, le tuant.

Siaopan/Wiki Commons

Comme pour toutes les bonnes histoires de robots, celle-ci s'est produite dans le Michigan. Robert Williams, 25 ans, travaillait dans une usine Ford qui fabriquait des pièces automobiles. C'était le travail d'un robot de récupérer des pièces sur une étagère, mais pour une raison quelconque, Williams a été chargé de grimper et de faire le travail lui-même. C'était parce que le robot était trop lent, sa famille le réclamera plus tard devant le tribunal. Même avec Williams maintenant perché sur cette étagère, le robot a continué à fonctionner, sans qu'il s'en aperçoive. Il a déplacé son bras dans un espace maintenant occupé par la tête de Williams. Il est mort immédiatement. Puis le robot a continué à travailler, et personne ne s'est rendu compte de ce qui s'était passé jusqu'à une demi-heure plus tard, quand ils ont regardé l'étagère et ont vu le cadavre.

Cette affaire impliquait une certaine quantité d'erreurs humaines, et un jury en a tenu compte lorsque la famille a intenté une action en justice par la suite. Pourtant, le fabricant du robot aurait sûrement pu inclure une sorte de signal auditif pour signaler quand le robot se déplace, un peu comme la plupart des véhicules dans un entrepôt émettent des bips d'avertissement. Pour cette raison, le jury a jugé le fabricant de robots (et non Ford) responsable de 10 millions de dollars, plus tard portés à 15 millions de dollars. Et nous avons tous appris une leçon importante sur la sécurité des robots. Cette leçon a duré deux ans, jusqu'à ce que nous laissions le robot suivant tuer un autre ouvrier d'usine, en le poussant dans une rectifieuse.

Étant donné que ces robots n'ont pas l'intention de tuer, ces histoires pourraient ne pas sembler si différentes d'un accident industriel conventionnel impliquant une machine. À quoi nous disons: Bien. Les machines à l'origine de tels accidents méritent tout autant d'être couvertes de honte, que quelqu'un les qualifie de robot ou non. Par exemple, considérons l'histoire de Therac-25.

Therac-25, qui portait le nom parfait pour un robot, était une machine de radiothérapie. La radiothérapie traite le cancer à la bonne dose et lorsqu'elle est ciblée correctement, mais un excès de rayonnement vous fait évidemment du mal. Vous pourriez alors imaginer qu'un dispositif médical devrait avoir des protections en place pour l'empêcher de délivrer une dose trop élevée. Si, par exemple, une dose de 200 rads est élevée et qu'une dose de 1 000 rads est mortelle lorsqu'elle est appliquée sur tout le corps, peut-être qu'une machine ne devrait jamais être autorisée à donner 15 000 ou 25 000 en une seule seconde. Et pourtant, c'est ce que Therac-25 a fait une demi-douzaine de fois dans des cas distincts des années 1980 dans plusieurs hôpitaux.

Stefan Koegl

Le premier cas, l'un des plus mineurs, a laissé le patient prétendre immédiatement avoir été brûlé et peu après avoir eu besoin d'une mastectomie. Un autre patient a ressenti le surdosage comme un choc électrique. Il a été paralysé de la taille aux pieds et est mort en six mois. Un troisième patient, atteint d'un cancer de la peau mineur, est décédé des suites d'une exposition aux radiations, tout comme un quatrième patient qui devait recevoir seulement 4 rads.

Bien sûr, nous craignons tous de donner des missiles aux robots, mais gardons à l'esprit le danger particulier posé par les armes à rayonnement. Les robots adorent les armes à rayonnement. Les machines sont insensibles aux radiations.

En plus de toutes ces discussions sur les machines défectueuses, nous devrions dire quelque chose sur les véritables robots tueurs. Nous parlons d'armes létales autonomes (LAW), des machines conçues pour tuer et qui le font en utilisant uniquement leur propre programmation.

Jollyroger/Wiki Commons

Le M247 Sergeant York à la fin des années 1970 a été un cas marquant où l'armée a essayé un véhicule doté de son propre système de ciblage. « York » était le nom du copain cool-robot ; son système de ciblage portait le nom plus sinistre de "DIVAD". Ce char antiaérien n'était pas tout à fait qualifié de LOI car un opérateur humain devait encore choisir de tirer sur la cible choisie par York. C'était une chance. Lors d'une exposition, York était censé cibler une série de drones. Au lieu de cela, il a tourné son dévolu vers les généraux rassemblés dans les gradins.

Lorsque l'opérateur a choisi plus tard de tirer, York n'avait toujours pas choisi la bonne cible. Il s'était concentré sur le ventilateur d'extraction d'une latrine - et bien que les hélices soient des cibles intelligentes pendant le combat, cela n'a pas servi de démonstration très rassurante de ses pouvoirs. L'armée a finalement tué le programme DIVAD, pour des raisons trop compliquées pour être pleinement exposées ici, mais comme l'a dit le Pentagone, "le sergent York n'a pas été efficace sur le plan opérationnel pour protéger adéquatement les forces amies".

La protection est importante, tout comme la ventilation.

Les appareils de cuisine tuent plus de personnes que n'importe quelle arme militaire, même lorsqu'ils ne fonctionnent pas mal. Les friteuses tuent à elles seules des centaines de milliers d'Américains chaque année, non pas en les brûlant avec de l'huile bouillante, mais en obstruant leurs artères. Mais ce sont des morts lentes. Si nous parlons d'éliminer les gens d'un seul coup, peu d'appareils de préparation des aliments ont un nombre de corps plus élevé qu'une machine à pop-corn lors d'une foire de l'Indiana en 1963.

C'était la nuit d'Halloween. Des milliers de personnes se sont présentées au parc des expositions de l'État, regardant les patineurs sur glace mettre un medley appelé "Mardi Gras". Une sorte de thème inapproprié pour une célébration d'octobre, mais les choses vraiment effrayantes se préparaient dans la zone des concessions, dans une zone fermée que personne ne surveillait, où un réservoir de propane a fait une fuite.

Puis, alors qu'il ne restait que trois minutes au spectacle, l'élément chauffant d'une machine à pop-corn électrique a allumé ce gaz. Une boule de feu a explosé à travers les gradins, envoyant des flammes de 40 pieds de haut. Des morceaux de corps ont plu. Certains ont été immédiatement recouverts par des morceaux de béton qui tombaient.

William H. Bass Photo Company

L'explosion a tué 74 personnes (certains récits en disent plus) et en a blessé des centaines. Savez-vous pourquoi, même si votre micro-ondes a un bouton étiqueté "popcorn", chaque sac de popcorn dit de ne pas l'utiliser ? C'est parce que ce bouton cède le contrôle aux machines à pop-corn. Et les machines à pop-corn cherchent à tuer tous les humains.

Suivez Ryan Menezes sur Twitter pour plus de choses que personne ne devrait voir.