Comment les États-Unis ont tenté de créer Skynet dans les années 1980

2024 Auteur: Seth Attwood | [email protected]. Dernière modifié: 2023-12-16 16:04

Il y a trente ans, les États-Unis tentaient de repousser les limites de l'informatique, de l'intelligence artificielle et de la robotique. Ils voulaient créer quelque chose de nouveau, qui rappelle beaucoup le futur dystopique des films Terminator ou Skynet.

De 1983 à 1993, la Defense Advanced Research Projects Agency (DARPA) a dépensé plus d'un milliard de dollars dans un programme appelé Strategic Computing Initiative. L'objectif de la DARPA était de repousser les limites de l'informatique, de l'intelligence artificielle et de la robotique, créant quelque chose qui ressemble beaucoup à l'avenir dystopique des films Terminator. Il voulait créer Skynet.

Comme le programme Star Wars de Ronald Reagan, l'idée SKI s'est avérée trop futuriste pour l'époque. Mais aujourd'hui, alors que l'on voit des progrès étonnants dans la création d'intelligence artificielle et de robots indépendants par les militaires, il est logique de revenir sur ce programme à moitié oublié et de se poser la question: sommes-nous prêts à vivre dans un monde de machines tueuses interconnectées ? par des cerveaux électroniques ? Et encore une question, peut-être inutile. Si nous voulons arrêter cela, sommes-nous trop en retard avec notre désir ?

"Les possibilités sont vraiment étonnantes…"

Il s'agit d'un extrait d'un document peu connu présenté au Congrès en octobre 1983. Il définit les objectifs de la nouvelle initiative informatique stratégique. Et comme tout ce que la DARPA a fait avant et depuis, ce programme s'est avéré extrêmement ambitieux.

Le concept de l'Initiative informatique stratégique a été incarné dans un système complètement nouveau, dont le développement a été dirigé par Robert Kahn, qui était alors responsable des techniques de traitement de l'information à la DARPA. Comme indiqué dans son livre de 2002 sur l'informatique stratégique, Kahn n'a pas été le premier à se faire une idée du système, mais il a été le premier à décrire le concept et la structure de la future initiative informatique stratégique. Il a commencé ce projet et a défini très tôt son contenu. SKI a pris une vie propre, dirigée par d'autres personnes, mais a conservé l'influence de Kahn. »

Ce système était censé créer un monde où des véhicules indépendants non seulement collectent des données de reconnaissance sur l'ennemi dans le monde, mais ont également la capacité de frapper avec une précision mortelle depuis la terre, la mer et les airs. SKI allait devenir un réseau mondial reliant tous les aspects du potentiel militaire et technique américain - un potentiel basé sur de nouveaux ordinateurs incroyablement rapides.

Mais ce réseau n'était pas uniquement destiné à un traitement automatisé froid et impartial de l'information. Non, le nouveau système devait voir, entendre, agir et réagir. Et surtout, elle devait comprendre, et sans aucune incitation de la part d'une personne.

Course aux armements économique

L'origine du SQI est souvent associée à la concurrence technologique qui s'est installée entre les États-Unis et le Japon au début des années 1980. Les Japonais voulaient créer une nouvelle génération de supercalculateurs, qui devaient former la base du système d'intelligence artificielle. Combinant la puissance économique de l'État japonais et les nouvelles capacités de l'industrie microélectronique et informatique du pays, ils ont commencé à créer un système informatique de cinquième génération pour atteindre leur objectif.

L'objectif était de développer des ordinateurs incroyablement rapides qui permettraient au Japon de se détacher des autres pays (d'abord des États-Unis et de la « Silicon Valley » qui y était naissante) dans la course à la supériorité technologique. Les Japonais se sont donnés 10 ans pour accomplir cette tâche. Mais quelle que soit la façon dont ils accéléraient leurs voitures, eux, comme les Américains, ne pouvaient pas rendre les ordinateurs « plus intelligents » au détriment d'une puissante intelligence artificielle.

Les aspirations japonaises ont effrayé de nombreux Américains. Ils craignaient que l'Amérique perde son avance technologique. Ces craintes ont été largement alimentées par The Fifth Generation: Artificial Intelligence and Japan's Computer Challenge to the World, publié en 1983 par Edward A. Feigenbaum et Pamela McCorduck. challenge to the world), qui est devenu une littérature incontournable sur Capitol Hill.

Afin de populariser les idées du SKI parmi le peuple américain et la communauté des affaires, la DARPA a insisté sur le fait que le but de l'initiative dès le départ était uniquement de faire avancer les intérêts économiques du pays. Les retombées de cette technologie auraient dû créer de nouvelles incitations pour l'économie américaine, comme indiqué dans le document de planification de la DARPA:

L'appel au secteur privé et au système universitaire était également censé apporter une assistance aux plus intelligents et aux plus talentueux dans l'accomplissement des tâches du programme de l'Office of Advanced Research and Development:

Et quelle est la conclusion? Le gouvernement a donné des garanties au secteur privé que les technologies développées ne seraient pas transférées à des entreprises concurrentes.

Mais la concurrence économique avec les Japonais, bien qu'elle soit une force motrice importante, n'a suscité qu'une préoccupation secondaire parmi les politiciens empêtrés dans les vicissitudes de la guerre froide. Les faucons du GOP étaient plus préoccupés par le renforcement militaire et le renforcement militaire. Beaucoup d'entre eux pensaient que la chose la plus importante était la menace militaire posée par l'Union soviétique. Et la Strategic Computer Initiative était censée éliminer cette menace.

Connexion Star Wars

Le lancement du programme SKI et les termes de référence de la DARPA, qui ont émergé en 1983 et 1984, ont suscité un vif débat dans la communauté scientifique - celle qui a finalement bénéficié du financement de ce projet. Quelqu'un a exprimé des doutes sur la possibilité de mettre en œuvre des plans ambitieux pour créer une intelligence artificielle avancée. Quelqu'un craignait que la création de l'intelligence artificielle à des fins militaires ne marque le début d'une terrible ère d'armées de robots indépendants.

Et c'était une préoccupation bien fondée. Si l'objectif de Star Wars (le nom populaire de l'Initiative de défense stratégique de Ronald Reagan et du football politique populaire de l'époque) est une réponse automatique ou semi-automatique à toute menace de missiles nucléaires des Soviétiques, alors ce serait tout simplement ridicule de ne pas l'inclure dans un système plus vaste de machines vraiment intelligentes. Les objectifs des deux projets, sans parler des institutions qui les ont développés, se chevauchaient et se chevauchaient trop pour être une simple coïncidence, bien que chacun ait insisté sur le fait qu'il s'agissait d'une coïncidence.

D'après l'œuvre de Chris Hables Gray, écrite en 1988:

Si vous demandez à quelqu'un qui a travaillé dans la direction du programme SKI, on vous dira constamment que l'Initiative informatique stratégique n'avait rien à voir avec le rêve Star Wars de Reagan. Mais dès le début de la mise en œuvre de SKI, les gens ont établi un lien entre celui-ci et SDI. En partie, ces associations sont nées en raison de la similitude des noms et du fait que ces noms ont été donnés par une seule personne - Robert Cooper, qui a été directeur de la Direction de la recherche et du développement avancées du département américain de la Défense de 1981 à 1985.. Ou peut-être que les gens ont vu la connexion en raison du fait que les systèmes d'interface informatique développés pour SKI étaient tout à fait logiquement appropriés comme application pour une stratégie de défense antimissile spatiale.

L'utilisation de la technologie informatique stratégique sur terre, en mer et dans les airs

Un schéma général du SQI préparé en 1983 exposait l'objectif de cette initiative. L'objectif était clair et compréhensible: développer une vaste base de technologies d'intelligence artificielle pour renforcer la sécurité nationale et la puissance économique. Mais pour y parvenir, le Congrès et les départements militaires qui étaient censés utiliser le SKI et ses avantages à l'avenir, devaient voir ce système en action.

SKI avait trois incarnations matérielles censées prouver son potentiel de combat, bien qu'à la fin des années 1980, il était prévu de développer encore plus de tels systèmes. A la pointe des développements techniques de SKI se trouvaient le véhicule terrestre autonome ALV, l'assistant du pilote et le système de contrôle de combat du porte-avions.

Ces outils devaient être équipés d'ordinateurs incroyablement avancés, conçus par la société de Cambridge BBN, connue pour ses travaux sur la première version d'Internet. Les ordinateurs ont permis de réaliser des avancées décisives dans des domaines tels que les systèmes de vision, la compréhension du langage et la navigation. Et ce sont les outils les plus importants pour créer une force militaire intégrée homme-machine.

Voiture sans chauffeur - 1985

Le produit le plus inquiétant sorti des entrailles de SKI était le véhicule terrestre autonome ALV. Ce véhicule sans conducteur à huit roues mesurait trois mètres de haut et quatre mètres de long. Il était équipé d'une caméra et de capteurs qui étaient montés sur le toit et contrôlaient le mouvement de la voiture, étant ses "yeux".

Martin Marietta, qui a fusionné avec la Lockheed Corporation en 1995 pour créer Lockheed Martin, a remporté un appel d'offres à l'été 1984 pour créer un véhicule terrestre autonome expérimental. Sur les trois ans et demi du programme SKI, il aurait dû recevoir 10,6 millions de dollars (corrigé de l'inflation, c'est 24 millions), plus 6 millions supplémentaires si le projet répond à certains critères.

Dans le numéro d'octobre 1985 de Popular Science, il y avait un article sur les tests qui ont été effectués sur le terrain d'entraînement secret de Martin Marietta au sud-ouest de Denver.

L'auteur de l'article, Jim Schefter, a décrit la scène de test sur le terrain d'essai comme suit:

La DARPA s'est associée à Martin Marietta et à l'Université du Maryland, qui a fait un excellent travail en créant un système de vision. Une telle combinaison semblait indispensable pour assurer le succès du développement du véhicule terrestre.

Construire un système vidéo pour un véhicule autonome s'est avéré incroyablement difficile. Elle peut être induite en erreur par la lumière et les ombres, et par conséquent elle n'était pas assez fiable. Pendant la journée, elle a trouvé le bord de la route sans problème, mais à cause des ombres du soir au coucher du soleil, elle pourrait bien glisser dans le fossé.

Tout changement dans l'environnement (par exemple, la saleté des roues d'une autre voiture) a également perturbé le système de vision. Ceci était inacceptable même dans des conditions d'essai sur le terrain d'essai. Si la machine ne peut pas faire face à des obstacles aussi simples, alors comment agira-t-elle dans des conditions de combat difficiles et imprévisibles avec d'innombrables facteurs variables ?

En novembre 1987, le véhicule terrestre autonome avait été considérablement amélioré, mais à la fin de l'année, il était effectivement abandonné. Bien que le véhicule soit plutôt primitif, certains à la DARPA ont estimé qu'il avait été abandonné trop rapidement.

En conséquence, elle n'a pas pu surmonter son manque de préparation au combat. Comme le note Alex Roland dans son livre Strategic Computing, « Un officier qui ne comprenait pas du tout l'intention du programme ALV s'est plaint que la machine était militairement inutile: très lente et blanche, ce qui en faisait une cible facile sur le champ de bataille. En avril 1988, l'Office for Advanced Research and Development a officiellement cessé ses travaux.

R2-D2, mais dans la vraie vie

Le deuxième mode de réalisation pratique de l'Initiative informatique stratégique était l'assistant du pilote. Les développeurs l'ont envisagé comme un robot R2-D2 invisible - un satellite intelligent qui comprend le langage simple du pilote. Cet assistant pourra par exemple détecter une cible ennemie et demander au pilote s'il est nécessaire de la détruire. Quelque chose comme "Le meilleur tireur" en compagnie de l'assistant personnel Siri de l'iPhone.

Dans ce scénario, la décision finale appartenait au pilote. Mais son assistant devait devenir assez intelligent non seulement pour savoir qui posait les questions, ce qu'il posait et comment poser les questions lui-même. Il fallait qu'il comprenne pourquoi.

Voici les lignes du document de planification SKI:

Et c'est ici que la Direction de la recherche et du développement avancées a décidé qu'elle avait besoin de son propre Skynet. Les nouvelles caractéristiques des opérations de combat associées au développement rapide des technologies militaires nécessitaient une interaction claire entre une machine et une personne - et cela est devenu la clé du succès au combat. Le pilote appuyait toujours sur les boutons, mais ces ordinateurs devaient penser au moins à moitié pour lui. Si l'humanité n'a pas le temps, il faut connecter les machines au travail.

Le programme d'assistant de pilote n'a pas été couvert dans la presse américaine au même titre que le véhicule terrestre autonome. Cela était probablement dû au fait qu'il était beaucoup plus difficile de l'imaginer qu'un énorme char roulant sur la route sans chauffeur. Mais si vous regardez les technologies de reconnaissance vocale d'aujourd'hui, il devient clair à quoi ont abouti toutes ces recherches sur "l'assistant du pilote".

Conseiller Robot Invisible

Le système de contrôle de combat est devenu le troisième mode de réalisation pratique du programme SKI, conçu pour prouver sa faisabilité.

Roland écrit à ce sujet dans son livre Strategic Computing:

Le système de commandement et de contrôle était essentiellement le cerveau de toute l'opération, et pour cette raison, il a été gardé secret, contrairement à l'ALV. Un robot roulant sur la route sans chauffeur peut en effrayer plus d'un. Un robot invisible avec un doigt invisible sur un bouton nucléaire ? Eh bien, presque personne ne veut publier des communiqués de presse sur ce sujet.

Le système de contrôle de combat a été conçu comme une application logicielle spécifiquement pour la Marine. (Un véhicule terrestre autonome a été créé spécifiquement pour les forces terrestres et un "pilote adjoint" pour l'armée de l'air.) Mais en réalité, ce n'était qu'une couverture pour un système plus polyvalent. Toutes ces technologies étaient prévues pour être utilisées à l'avenir là où elles sont le plus nécessaires. Le programme de reconnaissance vocale développé pour "l'assistant du pilote" devait être utilisé dans toutes les branches des forces armées, pas seulement dans l'armée de l'air. Et le système de commandement et de contrôle devait convenir à tout le monde - à l'exception, bien sûr, de l'ennemi.

Assembler Skynet

Toutes les différentes composantes de l'Initiative informatique stratégique faisaient partie d'un système hypothétique plus vaste qui pourrait radicalement changer la nature de la guerre au 21e siècle.

Imaginez un réseau sans fil mondial qui contrôle de nombreux autres réseaux subordonnés dans l'armée américaine. Imaginez des armées de chars robotiques parlant à des essaims de drones dans le ciel et de sous-marins sans pilote en mer - et l'interaction entre eux est beaucoup plus rapide que n'importe quel commandant humain. Imaginez maintenant que tout cela est beaucoup plus compliqué et avec des missiles nucléaires en attente de lancement dans l'espace.

Le concept de l'Initiative informatique stratégique était incroyablement audacieux, et pourtant un peu inhabituel quand on pense jusqu'où cela pourrait nous mener. La logique du développement ultérieur de l'intelligence artificielle et du réseau mondial de machines tueuses est facile à imaginer, ne serait-ce que parce que nous l'avons vue d'innombrables fois dans des livres et des films.

L'avenir de la guerre et de la paix

L'initiative de calcul stratégique au début des années 90 a finalement été détruite par la prise de conscience qu'il était tout simplement impossible de créer une intelligence artificielle puissante comme celle que la DARPA avait envisagée. Mais si toutes ces technologies et innovations techniques développées dans les années 1980 nous semblent étrangement familières, c'est parce qu'en ce début de XXIe siècle elles font parler et écrire dans les médias.

Les systèmes de vision d'un véhicule terrestre autonome ont trouvé leur incarnation dans les robots Atlas de Boston Dynamics. On peut voir qu'un système de reconnaissance vocale comme Siri du "pilot's assistant" est utilisé dans l'US Air Force. Et les voitures autonomes sont testées par Google, ainsi que de nombreuses autres entreprises. Ce sont toutes des technologies pour les guerres du futur. Et si vous croyez Google, alors c'est aussi la technologie du monde du futur.

Google a récemment racheté Boston Dynamics, ce qui a surpris ceux qui s'inquiètent d'un avenir avec des armées de robots indépendants. Google affirme que Boston Dynamics remplira tous ses anciens contrats avec des clients militaires, mais n'en conclura pas de nouveaux.

Mais que Google accepte ou non les ordres de l'armée (ce qui est tout à fait possible, puisqu'ils peuvent le faire secrètement, en utilisant les fonds de leur budget "noir"), il ne fait aucun doute que la frontière entre la technologie civile et militaire a toujours été floue.. Si Boston Dynamics ne travaille plus jamais avec des organisations comme la DARPA, mais que Google bénéficie de recherches financées par l'armée, on peut probablement dire que le système fonctionne.

L'armée a obtenu ce qu'elle voulait en faisant passer la recherche en robotique par une entreprise privée. Et maintenant, les résultats de ces technologies militaires se feront sentir dans notre vie civile quotidienne - ainsi que de nombreuses autres technologies, y compris Internet.

En vérité, cet article n'est qu'une goutte d'eau parmi les idées que la Direction Recherche et Développement Avancées a fait éclore dans le cadre de SKI. Espérons qu'en continuant à explorer les concepts de perspective d'hier, nous pourrons acquérir une certaine expérience historique et mieux comprendre que nos nouvelles réalisations ne sont pas sorties de nulle part. Même elles ne peuvent pas toujours être appelées innovations. C'est le résultat d'années de recherche et de milliards de dollars de crédits maîtrisés par des centaines d'organisations, tant publiques que privées.

En fin de compte, l'Initiative informatique stratégique n'a pas été démantelée par peur de ce qu'elle pourrait apporter à notre monde. C'est juste que les technologies pour sa mise en œuvre ne se sont pas développées assez rapidement - cela s'applique à l'intelligence artificielle et aux véhicules autonomes. Mais au cours des vingt années qui ont suivi l'arrêt de SKI, tous ces développements de machines intelligentes se sont poursuivis.

Un avenir avec des robots hautement intelligents et interconnectés est presque réel. Nous n'avons pas à l'aimer, mais nous ne pouvons pas dire que personne ne nous a prévenus à son sujet.