Le danger du progrès robotique est-il vrai ou mythe ?

2024 Auteur: Seth Attwood | [email protected]. Dernière modifié: 2023-12-16 16:04

Quand on dit que les robots ne remplaceront pas l'homme, parce qu'il n'y a rien d'humain en eux, on n'entend pas du tout la capacité exceptionnelle d'une personne à créer ou à agir de manière illogique. Un jour, les robots pourront le faire aussi. Mais avoir peur d'eux est tout simplement inutile. Pourquoi - explique Andrey Sebrant, directeur du marketing stratégique chez Yandex.

Comment le Tin Woodman est devenu le Terminator

Le grand écrivain Arthur Clarke a formulé trois lois, dont l'une se lit comme suit: « Toute technologie suffisamment avancée est indiscernable de la magie. » Cette formulation décrit avec précision notre attitude envers la haute technologie. Mais à l'ère des médias, avec la télévision et Facebook, il devient de plus en plus difficile d'être magicien.

Un exemple d'intelligence artificielle est le Tin Woodman, avec qui Ellie (ou Dorothy) était amie et avait de douces conversations. À quel moment et pourquoi s'est-il soudainement transformé en Terminator ? C'est une histoire purement médiatique: la peur se vend bien - à tel point que la question liée aux robots doit être incluse dans le titre de la conférence.

Et cela reflète vraiment ce qui se passe dans l'esprit du public. Récemment, le HSE a mené une enquête qui montre que plus la subjectivité du robot est grande, plus les gens ont peur qu'il, en tant que sujet, leur fasse du mal. Lorsqu'un robot se contente de faire quelques tâches ménagères ou d'apporter des marchandises du magasin, personne n'en a peur. Mais en ce qui concerne les infirmières, les médecins, les éducateurs et les voitures autonomes, la plupart des gens affirment qu'ils seraient extrêmement mal à l'aise avec leur environnement. Pendant ce temps, les statistiques d'accidents pour un million de kilomètres parcourus montrent que les drones sont moins susceptibles d'avoir des accidents de voiture. Bien sûr, tout de même, les gens auront des accidents de la route, mais ils mourront moins souvent - 300 000 personnes au lieu d'un million et demi. Et le million vivra, car le conducteur n'était pas une personne ivre, mais un pilote automatique imparfait.

Pourquoi vous ne devriez pas exiger d'explications des robots

Le lauréat du prix Nobel de physique Richard Feynman a déclaré qu'aucun physicien ne comprend la physique quantique. Malheureusement ou heureusement, il existe aujourd'hui de nombreux autres domaines dans lesquels quelque chose se passe qu'une personne ne peut pas expliquer.

Il est inutile de demander une interprétation aux robots (pourquoi une telle décision a été prise, pourquoi la voiture a ralenti, etc.). De plus, si vous regardez notre histoire, c'est complètement illogique.

Par exemple, l'acide acétylsalicylique, synthétisé en 1853 et enregistré sous la marque Aspirin à la fin du 19ème siècle, est aujourd'hui consommé en quantités énormes - environ 120 milliards de comprimés par an. Cependant, son action, associée, par exemple, à l'utilisation dans les maladies cardiaques, n'a été plus ou moins expliquée que 70 ans seulement après qu'elle a commencé à être largement utilisée en médecine.

Les pharmacologues modernes disent que personne ne sait comment fonctionnent les médicaments modernes sophistiqués pour les maladies graves. Je me demande combien de personnes qui ont peur de monter dans une voiture autonome refuseront un traitement avec un médicament qui sauve dans 90 % des cas, mais on ne sait presque rien des mécanismes de son action ?

Ainsi, même dans la vie de tous les jours, nous ne comprenons pas tout ce qui se passe autour de nous. Et il est extrêmement naïf d'exiger des robots qu'ils expliquent leurs actions avant de mettre en œuvre à grande échelle le machine learning. Tant que nous nous efforcerons d'atteindre cet objectif à partir des algorithmes actuels, les ordinateurs quantiques viendront et il n'y aura aucun espoir de compréhension. Par conséquent, il est préférable d'apprendre à accepter ce que vous ne pouvez pas comprendre. Ce n'est pas une réponse à la question de savoir ce que les robots vont nous faire. C'est la réponse à la question de savoir comment ne pas dépenser tout ce que vous gagnez en psychanalystes si des robots sont à côté de vous.

Comment créer avec l'intelligence artificielle

L'histoire suivante sur la coexistence avec les robots est consacrée à une idée que toute personne créative peut comprendre - à quel point il est difficile de trouver quelqu'un avec qui ce sera formidable de créer ensemble. Le célèbre artiste et théoricien de l'art russe Dmitri Boulatov formule cela sous une forme plus dure: « La nouvelle norme est la suivante: si nous voulons infecter le monde avec l'art, nous devons mettre fin à notre chauvinisme protéique.

Nous (chez Yandex. - note T&P) avons commencé à nous amuser avec la musique écrite par les réseaux de neurones en 2017, - la musique que nous avons créée a été reconnue comme une compositrice originale et experte de la créativité de Scriabine, Maria Chernova. Comme l'a noté Ivan Yamshchikov, que se passe-t-il si le réseau de neurones aime jouer la même note pendant quatre minutes ? Je pense que cela ne provoquera rien d'autre que des rires ("le script est bloqué"). Et si nous supposons que cela a été inventé par une personne, alors un grand nombre d'interprètes viendront immédiatement en courant, qui commenceront à expliquer qu'il s'agit d'une pensée profonde, exprimant l'idée d'une stagnation monstrueuse dans laquelle nous vivons, etc. Il s'agit d'interpréter non pas l'œuvre elle-même, mais le contexte qui nous est donné.

Aujourd'hui, même dans l'introduction de l'article mathématique Music Generation with Variational Recurrent Autoencoder Supported by History, ses auteurs écrivent que les tâches impliquant une approche intuitive ou créative ont longtemps été considérées comme purement humaines, mais maintenant de plus en plus d'algorithmes sont disponibles, et la musique n'est qu'un exemple de telles tâches.

Deux ans plus tard, nous avons écrit de la musique pour le plus grand musicien Yuri Bashmet (un réseau de neurones créé par Yandex a créé une pièce pour alto et orchestre en collaboration avec le compositeur Kuzma Bodrov. - T&P note). Lorsque vous parlez de cet événement aux gens, ils réagissent comme ceci: « Oh, nous l'avons compris ! Ils disent que les réseaux de neurones font du bon travail avec les tâches de routine, donc le compositeur crée cette mélodie, une idée brillante de la pièce, et le réseau de neurones a probablement appris à faire le reste du travail d'orchestration. » Le contraire est vrai. Le compositeur Kuzma Bodrov affirme que le réseau de neurones est devenu son co-auteur à part entière et que c'est elle qui a généré la chose la plus difficile, l'original, qui s'est ensuite transformée en quelque chose de plus. J'aimerais toujours avoir un tel co-auteur, capable de créer quelque chose de nouveau et d'inattendu, sans se fatiguer et sans tomber dans la dépression.

Réseaux de neurones et physicalité

Dans le livre des Strugatsky "Le lundi commence le samedi", des entités sont décrites que l'on appelle doubles: la dictée, mais qui sait bien la faire. […] Les vrais maîtres peuvent créer des prises d'auto-apprentissage très complexes, multiprogrammes. " L'un des héros du roman a envoyé une telle prise en voiture au lieu d'un autre héros. Le sosie menait superbement le Moskvitch, « jura quand il était piqué par des moustiques et chanta avec plaisir en chœur ». Notre "Alice" ne le fait pas encore, mais un autre hackathon va commencer. Les systèmes adaptatifs intelligents ont été décrits en 1965. Maintenant, ils existent déjà vraiment - en tant que doublons, qui sont meilleurs pour trier des morceaux de papier, proposer de nouvelles mélodies, faire du plan média, etc. Et ce n'est que le début.

Dans le livre Inévitablement de Kevin Kelly, il y a une belle phrase: "Les machines à penser les plus importantes ne seront pas celles qui peuvent penser plus vite et mieux que les humains, mais celles qui apprendront à penser d'une manière que les humains ne pourront jamais." C'est comme si nous avions mis en œuvre l'idée de voler toute notre vie, en créant et en améliorant un oiseau avec des ailes, en les agrandissant seulement et en utilisant des matériaux modernes. L'idée d'une fusée qui nous emmènerait dans l'espace où les ailes sont inutiles ne serait tout simplement pas apparue, car elle est complètement différente de l'endroit où tout a commencé. Et cela reste à venir - en attendant, nous avons de grands co-auteurs.

Quand on parle d'intelligence artificielle et qu'on a peur que la machine ne nous remplace, on pense tout le temps que l'homme et l'intelligence sont presque des synonymes, des sortes d'essences interchangeables. Ce n'est pas vrai. Je citerai encore le Strugatskikh: « Je suis toujours un homme, et l'animal tout entier ne m'est pas étranger. Même lorsque, avec l'aide de réseaux de neurones, nous apprenons à danser magnifiquement sur des écrans, cela ne fera pas de nous des personnes qui peuvent ressentir un réel frisson en dansant. La physique est aussi importante que l'intelligence. Et jusqu'à présent nous ne comprenons pas du tout comment faire quelque chose d'algorithmique, qui, tout comme nous, ne serait pas étranger à l'animal entier.