Perspectives d'« iskin » dans la gestion de l'humanité

2024 Auteur: Seth Attwood | [email protected]. Dernière modifié: 2023-12-16 16:04

Que se passe-t-il si vous faites confiance à l'intelligence artificielle pour contrôler les gens ? Dans notre législation, 99 % des lois se contredisent. Logiquement, il devrait y avoir une chute de puissance et un arrêt du système de contrôle…

Pensons maintenant à l'endroit où intelligence artificielle(ci-après - iskin) prendra dans notre vie quand (si) il est inventé et appliqué. Je suggère de ne pas discuter de sa nature intérieure. Que ce soit juste un algorithme très avancé capable de fonctionner avec le Big Data et capable de copier de la même manière les modèles de comportement de personnes réelles. Mais, si vous voulez, que ce dont il est question soit un vrai homme, comme vous le comprenez vous-même.

La question principale ici est la suivante. Où appliquons-nous ce Hammer of Thor une fois que nous l'avons reçu ? Et en principe, il ne fait aucun doute que cela peut être fait. Nous pouvons faire des moulins numériques, des algorithmes d'auto-apprentissage aussi, des grosses dates accumulées - tout y est.

Disons, dans la gestion des systèmes techniques, par exemple, des unités de transport individuelles ? - Eh bien, kamon… Pourquoi faire un système intelligent et complexe pour lui confier ce que le cheval peut gérer ? Il y en aura assez et un algorithme primitif sur un processeur pour 10 dollars par seau, le problème avec la gestion du transport est uniquement dans l'obtention de données et dans les questions éthiques. Quoi alors ? Pensez à une quinzaine de secondes.

A mon avis il n'y en a qu'un la vraie chose pour un iskin est de gérer les gens … Plus précisément, les processus dans lesquels les gens font partie. Il ne sert à rien d'échanger contre moins pour un certain nombre de raisons. Chaque personne est prête à gérer des personnes sans aucune formation particulière. Par exemple, nous faisons entièrement confiance à chacun pour gérer nos propres enfants. De plus, presque tout le monde dans les équipes avait au moins une certaine expérience en gestion. Au moins au niveau « jetez une autre pelle dans le brancard et nous la porterons ». Si tout le monde une personne est en principe capable de gérer des personnes, alors une IA doit être capable de le faire, sinon c'est un intellect déficient mental.

Cependant, les résultats de la gestion des personnes sont loin d'être idéaux. Tout contrôle réel est une série d'erreurs et d'inexactitudes. De plus, le nombre d'erreurs ne dépend quasiment pas du niveau du manager, c'est une certaine constante. C'est juste que le contremaître des chargeurs commet des erreurs mineures, et le gouverneur a le droit de faire des erreurs qui entraînent de graves conséquences. Nous comprenons cela. « Nous aurions dû mal faire » est le résultat principal du reflet du monde environnant, y compris nous-mêmes.

Et maintenant, entre nos mains se trouve une IA qui est censée "le faire". Et nous allons l'appliquer immédiatement, car le problème qu'il peut théoriquement résoudre est le plus important. Et Jamshut avec trois classes d'éducation est également capable de conduire un camion.

Si vous êtes d'accord avec moi sur ce point, continuons à présenter la fonctionnalité de la peau artificielle destinée à gérer. Quelles fonctions doit-il exercer, qui doit-il remplacer ou du moins renforcer par ses décisions ?

Il est clair qu'il s'agira de fonctionnaires (tant dans l'administration publique que dans les entreprises). Les fonctionnaires prennent des décisions. Les fonctionnaires sont acceptés à tous les niveaux de compétence. Les fonctionnaires sont importants et nécessaires aujourd'hui, car les décisions ne se prennent pas d'elles-mêmes. Mais il y a un point.

Regardons chaque manager (c'est-à-dire chaque fonctionnaire) du point de vue du contenu littéral de ses activités pratiques. Mais pas dans le sens de ses motivations - l'archétype des motivations, pour ainsi dire, ne devrait pas l'être. Un fonctionnaire approuve les transactions ou annule les transactions approuvées par un autre fonctionnaire.

Dans une machine idéale, toutes les transactions doivent être approuvées inconditionnellement et aucune transaction ne peut être annulée car elles ont été précédemment approuvées légalement. Un facteur important dans ce système est que les transactions sont soumises au fonctionnaire de la "boîte noire" pour examen. Il n'est pas informé des raisons pour lesquelles une telle opération doit être effectuée ou pourquoi elle a été approuvée par un autre fonctionnaire. Le système de contrôle est construit comme suit. Ci-dessus vient un ordre sous la forme d'une instruction pour effectuer un certain nombre de transactions.

A noter que la structure idéologique d'un tel système n'implique nullement la possibilité d'annuler (ne pas approuver) une transaction reçue d'en haut, de la "boîte noire". Mais en pratique, une telle possibilité existe toujours. Et c'est elle qui assure deux choses les plus importantes: le pouvoir de tout fonctionnaire et le confinement d'un tel pouvoir.

Laissez-moi vous expliquer que toute erreur (nous avons dit plus haut qu'elles sont inévitables et permanentes) peut être dissoute dans l'opposition des masses bureaucratiques sous-jacentes, alors les conséquences de l'erreur peuvent être minimisées.

Cependant, dans un système de gestion théorique idéal, il ne devrait pas y avoir d'erreurs, c'est pourquoi le rôle d'un fonctionnaire est réduit à l'approbation formelle des transactions, qu'il ne peut qu'approuver, car elles sont correctes. C'est-à-dire qu'il n'y en a pas besoin. La question se résume donc au signal initial de gestion. Si c'est correct, alors il n'y a aucun sens dans tous les niveaux inférieurs.

Donc, en théorie, le budget consolidé de l'État devrait fonctionner. Lorsqu'il est accepté, cela signifie que toute son essence fractale est révélée. Chaque capillaire doit recevoir la portion de sang qui lui est assignée et, en réponse, le résultat escompté. Oui, tout en bas il y a "mais nous n'avons pas livré le béton à temps, et donc…" Mais excusez-moi, c'est tout en bas, et l'appareil de contrôle se compose de plusieurs niveaux qui ne touchent pas le béton du tout, ils fonctionnent avec des transactions. Je comprends qu'aux niveaux intermédiaires "le béton n'a pas été livré" semble différent, comme "le vice-président de la construction du cosmodrome a volé 100 millions, et donc …" Je parle ici d'un schéma idéal.

Revenons à notre peau idéale. Après tout, dans cette tâche, il doit résoudre les mêmes problèmes - approbation ou interdiction des transactions. Et il peut le faire ! Seulement maintenant, lui seul pourra remplacer tous les niveaux de gestion à la fois. Après tout, si, remplaçant le ministre, il approuve une importante transaction de niveau ministériel, alors sa décision devrait être reconnue comme correcte. Et cela comprend l'analyse de l'ensemble de la distribution ultérieure d'une importante transaction jusqu'au paiement d'IP Pupkin pour réparer le porche de l'hôpital psychiatrique de Kineshma.

Ainsi, toute la chaîne des fonctionnaires qui sont obligés d'approuver les transactions de niveaux inférieurs à partir du premier peut être remplacée en toute sécurité par le même algorithme d'IA. Le problème a déjà été résolu, jusqu'en bas. Notre IA n'a même pas besoin d'être utilisée pour remplacer toute la chaîne, l'IA en annule simplement le besoin. Sa décision est vraie parce qu'elle est juste. Et il inclut immédiatement des solutions pour l'ensemble de la fractale.

Remarque. Tout fonctionnaire subalterne dans notre monde réel peut être plus intelligent qu'un supérieur. Ensuite, il sabotera les décisions du patron, puis il l'aidera. C'est toujours le cas. Tous les officiels en place prennent la place de leurs anciens supérieurs, à l'exception du niveau de départ. Mais dans ce cas, la concurrence est hors de question. Un iskin décide tout seul de toute la chaîne, il ne peut pas se contredire.

De plus. Dans notre système de gouvernance, il existe des tribunaux, auxquels nous avons donné le pouvoir d'annuler n'importe laquelle de nos transactions et d'effectuer la leur, quelle que soit notre opinion à leur sujet. (Mettre un tueur en prison est également une transaction soumise à des règles. Le juge ici est un fonctionnaire qui approuve ou annule une transaction qui lui vient comme prescrit de la boîte noire.) Si notre idiot est bon, alors il vaut mieux que les fonctionnaires, car nous lui avons confié l'approbation ou l'annulation des transactions pour eux (pour nous). Alors il est meilleur que les juges. Sinon, il s'avère que les décisions de l'iskin peuvent être contestées et annulées par des personnes. Et si les gens acceptent cela, alors ils admettront que l'IA est pire que les gens. Alors sur quelle base remplace-t-il les fonctionnaires ?

Conclusion. Iskin ne sera pas jugé non plus. Encore. Si vous, les humains, avez écrit votre meilleur algorithme, l'avez reconnu si bien que vous lui avez donné un pouvoir sur vous-même, alors vous ne pouvez pas écrire un algorithme encore meilleur pour qu'il juge les décisions du premier. Vous mettrez votre meilleur algorithme à la fois en tant que manager et en tant que juge. Plus précisément, les juges disparaîtront tout simplement. Vous devrez donner à cette IA un pouvoir total sur vous.

Soit dit en passant, la boîte noire d'origine, d'où les données initiales pour le contrôle parviennent à l'ISK, peut également être numérisée. Et même doit être numérisé. Le budget consolidé devrait être celui qui convient le mieux. Et il le fait aussi.

Un autre instant. Ou peut-être mettre une personne au-dessus de la personne qui contrôlerait ses décisions afin que les erreurs qui peuvent survenir en raison de son inhumanité, par exemple, ne se produisent pas ? - Alors tous les officiels conserveront leurs positions et leur pouvoir. Ils auront également le droit d'annuler les transactions approuvées par l'ISK ou d'approuver celles annulées. Hélas, ça n'a pas l'air réel. Iskin fournira un imprimé du raisonnement derrière sa décision. Et une personne ne pourra pas réfuter la logique formelle avec ses sentiments ou ses intérêts. Même dans ce cas, si un fonctionnaire vivant est attaché à chaque manifestation d'un (en fait, un seul) acte, ils ne pourront pas lui résister.

Désolé pour la confusion, il y a beaucoup de pensées, et la longueur du texte augmente irrémédiablement.

Lorsque l'ISK est activé, un effondrement complet se produira. Non, je comprends qu'au début, ils le conduisent en mode test. Mais ce sera une profanation, car il faudra alors imiter l'ensemble de la société, avec toutes ses connexions dans son ensemble, pas un modèle simplifié, mais les batteuses numériques ne peuvent pas le faire.

Ensuite, il sera lancé en mode limité, dans le territoire conditionnel de Perm. Bugs, débogage, nouvelle version et production ?

Mais tôt ou tard, le ruban rouge sera coupé et les gens pourront contrôler la voiture à pleine puissance (avec une main sur l'interrupteur).

Et savez-vous ce qui va se passer ? Iskin mettra fin à toutes les transactions. La logique du « si-alors » se heurtera à des millions de normes réglementaires dans la législation actuelle, qui se contredisent des dizaines de milliers de fois. Finita. Nos trains s'arrêteront, le paiement d'une canette de bala au supermarché ne fonctionnera pas. Tout le monde sera immédiatement inculpé d'un tas d'infractions et de crimes qui pourraient être renvoyés aux autorités, mais tous les membres des autorités seront immédiatement renvoyés et jugés. Les décisions de justice prononceront la demande immédiatement. Grand rendez-vous, tout est écrit sur toi. D'accord, ce sont les petites choses. Mais ils ne pourront pas non plus transférer votre salaire, car le bureau doit des impôts et le wagon vous inflige une amende.

Exagérer ? Non. Le premier lancement (avec une main sur l'interrupteur) sera contrôlé, test à deux, test à vingt-deux… Et un jour il sera allumé en entier, comme s'il avait passé le cycle complet de tests. Et puis… Et on licenciera les fonctionnaires, les bénévoles sauveront la situation.

Est-il possible d'éviter des conséquences aussi tristes ? - Bien sûr, vous pouvez essayer. Pour ce faire, un certain nombre de choses doivent être faites. Détruisez 99% de la législation, recyclez les 1% restants sans verser le bébé avec de l'eau. (De telles choses sont généralement faites après une révolution à part entière avec une guerre civile à part entière. Comment le faire en temps de paix - je n'en ai aucune idée.) De plus, la moralité devrait être retravaillée. Pour ce qui est de voler un paquet de papier au bureau (ou de tromper sa femme), c'est soit parfaitement acceptable (reflété dans la loi), soit cela implique complètement une limite de temps. Cette morale doit être refaite dans l'esprit de la société. Sinon, il commencera à couper les câbles optiques, ce qui est bon marché, simple et efficace contre l'IA. Une autre option consiste à jeter cet iskin à un partenaire probable, laissez-le se couper les mains. Et, bien sûr, les classes supérieures ne devraient pas devenir gênantes. S'ils sont incapables, ils l'utiliseront comme une dernière chance.

Je n'essaie pas de vous convaincre de planter des ordinateurs. Nous n'irons nulle part de l'iskin. Il nous dépassera, nous devrons nous engager avec lui. Essayons de comprendre avec quoi (avec qui) nous devons nous battre contre notre destin.