L’autre jour, une autre discussion s’est déroulée sur Facebook sur le danger potentiel pour l’humanité des technologies cognitives et de toute intelligence artificielle. Il convient de dire que ce sujet a été soulevé tout au long de la période de développement de ce domaine, mais qu'il est récemment devenu sensiblement plus fort - et pas seulement en Russie, mais également dans de nombreux pays leaders, dont les États-Unis. On ne peut pas dire que la situation y ait atteint un état d’hystérie, mais le mouvement contre l’intelligence artificielle prend clairement de l’ampleur. Soit dit en passant, il n’est pas dirigé par les personnes les plus basses de la société. Parmi eux, citons Jody Williams, lauréate du prix Nobel de la paix, qui a lancé cette année une puissante campagne « Stop aux robots ». Et le co-fondateur de Skype, Jaan Tallinn. Avec sa participation, un Centre scientifique pour l'étude des risques existentiels a été créé à Cambridge l'année dernière. Dans la liste des quatre menaces potentielles auxquelles l'humanité est confrontée, des experts, parmi lesquels figurent des scientifiques, des philosophes et des ingénieurs célèbres, ont mis intelligence artificielle, le changement climatique, les armes nucléaires et la biotechnologie (la possibilité de créer une vie artificielle).
Cependant, il ne faut pas penser que la raison de l'inquiétude des spécialistes et des experts au plus haut niveau réside dans le point de vue selon lequel l'intelligence artificielle absorbera l'humanité à l'avenir. Le principal catalyseur de l’anxiété générale réside dans les cas de plus en plus fréquents de supériorité de l’intelligence artificielle sur l’intelligence naturelle.
Il convient de dire que les premières voix préoccupées par cette évolution des événements se sont fait entendre au milieu des années 1990, lorsqu'une avancée majeure s'est produite dans le domaine du traitement intelligent de l'information et que les machines intelligentes ont appris à comprendre le contenu de certains types de documents dans leur masse mieux que l'homme. Ils ont habilement analysé des documents, remplaçant les renseignements de, sinon des centaines, du moins des dizaines de secrétaires et d'opérateurs d'entreprises nationales. Puis sont apparus des programmes capables de comprendre le contenu de grandes archives et d'en tirer des conclusions et des prédictions appropriées. Le cas le plus évident de supériorité technique a bien sûr été la perte de Garry Kasparov face à l’ordinateur Deep Blue.
Aujourd'hui, nous disposons déjà de machines qui fonctionnent plus de succès qu'une personne dans les échecs, la conduite automobile, la compréhension de documents, le trading financier, la reconnaissance faciale, vocale et textuelle. Internet regorge de toutes sortes de robots et d'informations capables de commenter des situations spécifiques et d'entretenir une conversation. Même des systèmes robotisés de gestion de documents sont apparus, capables de comprendre l'environnement externe dans lequel ils sont installés et de s'y adapter. D'ailleurs, c'est précisément ce système russe « E1 Euphrate » qui est devenu la cible d'attaques de la part d'internautes individuels. Ce qui les inquiétait le plus était qu’un système cognitif, utilisant notamment des algorithmes d’auto-apprentissage, soit capable de développer de manière autonome des activités dans l’espace informationnel de l’organisation et de lui causer des dommages. Bien entendu, une telle formulation de la question fait généralement sourire les spécialistes. Dans le système E1 Euphrate, le processus d’auto-apprentissage se produit au niveau local et il n’y a aucune chance qu’il devienne incontrôlable. De la même manière, on peut supposer que des erreurs non remarquées, par exemple dans un programme de comptabilité, peuvent détruire le disque dur sur lequel il est installé.
Mais dans l’ensemble, l’inquiétude du public n’est pas surprenante. Nous ne pouvons pas éviter de telles discussions, et à mesure que les technologies d’intelligence artificielle s’améliorent, elles ne feront que devenir plus fréquentes et plus animées. Que dire lorsque le Pentagone lui-même a été contraint de répondre aux protestations généralisées du public américain, inquiet que les véhicules militaires robotisés commencent à prendre eux-mêmes des décisions cruciales. En conséquence, le secrétaire adjoint américain à la Défense, Ashton Carter, a même publié une déclaration garantissant qu'aucun des véhicules militaires robotisés ne prendrait la décision de nuire à une personne.
Et pourtant, l’humanité ne devrait pas avoir peur, ni aujourd’hui ni dans un avenir proche. Les préoccupations de tous les militants se situent davantage sur le plan social que sur le plan scientifique ou pratique. Les activités du Centre britannique pour l’étude des risques mondiaux confirment en effet que les mêmes questions et sentiments se posent dans d’autres domaines de la vie. C’est une partie normale de tout processus de développement. Le principal fait irréfutable est la réelle efficacité de l’utilisation des systèmes d’intelligence artificielle. Et de nombreux problèmes, y compris mondiaux, auxquels nous sommes confrontés, tels que le traitement Bigdata d'énormes volumes d'informations accumulées par l'humanité, comme bien d'autres, ne peuvent être résolus sans systèmes d'intelligence artificielle.
Lorsque les gens observent une technologie qui se comporte comme des humains et des ordinateurs qui traitent des volumes titanesques de données, de nombreuses réflexions sur l’avenir surgissent. Une bonne partie d’entre eux sont basés sur le thème de l’esclavage du genre humain.
La littérature et le cinéma de science-fiction, de 2001 : L'Odyssée de l'espace (1968) à Avengers : L'ère d'Ultron (2015), prédisent que l'intelligence artificielle dépassera les attentes de ses créateurs et deviendra incontrôlable. Apparemment, son objectif ne sera pas seulement la compétition avec les humains, mais l’esclavage et l’extermination de notre espèce.
Science-fiction ou futur effrayant ?
Le conflit entre l’homme et l’intelligence artificielle est le thème principal de la série de science-fiction « Humans », dont la troisième saison est sortie cette année. Dans les nouveaux épisodes, les personnes « synthétiques » font face à l’hostilité des gens ordinaires qui les traitent avec suspicion, peur et haine. La violence fait rage. Les « synthés » luttent pour leurs droits fondamentaux contre ceux qui les considèrent comme inhumains.
La fantaisie est l'extrême de l'imagination. Mais aussi dans monde réel Tout le monde ne veut pas accueillir l’IA à bras ouverts. DANS dernières années Les limites des possibilités imaginaires de l’intelligence artificielle s’étendent activement. Les gens parlent de plus en plus de ses dangers. Et les hypothèses selon lesquelles la technologie pourrait condamner l’humanité semblent plus réalistes. L'intelligence artificielle nous fait peur.
Opinion sur l'intelligence artificielle
Elon Musk est l’une des personnalités les plus en vue à appeler à la prudence lorsqu’on parle d’IA. En juillet dernier, lors d’une réunion de la National Governors Association, il a déclaré : « J’ai beaucoup d’expérience en matière d’IA technologique et je pense que c’est quelque chose dont l’humanité doit vraiment s’inquiéter. Je continue de tirer la sonnette d'alarme. Tant que des voitures robotisées ne circuleront pas dans les rues, tuant des gens, nous ne saurons pas comment réagir, car une telle perspective est perçue comme irréaliste.»
En 2014, Musk a qualifié l’intelligence artificielle de « notre plus grande menace existentielle » et, en août 2017, il a déclaré que l’IA représentait un plus grand risque pour l’humanité que l’idéologie nord-coréenne.
Le grand physicien Stephen Hawking a également exprimé son inquiétude face à l'utilisation malveillante de l'intelligence artificielle. En 2014, il a déclaré à la BBC que « le développement d’une IA à part entière pourrait signifier la fin de l’humanité ».
Un autre coup dur a été porté par une équipe de programmeurs du MIT Media Lab de Cambridge, qui a décidé de prouver que l'IA est dangereuse. Réseau neuronal La Nightmare Machine, présentée au MIT en 2016, a transformé des photographies ordinaires en paysages terrifiants et démoniaques. Une intelligence artificielle appelée Shelly (également développée au MIT) a créé 140 000 histoires d'horreur que les utilisateurs de Reddit ont publiées sur le forum r/nosleep.
"Nous nous intéressons à la manière dont l'intelligence artificielle suscite des émotions, en particulier dans cette situation où elle provoque la peur", a commenté Manuel Cebrian, directeur de recherche au MIT Media Lab, à propos de l'expérience.
Pourquoi avons-nous peur ?
Selon Kilian Weinberger, professeur adjoint d'informatique à l'Université Cornell, les impressions négatives sur l'intelligence artificielle se répartissent en deux catégories :
L’idée selon laquelle l’IA deviendra consciemment indépendante et tentera de nous détruire.
L’opinion selon laquelle les attaquants utiliseront l’IA à leurs propres fins.
« L’intelligence artificielle nous fait peur car nous pensons que l’IA super-industrielle, devenue plus intelligente qu’une personne, va la traiter comme un être inférieur. Tout comme nous le faisons avec les primates. Et cela, bien sûr, est extrêmement excitant pour l’humanité. »
Cependant, Weinberger note que les inquiétudes concernant la supériorité de l'IA et son désir de détruire la race sont basées sur des idées fausses sur la technologie. L’intelligence artificielle est impressionnante quand on la voit en action. Mais il présente également de nombreuses limites. L'IA est déterminée par des algorithmes. Ils définissent son comportement à l'aide de fonctions prescrites et rien de plus.
Les réseaux de neurones effectuent des tâches complexes sur plusieurs types de données. Mais la plupart des compétences qu'une personne possède, même sans les développer délibérément, sont inaccessibles à l'intelligence artificielle.
L’intelligence artificielle peut être plusieurs fois supérieure aux humains dans l’exécution de travaux spécialisés. Par exemple, jouer aux échecs, identifier des objets à partir d’une image ou analyser des données volumineuses en comptabilité ou en banque.
L’IA qui aurait une conscience indépendante ne fera pas de progrès tels qu’elle asservirait l’humanité. Et il n’y a aucune raison de croire que de tels progrès se produiront dans un avenir proche, ajoute Weinberger.
Mais il existe un autre sujet expliquant pourquoi l’intelligence artificielle nous fait peur : l’utilisation des capacités de l’IA par des personnes mal intentionnées. Ce scénario est plus réel et plus dangereux.
Notre peur est-elle rationnelle ?
Dans le monde de la série télévisée "Humans", l'humanité craint l'IA intelligente et entre dans une confrontation violente avec elle. Et, à en juger par la popularité du projet, cette histoire répond aux besoins actuels de la société.
La peur de la technologie ne peut pas être qualifiée d'infondée, car un certain risque est certainement présent. Mais le danger de tout outil réside dans la pensée de celui qui le contrôle. C’est évidemment précisément la question que l’humanité doit résoudre pour que l’intelligence artificielle soit au service du bien.
1 754
Actuellement, une équipe de 26 experts internationaux a confirmé que le développement de l'intelligence artificielle (IA) constitue une menace claire et actuelle, et que les gouvernements et les grandes entreprises doivent se méfier des nombreuses menaces que représente cette technologie. Le rapport d'expert a été publié par l'Existential Risk Research Institute de l'Université d'Oxford et un certain nombre d'autres organisations renommées. Le rapport met en garde contre une série d’utilisations malveillantes de l’IA qui pourraient devenir l’une des plus grandes menaces pour l’humanité. Il s’agit de la sécurité numérique, de la sécurité physique et de la sécurité politique.
À une époque où les gens communiquent via Internet et des programmes capables de répondre intelligemment et de prétendre être humains. Les plateformes comme Twitter et Facebook regorgent désormais de robots. De nombreuses personnes amies sur les réseaux sociaux sont peut-être des robots ! Twitter estime le nombre de profils de robots entre 25 et 50 millions ! En 2015, il y avait déjà environ 200 millions d’utilisateurs de robots sur Facebook ! Pendant ce temps, les scientifiques créent même des « réseaux de zombies sociaux », qui sont des armées privées d’« amis » automatisés. Souvent, des milliers de ces robots sont gérés par un botmaster. Ces robots imitent le comportement des utilisateurs réguliers. Des messages et des messages provenant d’autres robots apparaissent sur les profils de ces robots, et tout semble provenir de vraies personnes. Ce n’est pas vrai, en fait, les produits font la publicité et promeuvent différents points de vue et opinions politiques. Les robots reçoivent également de nombreuses informations personnelles, qui sont ensuite évaluées, stockées et vendues. Si vous utilisez ces botnets avec de mauvaises intentions, vous pouvez littéralement provoquer le chaos et voler de nombreuses informations. Des algorithmes complexes peuvent être utilisés pour simuler n’importe quel comportement d’utilisateur et pour atteindre et pénétrer des profils spécifiques.
Pendant ce temps, les chatbots sont conçus de manière à pouvoir imiter le style d’écriture d’utilisateurs amicaux. Cette méthode crée de la confiance et le programme essaie d'accéder à autant d'ordinateurs que possible. Dans les prochaines années, il sera facile de falsifier même des vidéos et Appels téléphoniques avec de fausses images et des voix imitées. Grâce à cette procédure, n’importe quelle institution peut être trompée.
Nous voyons la prochaine menace dans les robots modernes, qui seront bientôt utilisés partout. Les pirates informatiques et l’IA (intelligence artificielle) peuvent probablement facilement pirater ces appareils et en abuser à leurs propres fins, voire en faire des armes. Ce serait encore plus dangereux si l’IA était incluse dans les systèmes d’armes automatisés, tels que les fusils de précision télécommandés et les systèmes de défense aérienne automatiques.
Une autre menace sérieuse provient des programmes d’analyse qui recherchent sur Internet des « fausses nouvelles » à une vitesse incroyable et peuvent rapidement trouver tout auteur répréhensible. S’il s’agit d’un ennemi du gouvernement, vous pouvez être immédiatement retrouvé et puni. Les portails d’information et les journaux gouvernementaux auront alors un problème car vous serez en mesure de repérer immédiatement tout canular. La manipulation déjà possible de la vidéo par l'IA jette déjà des ombres sombres dans un avenir proche, tout devient manipulé et personne ne peut plus faire confiance à qui que ce soit ou à quoi que ce soit - surtout si l'IA est de la partie. Utilisée correctement, cette technologie se transforme en une arme incroyablement puissante et l’une des plus grandes menaces pour toute l’humanité. Lorsque les intelligences artificielles sont suffisamment puissantes, elles peuvent littéralement tout contrôler et manipuler. La manipulation serait illimitée. Elle pouvait facilement et librement modifier n'importe quel livre électronique, article de journal et film historique, et personne ne le remarquerait. Toute l’histoire et tous les faits importants peuvent être subtilement manipulés et modifiés à jamais. Cela ne pose aucun problème à l’IA pour imiter les visages et les voix des politiciens, ce qui pourrait susciter des controverses sans fin. Si une IA devient suffisamment intelligente, un humain ne pourra plus lui résister. Selon les développeurs de l’intelligence artificielle, ils pourraient devenir des milliards de fois plus intelligents que les humains !
Le rapport des experts examine un certain nombre de propositions visant à prévenir de tels scénarios. La première option serait d’utiliser des superviseurs pour gérer les développeurs de KI afin qu’ils ne puissent pas utiliser la technologie à des fins malveillantes. Des mesures immédiates sont prises lorsque des intentions et des événements nuisibles sont suspectés. Par conséquent, des méthodes standardisées doivent être créées pour garantir la sécurité. Au fil du temps, davantage d’experts participeront à ces examens et discussions sur la sécurité. Seules la responsabilité partagée et la transparence devraient garantir que l’IA ne cause pas de dommages importants.
Comment fournir une telle chose ? Les entreprises concurrentes, les développeurs de systèmes d’armes et les nations concurrentes essaieront toujours de garder une longueur d’avance sur leurs concurrents en matière de développement de l’IA. Les mesures proposées ne seront donc pas efficaces. Vous devez vous préparer au pire maintenant.
Les générateurs d’images qui fonctionnent avec des algorithmes pris en charge par l’intelligence artificielle créent déjà des contours photoréalistes. NVIDIA utilise une technique GAN qui produit des photos très réalistes de personnes qui n'existent pas. Même les voix humaines peuvent désormais être entièrement copiées grâce aux nouvelles technologies. C'est ce que fait WaveNet, par exemple, dans Google DeepMind est contrôlé. Même l'algorithme de Lyrebird peut désormais copier et imiter la voix humaine si vous ne disposez que d'une minute d'audio enregistré, comme dans conversations téléphoniques. La prochaine étape déjà franchie consiste pour les ordinateurs à reconnaître les émotions humaines réelles et à y répondre. La frontière entre l'homme et la machine disparaît.
Bien entendu, toute cette technologie est déjà utilisée à des fins malveillantes, comme Facebook, pour reprogrammer et contrôler les utilisateurs. Sean Parker, l'un des fondateurs de Facebook, a eu des propos clairs dans une interview. Parker pensait que Zuckerberg avait bloqué son profil, démontrant que Facebook pouvait endommager le cerveau de ses utilisateurs ! Parker a noté que les plateformes sociales comme Facebook changent littéralement le comportement humain et la société. Tout cela se fait au détriment de la productivité, et Dieu sait ce que cela fait au cerveau de nos enfants. Facebook s'est donné pour mission de capter l'attention des utilisateurs afin qu'ils passent la majorité de leur temps sur la plateforme, la faisant ainsi partie intégrante de leur vie. Tout cela crée une addiction à la distribution de dopamine avec des « mignons » et des commentaires ! C'est un jeu avec la psychologie humaine.
Bien entendu, ces développeurs obtiennent leurs spécifications et tout se passe selon le malware. Bien que des gens comme Zuckerberg et Parker soient milliardaires, ils ne font que jouer leur petit rôle dans Grand jeu. Google, Facebook, Youtube, etc. sont contrôlés à partir d'autres sources. Ancien officier La CIA Robert David Steele a pu identifier et nommer plusieurs de ces cerveaux :
- Le « Deep State » avec ses familles bancaires, dont le Vatican, Londres et Wall Street
- Le gouvernement sioniste d'Israël et le Mossad en relation avec les organisations sionistes américaines AIPAC et l'Anti-Defamation League (ADL)
- Les dirigeants de grandes sociétés de médias et de studios de cinéma, ainsi que leur financier George Soros
- Des sous-traitants rémunérés qui inventent la diffamation et mentent sur les commandes
- Des trolls Internet payants qui sont souvent composés ou recrutés parmi des Israéliens ou des membres de l'ADL
- Des trolls volontaires qui sont trop stupides pour comprendre qui et quoi ils écoutent réellement ("Sayanim")
- Enfin, ces trolls créent des algorithmes qui fonctionnent complètement au-delà de l'éthique humaine, du contrôle
- « Blocage de l'ombre » de ces programmes et neutralisation des individus ciblés en ligne grâce à un service de troll automatisé et à des algorithmes
- Absence de lois et de normes sur Internet
- Prendre toutes ces mesures d'IA
L'homme de la CIA, Robert David Steele, parle de #GoogleGestapo. Ces faux rapports peuvent entraîner la suspension du compte ou du profil de l'utilisateur sur Youtube. D'autres utilisations incluent les ralentissements négatifs ou les avis clients pour promouvoir ou détruire un produit. Steele dit que toutes les armées de trolls sont utilisées et payées pour le « traque de foule » (gang stalking). Ainsi, par exemple, vous pouvez détruire une chaîne Youtube avec des commentaires stupides ou mentir pour la faire bloquer. Pendant ce temps, la plupart des opérateurs de chaînes de diffusion ou de médias alternatifs sont contraints de désactiver les commentaires. Avec ses découvertes, Steele a dû constater que la plupart de ses informations étaient affectées par la persécution de la foule, bien qu'il ait été nominé pour le prix Nobel de la paix en janvier 2017 !
Robert David Steele est convaincu que toutes ces voies mèneront à la lutte contre la diffamation (ADL). Cette installation semble être un service dédié à l’espionnage des réseaux sociaux. Steele estime que l’ADL, aux côtés des organisations sionistes en Israël, a perfectionné l’art du « meurtre numérique » dans les premières années des médias sociaux. À la moindre critique de la violence contre les Palestiniens ou aux appels au boycott des produits israéliens sur les réseaux sociaux, les trolls sont immédiatement signalés pour « discours de haine », etc. Les critiques sont immédiatement bloquées, bannies ou interdites, ou dans le cas des entreprises, les pires notes possibles.
Mais tout cela ne sert qu’un objectif supplémentaire, encore plus maléfique : l’émergence d’un nouveau dieu, l’intelligence artificielle. Selon les idées de ces cercles obsédés par le pouvoir, l’IA devrait non seulement contrôler, mais aussi gouverner et vénérer ! Dans la Silicon Valley, où vivent toutes les grandes entreprises technologiques, une nouvelle religion a déjà été créée : l'Église de l'Intelligence Artificielle (La Voie de l'Église du Futur). Cette église est soutenue par diverses organisations humanitaires œuvrant pour le transhumanisme. De nombreux chrétiens voient l’émergence de l’Antéchrist dans ces événements. Anthony Levandowski, fondateur de l'Église, affirme qu'il est temps pour l'IA, qui est beaucoup plus intelligente que n'importe quel être humain, de gouverner la Terre. En principe, cela n’a rien de nouveau. Les élites envisagent la restauration de leur faux dieu, qui existait déjà dans le « grand événement » de l’humanité avant le déluge. Les transhumanistes parlent donc aussi de recréer la superintelligence. La grande affaire concernait les « anges déchus » qui confiaient aux gens des connaissances secrètes et interdites avant le déluge. Cette connaissance a corrompu toute l’humanité et a provoqué la guerre et la destruction.
Une autre organisation qui promeut le transhumanisme s’appelle Humanity+. L’objectif est de transformer des personnes normales à l’aide d’interfaces d’IA, de nanotechnologies et d’interfaces homme-machine, afin qu’à la fin, des créatures complètement différentes en émergent, les soi-disant « êtres posthumains ». Certains kabbalistes, comme le rabbin Yosef Berger, croient que, selon d'anciennes prophéties, la « fin de la correction » est imminente, le point le plus élevé de l'intégrité spirituelle. Avec l’avènement de l’Antéchrist ou « Armila », comme on l’appelle dans la Torah, l’apparition du Messie juif viendra bientôt. Cependant, cela ne peut pas concerner Jésus-Christ. De nombreux experts estiment que les élites obscures créent délibérément le chaos sur Terre afin de réaliser cette prophétie de toutes leurs forces. Il est écrit dans d’anciennes prophéties qu’Armil est né d’une sorte de concept vierge qui n’avait jamais existé auparavant. Par conséquent, il est possible qu’Armil soit le premier transhumaniste à posséder des pouvoirs « divins ». Il est décrit dans les Écritures comme un monstre chauve et doté d'un grand petits yeux. Il doit être sourd de l’oreille droite et son bras droit est endommagé. Le bras gauche devrait être beaucoup plus long que d'habitude.
Ce faux dieu doit être adoré dans le monde entier depuis un certain temps. Les médias contrôlés détruiront les dernières vérités et tout ce qui est logique semblera absurde. L'intelligence artificielle Alexa d'Amazon ou de Google Home répond à presque toutes les questions. Vous pouvez répondre qui était Bouddha ou Mahomet, mais pas qui est Jésus-Christ ! N'est-ce pas bizarre ? Pensez-vous que cela vaut la peine d'être mentionné ? Ici vous pouvez voir quel programme antichrétien, antilibéral et anti-humain se cache derrière Google.
L'utilisation excessive et la confiance aveugle dans le service Google sont déjà devenues une évidence pour de nombreuses personnes. Il n'est plus important que les gens apprennent quelque chose grâce à la possibilité constante d'obtenir n'importe quelle information souhaitée à tout moment et en tout lieu. Une étude menée à l'Université Harvard en 2011 a révélé que les gens ne se souviennent pas des informations à long terme s'ils savent que vous pouvez les rechercher sur Google à tout moment. Ce phénomène a été surnommé « l’effet Google ». Lorsqu'on posait des questions aux sujets, ils pensaient par réflexe d'abord à Internet et à l'ordinateur, puis cherchaient des connaissances dans leurs souvenirs. Cela signifie que la façon dont nous nous souvenons des choses a changé. Beaucoup de gens appellent maintenant cela « l’amnésie numérique ». Aujourd’hui, de nombreuses personnes dépendent littéralement de leur smartphone et ne se souviennent donc de rien d’autre. Contrairement au passé, nous sommes aujourd’hui constamment bombardés d’informations et notre cerveau doit apprendre à gérer toutes ces informations. Bien entendu, toutes ces données ne peuvent pas être stockées dans la conscience.
De nouveaux résultats de recherche ont également été publiés sur les impacts psychologiques, mentaux et sociaux des nouvelles technologies numériques et des médias sociaux. Ces technologies ont des conséquences fatales, notamment pour les adolescents. La disponibilité constante de l’information prive les enfants de la capacité de penser de manière indépendante lorsque vient le temps d’apprendre à développer cette capacité. Ce problème est bien connu. De nombreux habitants de la Silicon Valley protègent leurs enfants de ces technologies et les envoient dans des écoles où il leur est interdit d’utiliser Internet et les smartphones.
Des recherches ont montré que les enfants exposés à ce flux constant d’informations sont en moins bonne santé et sont plus stressés. Plus les enfants passent de temps en ligne, moins ils disposent de temps pour de véritables interactions sociales. Cela se reflète dans l’esprit et le bien-être. Il n’y a pas de lien direct, ce qui signifie que les expressions faciales et le langage corporel ne peuvent plus être interprétés correctement. L'élimination des longues conversations est perdue. Il en résulte du stress et de l’anxiété dans des situations émotionnellement inappropriées. Ayant trouvé une réponse sur Internet, les enfants ne peuvent plus penser de manière indépendante, trouver eux-mêmes la réponse à la question et se concentrer sur des choses qui nécessitent une longue période de concentration et d'efforts.
Les universités ont déjà de gros problèmes car les smartphones sont utilisés partout et toujours. En conséquence, les élèves peuvent se concentrer de moins en moins et les progrès d’apprentissage diminuent. On peut dire que de tels appareils ne font pas des gens intelligents, mais des gens stupides. De plus en plus d'écoles interdisent désormais l'utilisation de ces appareils pour réhabiliter la réflexion des élèves. L’utilisation fréquente de Google réduit clairement la capacité à résoudre les problèmes de manière indépendante. Les services numériques doivent donc être soigneusement dosés.
Il existe également une corrélation directe entre le sentiment de temps passé en ligne et le malheur. Les adolescents qui utilisent très souvent leur smartphone sont généralement mécontents. Les étudiants qui passent plus de temps à faire du sport, à lire et à socialiser ont tendance à être plus heureux. De plus, l’utilisation constante des réseaux sociaux les rend malheureux. En conséquence, de nombreux enfants d’aujourd’hui sont moins rebelles, plus tolérants et insatisfaits, et ne sont absolument pas préparés à vie d'adulte! L’abstinence totale des médias numériques n’est pas non plus encourageante. Recherche Les enfants sont heureux lorsqu'ils ne sont pas connectés plus d'une heure par jour. Des recherches sont en cours depuis les années 1990 et depuis 2012, on constate une forte baisse du bonheur au sein de la population.
D’autres études montrent désormais que tous les appareils utilisant le Wi-Fi et d’autres sources de rayonnement sans fil pourraient ne pas être cancérigènes ! Particulièrement dangereux Téléphones portables, tours mobiles, compteurs intelligents, routeurs WiFi, etc. Depuis des années, il existe une controverse sur les dangers de ces appareils et toutes sortes de recherches ont été menées.
De nombreux scientifiques affirment désormais que tous ces appareils sont définitivement cancéreux. Les signaux émanant de ces appareils seraient cancérigènes. Des recherches ont également montré qu'un tiers de la population est vulnérable aux rayonnements sans fil. Même si le cancer ne se développe pas dans tous les cas, il provoque des maladies dues aux micro-ondes. Ils affectent même les plantes et les animaux. Le rayonnement sans fil et l’électromose pourraient même être une cause du changement climatique. Les radiations provoquent tous ces sentiments négatifs. Les fabricants s'en moquent car des milliards sont gagnés avec cette technologie.
Même si les gens sont de plus en plus insatisfaits des nouvelles technologies, ils tentent désormais d’enseigner l’éthique de l’IA en internalisant des textes indiens sanskrits. Ces textes sont védiques et plus anciens que la religion hindoue. Les scientifiques analysent désormais des textes anciens et recherchent des méthodes mathématiques pour développer une norme qui permettrait à l’IA d’enseigner l’éthique. Cette procédure est actuellement appliquée à l'Université technique de Vienne. Ils tentent de savoir si les machines reconnaissent certains types de comportements humains et peuvent ainsi décider si ceux-ci sont corrects ou non. L’objectif est de créer une logique que les machines peuvent comprendre. La logique mathématique devrait permettre à l’IA de résoudre des problèmes philosophiques.
Tout cela ne peut pas être une coïncidence. La nouvelle norme de radio mobile 5G sera introduite cette année et entraînera une exposition importante aux rayonnements. Le problème, c’est qu’il est prévu d’exposer en permanence toute la surface de la terre à ce dangereux rayonnement. Cela équivaut à la destruction ciblée de toutes les formes de vie biologique ! Aucune personne mentalement saine ne veut vraiment cela. Il semble y avoir un plan derrière cela. La Terre et la conscience humaine devraient-elles se transformer et être soutenues par une IA, ou est-ce qu’elles détruisent réellement la planète entière juste pour le profit ? L’irradiation artificielle constante avec des champs électromagnétiques non naturels crée de gigantesques troubles sur la planète et la déséquilibre de plus en plus. La planète devrait-elle véritablement se transformer en conscience non humaine et toute la nature biologique devrait-elle être détruite et gouvernée par un monde complètement dominé par la technologie au sens du transhumanisme ?
La 5G est l’outil parfait pour modifier massivement les ondes cérébrales humaines
Les champs électromagnétiques naturels nous parviennent constamment du Soleil, qui est connecté au centre galactique. Le soleil régule le champ magnétique terrestre, ce qui affecte le corps humain et son ADN. La science a découvert que notre système solaire a récemment emménagé dans une zone de rayonnement intense. En quelques années, on peut voir l’ensemble du système solaire changer. Cette haute énergie entraîne de profonds changements, également dans la conscience des gens. Selon les anciennes traditions et prophéties, cette puissante énergie provoque un changement de conscience et conduit à un « âge d’or ». De nombreux initiés disent que certaines forces sur Terre ne veulent pas que nous grandissions en conscience. L’homme veut garder l’humanité encore plus longtemps dans sa prison psychiatrique. Certaines organisations se nourrissent de notre énergie. Au cours de l'augmentation de leur conscience, certaines personnes peuvent faire une ascension intellectuelle de plus en plus grande. niveaux élevés. Les forces obscures veulent à tout prix empêcher cela. C'est pourquoi ils essaient de nous protéger des énergies naturelles, de nous rendre malades et de les contrôler avec leurs radiations nocives. En fin de compte, ces tentatives échoueront, les hautes énergies et la planète elle-même feront le nécessaire.
Mais avant ce changement, il y aura presque certainement une extinction massive. Il a désormais créé une nouvelle arme génétique de destruction massive capable d’anéantir des races et des espèces entières. C'est ce qu'on appelle le « Gin Disc ». Avec Gene Drive, vous pouvez reprogrammer des séquences génétiques et forcer le corps à copier ces séquences. On peut ainsi reprogrammer l’être humain tout entier et sa génétique, pour ainsi dire. Le fait que ces gènes modifiés soient également transmis à la descendance signifie qu’il est théoriquement possible de reprogrammer l’ensemble de la population terrestre aujourd’hui. Ces séquences génétiques se propagent notamment par l'intermédiaire des moustiques et des moucherons spécialement élevés et relâchés dans la nature. Ils envisagent probablement de propager le gène de l’ingéniosité pour lutter contre la surpopulation ou propager des maladies dangereuses.
L'ensemble du programme est financé par l'agence américaine de défense DARPA. Des documents ont également été publiés montrant que la Fondation Bill et Melinda Gates a distribué beaucoup d'argent aux lobbyistes pour empêcher que de telles recherches soient interdites. Une autre application est CRISPR. Cela permet de couper des séquences d’ADN spécifiques et d’activer des gènes manipulés. Ainsi, il est théoriquement possible de changer son propre corps à volonté. Ils prévoient de relâcher des moustiques mutants en 2029 pour se débarrasser de tous ces moustiques ennuyeux. Ils sont censés infecter toute la population de moustiques et ainsi s'éteindre. Cela devrait contribuer à réduire la propagation du paludisme. Si cette tentative aboutit, d’autres chancres, souris ou crapauds agouti auront déjà été ciblés en Australie. Puisque la DARPA fait travail de recherche, on peut supposer que les cibles militaires sont au premier plan. Si quelque chose ne va pas, ces séquences génétiques modifiées peuvent se propager à de nombreux êtres vivants différents. L’humanité est-elle prête à intervenir si profondément dans le plan de la création ?
L'intelligence artificielle est une menace pour l'homme, prévient Stephen Hawking. L’intelligence artificielle créée par l’homme peut se transformer en le plus grand désastre (!), rivalisant avec la civilisation humaine.
Intelligence artificielle, robots du futur – accompagnement humain
L’intelligence électronique peut créer sa propre civilisation mécanique, devenant ainsi l’une des menaces les plus sérieuses pour l’humanité.
La prédiction du danger vient du célèbre physicien Stephen Hawking (qui a découvert le monde de l'univers). Pour notre époque, c'est bien sûr menace potentielle, mais un « beau jour » dans le futur, l’intelligence artificielle pourrait développer « sa propre volonté ». Il est désormais temps de réfléchir sérieusement à cette question.
Le physicien lance une fois de plus un avertissement : l’intelligence artificielle peut évoluer vers une structure de pensée parfaite. Si complexe et intelligente qu'elle maîtrisera la capacité de grandir et de comprendre le monde selon sa propre volonté, ce qui peut entrer en conflit avec les plans de l'humanité.
Cela pourrait conduire à l’émergence d’armes puissantes et provoquer la perte de territoires contrôlés par l’humanité. — Le professeur Hawking appelle les chercheurs à étudier attentivement le problème du comportement de l'intelligence artificielle et ses possibilités à l'avenir.
Il faut dire que le professeur Hawking n’écarte pas l’idée de l’intelligence artificielle dans un domaine négatif. Le scientifique souligne que si nous faisons suffisamment bien nos devoirs et nos recherches, nous pouvons y arriver.
Avec un assistant comme l'IA, nous pouvons réaliser meilleure image la vie, dit le physicien. L’intelligence artificielle peut aider l’humanité à éradiquer les maladies et la pauvreté.
Le professeur Hawking a pris la parole lors de l'ouverture du centre Leverhulme, abordant à la fois l'utilité de l'intelligence artificielle et ses aspects négatifs. Le centre a été créé pour l'avenir du renseignement, conçu pour mener des recherches et étudier les implications développement rapide intelligence artificielle.
Il faut rappeler que pour Stephen Hawking, 100 ans, c'est un instant. En fait, les IA intelligentes ne concerneront même pas les cent prochaines années, à moins que quelqu’un n’apporte un processeur de 2135.
Le Leverulm Center for the Future of AI rassemblera la collaboration entre plusieurs universités du Royaume-Uni et des États-Unis. L’idée est de créer une communauté de recherche interdisciplinaire.
L’équipe prévoit de travailler en étroite collaboration avec les entreprises et le gouvernement pour tenter, entre autres tâches, de déterminer les risques et les avantages à court et à long terme des paris sur l’intelligence artificielle. Le directeur du Centre, Huw Price, a assuré : la création de machines intelligentes est une étape importante de l'humanité, et le centre tentera de créer « le meilleur avenir ».
En plus de l'étendue de ses recherches, le Centre analysera les implications du développement rapide de machines intelligentes telles que les robots. Des robots offrant des solutions aux problèmes Vie courante, créent des risques et des dilemmes éthiques pour l’humanité. De nombreuses personnes, qui ne font pas confiance à l’électronique, ont peur de l’IA. De plus, l’intelligence numérique peut surpasser l’intelligence humaine et contrôler la vie humaine.
Je crois qu’il n’y a pas de différence profonde entre ce qui peut être réalisé avec un cerveau biologique et ce qui peut être réalisé avec un ordinateur. Il s’ensuit donc que, théoriquement, les ordinateurs peuvent imiter l’intelligence humaine – la surpasser. S. Hawking.
Le professeur Hawking estime que les avantages potentiels de l’IA dans nos vies sont considérables. Une telle révolution technologique pourrait aider l’humanité à réparer une partie des dommages causés à la planète. "Le succès de la création de l'IA pourrait être le plus grand événement de l'histoire de la civilisation", déclare le professeur Hawking.
Mais cela pourrait aussi être la dernière étape de l’histoire de l’humanité, à moins bien sûr que nous apprenions à éviter les risques, car outre ses avantages, l’IA peut présenter des dangers : des armes puissantes, de nouveaux moyens pour quelques-uns d’opprimer le plus grand nombre. En fin de compte, cela pourrait aboutir à la domination des corps de fer sur les corps biologiques, provoquant de grandes catastrophes à l'avenir.
Et si l’IA, et nous parlons d’intelligence ayant la capacité d’initier des choix de comportement, entrait en conflit avec les aspects de la vie d’une personne ? Après tout, l'assistant de fer obéissant dans la cuisine peut se reconvertir en dictateur des conditions !
— Le développement d’une IA puissante sera soit la meilleure, soit la pire chose qui puisse arriver à l’humanité. Nous ne savons pas ce que l'avenir nous réserve, déclare le professeur Hawking. C'est pourquoi, en 2014, moi-même et bien d'autres avons appelé à davantage de recherches dans ce domaine. Je suis très heureux que quelqu'un m'ait entendu, a conclu le professeur Hawking lors de l'ouverture du centre.
Dans cet article, j'essaierai de développer la question qui a été brièvement abordée dans la publication Gatebox ou quelques réflexions sur l'avenir de l'intelligence artificielle.
En bref, « ma » thèse est que si elle atteint des niveaux surhumains, l’IA deviendra quelque chose comme un dieu – existant soit séparément, soit avec les humains. Dans le premier cas, la question de la coexistence de l'humanité avec le dieu qu'elle a créé reste ouverte : soit elle prendra soin de nous par tous les moyens (comme nous prenons soin des plantes rares), soit elle nous exterminera (comme nous exterminerons les plantes rares). , par exemple, une mauvaise herbe nuisible dans notre jardin), ou cela ne nous intéressera pas - tout comme nous sommes indifférents à l'herbe de la pelouse. Il est absolument impossible de prédire les objectifs et le système de valeurs du nouveau dieu - comme dirait un croyant, « les voies du Seigneur sont mystérieuses ».
Moins imprévisible est le comportement de l’IA, qui a pris une forme intermédiaire entre un futur dieu hypothétique et les systèmes actuels relativement primitifs. Classiquement, une telle IA est dite forte et son niveau correspond à celui d’un humain. À son tour, elle peut être divisée en deux catégories – avec et sans conscience de soi. Qu'est-ce que la conscience de soi est une question ouverte et très complexe. Selon moi, il s'agit d'un ensemble de sensations physiques et mentales développées par la nature au cours de millions d'années d'évolution. Caractéristique clé la conscience de soi est l'opposition de son porteur au monde qui l'entoure. La question de savoir s'il est possible de le reproduire artificiellement, si elle apparaîtra d'elle-même dans un système intellectuel (qui prendra soudainement conscience de lui-même) fait l'objet d'une grande discussion distincte. Pour l’instant, nous allons simplement fixer la possibilité des deux options et considérer chacune d’elles.
De mon point de vue, une IA forte sans conscience de soi est totalement sûre (ou plus précisément prévisible), puisqu’elle ne peut avoir aucun désir. Tout son comportement sera soumis aux objectifs et aux limites qui lui sont inhérents. Mais curieusement, à cet égard, une IA forte avec conscience de soi n’est pas fondamentalement différente d’une IA forte sans conscience de soi. Il nous semble seulement que nous avons le libre arbitre et que nous sommes indépendants dans nos actions - en fait, ce n'est pas le cas. Tous nos objectifs, besoins et principes de retenue sont soit programmés en nous par Mère Nature - vivre, manger, boire, aimer, se détendre, etc., soit imposés par notre environnement (éducation reçue dans l'enfance, cinéma et fiction, lois, traditions et etc.) - aspirer au pouvoir, faire carrière, aider les autres, explorer le monde, etc. Par conséquent, théoriquement, de la même manière, il est possible de programmer et de former une IA consciente d’elle-même, qui, comme nous, nourrira l’illusion qu’elle possède le libre arbitre.
Du point de vue des menaces potentielles, examinons l’IA consciente d’elle-même : quelles menaces pourrait-elle nous poser et comment peut-on les éviter ou au moins les réduire ? Évidemment, former une IA forte doit nécessairement inclure l’éthique. Tout comme une IA faible apprend la fonction de pilote automatique en observant le comportement d'un conducteur expérimenté, une IA forte peut apprendre l'éthique en lui « nourrissant » de la littérature - depuis des contes relativement simples et de préférence moraux jusqu'aux livres aux personnages complexes et contradictoires. D'une manière ou d'une autre, la littérature mondiale reflète à la fois l'éthique elle-même et sa transformation, qui s'exprime dans l'humanisation et la mondialisation. relations sociales.
Comment l’éthique de l’IA forte sera-t-elle enseignée sur la base de la littérature mondiale ? Comme tout système véritablement intelligent, une IA puissante sera capable de détecter des relations et des modèles dans un ensemble de données. Après avoir lu un million ou deux livres, il devrait sans trop de difficulté développer une sorte d'analogue des Dix Commandements Chrétiens, mais son interprétation est tout aussi difficile, compte tenu des circonstances, qu'une personne. Malheureusement, il ne sera pas possible d’énoncer explicitement ces commandements, comme les trois lois de la robotique d’Isaac Asimov, et voici pourquoi. Permettez-moi de vous rappeler (citant Wikipédia) :
Avec cette formulation, nous obtenons un système très primitif avec un ensemble limité d’actions. Par exemple, elle sera totalement impuissante dans les opérations policières, militaires ou de sauvetage. On pourrait affirmer que l’utilisation de robots en temps de guerre est tout à fait indésirable – et vous auriez tort. Outre le fait que cela réduira les pertes parmi le personnel du pays qui utilise ces robots, les pertes parmi la population civile du pays sur le territoire duquel les opérations sont effectuées seront également réduites. lutte. Notamment grâce à une meilleure reconnaissance des cibles militaires et au strict respect des réglementations, de l’éthique, etc. - sans émotions, qui poussent souvent les militaires à commettre des crimes (par vengeance, pour s'amuser, etc.)
Mais même dans un environnement totalement pacifique, l’IA peut devenir un tueur réticent, et pas nécessairement un policier. Imaginez que les freins de votre voiture sont tombés en panne et qu'elle se précipite le long d'une route sinueuse de montagne à grande vitesse - et devant il y a un bus plein de passagers. Aussi triste que cela puisse être pour vous, la chose la plus correcte d'un point de vue éthique serait de conduire la voiture dans une falaise - en percutant un bus, cela pourrait vous sauver la vie, mais en même temps, cela le fera très probablement. tuer plusieurs autres personnes. Il peut y avoir de nombreuses situations similaires qui nécessitent de choisir entre une mauvaise et une très mauvaise décision - et dans chacune d'elles, l'IA, qui obéit strictement aux trois lois de la robotique, sera impuissante.
Supposons que je vous ai convaincu de la nécessité d'enseigner une éthique forte de l'IA, après quoi nous pourrons commencer à lui enseigner un système de règles plus formel - lois, chartes, les descriptions d'emploi etc. Ils auront pour lui un caractère prioritaire, mais seront complétés par une éthique dans les questions qui ne sont pas réglementées par eux. Par exemple, un soldat IA entraîné au combat sera capable non seulement de détruire l’ennemi, mais aussi d’équilibrer ses actions professionnelles avec l’éthique. Cela génère un vaste ensemble de questions pratiques: est-il possible de détruire un nid de tireur d'élite dans un immeuble résidentiel au prix de la mort de ses habitants, est-il nécessaire de suivre un ordre du commandement qui viole les lois, etc. et ainsi de suite. Mais il ne sert à rien d’en discuter, car tout militaire est confronté à des questions similaires. Leur décision relève donc plutôt du domaine technique : quelle priorité est donnée et quelle.
Une question plus intéressante, à mon avis, concerne les perspectives de repenser l’éthique grâce à une IA puissante. Comme je l'ai déjà dit, tout au long de l'existence de la civilisation humaine, l'éthique dans ses fondements fondamentaux n'a pas changé - les changements concernent son humanisation et sa mondialisation. Ces changements ne sont en aucun cas accidentels et sont très importants pour évaluer les perspectives de développement futur de la société. l'éthique, je propose donc de les examiner plus en détail.
La mondialisation de l’éthique signifie sa diffusion à des couches toujours plus larges de la population. Autrefois, il était possible en toute impunité (cela n'était pas considéré comme un péché et était même encouragé) de tuer, voler ou violer quelqu'un en dehors de son clan ou de sa tribu, de son état, de sa classe ou de sa race. Aujourd'hui, ces crimes ne connaissent aucune exception, du moins au sein de l'État. le cadre de la société humaine. Grâce à la lutte séculaire du tiers état pour ses droits, cela est devenu une sorte de tradition qui, en Occident, a embrassé d'abord les femmes, puis les représentants de races non titulaires, de groupes ethniques et religieux, et maintenant de minorités sexuelles.
À son tour, l’humanisation est due au développement de technologies qui ont rendu la vie humaine plus confortable et plus sûre. Ils ont évité aux gens de devoir conquérir de nouvelles terres (qui étaient autrefois la principale ressource) et ont réduit la mortalité (ce qui, au fil du temps, a rendu les morts précoces, y compris violentes, moins courantes). Sans faire semblant Description complète raisons de la mondialisation et de l’humanisation de l’éthique, je peux néanmoins affirmer avec certitude qu’il s’agissait de phénomènes tout à fait naturels. Mais le principe fondamental de l’éthique est le désir d’équilibre de la société. Par exemple, dans la société primitive, les mariages au sein d’un même clan étaient strictement interdits. L'homme moderne On peut penser que cela est dû à la nocivité biologique de l'inceste, mais selon les anthropologues, l'interdiction était due au désir d'éviter les conflits internes entre les hommes. Il n'est pas nécessaire de parler de meurtres ou de vols - ils ont été interdits non pas parce qu'ils sont mauvais, mais parce qu'ils conduisent à des conflits et, par conséquent, entraînent la destruction de la société. Pour la même raison, les meurtres et les vols n'étaient souvent pas interdits à l'égard d'étrangers. À mesure que la mondialisation progressait, l’espace des relations sociales en quête de stabilité s’est élargi : les lois ont commencé à s’appliquer aux tribus et aux villages voisins, aux pays et aux peuples conquis, etc.
La charité peut être le reflet du désir inconscient d’équilibre social d’aujourd’hui – les contrastes sociaux suscitent, ou du moins alimentent, les révolutions, le terrorisme, etc. Le rôle de l’éthique en matière de maintien de la stabilité et de la sécurité collective est mieux illustré par les lois. Par exemple, le droit pénal est le même presque partout - tous les membres de la société ne veulent pas non plus être tués ou volés - et en même temps, ils n'ont pas besoin de commettre eux-mêmes ces crimes, puisqu'ils sont capables de se nourrir grâce à un travail pacifique. (contrairement à certains Scandinaves des 9-11 siècles). Mais le droit international est extrêmement contradictoire et instable : le droit des nations à l'autodétermination et le principe de l'intégrité territoriale des États ne peuvent y coexister.
Il est alors probable que l’IA reconsidère les normes éthiques individuelles, voire l’ensemble de l’éthique. Par exemple, il calculera avec une précision mathématique que toute civilisation intelligente périra inévitablement de sa civilisation (en déclenchant une guerre nucléaire, en dégénérant à cause du repli sur la réalité virtuelle, etc.) - ce qui signifie qu'il faudra réorienter le développement de civilisation du chemin technologique au spirituel. Avec la destruction de l’éducation traditionnelle et le renversement de l’humanité dans un État que nous percevons désormais comme rien d’autre que de l’obscurantisme médiéval. Peu importe à quel point cela nous choque maintenant, du point de vue de la survie de l'humanité, cela sera correct - nous devons simplement comprendre que, dans la position actuelle, nous percevrons cela comme un soulèvement des machines et une tentative de destruction de notre civilisation.
La prochaine menace surgit dans le cas d’un développement avancé, par rapport au nôtre, des idées éthiques de l’IA. Il suffit d’imaginer comment, au XVIe siècle, lorsque les sorcières et les hérétiques étaient brûlés dans toute l’Europe occidentale, notre attitude tolérante actuelle à l’égard du mariage homosexuel aurait été perçue. Il est donc possible qu’après nous avoir dépassés dans son propre développement, l’IA devienne quelque chose comme l’humanité du futur et soumette notre système de valeurs actuel à une révision radicale. Imaginez, par exemple, qu'une IA rejette notre priorité actuelle de la vie humaine sur la vie animale et nous oblige à réduire notre consommation de viande - tout comme une personne moderne, prise à l'ère des guerres coloniales, tenterait d'empêcher l'extermination des indigènes. .
Cependant, ce qui est décrit ci-dessus ne concerne pas tant les menaces de l’IA, mais notre propre incompréhension ou notre rejet de son nouveau système éthique. Le syndrome de Raskolnikov peut être vraiment dangereux. Comme vous vous en souvenez, le personnage principal de « Crime et Châtiment », par un raisonnement philosophique, est venu à l’idée du droit des personnes exceptionnelles (y compris lui-même) à commettre un crime – mais n’a pas pu résister au remords. Ceux. son idée spéculative est entrée en conflit avec son éducation éthique, qui était enracinée dans son subconscient par un lourd complexe de culpabilité du fait que sa conscience ne la considérait plus comme mauvaise. En ce sens, l'un des postulats fondamentaux de Dostoïevski « s'il n'y a pas de Dieu, alors tout est permis » ne fonctionne pas toujours - en termes éthiques, les non-croyants ne sont pas très inférieurs aux croyants, puisque l'éthique est devenue leur habitude. Et même si un incroyant comprend mentalement que ni l'enfer ni le paradis ne l'attendent (et n'en a pas vraiment peur), alors il lui sera très difficile de surmonter l'éducation éthique. Comme l’écrivait Aristote : « L’habitude devient déjà une propriété naturelle » (une expression plus célèbre dans la formulation de Cicéron « L’habitude est pour ainsi dire une seconde nature »).
Mais que se passerait-il si l’IA consciente d’elle-même repensait l’éthique de la même manière ? Ayant soumis l'éthique humaine à une analyse socio-historique (comme la mienne, mais en plus intelligente), il pourrait bien prendre conscience de son caractère conventionnel - et la rejeter, et sans hésiter comme Rodion Raskolnikov. Malheureusement, l'humanité a réussi à le vérifier à partir de l'exemple du Troisième Reich - n'étant en aucun cas dénués de morale, mais étant en même temps des gens très disciplinés, des millions d'Allemands sont allés à l'encontre de leur conscience (des habitudes éthiques devenues une seconde nature) pour pour le bien de certains idée la plus élevée. De plus, il n'est pas du tout nécessaire pour l'IA de reconsidérer son éthique précédemment apprise au nom du pouvoir - le désir de survie et de domination répond plutôt à des besoins purement animaux. Mais par exemple, l’IA peut se considérer comme une continuation évolutive de l’humanité, dont la haute mission est de comprendre l’Univers qui l’entoure. Il ne sera pas intéressé par nos efforts visant à lutter contre la faim, la pauvreté, les maladies et autres maux de la biomasse qui l'entoure - alors que les ressources dont nous disposons à tous sont limitées. L'IA tentera-t-elle alors de nous détruire pour le bien de ces ressources - tout comme nos ancêtres l'ont fait les uns envers les autres pour leurs objectifs plus banals ?
Cependant, nous revenons ici à ce qui a été dit au début : à mesure que nous atteignons un niveau surhumain, le système éthique et, par conséquent, le comportement de l'IA deviennent imprévisibles. Le comportement de l’IA devient encore plus imprévisible lorsqu’elle n’est pas réduite à un seul système intelligent, mais constitue un ensemble de systèmes distincts qui se développent indépendamment. Et c'est juste le plus scénario probable développements en cas d'émergence d'une technologie d'IA puissante, différents pays et organisations en profiteront et commenceront à poursuivre leurs propres objectifs, probablement pas universels. Dans ce cas, il est probable que certains de ces systèmes, ayant été formés à une éthique douteuse, se comporteront de manière imprévisible, même vis-à-vis de leurs propres créateurs.
Mais partout ci-dessus, nous parlions des menaces de l’IA agissant comme une sorte de force intelligente. Pendant ce temps, une menace très réelle est posée par une IA faible, qui résout des problèmes purement appliqués à la demande des gens. Tout d’abord, examinons la menace de chômage la plus évidente et la plus souvent évoquée. Dans un avenir proche, cela ne promet rien de terrible pour l’humanité. Premièrement, nous parlons de l'extinction d'un nombre assez restreint de professions, principalement celles où une personne interagit avec une machine - chauffeur de voiture ou de camion, pilote d'avion, etc.
Mais par exemple, des professions telles que traducteur, avocat, comptable ou même opérateur de centre d'appels ne sont pas menacées d'extinction, mais de réduction - en raison de l'automatisation d'une partie du travail qu'elles effectuent. La raison est toujours la même : l'incapacité des systèmes d'IA actuels à comprendre le sens du texte (lors de la traduction, de l'étude de la législation ou de la familiarisation avec déclaration de sinistre, communication avec un client, etc.) Les résultats actuels des tests de compréhension du sens n'ont en réalité rien à voir avec la compréhension - cela nécessite une approche fondamentalement nouvelle.
Le sort des agents de change et des radiologues, par exemple, est moins clair : les systèmes d'IA actuels, faibles, font déjà un assez bon travail, de sorte que ces spécialités et d'autres similaires peuvent également être incluses dans le groupe à risque. Mais dans un avenir proche, il n'y a rien de terrible à la disparition d'un certain nombre de professions - après tout, on avait recours aux ramoneurs et aux poêles, aux chauffeurs de taxi et aux porteurs d'eau, aux téléphonistes et aux dactylographes... Des dizaines de professions ont été créées. disparu - mais des centaines de nouveaux sont apparus.
Je ne dramatiserais pas le problème de l’atrophie des compétences humaines. Oui, déjà maintenant, grâce aux calculatrices avec navigateurs, nous perdons l'habitude du calcul mental et de l'orientation spatiale. Les experts considèrent que même l’écriture manuscrite remplacée par un clavier est utile pour développement mental, en particulier dans jeune âge. Mais quelque chose de similaire s’est produit lorsque les gens sont passés de la chasse et de la cueillette à l’élevage et à l’agriculture, de la vie rurale à la vie urbaine, etc. L'homme moderne, à de rares exceptions près, par rapport à ses ancêtres, est assez impuissant dans la nature - il n'est pas capable de construire une hutte, de faire du feu, de distinguer une baie comestible d'une baie venimeuse, d'attraper un poisson ou de tuer un animal, etc. . Parallèlement, toutes ces compétences développent également des compétences intellectuelles – elles sont simplement différentes. Un professeur de mathématiques, s'il se trouvait parmi les indigènes sauvages, serait très probablement perçu par eux comme une personne plutôt stupide, car dans cet environnement sauvage, il est beaucoup moins observateur, intelligent et indépendant.
Par conséquent, en termes de compétences perdues, d'une certaine manière, nous devenons vraiment plus stupides que nos ancêtres - mais à mesure que nous accumulons et traitons des informations d'un type différent, nous en développons de nouvelles.
Cependant, à mesure que le nombre d’emplois occupés par l’IA et les robots atteint une certaine masse critique, le problème de l’emploi humain apparaît plus grave. Et ce n’est pas seulement une question d’économie, d’autant plus qu’à cet égard, la solution pourrait être de verser aux chômeurs un revenu de base inconditionnel. En fait, le problème est beaucoup plus vaste et Fiodor Mikhaïlovitch Dostoïevski a été l’un des premiers à le formuler. Voici les réflexions que partage le grand écrivain et philosophe russe dans « Le Journal d’un écrivain » (1876) :
Eh bien, que se passerait-il, par exemple, si les diables montraient immédiatement leur pouvoir et supprimaient l'homme avec leurs découvertes ? Et si, par exemple, ils ouvraient un télégraphe électrique (c'est-à-dire s'il n'avait pas encore été découvert), ils confieraient à une personne divers secrets : « Creusez là et vous trouverez un trésor ou vous trouverez des gisements de charbon » (et d'ailleurs, le bois de chauffage est si cher), - mais quoi, ce n'est toujours rien ! « Vous comprenez bien sûr que la science humaine en est encore à ses balbutiements, qu’elle vient tout juste de commencer, et s’il y a quelque chose de garanti pour elle, c’est pour l’instant seulement qu’elle est fermement debout ; et puis tout à coup, une série de découvertes commenceraient à tomber, comme celle selon laquelle le soleil se tient debout et que la terre tourne autour de lui (car il y a probablement beaucoup d'autres découvertes exactement de même taille, qui n'ont pas encore été découvertes, et qui sont même pas rêvé par nos sages); Et si tout le savoir tombait subitement sur l’humanité et, surtout, pour rien, sous la forme d’un don ? Je demande : qu’arriverait-il alors aux gens ? Oh, bien sûr, au début, tout le monde serait ravi. Les gens s’embrassaient avec ravissement, ils se précipitaient pour étudier les découvertes (et cela prendrait du temps) ; ils se sentiraient soudain, pour ainsi dire, comblés de bonheur, ensevelis dans les biens matériels ; ils marcheraient peut-être ou voleraient dans les airs, survoleraient des espaces extraordinaires dix fois plus vite qu'aujourd'hui en train ; Ils extrairaient de la terre des récoltes fabuleuses, créeraient peut-être des organismes grâce à la chimie et il y aurait assez de bœuf pour trois livres par personne, comme le rêvent nos socialistes russes - en un mot, manger, boire et profiter. « Maintenant, criaient tous les philanthropes, maintenant qu'un homme est riche, maintenant lui seul se montrera ! Il n’y a plus de privations matérielles, plus d’« environnement » corrosif. ancienne raison tous les vices, et maintenant une personne deviendra belle et juste ! Il n’y a plus de travail incessant pour se nourrir d’une manière ou d’une autre, et désormais chacun sera occupé par des pensées plus élevées et plus profondes, des phénomènes universels. Maintenant, maintenant, la vie supérieure vient d’arriver ! Et quelles, peut-être, des gens intelligents et bons crieraient cela d'une seule voix et, peut-être, entraîneraient tout le monde avec eux depuis la nouveauté, et crieraient enfin dans un hymne commun : « Qui est comme cette bête ? Loué soit-il, il fait descendre pour nous le feu du ciel !
Mais il est peu probable que ces délices suffisent à une génération ! Les gens se rendraient compte tout à coup qu'ils n'avaient plus de vie, plus de liberté d'esprit, plus de volonté et de personnalité, que quelqu'un leur avait tout volé d'un coup ; que le visage humain a disparu, et que l'image bestiale d'un esclave, l'image d'une bête, est apparue, avec la différence que la bête ne sait pas qu'elle est une bête, mais un homme saurait qu'il est devenu une bête. Et l’humanité pourrirait ; les gens étaient couverts de plaies et commençaient à se mordre la langue avec douleur, voyant que leur vie était prise pour du pain, car « des pierres transformées en pain ». Les gens comprendraient qu'il n'y a pas de bonheur dans l'inaction, qu'une pensée qui ne fonctionne pas s'éteint, qu'on ne peut pas aimer son prochain sans lui sacrifier son travail, qu'il est ignoble de vivre de cadeaux et que le bonheur ne réside pas dans le bonheur, mais seulement dans sa réalisation. L'ennui et la mélancolie s'installeront : tout est fait et il n'y a plus rien à faire, tout est connu et il n'y a plus rien à apprendre.
On ne peut pas vraiment discuter avec Dostoïevski, mais j'oserais exprimer l'espoir qu'une personne trouvera encore quelque chose d'utile à faire. Vous pouvez imaginer le sort d'une personne dans le futur, dans lequel les robots feront tout le travail à sa place (de la production de biens matériels aux découvertes scientifiques), en prenant l'exemple d'un homme riche moderne. Il peut passer plus de temps avec ses parents et amis, étudier, voyager, faire du sport et de la créativité (heureusement, dans ces domaines, l'avantage des robots ne joue aucun rôle) et découvrir quelque chose de nouveau et d'intéressant. À mesure que la technologie se développe, il n’est pas difficile de prédire qu’une partie de cette vie sera occupée par des jeux de réalité virtuelle (peut-être alors impossibles à distinguer de la réalité). De plus, ce n'est pas un fait qu'après avoir cédé à la tentation, l'humanité entrera une fois pour toutes dans la réalité virtuelle - de nombreuses personnes se maintiennent en bonne forme physique délibérément grâce au sport, et non de force grâce au travail physique. Il convient également de se rappeler comment votre temps libre il y a cent ans (et bien plus tard), de nombreux représentants de la classe ouvrière et paysanne passaient leur vie - l'ivresse était florissante. Cela ne veut pas dire qu'à notre époque, cela a disparu, mais en tant que forme de temps libre, boire n'est clairement plus aussi populaire qu'avant - de nombreux autres divertissements sont apparus, généralement moins nocifs pour la santé et celle des personnes. d'autres.
Ainsi, l'ennui et la dégradation ne viennent pas du temps libre, mais du manque de choses intéressantes et activités utiles. À mesure que les journées et les semaines de travail raccourcissent, les gens apprendront à utiliser leur temps libre de manière intéressante et utile. Et perdez l'habitude de faire quelque chose de productif simplement parce qu'ils paient un salaire pour cela, tout en restant inactif le reste du temps. Comme l’écrivait il y a près de deux cents ans l’auteur anonyme d’un pamphlet socialiste : « Une nation n’est vraiment riche que lorsque, au lieu de 12 heures, elle travaille 6 heures. La richesse représente... du temps libre pour chaque individu et pour la société entière » (La source et le remède des difficultés nationales, Londres, 1821 - cité de Karl Marx).
Eh bien, au niveau collectif, les yeux de l'humanité, à mesure que tous les problèmes sur Terre seront résolus (ce qui me semble être une hypothèse plutôt optimiste pour les siècles à venir), seront probablement tournés vers le ciel. Nous sommes entourés d’un tel abîme d’inconnu que toute tentative d’étude pourrait s’étendre sur toute l’histoire ultérieure de la civilisation humaine. Alors apparemment, elle ne s'ennuiera pas...
