Le futuriste Future Design Club, créé sous les auspices de la revue économique Invest-Foresight, est ouvert. Le club a réuni des experts dans divers domaines de connaissances pour analyser des scénarios futurs. La première réunion a eu lieu à l'Institut de philosophie de l'Académie des sciences de Russie et s'est tenue dans le cadre du nouveau séminaire « Philosophie de l'ère numérique » de l'institut lui-même. Passé sous le radar des futurologues et des philosophes intelligence artificielle(IA) et son impact sur la société et les individus.
À quoi s'attendre de l'IA, quelles sont les limites et les dangers des systèmes d'information innovants, a déclaré un biophysicien, expert de premier plan à l'Institut de biologie du vieillissement. Igor Artoukhov.
Le scientifique a noté que le chaos terminologique règne dans la région. La formulation la plus couramment utilisée est une formulation vieille de 70 ans donnée par un ingénieur américain, auteur du terme « intelligence artificielle ». John McCarthy. Il a défini l'IA comme un certain système, appareil ou réseau capable de résoudre des problèmes intellectuels. Igor Artyukhov a souligné que l'intelligence n'est pas synonyme d'intelligence, mais caractérise la capacité à travailler avec des connaissances et des données.
Il existe également de nombreuses classifications d'algorithmes. Jusqu'à récemment, selon Igor Artyukhov, les développements experts (de haut en bas) dominaient, mais ils ne répondaient pas aux attentes ni des créateurs ni des utilisateurs, et l'hiver de l'IA a commencé. Ce renouveau est dû au développement des réseaux de neurones, entrés dans une phase active en 2015-2016. Ces développements ont été inspirés par la recherche sur le cerveau humain. Les réseaux de neurones se répètent largement principes généraux fonctionnement du cerveau, même si les neurones artificiels peuvent différer des neurones naturels. Il existe aujourd’hui un « zoo » de réseaux de neurones, et la plupart d’entre eux ont été récemment obtenus grâce à la technologie du deep learning.
Révolution « intellectuelle » de la 17e année
Le thème de l'IA est devenu un énorme succès en 2016 lorsque le programme AlphaGo a battu le champion du monde du jeu de Go, considéré comme beaucoup plus difficile que les échecs. Cela s'est produit 10 ans plus tôt que prévu. Les réalisations du programme DeepMind de Google ont poussé le débat au-delà de la question « l'IA est-elle possible ? » dans le plan du « de quoi est-il capable ? »
Aujourd’hui, l’IA peut automatiser n’importe quelle fonction humaine avec la même qualité ou supérieure, explique un membre du club, docteur en physique et mathématiques. Youri Vizilter.
« En 2017, tous les « trous » fondamentaux sur la voie de la création d’une IA à part entière ont été comblés. Les prévisions précédentes prévoyaient que ce seuil serait franchi entre 2025 et 2030. Mais cela s'est déjà produit en avril de l'année dernière", a souligné Yuri Vizilter. – Il existe deux types d'IA : l'une tente d'imiter le raisonnement humain et constitue une boîte transparente dans laquelle se trouvent la logique, la cognition, le travail avec des modèles structurés et avec des langages. Le deuxième type concerne les réseaux profonds capables d’apprendre, ou Black Box. Auparavant, il était impossible de se connecter d'une manière pratique ces deux parties de l’IA. L'année dernière, des réseaux de neurones profonds sont apparus, capables d'écrire des programmes dans des langages logiques, capables de travailler avec des bases d'inférence logiques et avec des structures.».
Peur de l'artificiel
Les domaines dans lesquels l’intelligence artificielle peut être utilisée se multiplient. Les programmes développent de nouvelles formules de médicaments, effectuent des tests génétiques complexes, « contrôlent » des véhicules et des navires sans pilote... Dans un avenir proche, nous verrons des personnalités artificielles, dont les prototypes sont aujourd'hui Siri et des programmes similaires. Des expériences sont déjà en cours pour créer une IA globale sur la blockchain, c'est-à-dire que l'informatique distribuée sera utilisée pour résoudre des problèmes extrêmement complexes, y compris sur des ordinateurs et des appareils privés. L’émergence de l’intelligence artificielle quantique n’est pas loin. En théorie, les ordinateurs quantiques ont dépassé la portée des ordinateurs conventionnels : ils sont capables de former des réseaux de neurones quantiques. Si les idées des développeurs sont mises en œuvre, cela conduira à l'émergence d'une IA d'une nouvelle qualité.
Est-il possible que l’IA devienne incontrôlable ? Igor Artyukhov répond à cette question comme suit :
« Oui, même aujourd’hui, l’IA fonctionne parfois d’une manière incompréhensible pour les développeurs. Mais les gens n’agissent pas toujours selon la logique généralement acceptée.».
Selon le biophysicien, bon nombre des dangers de l’IA sont farfelus et ne sont qu’une projection des instincts humains formés par l’évolution darwinienne sur l’intelligence artificielle. Igor Artyukhov estime que l'instinct de conservation est étranger à l'IA. L’émergence d’une « mauvaise » IA peut être causée par des erreurs logicielles (et elles existent dans n’importe quel code et sont corrigées pendant la durée de vie de l’algorithme), des erreurs d’apprentissage et des intentions malveillantes, c’est-à-dire Le danger ne vient pas de l’IA, mais de la bêtise humaine.
Les participants à la réunion sont arrivés à la conclusion que la tâche consistant à développer l'éthique de l'IA et à former des enseignants pour les robots devient primordiale.
Transformation numérique humaine
L’une des craintes les plus courantes est que l’IA entraîne un chômage généralisé. Rédacteur en chef du magazine Invest-Foresight, candidat aux sciences culturelles Constantin Frumkine a tenté de répondre à la question « Quelle niche sur le marché du travail l’IA laissera-t-elle aux humains ? » Selon lui, le bénéficiaire de la révolution technologique du XXe siècle - l'intellectuel urbain - s'envole dans le même abîme dans lequel l'artisan ou le paysan est tombé avec le début de l'industrialisation.
« Dans un avenir proche, nous assisterons à l’éviction des humains du domaine du travail mental grâce à l’intelligence artificielle », est sûr Konstantin Frumkin. – Nous assistons déjà à une transformation des capacités humaines, du style cognitif et de la pensée : c’est ainsi que se produit l’adaptation à l’ère numérique. Le symbole de cette adaptation était le concept de « pensée clip »“».
Cependant, rien ne prouve que cette adaptation permettra à une personne de trouver exactement les niches qui lui seront laissées par l'intelligence artificielle. Le domaine le plus important qui, selon Konstantin Frumkin, ne devrait pas être laissé aux robots est celui de la définition d'objectifs. À mesure que le gouvernement se numérise, la définition de priorités et de valeurs pour l’IA devient indissociable de la politique et de la loi. Cette profession, selon Konstantin Frumkin, peut créer des emplois de masse à l'avenir.
Intelligence artificielle, corps humain
Il n'est plus possible de prédire l'avenir car le rythme du changement est très rapide, explique Yuri Vizilter. Cependant, professeur à l’École supérieure d’économie et data scientist Léonid Joukov a invité les participants à la réunion à discuter de plusieurs scénarios de développement.
« Je vois deux scénarios de développement de l'IA dans un avenir relativement proche : transhumaniste (technologisation de l'homme naturel) et purement technique (création d'une intelligence artificielle autonome, AAI), initialement artificielle., a noté Léonid Joukov. – La deuxième manière est celle avec laquelle les écrivains de science-fiction effraient l’humanité, en peignant des images d’une civilisation mécanique supplantant la civilisation humaine. Cependant, comme le mystère de la conscience humaine n’a pas encore été résolu, des doutes subsistent quant à savoir si la création d’une telle intelligence est en principe possible. Que l'AGI soit créée ou non, il n'est pas difficile d'imaginer aujourd'hui le développement de la technologie, tant machine que bio, à un tel degré de perfection qu'une personne, ayant conservé son cerveau, recevra un corps complètement artificiel.».
Comme le pense Leonid Joukov, l'une des façons fantastiques de créer l'AGI repose sur l'idée de réécrire la conscience humaine sur un support artificiel.
« Si ce type de technologie devient possible, il n'est pas difficile d'imaginer un monde complètement virtuel, dans lequel, vraisemblablement, une partie de l'humanité voudra se déplacer (ou voyager à travers cette virtualité, comme, en fait, les joueurs informatiques voyagent déjà à travers les mondes de jeux aujourd'hui. )», réfléchit le scientifique.
Les participants à la première réunion du club « Concevoir l'avenir » ont tracé les contours des discussions futures. Cependant, le club existera dans un environnement virtuel et toutes les performances pourront être consultées sur le site Invest Foresight.
L'intelligence artificielle est une menace pour l'homme, prévient Stephen Hawking. L’intelligence artificielle créée par l’homme peut se transformer en le plus grand désastre (!), rivalisant avec la civilisation humaine.
Intelligence artificielle, robots du futur – accompagnement humain
L’intelligence électronique peut créer sa propre civilisation mécanique, devenant ainsi l’une des menaces les plus sérieuses pour l’humanité.
La prédiction du danger vient du célèbre physicien Stephen Hawking (qui a découvert le monde de l'univers). Pour notre époque, il s’agit bien sûr d’une menace potentielle, mais un « beau jour » dans le futur, l’intelligence artificielle pourrait développer « sa propre volonté ». Il est désormais temps de réfléchir sérieusement à cette question.
Le physicien lance une fois de plus un avertissement : l’intelligence artificielle peut évoluer vers une structure de pensée parfaite. Si complexe et intelligente qu'elle maîtrisera la capacité de grandir et de comprendre le monde selon sa propre volonté, ce qui peut entrer en conflit avec les plans de l'humanité.
Cela pourrait conduire à l’émergence d’armes puissantes et provoquer la perte de territoires contrôlés par l’humanité. — Le professeur Hawking appelle les chercheurs à étudier attentivement le problème du comportement de l'intelligence artificielle et ses possibilités à l'avenir.
Il faut dire que le professeur Hawking n’écarte pas l’idée de l’intelligence artificielle dans un domaine négatif. Le scientifique souligne que si nous faisons suffisamment bien nos devoirs et nos recherches, nous pouvons y arriver.
Avec un assistant comme l’IA, nous pouvons parvenir à un meilleur mode de vie, explique le physicien. L’intelligence artificielle peut aider l’humanité à éradiquer les maladies et la pauvreté.
Le professeur Hawking a pris la parole lors de l'ouverture du centre Leverhulme, abordant à la fois l'utilité de l'intelligence artificielle et ses aspects négatifs. Le centre a été créé pour l'avenir du renseignement, conçu pour mener des recherches et étudier les implications développement rapide intelligence artificielle.
Il faut rappeler que pour Stephen Hawking, 100 ans, c'est un instant. En fait, les IA intelligentes ne concerneront même pas les cent prochaines années, à moins que quelqu’un n’apporte un processeur de 2135.
Le Leverulm Center for the Future of AI rassemblera la collaboration entre plusieurs universités du Royaume-Uni et des États-Unis. L’idée est de créer une communauté de recherche interdisciplinaire.
L’équipe prévoit de travailler en étroite collaboration avec les entreprises et le gouvernement pour tenter, entre autres tâches, de déterminer les risques et les avantages à court et à long terme des paris sur l’intelligence artificielle. Le directeur du Centre, Huw Price, a assuré : la création de machines intelligentes est une étape importante de l'humanité, et le centre tentera de créer « le meilleur avenir ».
En plus de l'étendue de ses recherches, le Centre analysera les implications du développement rapide de machines intelligentes telles que les robots. Des robots offrant des solutions aux problèmes Vie courante, créent des risques et des dilemmes éthiques pour l’humanité. De nombreuses personnes, qui ne font pas confiance à l’électronique, ont peur de l’IA. De plus, l’intelligence numérique peut surpasser l’intelligence humaine et contrôler la vie humaine.
Je crois qu’il n’y a pas de différence profonde entre ce qui peut être réalisé avec un cerveau biologique et ce qui peut être réalisé avec un ordinateur. Il s’ensuit donc que, théoriquement, les ordinateurs peuvent imiter l’intelligence humaine – la surpasser. S. Hawking.
Le professeur Hawking estime que les avantages potentiels de l’IA dans nos vies sont considérables. Une telle révolution technologique pourrait aider l’humanité à réparer une partie des dommages causés à la planète. "Le succès de la création de l'IA pourrait être le plus grand événement de l'histoire de la civilisation", déclare le professeur Hawking.
Mais cela pourrait aussi être la dernière étape de l’histoire de l’humanité, à moins bien sûr que nous apprenions à éviter les risques, car outre ses avantages, l’IA peut présenter des dangers : des armes puissantes, de nouveaux moyens pour quelques-uns d’opprimer le plus grand nombre. En fin de compte, cela pourrait entraîner la domination des corps de fer sur les corps biologiques, provoquant de grandes catastrophes à l'avenir.
Et si l’IA, et nous parlons d’intelligence ayant la capacité d’initier des choix de comportement, entrait en conflit avec les aspects de la vie d’une personne ? Après tout, l'assistant de fer obéissant dans la cuisine peut se reconvertir en dictateur des conditions !
— Le développement d’une IA puissante sera soit la meilleure, soit la pire chose qui puisse arriver à l’humanité. Nous ne savons pas ce que l'avenir nous réserve, déclare le professeur Hawking. C'est pourquoi, en 2014, moi-même et bien d'autres avons appelé à davantage de recherches dans ce domaine. Je suis très heureux que quelqu'un m'ait entendu, a conclu le professeur Hawking lors de l'ouverture du centre.
Le populaire magazine en ligne américain Wired a publié un texte extrêmement intéressant de Kevin Kelly, dans lequel il critique minutieusement l'idée des dangers de l'intelligence artificielle. "NI" publie une traduction de ce matériel, fait en utilisant le canal de télégramme Newochem avec des réductions mineures.
« J’ai entendu dire qu’à l’avenir, les ordinateurs dotés d’intelligence artificielle deviendront tellement plus intelligents que les humains qu’ils nous priveront d’emplois et de ressources, et qu’à terme, l’humanité prendra fin. Mais est-ce le cas ? On me pose une question similaire chaque fois que je donne une conférence sur l’IA.
Les questionneurs sont plus sérieux que jamais, leur inquiétude étant en partie due aux inquiétudes de certains experts tourmentés par la même question. Il s'agit notamment des plus intelligents de nos contemporains - Stephen Hawking, Elon Musk, Max Tegmark, Sam Harris et Bill Gates.
Ils admettent tous la possibilité d’un tel scénario. Lors d'une récente conférence sur l'IA, un panel composé de neuf des gourous les plus éclairés du domaine est venuà la conclusion unanime que la création d’une intelligence surhumaine est inévitable et imminente.
Et pourtant, le scénario de l’asservissement de l’humanité par l’intelligence artificielle repose sur cinq hypothèses qui, à y regarder de plus près, s’avèrent non prouvées. Ces affirmations pourraient s’avérer vraies à l’avenir, mais ne sont actuellement pas fondées.
Les voici:
- L’intelligence artificielle devient déjà plus intelligente que l’esprit humain, et ce processus est exponentiel.
- Nous développerons une IA à usage général similaire à la nôtre.
- Nous pouvons créer l’intelligence humaine à partir du silicium.
- L’intelligence peut être illimitée.
- La création d’une superintelligence grandiose résoudra la plupart de nos problèmes.
Contrairement à ces postulats orthodoxes, je peux citer l’hérésie avérée suivante :
- L’intelligence n’est pas unidimensionnelle, donc « plus intelligent qu’une personne » est un concept dénué de sens.
- Les gens ne sont pas dotés d’une intelligence polyvalente, ce qui ne constitue pas une menace pour l’intelligence artificielle.
- La concurrence entre les humains et les ordinateurs sera limitée par les coûts.
- L'intelligence n'est pas illimitée.
- La création de l’IA n’est qu’une partie du progrès.
Si la croyance en l'asservissement des humains par l'intelligence artificielle repose sur cinq hypothèses infondées, alors cette idée s'apparente davantage aux croyances religieuses - aux mythes. Dans les chapitres suivants, je compléterai mes contre-arguments par des faits et prouverai que l’intelligence artificielle surhumaine n’est en effet rien de plus qu’un mythe.
L’idée fausse la plus répandue à propos de l’IA vient de la vision tout aussi répandue de l’intelligence naturelle selon laquelle elle est unidimensionnelle. Dans les sciences dures, beaucoup décrivent l’intelligence comme le faisait Nick Bostrom dans son livre Superintelligence – littéralement comme un graphique linéaire unidimensionnel avec une amplitude croissante.
À une extrémité se trouvent les êtres avec le niveau d'intelligence le plus bas, par exemple les petits animaux, et à l'autre extrémité, les génies, comme si le niveau d'intelligence n'était pas différent du niveau du son mesuré en décibels. Bien entendu, dans ce cas, il est facile d’imaginer une nouvelle augmentation dans laquelle le niveau d’intelligence dépasse le point le plus élevé du graphique et le dépasse même.
Ce modèle est topologiquement équivalent à une échelle, sur les marches de laquelle sont disposés les niveaux d'intelligence par ordre croissant. Les animaux moins intelligents occupent les échelons inférieurs de l’échelle, et une intelligence artificielle de niveau supérieur sera inévitablement positionnée au-dessus de nous. Le délai dans lequel cela se produit n’a pas d’importance. Les étapes de la hiérarchie elles-mêmes sont bien plus importantes - les mesures de l'intelligence croissante.
Le problème de ce modèle est qu’il est mythique, tout comme le modèle en échelle évolutive. Avant le darwinisme Vivre la nature semblait être une échelle d'êtres vivants, où l'homme occupait un échelon au-dessus des animaux plus primitifs.
Et même après Darwin, l’échelle de l’évolution reste l’un des concepts les plus courants. Il démontre la transformation des poissons en reptiles, d'eux en mammifères et des primates en humains. De plus, chaque créature suivante est plus développée (et, bien sûr, plus intelligente) que son prédécesseur. Ainsi, l’échelle de l’intellect est en corrélation avec l’échelle de l’univers. Cependant, les deux modèles reflètent des points de vue totalement anti-scientifiques.
Un diagramme plus précis de l’évolution naturelle serait un disque rayonnant vers l’extérieur, comme dans l’image ci-dessus. Cette structure a été développée pour la première fois par David Hillis de l'Université du Texas, sur la base de l'ADN. Ce mandala généalogique commence au centre avec les formes de vie les plus primitives puis se ramifie vers l'extérieur. Le temps avance, les formes de vie les plus récentes se situent donc autour du périmètre du cercle.
Cette image met en évidence un fait inestimable sur l’évolution d’une importance fondamentale : tous les êtres vivants ont évolué de la même manière. L'homme est situé sur la partie externe du disque, aux côtés des blattes, des mollusques, des fougères, des renards et des bactéries.
Toutes les espèces, sans exception, ont suivi une chaîne ininterrompue de reproduction réussie durant trois milliards d’années, ce qui signifie que les bactéries et les blattes sont tout aussi évoluées que les humains. Il n'y a pas d'escalier.
De même, il n’existe pas d’échelle d’intelligence. L'intelligence n'est pas unidimensionnelle. C'est un complexe divers types et des manières de connaître, dont chacune est continue. Faisons un exercice simple pour mesurer l'intelligence des animaux. Si l’intelligence était unidimensionnelle, nous pourrions facilement classer par ordre croissant d’intelligence le perroquet, le dauphin, le cheval, l’écureuil, la pieuvre, la baleine bleue, le chat et le gorille.
Il n’existe actuellement aucune preuve scientifique de l’existence d’une telle séquence. La raison en est peut-être l'absence de différences entre le niveau d'intelligence de certains animaux, mais cela est également infondé.
La zoologie est riche en exemples de différences frappantes dans la pensée des animaux. Peut-être que tous les animaux sont dotés d’une intelligence « générale » ? Peut-être, mais nous ne disposons pas d’un seul outil pour mesurer ce type d’intelligence. Cependant, nous disposons de nombreux systèmes de mesure pour différents types de cognition.
Au lieu d'une simple ligne de décibels, il serait plus approprié de décrire l'intelligence comme un diagramme d'espace de probabilité, comme dans la visualisation des formes possibles créée par l'algorithme de Richard Dawkins. L'intelligence est un continuum combinatoire. De nombreux nœuds, dont chacun est un continuum, créent un complexe d’une diversité colossale dans de nombreuses dimensions. Certains types d’intelligence peuvent être très complexes, avec un large éventail de sous-nœuds de pensée. D'autres sont plus simples, mais plus extrêmes, ils atteignent le point extrême de l'espace.
Ces complexes, qui représentent pour nous différentes variétés d'intelligence, peuvent être perçus comme des symphonies exécutées sur différents types instruments de musique. Ils diffèrent non seulement par le volume, mais aussi par la mélodie, la couleur, le tempo, etc. Vous pouvez les percevoir comme un écosystème. En ce sens, les différentes composantes des nœuds de pensée sont interdépendantes et créées les unes à partir des autres.
Comme le disait Marvin Minsky, la conscience humaine est une société de raison. Notre réflexion est un écosystème complet. Notre cerveau dispose de nombreuses façons de connaître qui remplissent différentes fonctions mentales : déduction, induction, intelligence émotionnelle, pensée abstraite et spatiale, mémoire à court et à long terme.
L’ensemble du système nerveux humain fait partie du cerveau doté de son propre niveau de cognition. En fait, le processus de réflexion n'est pas réalisé par le cerveau, mais par l'ensemble du corps humain.
Toutes les variétés de pensée varient à la fois entre espèces et entre membres d’une même espèce. Un écureuil peut se souvenir pendant des années de l’emplacement exact de plusieurs milliers de glands, ce qui est totalement incompréhensible pour l’homme. Dans ce type de pensée, les humains sont inférieurs aux écureuils. L’intelligence de l’écureuil est une combinaison de ce super pouvoir avec d’autres formes d’intelligence dans lesquelles les humains sont supérieurs aux écureuils. Dans le règne animal, on trouve de nombreux exemples de la supériorité de certaines formes d’intelligence animale sur l’intelligence humaine.
La même situation s’est développée avec l’intelligence artificielle, qui dans certains domaines est déjà supérieure à l’intelligence humaine. Toute calculatrice est un génie mathématique, et la mémoire du moteur de recherche Google est déjà, à certains égards, meilleure que la nôtre.
Certaines IA effectuent des activités mentales dont nous ne sommes pas capables. Se souvenir de chaque mot sur six milliards de pages Web est une tâche ardue pour les humains et un jeu d'enfant pour les moteurs de recherche. À l’avenir, nous créerons des façons de penser complètement nouvelles, inaccessibles aux humains et n’existant pas dans la nature.
Les inventeurs des avions se sont inspirés du vol naturel : le battement des ailes. Cependant, plus tard, une aile fixe à laquelle sont attachées des hélices a été inventée, et il s'agissait d'un principe de vol complètement nouveau, introuvable dans la nature.
C’est ainsi que nous inventons de nouvelles façons de penser dont aucune autre espèce n’est capable. Il s’agira très probablement de principes qui s’appliqueront uniquement à des problèmes hautement spécialisés : par exemple, de nouvelles constructions logiques nécessaires uniquement en statistique et en théorie des probabilités.
Un nouveau type de pensée aidera à résoudre des problèmes auxquels l’esprit humain ne peut pas faire face. Certaines des questions les plus difficiles du monde des affaires et de la science nécessitent des solutions en deux étapes. La première étape est d'inventer nouvelle façon pensée naturelle. La seconde consiste à commencer à chercher des réponses avec l’IA.
Les gens commenceront à considérer l’IA comme plus intelligente qu’eux-mêmes si elle peut aider à résoudre des problèmes auparavant insolubles. En fait, la pensée de l’IA n’est pas meilleure que la nôtre, elle est juste différente. Je crois que le principal avantage de l’intelligence artificielle est qu’elle est capable de penser comme un extraterrestre, et cette aliénation est son principal avantage.
De plus, nous créerons des « communautés » d’IA complexes avec différentes façons de penser. Ils seront si complexes qu’ils seront capables de résoudre des problèmes que nous ne pouvons pas résoudre. Par conséquent, certaines personnes décideront à tort que les complexes d’IA sont plus intelligents que les humains. Mais nous ne pensons pas que le moteur de recherche Google soit plus intelligent qu’une personne, même si sa mémoire est meilleure que la nôtre.
Il est probable que ces complexes d’intelligence artificielle nous surpasseront dans de nombreux domaines, mais aucun d’entre eux ne surpassera les humains partout à la fois. Une situation similaire s'est produite avec notre force physique. Deux cents ans se sont écoulés depuis la révolution industrielle, et aucune machine n’est devenue plus forte que l’homme moyen, même si les machines en tant que classe sont nettement supérieures aux humains en termes de vitesse de course, de levage de poids, de précision de coupe et d’autres activités.
Malgré la complexité croissante de la structure de l’IA, il est impossible de la mesurer à l’aide des méthodes de la science moderne. Nous n'avons pas les outils nécessaires pour déterminer si un concombre ou un Boeing 747 est plus complexe, ni aucun moyen de mesurer les différences de complexité. C'est pourquoi nous ne disposons toujours pas de critères précis en matière de capacités intellectuelles.
Au fil du temps, il deviendra de plus en plus difficile d'établir laquelle est la plus complexe et, par conséquent, la plus intelligente : l'intelligence A ou l'intelligence B. Il existe de nombreux domaines inexplorés de l'activité mentale, et cela nous empêche principalement de comprendre que l'esprit n'est pas un. dimensionnelle.
La deuxième idée fausse à propos de l’esprit humain est que nous croyons que notre esprit est universel. Cette croyance largement répandue influence le chemin que nous prenons vers la création de l’intelligence artificielle générale (IAG), autrefois annoncée par les experts en IA.
Cependant, si l’on considère l’esprit comme un vaste espace de possibilités, on ne peut pas parler d’un état d’objectif général. L’esprit humain n’occupe pas une place centrale abstraite, et d’autres types d’esprit spécialisés ne tournent pas autour de lui.
L’intelligence humaine est plutôt un type d’intelligence extrêmement spécifique qui a évolué au fil de millions d’années pour la survie de notre espèce sur cette planète. Si nous voulions placer notre intellect parmi tous les autres types d’intelligence possibles, il finirait quelque part dans un coin – comme notre monde lui-même, blotti aux confins d’une immense galaxie.
Bien sûr, on peut imaginer, et parfois inventer, un certain type de pensée similaire dans ses caractéristiques à couteau suisse. Il semble s'acquitter de nombreuses tâches, mais pas avec brio.
Cela inclut également une règle technique à laquelle toutes choses doivent obéir, qu’elles aient été créées intentionnellement ou naturellement : « Il est impossible d’optimiser toutes les dimensions. Vous ne pouvez trouver que des compromis. Une machine multifonction à usage général ne peut pas surpasser les fonctions spécialisées.
La mentalité de tout faire ne peut pas fonctionner à égalité avec les exécutants spécialisés de tâches spécifiques. Parce que nous considérons notre conscience comme un mécanisme universel, nous pensons que la cognition ne doit pas être basée sur des compromis et qu'il est possible d'inventer une intelligence artificielle qui démontre le degré maximum d'efficacité dans tous les types de pensée.
Cependant, je ne vois aucune preuve de cette affirmation. Nous n'avons tout simplement pas encore créé un nombre suffisant de variétés de conscience qui nous permettraient d'avoir une vue d'ensemble (et pour l'instant nous préférons ne pas considérer la conscience animale à travers le prisme d'un paramètre comme un type distinct de pensée à amplitude variable).
Une partie de cette conviction selon laquelle notre pensée est aussi universelle que possible découle du concept d’informatique universelle. Cette hypothèse a été appelée la thèse Church-Turing en 1950. Il indique que tous les calculs satisfaisant certains paramètres sont équivalents.
Il existe donc une base universelle pour tous les calculs. Que le calcul soit effectué par une seule machine dotée de nombreux mécanismes rapides, par une machine avec une productivité moins élevée ou même par un cerveau biologique, nous parlons du même processus logique. Cela signifie à son tour que nous pouvons simuler n’importe quel processus informatique (pensée) en utilisant n’importe quelle machine capable d’effectuer des calculs « universels ».
En utilisant ce principe, les partisans de la singularité justifient leur espoir que nous serons capables de concevoir un cerveau artificiel à base de silicium capable d'accueillir la conscience humaine, que nous serons capables de créer une intelligence artificielle qui pensera de la même manière qu'une personne, mais beaucoup plus efficacement. Ces espoirs doivent être traités avec un certain degré de scepticisme, car ils reposent sur une interprétation incorrecte de la thèse de Church-Turing.
Le point de départ de cette théorie est : « Dans des conditions de mémoire et de temps illimités, tous les calculs sont équivalents. » Le problème est qu’en réalité, aucun ordinateur ne possède les caractéristiques d’une mémoire ou d’un temps infinis. Lorsque vous effectuez des calculs dans monde réel, la composante temporelle est extrêmement importante, au point qu’elle est souvent une question de vie ou de mort.
Oui, tous les types de pensée sont égaux, si l’on exclut l’aspect temporel. Oui, il est possible de simuler la pensée humaine dans n’importe quelle matrice si vous choisissez d’ignorer le temps ou les limitations de l’espace et de la mémoire dans la réalité.
Cependant, si l’on inclut la variable temps dans cette équation, il faudra modifier considérablement la formulation du principe : « Deux systèmes informatiques fonctionnant sur des plateformes radicalement différentes ne réaliseront pas des calculs équivalents en temps réel ».
Ce principe peut être reformulé ainsi : « La seule méthode pour obtenir des manières de penser équivalentes est de les mener sur les mêmes bases. Le support physique sur lequel vous effectuez vos calculs - d'autant plus que leur complexité augmente - influence grandement le type de réflexion en temps réel."
Poursuivant la chaîne logique, je supposerai que la seule méthode pour créer un type de pensée aussi proche que possible de l'humain est d'effectuer des calculs en utilisant une matière qui ressemble beaucoup à notre matière grise.
Cela signifie que nous pouvons également supposer qu’une intelligence artificielle volumineuse et complexe créée à partir de silicium sec générera des types de pensée maladroits, complexes et non humains. Si l’on pouvait créer une intelligence artificielle fonctionnant sur de la matière humide à l’aide de neurones artificiels semblables à ceux des humains, le processus de pensée d’une telle IA serait beaucoup plus proche du nôtre.
Les avantages d'un tel système « humide » sont proportionnels à la proximité des supports physiques utilisés avec les supports humains. La création d'une telle substance nécessiterait d'énormes coûts matériels afin d'atteindre un niveau au moins similaire à celui qui nous est inhérent par nature. Et nous pouvons créer une nouvelle personne de cette façon - il suffit d'attendre 9 mois.
De plus, comme mentionné précédemment, nous pensons avec tout notre être, pas seulement avec notre conscience. La science moderne dispose d’une multitude de données sur la manière dont notre système nerveux influence, prédit et s’adapte à notre processus de prise de décision « rationnel ». Plus nous examinons le système du corps humain en détail, plus nous pouvons le recréer avec soin. L’intelligence artificielle, opérant sur une substance radicalement différente de la nôtre (du silicium sec au lieu du carbone humide), pensera également différemment.
Je ne pense pas que cette fonctionnalité soit davantage une "fonctionnalité plutôt qu'un bug". Comme je l’ai expliqué dans le deuxième point de cet article, les différences dans le processus de pensée de l’IA constituent son principal avantage. Voici une autre raison pour laquelle il serait faux de dire qu’il est « plus intelligent que le cerveau humain ».
Au cœur du concept d’intelligence surhumaine – et en particulier de la théorie de l’auto-amélioration constante d’une telle IA – se trouve une croyance sincère dans le caractère illimité de l’intelligence. Je n'ai trouvé aucune preuve de cette affirmation.
Encore une fois, la conception erronée de l’intelligence comme un système défini par une seule dimension contribue à la diffusion de cette affirmation, mais nous devons comprendre qu’elle reste infondée. Il n’existe pas de dimensions physiques infinies dans l’univers – du moins, elles ne sont pas encore connues de la science.
La température n'est pas infinie - il existe des valeurs minimales et maximales de froid et de chaleur. L’espace et le temps ne sont pas non plus illimités, pas plus que la vitesse. Peut-être que l’axe des nombres peut être qualifié d’infini, mais tous les autres paramètres physiques ont leurs limites. Bien entendu, l’esprit lui-même est également limité.
La question se pose : où sont les limites de l’intelligence ? Nous sommes habitués à croire que la limite est quelque part très loin, aussi « au-dessus » de nous que nous sommes « au-dessus » des fourmis. Laissant de côté le problème non résolu de l’unidimensionnalité, comment pouvons-nous prouver que nous n’avons pas encore atteint la limite ? Pourquoi ne pouvons-nous pas être la couronne de la création ? Ou peut-être avons-nous presque atteint les limites des capacités humaines ? Pourquoi pensons-nous que l’intelligence est un concept en constante évolution ?
Il est préférable de percevoir notre intellect comme l'une des variétés d'un très grand nombre de types de pensée. Bien que chaque dimension de la cognition et du calcul ait une limite, s’il existe des centaines de dimensions, alors il existe d’innombrables variétés d’intelligence, mais aucune n’est infinie dans aucune dimension.
Lorsque nous créons ou rencontrons ces innombrables variations sur le thème de la conscience, nous pouvons les ressentir comme au-delà de nos capacités. Dans mon dernier livre, The Inevitable, j'ai dressé une liste de certaines de ces variétés qui nous sont inférieures d'une manière ou d'une autre. Ci-dessous, je vais donner une partie de cette liste :
Un esprit aussi proche que possible de l’humain, mais avec une vitesse de réaction plus élevée (l’intelligence artificielle la plus simple) ;
Un esprit très lent, dont les principales composantes sont un espace de stockage et une mémoire étendus ;
L'intelligence universelle, composée de millions de consciences individuelles agissant à l'unisson ;
Un esprit de ruche composé d’un grand nombre d’intelligences extrêmement productives, ignorant qu’elles ne font qu’une ;
Supramental Borg (une race de cyborgs dotés d'un esprit collectif, essayant d'assimiler dans leur collectif tous les êtres vivants de la série Star Trek - environ. Nouveauà propos) - une multitude d'intelligences hautement fonctionnelles, clairement conscientes d'être un tout ;
Un esprit créé dans le but de développer la conscience personnelle de celui qui le porte, mais qui ne convient à personne d'autre ;
Un esprit capable d’imaginer un esprit plus complexe, mais incapable de le créer ;
Un esprit capable de créer un jour avec succès un esprit plus complexe ;
Un esprit qui peut créer un esprit plus complexe, qui à son tour peut créer un esprit encore plus complexe, etc. ;
Un esprit qui a un accès rapide à son code source (peut modifier les caractéristiques de son fonctionnement à tout moment) ;
Esprit superlogique, privé de la capacité d'éprouver des émotions ;
Un esprit standard, visant à résoudre les problèmes assignés, mais incapable d'introspection ;
Un esprit capable d’introspection, mais incapable de résoudre les problèmes qui lui sont assignés ;
Un esprit dont le développement prend du temps, qui a besoin d'un esprit protecteur ;
Un esprit exceptionnellement lent, dispersé sur un vaste espace physique, qui apparaît « invisible » aux formes de conscience qui répondent plus rapidement ;
Un esprit capable de reproduire rapidement et de manière répétée des copies de lui-même ;
Un esprit capable de reproduire ses copies et de ne faire qu'un avec elles ;
Un esprit capable d'atteindre l'immortalité en se déplaçant d'hôte en hôte ;
Un esprit rapide et dynamique, capable de changer le processus et la nature de la pensée ;
Nano-esprit, la plus petite unité indépendante (en taille et en énergie) capable de s'auto-analyser ;
Un esprit spécialisé dans la création de scénarios et de prévisions ;
Un esprit qui n’oublie jamais rien, y compris les informations incorrectes ;
Mi-machine, mi-animal ;
En partie machine, en partie cyborg androgyne ;
Un esprit qui utilise dans son travail une analyse quantitative qui nous est incompréhensible.
Aujourd'hui, certains appellent chacun de ces types de pensée une IA surhumaine, mais à l'avenir, la diversité et l'extranéité de ces formes d'intelligence nous obligeront à nous tourner vers de nouveaux dictionnaires et à étudier en détail le thème de la pensée et de l'intelligence.
De plus, les partisans de l'idée d'une IA surhumaine supposent que son niveau capacités mentales va croître de façon exponentielle (même s'ils n'ont pas encore de système pour estimer ce niveau). Peut-être croient-ils que le processus de développement exponentiel est déjà en cours.
Quoi qu’il en soit, il n’existe aucune preuve d’une telle croissance aujourd’hui, quelle que soit la manière dont on la mesure. Autrement, cela signifierait que les capacités mentales de l’IA doubleraient au fil du temps.
Où en est la preuve ? La seule chose qui connaît désormais une croissance exponentielle est l’investissement dans l’industrie de l’IA. Mais le retour sur ces investissements ne peut être décrit par la loi de Moore. L’IA ne devient pas deux fois plus intelligente en trois ans, ni même en dix ans.
J’ai interrogé de nombreux experts dans le domaine de l’IA, mais tout le monde a convenu que nous n’avons pas de critères en matière d’intelligence. Lorsque j'ai demandé à Ray Kurzweil, un véritable sorcier exponentiel, où trouver des preuves du développement exponentiel de l'IA, il m'a écrit que le développement de l'IA n'est pas un processus explosif, mais un processus graduel.
« Ajouter un nouveau niveau à la hiérarchie nécessite à la fois une augmentation exponentielle de la puissance de calcul et une augmentation de la complexité de l'algorithme... Il faut donc s'attendre à une augmentation linéaire du nombre de niveaux conditionnels, puisque chacun d'eux nécessite un augmentation exponentielle de nos propres capacités. Il ne nous reste plus beaucoup de niveaux de complexité pour atteindre les capacités d'IA du néocortex (la partie principale du cortex cérébral humain, qui est responsable des fonctions nerveuses supérieures - environ. Nouveau quoi), donc je continue de croire que mes hypothèses concernant 2029 sont correctes. »
Ray semble dire que ce n'est pas la puissance de l'intelligence artificielle qui croît de façon exponentielle, mais les efforts pour la créer, alors que leur résultat augmente simplement d'un pas à chaque fois. C’est presque le contraire de l’hypothèse de l’explosion du renseignement. Cela pourrait changer à l’avenir, mais l’IA ne connaît clairement pas une croissance exponentielle aujourd’hui.
Ainsi, lorsque nous imaginons le « boom de l’IA », nous ne devrions pas y penser comme une avalanche, mais plutôt comme une scission en de nombreuses nouvelles variétés. Le résultat du progrès technologique ne sera probablement pas un surhomme, mais un surhomme. Au-delà de nos connaissances, mais pas nécessairement « au-dessus ».
Un autre mythe largement accepté, mais largement infondé, sur l’asservissement par la superintelligence est qu’une intelligence quasi infinie peut résoudre rapidement tous nos problèmes.
De nombreux partisans du développement rapide de l’IA s’attendent à ce qu’elle crée un boom du progrès. J'appelle la croyance en ce « thinkisme » (le terme a été traduit par Vyacheslav Golovanov - environ. Nouveauà propos). Cette approche repose sur la conviction que le progrès n’est entravé que par un manque de réflexion ou d’intelligence. (Je noterai également que la croyance dans l’IA comme panacée à tous les maux est principalement caractéristique des personnes qui aiment elles-mêmes penser.)
Considérons la question de vaincre le cancer ou de prolonger la vie. Ce sont des problèmes qui ne peuvent être résolus par la seule réflexion. Aucune réflexion ne peut comprendre comment les cellules vieillissent ou comment les télomères se raccourcissent. Aucune intelligence, aussi cool soit-elle, ne peut comprendre comment cela fonctionne corps humain, juste en lisant tout ce que l'on sait littérature scientifique dans le monde et l'analyser.
La super-IA ne pourra pas simplement réfléchir à toutes les expériences actuelles et passées sur la division du noyau atomique et proposer un jour plus tard une recette toute faite pour la fusion thermonucléaire. Passer de l’incompréhension à la compréhension d’un sujet nécessite plus qu’une simple réflexion.
En réalité, il existe de nombreuses expériences, dont chacune donne tout un tas de données contradictoires et nécessite des expériences supplémentaires pour former l'hypothèse de travail correcte. J'y pense juste résultats possibles ne donnera pas des données de sortie correctes.
La pensée (l’intelligence) n’est qu’une partie de l’outil de la science. Très probablement seulement une petite partie. Par exemple, nous ne disposons tout simplement pas de suffisamment de données pour résoudre le problème de la mort. Lorsqu’on travaille avec des organismes vivants, la plupart de ces expériences prennent du temps. Le métabolisme cellulaire lent ne peut pas s’accélérer. Il faut des années, des mois ou au moins des jours pour obtenir des résultats.
Si nous voulons savoir ce qui arrive aux particules subatomiques, il ne suffit pas d’y penser. Nous devons construire des modèles physiques très vastes, très complexes et très sophistiqués pour le découvrir. Même si les physiciens les plus intelligents deviennent mille fois plus intelligents qu’ils ne le sont aujourd’hui, ils n’apprendront rien de nouveau sans le collisionneur.
Il ne fait aucun doute que la super-IA peut accélérer le développement de la science. Nous pouvons créer des modèles informatiques d’atomes ou de cellules, et nous pouvons les accélérer de plusieurs manières, mais il existe des problèmes qui empêchent les simulations de progresser immédiatement.
Il convient de rappeler que les simulations et les modèles peuvent être examinés plus rapidement que leurs sujets simplement parce qu’ils écartent certaines variables. C’est l’essence même de la modélisation. Il est également important de noter que ces modèles prennent beaucoup de temps pour être testés, étudiés et validés afin de garantir leur pertinence par rapport à leurs sujets. Les tests par expérience ne peuvent pas être accélérés.
Les versions simplifiées en simulation sont utiles pour trouver les moyens les plus prometteurs pour accélérer les progrès. Mais en réalité, rien n'est superflu, tout compte dans une certaine mesure - c'est une grande définition de la réalité. À mesure que les modèles et les simulations deviennent de plus en plus détaillés, les chercheurs sont confrontés au fait que la réalité va plus vite que sa simulation à 100 %.
Voici une autre définition de la réalité : la version fonctionnant le plus rapidement de tous les détails et degrés de liberté possibles. Si vous pouviez modéliser toutes les molécules d’une cellule et toutes les cellules d’un corps humain, le modèle ne fonctionnerait pas aussi vite que le corps humain. Même si vous concevez un tel modèle de manière réfléchie, vous devrez toujours passer du temps à expérimenter, et peu importe qu'il s'agisse d'un système réel ou d'une simulation.
Pour être utile, l’intelligence artificielle doit être introduite dans le monde, et dans ce monde, le rythme nécessaire de l’innovation évolue assez rapidement. Sans premières expériences, prototypes, erreurs et engagement avec la réalité, l’intellect peut penser, mais il ne produira pas de résultats. Il ne fera aucune découverte immédiate, ni une seconde, ni une heure, ni un an après avoir été qualifié de « plus intelligent que l’homme ».
L'IA apparaît. Bien sûr, le rythme des découvertes s’accélérera à mesure que cette IA deviendra plus complexe, en partie parce que l’intelligence artificielle étrangère posera des questions qu’aucun humain ne poserait, mais même une intelligence très puissante (par rapport à nous) ne garantit pas des progrès immédiats. La résolution de problèmes nécessite bien plus que de l’intelligence.
Les problèmes du cancer et de l’espérance de vie ne sont pas les seuls que l’intelligence ne peut résoudre à elle seule. Une idée fausse courante parmi les partisans de la singularité technologique est que si nous créons une IA plus intelligente que les humains, elle évoluera soudainement et créera une IA encore plus intelligente.
La nouvelle intelligence artificielle pensera plus profondément et inventera quelque chose d’encore plus intelligent, et ainsi de suite jusqu’à ce que quelque chose de semblable à Dieu soit inventé. Rien ne prouve que la pensée seule suffise à créer de nouveaux niveaux d’intelligence. Ce type de contemplation est basé sur la foi.
Cependant, il existe de nombreuses preuves que pour inventer de nouveaux renseignement efficace cela nécessite non seulement un effort mental, mais aussi de l'expérimentation, des données, des questions difficiles, des essais et des erreurs.
Je comprends que je peux me tromper. Nous n’en sommes encore qu’à un stade précoce. Peut-être découvrirons-nous une échelle universelle d’intelligence ou son infinité dans tous les sens. Il existe une possibilité de singularité technologique, car nous savons très peu de choses sur ce que sont l’intelligence et la conscience de soi. À mon avis, tout indique que cela est peu probable, mais il y a encore une chance.
Cependant, je soutiens les objectifs plus larges d'OpenAI : nous devons développer une IA conviviale et trouver comment lui donner des valeurs auto-reproductibles et alignées sur les nôtres.
Il est possible que l’IA surhumaine soit nuisible à long terme, mais cette idée repose sur des preuves incomplètes et ne doit pas être prise au sérieux lorsqu’il s’agit de science, de politique ou de progrès.
Un astéroïde frappant la Terre pourrait nous détruire, c'est une possibilité (la Fondation B612 le confirme), mais il ne faut pas envisager une telle issue en matière de réchauffement climatique, de voyages spatiaux ou d'urbanisme.
Les preuves disponibles indiquent qu’il est probable que l’IA ne soit pas surhumaine. Il aura de nouvelles variétés de pensée inaccessibles à l'homme, mais sans une application globale, il ne deviendra pas un dieu qui résoudra nos principaux problèmes en un instant.
Au lieu de cela, cela deviendra une agrégation d'intellects avec handicapées, travaillera mieux que nous dans des domaines qui ne nous sont pas familiers et pourra, avec nous, trouver des solutions aux problèmes existants et nouveaux.
Je comprends à quel point l’idée d’une IA surhumaine et divine est attrayante. Il pourrait devenir le nouveau Superman. Mais comme Superman, c’est un personnage fictif. Superman existe peut-être quelque part dans l'univers, mais c'est très improbable. Quoi qu’il en soit, les mythes peuvent être utiles et, une fois créés, ils ne disparaissent pas.
L'idée de Superman vivra éternellement. L’idée d’une IA surhumaine et de singularité émerge maintenant et ne sera jamais oubliée. Nous devons comprendre de quel genre d’idée il s’agit : religieuse ou scientifique. Si nous explorons la question de l’intelligence, artificielle ou naturelle, nous devons clairement comprendre que nos idées sur l’IA surhumaine ne sont qu’un mythe.
Les tribus des îles isolées de Micronésie ont pris contact pour la première fois avec le monde extérieur pendant la Seconde Guerre mondiale. Les dieux s'envolèrent de pays lointains, descendirent du ciel sur des oiseaux bruyants, apportèrent des cadeaux et s'envolèrent pour toujours. Les cultes du retour de ces dieux et des nouveaux dons se sont répandus à travers les îles. Même aujourd’hui, 50 ans plus tard, beaucoup attendent toujours leur retour.
L’IA surhumaine pourrait devenir notre nouveau culte du cargo. Peut-être que dans cent ans, les gens percevront notre époque de la même manière : comme si nous croyions en une IA surhumaine et attendions pendant des décennies qu’elle apparaisse à chaque minute et nous apporte des cadeaux inimaginables.
Cependant, l’IA non surhumaine existe déjà. Nous continuons à chercher une nouvelle définition pour le compliquer. Cependant, au sens large, l’esprit qui nous est étranger est un ensemble de capacités intellectuelles, de pensées, de mécanismes de raisonnement, d’apprentissage et de conscience de soi. L’IA se propage et continuera de se propager. Cela devient plus profond, plus diversifié, plus puissant.
Avant l’IA, aucune invention ne pouvait changer complètement le monde. D’ici la fin du 21e siècle, l’intelligence artificielle sera si puissante qu’elle changera tout dans nos vies.
Quoi qu’il en soit, le mythe de l’IA surhumaine qui nous apportera une super-richesse ou un super-esclavage (ou les deux) perdurera. Cependant, cela restera un mythe, qui a peu de chance de se concrétiser.»
Une apocalypse mondiale impliquant l'IA (intelligence artificielle) effraie de plus en plus les plus grands chercheurs mondiaux dans le domaine de l'informatique. Il pourrait s’agir d’un soulèvement de robots qui, guidés par leur programme et leurs valeurs, voudraient détruire les formes de vie biologique sur la planète. Un scénario dans lequel les machines contrôlées par l’IA deviendraient la forme de vie dominante est possible.
Pourquoi des scientifiques de renommée mondiale tels que Bill Gates, Steve Hawking, Elon Musk et d’autres s’inquiètent-ils de ce problème et déclarent-ils publiquement la menace réelle d’un tel scénario ? Les événements survenus dans le film hollywoodien « Terminator » pourraient-ils être prophétiques ? On sait que toute histoire fictive est basée sur des faits réels.
Les ordinateurs sont de mieux en mieux capables de mentir et de tromper
Le mensonge est une forme de comportement développé au cours du processus d’évolution. Les gens, certains animaux et oiseaux, recourent à la tromperie pour obtenir de la nourriture et des avantages, ce qui augmente leurs chances de survie. Récemment, ces méthodes évolutives ont été maîtrisées avec succès par les machines IA.
Les concepteurs du Georgia Institute of Technology ont progressé dans la création de robots qui utilisent le mensonge et la tromperie dans leurs algorithmes comportementaux. Les scientifiques estiment qu'à l'avenir, cette technologie trouvera de nombreuses applications dans le domaine militaire.
On suppose que les prototypes de robots pourront être utilisés dans des conditions de combat réelles. Ces mécanismes animés pourront effectuer des travaux de protection des provisions et des dépôts de munitions. Grâce à des programmes de tromperie, les agents de sécurité du futur pourront modifier leurs itinéraires de patrouille et mener des actions imprévisibles. Comme le prévoient les développeurs, de telles méthodes aideront à tromper les ennemis potentiels des personnes et des autres robots.
Selon le professeur Arkin, la recherche est associée à un certain nombre de problèmes éthiques. La perte de contrôle sur la technologie, si elle tombe entre les mains de méchants, peut conduire à une grave catastrophe.
Les machines envahissent le marché du travail
Alors que le public réfléchit à une guerre mondiale impliquant l’IA, les scientifiques décrivent des dangers plus urgents et réels. Diverses machines et mécanismes automatiques sont de plus en plus utilisés dans la production, détruisant des emplois.
De nombreux analystes et experts s'accordent sur le fait que les développements actifs dans le domaine des programmes logiques et de l'automatisation pourraient entraîner la perte d'emploi de nombreuses personnes. Aux États-Unis d’Amérique, plus de 250 000 robots sont impliqués dans la production du travail humain traditionnel.
Dans les pays de l'Est, qui produisent plus de 90 % de la technologie mondiale, le travail manuel prédomine encore. On ne peut que deviner ce qui arrivera aux personnes employées dans la production avec l’avènement des robots.
Les travailleurs ne sont pas les seuls à s’inquiéter du fait que les machines évinceront les humains du marché du travail. L'expert en intelligence artificielle Andrew Ng du Google Brain Project et l'un des principaux experts de Baidu (l'équivalent chinois de Google) ont également exprimé leur inquiétude face aux développements actifs dans le domaine de l'IA. Selon lui, l’intelligence électronique artificielle est capable de faire la même chose qu’une personne ordinaire, mais plus rapidement, mieux et avec moins de ressources.
L’Université d’Oxford au Royaume-Uni a mené des recherches reflétant la dynamique de l’impact de l’IA sur le secteur manufacturier. Selon les données obtenues, au cours des vingt prochaines années, 35 % des emplois seront contrôlés par l'IA.
Les programmes informatiques sont supérieurs aux pirates
Du point de vue d'une personne ordinaire, un hacker est comme un surhomme, capable d'obtenir n'importe quel résultat. En réalité, ce sont des programmeurs avec une expression fatiguée sur le visage et une tasse de café traditionnelle.
Le hacking est une activité plutôt ennuyeuse et fastidieuse qui demande beaucoup de temps et de ressources. De plus, des départements entiers de spécialistes sont engagés dans le développement de programmes conçus pour se protéger contre les intrusions. La plus grande menace pour les pirates malveillants vient des systèmes d’IA avancés.
L’intelligence artificielle peut être utilisée non seulement à des fins de protection, mais aussi à des fins de piratage. Dans le cadre d'un programme de cybersécurité, une IA est en cours de développement, capable de détecter les vulnérabilités des ennemis, tout en protégeant en ligne ses appareils logiques contre les menaces et les attaques externes.
Selon les scientifiques, les pirates informatiques basés sur l’IA sont développés dans l’intérêt du bien commun et de la prospérité. Mais si des attaquants accèdent à de tels programmes, de tristes événements peuvent survenir. Il est effrayant d’imaginer une situation dans laquelle une puissante IA piraterait les protocoles de sécurité d’une centrale nucléaire et en prendrait le contrôle total. Dans cette situation, l’humanité pourrait se retrouver impuissante.
Les programmes apprennent à comprendre les motivations des gens
La vie quotidienne de nombreuses personnes est inextricablement liée à l’utilisation des différents réseaux sociaux. L'un des réseaux les plus populaires au monde est Facebook. Mais peu de gens savent que chaque visite d’une personne sur les pages d’un réseau social donné ne passe pas inaperçue auprès de l’IA. Lors de sa visite à Berlin, Mark Zuckerberg a expliqué à quoi sert l’IA.
Le programme est conçu pour analyser le comportement des utilisateurs sur les pages Facebook. Sur la base des données collectées, le programme fait des recommandations sur les intérêts et les préférences du public. À ce stade de développement, le système autonome est capable de reconnaître des modèles et de s'auto-apprendre conformément au programme.
À l’avenir, il est prévu de créer une IA intelligente capable d’améliorer ses compétences de manière indépendante en réécrivant son code. Cela peut conduire à une amélioration de la vie ou devenir le dernier développement de l’humanité.
Les cyborgs remplaceront les amoureux
De nombreux films hollywoodiens reposent sur l’idée de l’amour et des relations interspécifiques entre l’homme et la machine. Issu du domaine de la science-fiction, ce concept s’étend au monde moderne.
Le futuriste Dr Ian Pearson estime que d’ici 2050, les relations sexuelles entre une personne et un robot se produiront plus souvent qu’entre personnes. Le scientifique collabore activement avec Bondara, la première chaîne de sex-shops en Grande-Bretagne.
Le rapport du médecin mentionne que d'ici 2025, des robots sexuels dotés d'intelligence artificielle seront développés. D’ici 2035, le sexe via la réalité virtuelle se généralisera, au niveau de la pornographie moderne. Et d’ici 2050, les relations sexuelles avec des robots deviendront une réalité quotidienne et la norme.
Défenseurs valeurs traditionnelles, ont une attitude négative à l’égard des relations sexuelles avec des machines intelligentes. De telles connexions placeront la barre des attentes trop haute. haut niveau, ce qui affectera négativement les attitudes envers les femmes.
Les machines ressemblent de plus en plus à des humains
Les développeurs dans le domaine de la création de robots humanoïdes, le Japonais Hiroshi Ishiguro et le Chinois Sun Yang, ont créé une machine unique. Le cyborg Yang-Yan a l'apparence de son créateur et porte le nom de sa fille. La machine dispose d’une IA et est capable d’effectuer un certain nombre d’actions simples.
Ce n’est pas le seul exemple humanoïde de robotique. L'Université technologique de Singapour a également proposé un exemple moderne de cyborg - Nadine. Ce prototype dispose également d’une intelligence artificielle et fonctionne dans un établissement d’enseignement.
Conçu sous la forme d'une jolie brune, avec peau douce, le cyborg possède un certain nombre de fonctions intégrées. Le robot peut rencontrer et saluer son interlocuteur en lui serrant la main. L'appareil peut également établir un contact visuel et sourire. L'IA est capable de se souvenir des invités et d'entretenir un dialogue simple basé sur l'expérience antérieure.
Les robots acquièrent des sentiments
Les robots modernes ne sont pas inférieurs aux humains en termes d'intelligence. Grâce aux développements récents, il est assez difficile de distinguer un cyborg d'un humain. Jusqu’à présent, la seule caractéristique que les robots n’ont pas vraiment est la capacité d’exprimer des émotions. Les scientifiques du monde entier travaillent sur ce problème. Et bientôt, les robots ne peuvent plus être distingués des humains.
Les développeurs de la branche Asie de l'Est du groupe Microsoft Application & Services ont publié un programme unique. L'ordinateur est capable de dialoguer avec l'interlocuteur et en même temps de ressentir des émotions. L'intelligence artificielle, nommée Hiaoche, est capable d'imiter le style de conversation d'une jeune fille de dix-sept ans.
En cas de manque de données, le système peut recourir au mensonge. Si elle est surprise en train de tricher, Hiaoche peut exprimer sa colère ou son embarras. L’IA peut recourir au sarcasme, se méfier et exprimer son impatience.
L'imprévisibilité des réponses du programme rappelle la communication avec une personne réelle. Jusqu'à présent, la technologie n'a pas trouvé d'application généralisée et est le plus souvent utilisée à des fins de divertissement. Le créateur Hiaoche travaille à l’amélioration des algorithmes logiques, ce qui pourrait conduire à une future avancée fondamentale.
Les voitures seront bientôt dans nos têtes
À la lumière des développements récents, de nouvelles opportunités s’ouvrent. Il ne semble plus fantastique de pouvoir apprendre une langue étrangère en quelques minutes en la téléchargeant dans le cerveau. Ray Kurzweil, directeur technique de Google, estime que d'ici 2030, la technologie permettant d'implanter des nanorobots dans le cerveau sera développée. Cela élèvera l’intelligence humaine à un niveau fondamentalement nouveau.
Ces micro-mécanismes transformeront la conscience en un puissant centre de calcul. Une personne pourra mémoriser instantanément n'importe quelle information, trier et envoyer ses propres pensées aux archives. Si nécessaire, il sera possible de télécharger des films, des documents et de recevoir des emails au responsable.
Kurzweil, expert dans le domaine de l'IA, estime que la symbiose avec les nanorobots contribuera non seulement à accroître l'intelligence, mais pourra également guérir un certain nombre de maladies associées à l'activité du système nerveux.
Les menaces liées à l’utilisation d’une telle technologie peuvent être comparées à une théorie du complot mondial. Ayant acquis le contrôle mental du principal homme politique du pays, l'IA sera capable de le contrôler comme un zombie à la volonté faible. De plus, un tel système peut être utilisé par les services de renseignement, ce qui n’augure rien de bon.
Comment les robots deviennent des armes
Avec la chute de l’Union soviétique, la guerre froide n’a pas pris fin. Deux nouvelles superpuissances, la Chine et la Russie, ont émergé sur la scène mondiale. L’Amérique, à son tour, dépense des dizaines de milliards de dollars pour développer la sécurité informatique.
Le Pentagone estime que la clé de la supériorité technologique future réside dans l’utilisation de l’IA. Le développement de systèmes autonomes d'auto-apprentissage, ainsi que de domaines parallèles et connexes, est activement développé. Des prototypes d'équipements militaires télécommandés ont déjà été développés ; il ne reste plus qu'à les entraîner à fonctionner de manière autonome.
L’utilisation de tels dispositifs en temps de guerre promet de grands avantages. Les soldats n’auront pas à s’exposer aux tirs ennemis et à risquer leur vie. Le moral de l’ennemi, dans une guerre contre des robots non vivants, sera également mis à mal.
Il y a aussi face arrière. Tout équipement informatique est sujet à des pannes de système et à des piratages. Dans ce cas, les robots qui échappent à tout contrôle sont capables de retourner leurs armes contre leurs créateurs et les civils.
De nombreux experts de premier plan en IA ne soutiennent pas l’idée de créer des robots de combat autonomes. Mais face à la confrontation militaire croissante dans le monde et à l’absence d’interdiction internationale sur l’utilisation de ces technologies, de nombreux pays mènent leur développement dans le plus strict secret. Bientôt, de plus en plus de rapports apparaîtront sur l'utilisation de robots dans les points chauds de la planète.
Les robots apprennent dans la mauvaise direction
Anticipant d'éventuelles pannes de programmes et afin d'éviter le soulèvement des machines, de nouveaux concepts sont développés visant à expliquer à la machine le comportement correct et indésirable.
Ces développements pourraient potentiellement rendre l’IA plus humaine. Certains scientifiques considèrent cette approche comme la clé pour empêcher l’IA de transformer des armes contre l’humanité.
Des expériences uniques sont menées au Georgia Institute of Technology. Les chercheurs, dirigés par Mark Riedl et Brent Harrison, racontent littéralement les histoires informatiques. Ils s’efforcent ainsi d’introduire l’IA aux valeurs humaines en développant son éthique. Les scientifiques utilisent des méthodes utilisées pour élever un enfant pour enseigner le programme. L’IA, comme un enfant inexpérimenté, ne fait pas la distinction entre les concepts du bien et du mal.
Il reste un sérieux défaut dans cette approche. L'histoire de l'humanité contient de nombreux exemples où les circonstances ont forcé des pays entiers hautement développés à déclencher des guerres et à commettre de terribles atrocités. Un exemple serait l’Allemagne fasciste, dont les soldats ont perpétré le génocide de peuples entiers. Dans le même temps, la culture allemande était à cette époque l’une des plus développées au monde. Qu’est-ce qui empêchera l’IA de répéter l’expérience hitlérienne ?
Le développement de l’intelligence artificielle conduira un jour à sa supériorité sur les capacités mentales humaines. Mais cela ne deviendra-t-il pas dangereux pour l’humanité ? La situation peut être étudiée en définissant plus précisément le concept d’IA, en prenant l’intelligence naturelle comme base de comparaison. Une personne peut-elle combiner intelligence et intelligence en même temps ? Ou une personne intelligente peut-elle ne pas être un intellectuel et vice versa ?
De telles questions se posent à l’approche de l’ère de l’IA, dont l’humanité doit connaître à l’avance le danger possible et prendre des mesures en temps opportun pour assurer sa sécurité. Tout d’abord, le danger de l’IA sera lié à son indépendance et à ses prises de décision incontrôlées. À l'heure actuelle, des fonds ont déjà été alloués pour étudier ce problème. L’OpenAI Institute étudie les perspectives de développement de l’IA. Au stade actuel de développement des systèmes d'IA, le danger de son utilisation peut être associé aux facteurs suivants :
- erreurs logicielles. Tout logiciel peut être exposé à ce type de risque ;
- activité indépendante de l’IA nocive pour l’homme. Le danger de l’IA pourrait survenir après l’invention de l’ordinateur intelligent. Par conséquent, il est nécessaire de déterminer le degré d'intelligence d'un ordinateur, qui peut être acceptable, mais aussi excessif, présentant un danger pour l'homme. Ces propriétés doivent être mesurées avec précision en raison de la convergence inévitable des capacités mentales humaines et informatiques. Les systèmes d’information qui existent aujourd’hui sont des hommes-machines qui peuvent fonctionner grâce à l’intelligence de l’utilisateur ou d’un informaticien.
Par exemple, quel danger viendrait d’un système comptable intelligent qui pourrait produire des informations incorrectes ? Un danger peut survenir lorsqu'un tel système développe des éléments de personnalité, par exemple un intérêt personnel, qui n'a rien de commun avec les humains. Une solution à ce problème pourrait être l'interdiction de la création de systèmes différant par leurs possibilités d'évolution.
De plus, le danger peut être associé au contenu d'erreurs logiques dans l'IA. Il peut être utilisé pour résoudre des problèmes assez complexes, dont la liste n’est pas immédiatement connue. Par conséquent, des mesures spéciales doivent être prises pour confirmer l’exactitude de la décision qui sera obtenue. Très probablement, il sera nécessaire de développer toutes sortes de moyens de contrôler de tels systèmes, par exemple un logiciel spécial qui vérifiera automatiquement l'exactitude de la solution et ne nécessitera pas de participation humaine.
