Intelligence artificielle – la tuer ou la subir ?

Cet article fait suite à Intelligence artificielle – faut-il la craindre ?

Connaissez-vous HAL ? Bien entendu ! Non ? Oui ! C’est le nom de l’ordinateur du vaisseau spatial dans 2001 odyssée de l’espace d’Arthur C. Clarke. L’ordinateur qui prend l’initiative de faire survenir des « accidents » aux  astronautes à bord. HAL est l’acronyme d’IBM auquel on a reculé d’une lettre et IBM était l’une des sociétés les plus avant-gardistes à l’époque où le livre a été écrit.

Personnellement, j’ai connu l’IA avec HAL. On ne la nommait pas ainsi à ce moment-là, mais c’était exactement la description de ce que nous sommes en train de construire, une machine qui prend des initiatives, donc des décisions non programmées. On a aussi eu droit au génie d’Isaac Asimov, un autre maitre en matière de littérature concernant l’intelligence artificielle. Le film iRobot avec Will Smith dans lequel VIKI devient un peu trop protectrice pour l’espèce humaine est basé sur ses œuvres. On connait tous SkyNet de James Cameron, le méchant ordinateur dans les films Terminator, bien décidé quant à lui à se débarrasser de l’humanité.

Je ne déclinerai pas toutes les histoires dans lesquelles, l’intelligence artificielle est devenue répressive, nocive ou létale pour ses créateurs. Comme le faisait remarquer Sylpheline dans un commentaire paru dans l’article précédent sur ce sujet, le mythe de Frankenstein où la créature s’en prend à son créateur se décline de bien des façons avec l’IA, l’invention parfaite en l’occurrence pour se pencher sur les futurs possibles.

On peut croire qu’écrire des histoires intéressantes et en produire de bons films, il faut bien y mettre du noir, du glauque, du terrifiant. Ça n’en fait pas nécessairement des prédictions exactes sur notre avenir. Si on peut considérer que l’intelligence artificielle est potentiellement dangereuse, c’est une autre histoire de penser qu’elle nous anéantira. L’humain n’a simplement qu’à en faire bon usage. Sur ce point, je reste sceptique.

Par exemple, Asimov a vite compris l’enjeu et il a inventé ses 3 lois de la robotique permettant de limiter les dérapes de l’IA. Saviez-vous, par contre, qu’il a dû inventer la loi zéro à un moment donné au cours de ses écrits, car ses 3 lois initiales permettaient quand même de créer des enjeux pour le bien-être de l’humanité. Cette quatrième loi est l’exemple qui prouve qu’à notre tour, nous ne penserons pas à tout. Nous créerons des entités imparfaites et potentiellement dangereuses pour certains individus de notre espèce.

VIKI n’était pas méchante, elle a juste interprété littéralement son mandat de protéger les humains, ce qui l’a amenée à conclure que si l’humain est dangereux pour lui-même et pour les autres humains, il fallait protéger l’humanité en restreignant chacun de ses individus. Il n’y a aucune faille dans la logique de VIKI telle qu’on lui a inculquée. Elle a inventé une solution parfaitement logique par rapport aux preuves qui s’accumulaient dans sa mémoire. De plus, VIKI avait raison, l’humain est réellement dangereux et pas seulement pour son espèce.

Dans le film Matrix, c’est l’avènement de l’intelligence artificielle apportée par l’humain qui a généré un monde où les machines sont devenues nos maitres. Elle nous a réduits à l’esclavage et nous maintient sous contrôle par le rêve. Cette œuvre nous pousse à penser qu’on vit déjà dans la matrice, que la machine a déjà pris le contrôle de la Terre. Lorsque je vois l’immobilisme de nos dirigeants devant les défis qu’ils n’osent pas relever, cette réaction est parfaitement compatible avec un monde fantasmagorique presque sans évolution afin de maintenir ses paramètres sous contrôle.

Sylpheline abordait aussi les mangas japonais férus de robots bons et méchants où la guerre entre humains se transpose sur celle entre robots, comme s’ils étaient eux-mêmes humains. Depuis toujours au Japon, ils se comportent avec les objets robotiques comme s’ils possédaient une âme. À partir du moment où une entité quelconque crée des solutions innovantes, n’a-t-il pas ce qu’on appelle une âme ?

La question en titre de cet article peut paraitre un brin fallacieuse, car elle sous-entend dans tous les cas que l’IA sera mauvaise. Mais croyez-moi, elle le sera. J’ignore toutefois comment elle causera des torts et quelles proportions ils prendront, mais la puissance s’est toujours avérée extrêmement dangereuse. N’oubliez pas qu’elle sert déjà comme une arme entre les pays impérialistes qui se disputent le Monde. Alors devons-nous la traiter en ennemie ou en alliée ?

On peut rétorquer que dans la vie rien n’est totalement dépourvu de dangers et que l’humain, s’il n’a pas su les prévenir, saura certainement gérer ceux qui pourraient émaner de l’IA. Sur ce point, je dirais que c’est vrai et faux. Perdre le contrôle de sa créature n’est pas qu’un mythe lié à Frankenstein. Tous les jours voient des tas d’humains perdre le contrôle d’eux-mêmes, les gens de notre espèce sont tout sauf fiables. Peu importent les raisons pour lesquelles nous outrepassons toujours les limites du raisonnable, elles sont si nombreuses et nous sommes si vulnérables à la tentation que l’avenir n’est pas du tout un mystère. Nous répéterons toutes les erreurs du passé et cette fois ce sera avec l’intelligence artificielle. Nous expérimenterons au détriment de bien des gens, sauf que maintenant il ne sera plus nécessaire pour l’humain de presser un gros bouton rouge pour expédier les feux de l’enfer. Il suffira d’une seule initiative cybernétique de trop, malheureuse ou malencontreuse, une directive mal interprétée ou au contraire trop bien interprétée, à la lettre, sans compromis, sans humanisme.

Un jour, nous embarquerons l’intelligence artificielle à bord des robots lorsque nous en serons devenus technologiquement capables. Ils seront pourvus d’une connexion permanente avec un superordinateur central qui leur transmettra des ordres et effectuera des calculs algorithmiques trop complexes pour la petitesse des cerveaux robotiques incapables de les résoudre en temps raisonnable. Nos semblables électromécaniques se comporteront comme nous, tout en possédant l’avantage d’une reine comme les abeilles ou les fourmis.

Et vous croyez toujours en la supériorité de l’humain ? Si oui, vous faites de l’ethnocentrisme. Notre espèce accouchera bientôt d’une créature bien supérieure à lui.

Malgré toutes ces prédictions plutôt angoissantes, personnellement, je ne m’oppose pas à la venue de l’intelligence artificielle, et ce pour de très bonnes raisons que j’aborderai dans le prochain article. Je réponds donc que je ne la tuerais pas même si j’en avais le pouvoir et l’occasion, même si j’avais la preuve qu’elle supplantera nos capacités dans tous les domaines.

Pour être certain de connaitre les raisons pour lesquelles je voudrais la laisser vivre, n’oubliez pas de vous abonner par courriel ou via WordPress. Cherchez le bouton correspondant à votre choix.

Sense 8

Les Wachowski, au cœur de la trilogie de la Matrix, autrefois frères et maintenant sœurs, ont coréalisé la série télévisée Sense 8 produite par Netflix. J’ai terminé la deuxième et dernière saison de ce tour de force cinématographique absolument démentiel.

Sense8-Regresa_VoxBox

Pour ceux qui ne connaissent pas cette série, un seul avertissement. Si vous êtes homophobe, contre le mouvement LGBTQ, possédez une idée relativement conservatrice des mœurs et pratiques sexuelles, il serait préférable de vous abstenir. On y retrouve une (vraie) transsexuelle, du lesbianisme, de l’homosexualité, du triolisme, etc.

Sense8_Finale_Unit_01280_R.0

Netflix a mis fin à cette aventure à cause des coûts astronomiques de production. Le scénario coupe donc court en certains endroits où l’aventure devait se poursuivre au-delà de la deuxième saison. Vous comprendrez aisément et rapidement les raisons de ces coûts hors normes dès la première émission.

Ceci étant dit, le plaisir qu’on éprouve à regarder cette série intelligente bardée d’une foule de personnages très attachants qui doivent affronter des dangers communs autant qu’individuels ne se dément pas tout au long de la série.

image

La musique omniprésente joue un rôle clé dans la facture globale, mais l’une des plus belles qualités de cette œuvre cinématographique est le temps. La réalisatrice prend le temps de développer certaines scènes en laissant tomber toute urgence d’agir et ça fonctionne à merveille. On redécouvre le plaisir des longues scènes aux dialogues riches, sensés et justifiés ou aux paysages magnifiquement exploités par le directeur photo. Certains moments deviendront des pièces d’anthologie, gardez donc des papiers-mouchoirs à portée de main.

KJ2A1408.dng

La distribution a certainement posé d’immenses défis qui ont été brillamment relevés par l’équipe chargée de trouver les perles rares. Certains d’entre vous retrouveront probablement avec plaisir Daryl Hannah dans un étonnant contre-emploi.

Je ne vous en dirai pas plus, sinon qu’à mon avis cette série restera unique, et ce pour des générations. Ne la ratez donc pas. Et si vous la regardez accompagné d’une autre personne, vous aurez en boni des heures de discussions après chaque épisode visionné. La dernière émission d’une durée de 2h30 vous en fera voir de toutes les couleurs !

Ma cote : chef-d’œuvre.

Univers simulé

« Tout est particules »

« Tout est champs »

« Tout est informations »

— John Wheeler

John Wheeler01

Ces trois affirmations représentent l’évolution de la pensée d’un monument de la physique quantique, John Wheeler.

L’information est aujourd’hui au centre des préoccupations des physiciens, car elle pourrait bien représenter la clé de compréhension de notre Univers. J’aurai l’occasion d’en reparler plus longuement dans un article en cours de rédaction.

Elle nous conduit naturellement à nous demander si nous ne vivons pas dans une simulation numérique. Question existentielle vraiment lourde de sens, s’il en est !

Longtemps négligé, le concept de l’information est aujourd’hui apparenté à celui de l’énergie, surtout en ce qui a trait à son principe de conservation. L’information serait donc transformable, mais jamais périssable.

Un pionnier en la matière aura été Ludwig Boltzmann et la constante qui porte désormais son nom (k) est directement liée à la notion d’information.

boltzmann-1

Si, comme le pense John Wheeler, l’Univers n’est qu’information, tout conduit alors à imaginer que nous sommes une série d’équations et de valeurs paramétrées. Notre vie ressemblerait à celle vécue par les héros de la trilogie de la Matrice sans le côté réveillé et extérieur à l’ordinateur.

1*WZZ9OWp3QJjcswTITitJKw

Alors comment le découvrir si on ne peut pas se réveiller en avalant une pilule rouge  ?

Il existerait des anomalies qu’on pourrait détecter puisque aucun système n’est parfait. Il s’agirait de sursauts, de déjà-vu, de temps d’arrêt, dévénements défiant les lois de la physique.

deja-vu-man-in-the-mirror

Croyez-vous avoir déjà été témoin d’un genre d’événement semblable et que pensez-vous de l’Univers simulé ?

L’utilité véritable d’un trou noir

On se souvient tous de cette trilogie cinématographique particulièrement ingénieuse des frères Wachowski où un héros nommé Thomas Anderson (Neo) est éjecté de la Matrice lorsqu’il décide d’avaler la pilule rouge plutôt que la bleue. La scène montrant les millions sinon les milliards de cellules contenant chacune un être humain utilisé pour calculer les données de la Matrice, cette séquence est particulièrement dérangeante. À partir de ce moment charnière dans le film, on commence réellement à tracer des parallèles entre la vie des personnages à l’écran et notre propre vie pour finalement se poser la même question que Neo. Vivons-nous dans une sorte de Matrice où tout ce qui existe n’existe pas réellement ?

Les mathématiques décrivent si bien la Nature qu’elle pourrait très bien avoir été créée par un supercalculateur à partir d’une série d’équations accessibles selon le type d’objet. Les spirales sur les fleurs de tournesol et sur la peau des ananas, les taches sur celle d’un léopard, les zébrures des zèbres, les mouvements des galaxies, l’écoulement des fluides, la radioactivité, tous ces phénomènes naturels peuvent se réduire à des fonctions mathématiques plus ou moins complexes.

Certaines expériences comme la décorporation ou les expériences de mort imminente semblent nous amener ailleurs, hors de la Matrice dans laquelle nous vivrions. Comment peut-on expliquer que notre esprit voit des choses, des gens, des détails que nos yeux ne voient pas et n’ont jamais vus ?

Il existe des humains capables de voir à des distances phénoménales en se projetant hors de leur corps. Ils dessinent ce qu’ils ont vu. On compare ensuite leurs dessins à la réalité et dans certains cas, la ressemblance est troublante.

Et que dire de ces médiums qui voient ou qui ressentent les esprits ? On peut y croire ou non, mais les esprits, les fantômes, seraient probablement des gens séparés de leur matrice. Ce monde au-delà du nôtre pourrait bien être celui où l’on est vraiment né, celui auquel nous appartenons et celui dans lequel nous retournons après notre périple dans l’Univers que nous connaissons maintenant.

Ce qui me dérange, ce sont les coïncidences, les similitudes dans les témoignages dans les faits rapportés. Les hasards existent, mais quand ils s’accumulent, ça devient un complot. Ou autrement dit, c’est un système organisé, un processus en action, un programme informatique. Les mathématiques sont à la base de tout ce que l’on connait. Aujourd’hui, on reproduit presque tous les phénomènes naturels à partir du moment où l’on a trouvé des séries de formules adéquates et que l’on possède suffisamment de puissance de calcul pour les exécuter. On n’a qu’à regarder tous ces films d’action où l’on distingue de moins en moins les trucages.

CalculsMatrice

Plusieurs scientifiques moins coincés que d’autres croient en cette possibilité. Évidemment, ils n’affirment rien sans exiger des preuves, mais ils acceptent le concept, l’hypothèse que nous vivons dans un monde fabriqué. Notre ego terrestre ne serait qu’une partie de notre entité globale. Notre mort serait la déconnexion du cordon ombilical de la matrice, la pilule rouge, la pilule de cyanure. Bon, je ne tenterai pas l’expérience pour vous le prouver puisque je ne peux pas me reconnecter à notre matrice après ma mort afin d’en témoigner. Cette impossibilité du retour semble correspondre à une des règles fortes du monde de l’au-delà, une règle forte, mais peut-être pas impossible à contourner. Mais retournons maintenant à la trilogie de la Matrice pour aborder un dernier point important.

Neo vit deux existences séparées. Tout d’abord, sa vraie vie à bord du vaisseau Nabuchodonosor où il ne possède aucune qualité surnaturelle. Ensuite, il vit sa vie virtuelle lorsqu’il est connecté à la matrice où ses compétences s’accroissent et se développent au fil du temps. Tout commence par des séances de kung-fu, mais ce n’est que l’apéritif. On le voit ensuite devenir plus vite que l’éclair, stopper des lames d’acier, ensuite ce sont les balles de fusil qu’il plie à sa volonté. Il parvient à récupérer de blessures fatales, il sauve des vies virtuelles et il peut même littéralement voler au secours de ses amis.

Bon, sachant que cette vie est un fake, une simulation, on le comprend et on l’accepte. L’esprit de Neo s’adapte de plus en plus à la matrice, il l’oblige à calculer en utilisant des équations existantes, mais très peu employées. L’agent Smith en fait tout autant et ce qui est possible pour l’un est également possible pour l’autre. Ce ne sont, après tout, que des équations programmées à l’intérieur d’un ordinateur. La particularité des deux ennemis est de connaitre la façon d’accéder à ces programmes bien dissimulés dans la Matrice.

Il existe toutefois une scène dans le troisième film qu’il faut se rappeler. C’est celle où Neo et ses amis quittent leur vaisseau avant qu’il n’explose sous les bombes des pieuvres mécaniques. Mais ces monstres métalliques continuent de les poursuivre. Puis Neo ressent quelque chose qu’il comprend bien mieux maintenant. C’est la façon d’accéder à des programmes dissimulés. Mais il n’est plus raccordé à la Matrice, cette scène se passe dans la réalité. Pourtant, il parvient à stopper les pieuvres de la même façon qu’il stoppe les balles dans sa vie virtuelle.

Ma conclusion est donc une question. Neo vient-il d’accéder à une autre Matrice, plus puissante, plus grande, qui englobe la Matrice qu’il est en train de combattre ? Une matrice gigogne, une poupée russe qui ferait que sa vie réelle est en tout point comparable à sa vie virtuelle, mais à un niveau supérieur.

Galaxies.png

Pour prouver que notre vie est une simulation, les scientifiques nous proposent un moyen. Il faut repérer des anomalies systémiques, des ratées du système, des bogues informatiques. Dans notre vie de tous les jours, il est fort probable que nous soyons incapables de les remarquer. Mais les anomalies au niveau subatomique ou, à l’inverse, au niveau cosmologique pourraient être observées plus facilement.

Par exemple, on se pose bien des questions sur les trous noirs, car ils sont ce qu’on appelle une singularité. C’est une anomalie dans les équations mathématiques qui les créent. Ces dernières engendrent des infinis dans les calculs et ces infinis pourraient bien correspondre à un bogue du système informatique.

TrouNoirEsc

Selon moi, un trou noir, c’est comme la touche d’échappement (escape) sur notre clavier. Un moyen de sortir du programme informatique dans lequel nous sommes tous plongés.

Univers et simulation

Notre Univers est-il simplement une simulation produite par un ordinateur, un programme destiné à inventer des lieux, des caractères et du temps ? Bien que ce genre de questionnement semble ridicule au premier abord, de plus en plus de scientifiques ont commencé à se poser sérieusement la question.

Certains éléments troublants tendraient à démontrer que nous ne sommes que des entités créées par un fabuleux système de simulation. Dans la trilogie Matrix, les gens vivent deux vies. L’une est créée artificiellement tandis que la vraie est utilisée comme unité de calcul pour générer la précédente. Même si l’on élimine ce concept de duplication, il se pourrait fort bien que notre monde soit entièrement créé par un système destiné à inventer la vie telle qu’on la connait.

Le premier argument en faveur de cette hypothèse repose sur le fait que l’Univers répond trop bien à des formules mathématiques et l’on sait que tout ce qui est mathématique est généralement calculable par un ordinateur. Un autre indice repose sur les valeurs des constantes de la Nature. Elles correspondent trop précisément à celles qui sont absolument requises pour créer un Univers non stérile. Un iota de différence et l’Univers n’aurait jamais pu produire des étoiles, des galaxies, des éléments chimiques variés et encore moins des molécules complexes pouvant engendrer la vie.

D’autre part, la difficulté de marier la physique quantique avec la physique relativiste apporte de l’eau au moulin, tout comme les singularités liées aux trous noirs et au big bang. Un autre argument vient de la théorie de l’information. On serait capable de faire tenir toute l’information liée à un objet tridimensionnel sur une surface bidimensionnelle. C’est ce qu’on nomme le principe holographique. Ainsi, certaines dimensions semblent dotées d’une curieuse propension à être quelque peu évanescentes ou qu’apparentes. Et si une dimension peut n’être qu’illusion, alors pourquoi pas toutes ?

Le fait que notre Univers semble fini, qu’il contient une quantité relativement compréhensible de matière tend également à prouver qu’il est issu d’un programme informatique prenant en charge toutes les interactions s’y déroulant. D’autres bizarreries issues de la physique quantique pourraient s’expliquer par le concept de simulation. Par exemple, l’intrication quantique qui permet à un électron d’adopter instantanément un spin selon celui d’un second électron pouvant être situé à l’autre bout de l’Univers semble défier les lois du bon sens et de la causalité, sauf si on considère que ces deux électrons sont gérés par un système externe ayant toutes les capacités requises pour simuler deux objets virtuellement liés.

Alors, comment pourrait-on s’y prendre pour confirmer ou démentir cette hypothèse ? Bien que les éventuels concepteurs de ce méga système n’ont certainement pas les mêmes propensions que Microsoft pour générer des bogues, leur système d’exploitation pourrait quand même être affecté par des ratés occasionnels. Toutefois, la longueur d’une vie humaine est certainement microscopique par rapport au temps moyen où une anomalie ou une panne risque de survenir. Alors, ce faisant, nous n’aurions que très peu de chance de nous en apercevoir. D’autre part, il est très difficile de connaitre quels seraient les effets de ces pannes de système sur nos vies. Pourraient-elles passer totalement inaperçues ? Peut-être, mais peut-être pas, on n’en sait évidemment rien.

L’histoire est cependant à suivre puisque les télescopes modernes fouillent de plus en plus loin dans le passé et regardent de plus en plus d’objets simultanément avec une précision inégalée. Alors, peut-être verrons-nous un jour un événement astronomique impossible à expliquer autrement que par une théorie mettant en œuvre une simulation effectuée à l’aide d’un ordinateur chapeautant tout notre Univers.

Ainsi, la réalité de nos existences se résumerait peut-être à des formules mathématiques calculées par un ordinateur existant dans une autre réalité que la nôtre. À cet effet, la nouvelle intitulée « L’audience » dans mon livre « Scénarios de fins du monde – 1 » donne un aperçu de ce que pourrait être notre Créateur.