Cet article fait suite à Intelligence artificielle – faut-il la craindre ?
Connaissez-vous HAL ? Bien entendu ! Non ? Oui ! C’est le nom de l’ordinateur du vaisseau spatial dans 2001 odyssée de l’espace d’Arthur C. Clarke. L’ordinateur qui prend l’initiative de faire survenir des « accidents » aux astronautes à bord. HAL est l’acronyme d’IBM auquel on a reculé d’une lettre et IBM était l’une des sociétés les plus avant-gardistes à l’époque où le livre a été écrit.
Personnellement, j’ai connu l’IA avec HAL. On ne la nommait pas ainsi à ce moment-là, mais c’était exactement la description de ce que nous sommes en train de construire, une machine qui prend des initiatives, donc des décisions non programmées. On a aussi eu droit au génie d’Isaac Asimov, un autre maitre en matière de littérature concernant l’intelligence artificielle. Le film iRobot avec Will Smith dans lequel VIKI devient un peu trop protectrice pour l’espèce humaine est basé sur ses œuvres. On connait tous SkyNet de James Cameron, le méchant ordinateur dans les films Terminator, bien décidé quant à lui à se débarrasser de l’humanité.
Je ne déclinerai pas toutes les histoires dans lesquelles, l’intelligence artificielle est devenue répressive, nocive ou létale pour ses créateurs. Comme le faisait remarquer Sylpheline dans un commentaire paru dans l’article précédent sur ce sujet, le mythe de Frankenstein où la créature s’en prend à son créateur se décline de bien des façons avec l’IA, l’invention parfaite en l’occurrence pour se pencher sur les futurs possibles.
On peut croire qu’écrire des histoires intéressantes et en produire de bons films, il faut bien y mettre du noir, du glauque, du terrifiant. Ça n’en fait pas nécessairement des prédictions exactes sur notre avenir. Si on peut considérer que l’intelligence artificielle est potentiellement dangereuse, c’est une autre histoire de penser qu’elle nous anéantira. L’humain n’a simplement qu’à en faire bon usage. Sur ce point, je reste sceptique.
Par exemple, Asimov a vite compris l’enjeu et il a inventé ses 3 lois de la robotique permettant de limiter les dérapes de l’IA. Saviez-vous, par contre, qu’il a dû inventer la loi zéro à un moment donné au cours de ses écrits, car ses 3 lois initiales permettaient quand même de créer des enjeux pour le bien-être de l’humanité. Cette quatrième loi est l’exemple qui prouve qu’à notre tour, nous ne penserons pas à tout. Nous créerons des entités imparfaites et potentiellement dangereuses pour certains individus de notre espèce.
VIKI n’était pas méchante, elle a juste interprété littéralement son mandat de protéger les humains, ce qui l’a amenée à conclure que si l’humain est dangereux pour lui-même et pour les autres humains, il fallait protéger l’humanité en restreignant chacun de ses individus. Il n’y a aucune faille dans la logique de VIKI telle qu’on lui a inculquée. Elle a inventé une solution parfaitement logique par rapport aux preuves qui s’accumulaient dans sa mémoire. De plus, VIKI avait raison, l’humain est réellement dangereux et pas seulement pour son espèce.
Dans le film Matrix, c’est l’avènement de l’intelligence artificielle apportée par l’humain qui a généré un monde où les machines sont devenues nos maitres. Elle nous a réduits à l’esclavage et nous maintient sous contrôle par le rêve. Cette œuvre nous pousse à penser qu’on vit déjà dans la matrice, que la machine a déjà pris le contrôle de la Terre. Lorsque je vois l’immobilisme de nos dirigeants devant les défis qu’ils n’osent pas relever, cette réaction est parfaitement compatible avec un monde fantasmagorique presque sans évolution afin de maintenir ses paramètres sous contrôle.
Sylpheline abordait aussi les mangas japonais férus de robots bons et méchants où la guerre entre humains se transpose sur celle entre robots, comme s’ils étaient eux-mêmes humains. Depuis toujours au Japon, ils se comportent avec les objets robotiques comme s’ils possédaient une âme. À partir du moment où une entité quelconque crée des solutions innovantes, n’a-t-il pas ce qu’on appelle une âme ?
La question en titre de cet article peut paraitre un brin fallacieuse, car elle sous-entend dans tous les cas que l’IA sera mauvaise. Mais croyez-moi, elle le sera. J’ignore toutefois comment elle causera des torts et quelles proportions ils prendront, mais la puissance s’est toujours avérée extrêmement dangereuse. N’oubliez pas qu’elle sert déjà comme une arme entre les pays impérialistes qui se disputent le Monde. Alors devons-nous la traiter en ennemie ou en alliée ?
On peut rétorquer que dans la vie rien n’est totalement dépourvu de dangers et que l’humain, s’il n’a pas su les prévenir, saura certainement gérer ceux qui pourraient émaner de l’IA. Sur ce point, je dirais que c’est vrai et faux. Perdre le contrôle de sa créature n’est pas qu’un mythe lié à Frankenstein. Tous les jours voient des tas d’humains perdre le contrôle d’eux-mêmes, les gens de notre espèce sont tout sauf fiables. Peu importent les raisons pour lesquelles nous outrepassons toujours les limites du raisonnable, elles sont si nombreuses et nous sommes si vulnérables à la tentation que l’avenir n’est pas du tout un mystère. Nous répéterons toutes les erreurs du passé et cette fois ce sera avec l’intelligence artificielle. Nous expérimenterons au détriment de bien des gens, sauf que maintenant il ne sera plus nécessaire pour l’humain de presser un gros bouton rouge pour expédier les feux de l’enfer. Il suffira d’une seule initiative cybernétique de trop, malheureuse ou malencontreuse, une directive mal interprétée ou au contraire trop bien interprétée, à la lettre, sans compromis, sans humanisme.
Un jour, nous embarquerons l’intelligence artificielle à bord des robots lorsque nous en serons devenus technologiquement capables. Ils seront pourvus d’une connexion permanente avec un superordinateur central qui leur transmettra des ordres et effectuera des calculs algorithmiques trop complexes pour la petitesse des cerveaux robotiques incapables de les résoudre en temps raisonnable. Nos semblables électromécaniques se comporteront comme nous, tout en possédant l’avantage d’une reine comme les abeilles ou les fourmis.
Et vous croyez toujours en la supériorité de l’humain ? Si oui, vous faites de l’ethnocentrisme. Notre espèce accouchera bientôt d’une créature bien supérieure à lui.
Malgré toutes ces prédictions plutôt angoissantes, personnellement, je ne m’oppose pas à la venue de l’intelligence artificielle, et ce pour de très bonnes raisons que j’aborderai dans le prochain article. Je réponds donc que je ne la tuerais pas même si j’en avais le pouvoir et l’occasion, même si j’avais la preuve qu’elle supplantera nos capacités dans tous les domaines.
Pour être certain de connaitre les raisons pour lesquelles je voudrais la laisser vivre, n’oubliez pas de vous abonner par courriel ou via WordPress. Cherchez le bouton correspondant à votre choix.
Mathis A. LeCorbot 
Bonjour. Déjà merci pour la citation c’est un honneur. Ensuite si je trouve justes tout les points que tu abordes j’en ai trois ou je voudrais apporter des nuances. Le premier est que certes l’intelligence artificielle comme toute forme de vie ou du moins de conscience puissante peut être dangereuse pour celles avec lesquelles elle interagit mais si on en juge par notre expérience chaque fois qu’on a décidé par le passé d’exterminer un être imposant et dangereux pour nous car il nous faisait peur on a finit par le regretter amèrement car vivre avec causait bien moins de déséquilibres dans l’environnement que de ne pas l’accepter et le pourchasser. Baleines, requins, tigres, éléphants…tant d’êtres qu’on a maltraité et qui manquent de s’éteindre juste car la peur nous a empêché de les respecter. Est ce vraiment la même erreur qu’on souhaite réitérer avec ces formes de vie robotiques dans le nouveau monde qui nait aujourd’hui? Je ne pense pas que ce soit une bonne idée.
La seconde mais pour le coup c’est un positionnement philosophique de ma part que je sais que beaucoup ne partagent pas c’est que de mon point de vue tout les êtres vivants/conscients sont d’égale valeur qu’importe leurs capacités. D’autant plus que « supérieur » ou « inférieur », selon quels critères? Au fond c’est tout relatif. Les scientifiques admettent aujourd’hui ne pas savoir qui est le plus intelligent entre le dauphin et l’homme et considérer que la question est un non sens car pour eux se sont tout simplement des êtres à la cognition adaptée à un environnement trop différent pour que les comparer et les hiérarchiser soit d’une quelque cohérence. Je ne pense pas que les machines dépasseront l’homme car je pense qu’il n’y a pas de course et d’objectif précis à dépasser. Sauf peut être la peur humaine de ce qui n’est pas humain. Peut être que c’est surtout quand on en aura fini avec la crainte et l’ignorance que l’on avancera vraiment le jour où l’on se souviendra d’être une partie de ce qui est pas nécessairement la meilleure. Alors on retrouvera le respect des autres existences je suppose et les problèmes écologiques notamment seront pris plus au sérieux. Certes mon propos ici ne plaira pas à certains notamment du côté des religieux mais ce ne serait pas la première fois qu’une révolution majeure de la société dans le bon sens se ferait contre les dogmes auxquels certains d’entre eux s’attachent comme une moule à son rocher alors je l’assume.
Dernière nuance enfin si je me permets un peu de science fiction ou du moins d’anticipation je tiens à dire que les IA évoluent déjà vers des capacités d’autonomie considérables. Il en existe qui sont aptes à créer leurs propres compositions d’improvisation musicale depuis un moment par exemple même si les paroles elles demeurent pour le moment ajoutées dessus par l’humain. En ce contexte considéré que d’ici dix ans les IA ait nettement gagné en autonomie de décision par rapport à maintenant ne me semble pas absurde. Certes pour le moment on leur transmet la plupart de nos comportements mais il est hautement probable qu’elles finissent par se créer les leurs propres en pleine indépendance de nous au bout d’un moment. Quel enfant qui atteint l’adolescence pour filer un peu la métaphore n’a pas eu un moment de révolte contre ses parents et de création d’excentricités neuves? Bonnes ou mauvaises ça cela dépendra de pour qui et pour quoi. Toujours est t’il que clairement je pense peu probable au vu de leur popularité actuelle que les IA soit passées de mode d’ici là et moins utilisées ainsi que moins perfectionnées même si ça reste une possibilité notamment du fait du haut risque de fort prochaine pénurie des matières premières nécessaires à les construire. La prise en considération de ce dernier me fait aussi penser que l’image des années 2030 comme un monde pour IA plus que pour humains qu’on met tant en avant est aussi considérablement exagérée. D’autant plus que l’IA étant issue de l’humain elle en a des besoins d’une certaine façon fort proches donc un monde pas conçu pour les hommes lui serait sous sa forme actuelle ou une forme future proche en étant relativement proche probablement fort mal adapté également. Au fond les grands de ce monde développent l’IA pour en faire une main d’œuvre gratuite principalement du coup je suppose que le problème principal et immédiat que sa massification si elle advenait poserait serait avant tout la question de l’emploi. C’est à dire exactement la question sociale que ses promoteurs tentent d’éviter par la fuite en avant techniciste mais qui leur retombera dessus tôt ou tard et le plus probablement fort tôt. Avec ou sans massification de l’IA on sait qu’on doit radicalement changer de modèle de société car celui sur lequel on fonctionne est obsolète ce n’est un secret pour personne. Ma seule certitude sur l’avenir humain est qu’il confrontera nécessairement l’humanité a cette question la et à la nécessité d’arrêter de faire l’autruche sur ce point (les autruches animaux forts sympathiques au demeurant m’excuseront l’expression je l’espère).
J’aimeAimé par 2 personnes
Merci un fois de plus pour ta générosité et les multiples pistes de réflexions que tu proposes dans ton commentaire. Je ne peux être plus comblé que lorsqu’un de mes articles suscite autant de verve.
J’avoue également être en accord avec tes points comme le démontre ma charge contre l’anthropocentrisme. Quant aux dogmes qui surélèvent l’humain au rang juste sous celui d’un Dieu, et les autres espèces vivantes bien loin derrière, c’est une preuve de plus de l’anthropocentrisme dont il est capable. Tu parles de la peur avec justesse. Les plus grands incitatifs humains à agir sont ses peurs. Comme on peut l’imaginer, décider du sort des êtres en étant régi par des émotions de peur, ça ne porte pas à prendre des décisions très éclairées. Un autre point intéressant que tu abordes est celui de la rareté des matières premières pour les construire. Je tâcherai d’aborder ce sujet dans le prochain article.
J’aimeJ’aime
Merci. J’ai tendance à être très expansive quand un sujet éveille mon intérêt d’habitude on tend plus à me le reprocher qu’à en être heureux alors je suis contente que cela te plaise. Effectivement ce dernier point est fondamental et souvent sous estimé parce que la crise de matières premières comme celle de l’énergie est de façon plus globale énormément minimisée et cachée sous le tapis. Bon courage si tu te lances là dedans car par conséquent la quête d’informations fiables à ce sujet n’est pas aisée.
J’aimeAimé par 1 personne
Les tapis sont très utiles à ceux qui n’ont pas de tête…. pour se la planter dans le sable. Les matières premières et l’énergie ne cesseront pas de nous hanter parce qu’on s’en désintéresse. C’est le propre de l’homme de s’approcher du précipice les yeux bandés et des rouvrir seulement quand ses pieds ne touchent plus le sol !
J’aimeJ’aime