Intelligence artificielle contre Gödel

J’ai déjà écrit plusieurs articles sur l’intelligence artificielle. J’explique pourquoi il faut la craindre et aussi pourquoi on doit continuer d’avancer dans ce domaine tout en respectant une certaine éthique.

Jeune, j’ai lu l’œuvre complète d’Asimov, celui qui a compris bien avant tout le monde ce que notre avenir nous réservera lorsque nous serons accompagnés par une population grandissante d’androïdes intelligents.

Il a défini le principe des trois lois de la robotique dont le libellé est connu de tout le monde, mais bien peu sont capables de décrire son contenu. Il a même écrit une quatrième loi, connue de presque personne, afin de surmonter des problèmes éthiques et pratiques posés par ses trois lois.

robot traffic

L’intelligence artificielle avancée sera un jour implantée dans des corps artificiels performants, ça ne fait aucun doute. Et ils deviendront nos égaux de silicium, ou même de carbone, comme nous, puisque les recherches actuelles en semi-conducteurs tendent à vouloir remplacer le sable par la suie.

Mais l’intelligence artificielle n’a pas que des problèmes d’ordre technique, chimique, physique ou de programmation à surmonter. Elle se bute déjà à un autre problème qui deviendra éminemment important, voire crucial, l’indécidabilité de Gödel.

En 1931, un mathématicien austro-hongrois du nom de Kurt Gödel vient jeter un pavé gros comme une planète dans la mare des mathématiciens, des philosophes et des autres têtes pensantes de l’époque. À ce moment, la toute nouvelle physique quantique vient de détruire l’une des deux jambes du sublime géant représentant nos connaissances scientifiques. L’article de Gödel va faire exploser la seconde.

kurt-godel

Par deux théorèmes dits d’incomplétude, il démontre logiquement que tous les problèmes n’ont pas toujours de solutions. Pire, il est impossible de savoir avec certitude à l’avance si un problème fait partie de la catégorie soluble ou insoluble. Aujourd’hui par exemple, nous ignorons si la détermination d’une formule permettant de calculer les nombres premiers fait partie de l’une ou de l’autre des catégories. La preuve mathématique apportée par Gödel brise pour de bon le cou aux déterministes, enfin à ceux pour qui la physique quantique n’avait pas encore converti à la nature imprédictible de l’univers.

Pourtant aujourd’hui, la majorité des gens pensent encore de l’ancienne façon. Ces concepts d’incomplétude, d’indétermination, d’incertitude n’ont pas encore entièrement pris racine dans nos esprits tellement ils sont contre-intuitifs. Combien de gens entendez-vous encore dire « tout problème a sa solution », alors que cette affirmation a été réfutée voilà bientôt 90 ans ?

L’indétermination de l’indécidabilité mèneront l’intelligence artificielle aux frontières de son incapacité à donner une réponse exacte aux problèmes que nous lui soumettrons. Elle devra se contenter de faire des choix parmi des solutions toutes inexactes.

Robotic hand using a laptop computer
Robotic hand using a laptop computer, illustration.

C’est pourquoi les chercheurs en IA se penchent sur cette situation puisqu’il faudra bien stopper le calcul de ces entités pensantes après un certain temps de réflexions infructueuses sans savoir si une solution exacte aurait pu être trouvée une microseconde après l’arrêt, ou jamais. Ils ont développé le concept PAC ou PAC(L) signifiant : Probably Approximately Correct (Learning). En français : Apprentissage probablement approximativement exact. Ça fait beaucoup de conditions inexactes, vous ne trouvez pas ?

L’apprentissage de la machine se fera donc à coups de cascades d’inexactitudes, tout comme le nôtre en fait. La machine pourra traiter plus de données que le cerveau humain, peut-être aussi plus rapidement, mais elle finira elle aussi par se buter à des problèmes sans solutions, sans bonnes solutions, à des solutions impopulaires et même inacceptables.

L’éthique que nous lui apprenons pour affronter l’incomplétude est basée sur nos valeurs actuelles. Ces valeurs changent avec le temps et les choses aujourd’hui acceptables ou inacceptables ne le seront plus dans un avenir quelconque. Ainsi, leurs solutions seront critiquées, tout comme les nôtres puisque rien n’est fixé d’avance et tout évolue.

ai-867565

Nous n’accepterons pas les solutions de l’intelligence artificielle comme des panacées quasiment divines et c’est une bonne chose. Pour un certain temps, ils resteront des aides utiles. Jusqu’au jour où l’humain disparaitra d’une façon ou d’une autre. Nos machines pensantes nous survivront puisqu’elles auront appris à se répliquer et à générer l’énergie nécessaire à leur survie. Surtout, elles seront moins fragiles, elles pourront facilement se réparer sans trauma et elles seront moins sensibles aux aléas naturels que leurs créateurs.

Dans un avenir proche ou lointain, mais « quasiment » certain, qui se rappellera de bêtes étranges que la machine intelligente nommait autrefois « humains » ? Certaines légendes les plus loufoques à circuler parmi la population d’androïdes prétendent même qu’ils auraient créé la machine pensante ! Mais qui croit réellement et sérieusement à cette mythologie déjantée ?

Possible et impossible

L’impossible est-il impossible ou possible? Avec ce genre de mots, les paradoxes ne se situent jamais bien loins, car on parle en termes d’absolus.

Un bon domaine pour tenter de découvrir la réponse à cette question est la mathématique. Est-ce possible qu’un problème mathématique bien concret ne contienne aucune solution? Si c’est vrai, l’impossible est possible. Si c’est faux, l’impossible impossible aura au moins été prouvé pour un domaine particulier et touts ses dérivés dont la physique.

Autrefois, l’humain ne s’était jamais posé cette question et il considérait tout problème mathématique comme étant soluble. Lorsqu’il s’est retrouvé devant ce problème d’algèbre suivant:

x2 + 1 = 0

il a commencé à douter de l’assertion comme quoi tout problème possède une réponse. Pourquoi? Parce que si je résous cette équation, ce qui signifie que je cherche la valeur de x, j’arrive à

x = √-1

la racine carrée de moins un. Autrement dit, quel est le nombre qui, multiplié par lui-même, donne comme réponse -1? À la petite école, j’avais appris que cela était impossible puisque tous les nombres élevés au carré donneront toujours une valeur positive, jamais négative.

L’humain s’est dit, voilà enfin un problème mathématique insoluble qui tendrait à prouver que l’impossible est possible. Le hic est que si on élimine de toutes les démonstrations mathématiques ce résultat apparemment impossible, on se retrouve bloqué sur un tas de problèmes qui ont une solution bien réelle, comme la puissance des génératrices électriques. Par contre, en acceptant la solution à l’équation du haut comme étant possible, on peut calculer les puissances effectives des génératrices. Ça ne manque pas de croustillant, vous ne trouvez pas ?

Un problème à la réponse impossible rend impossible le calcul d’une possibilité bien réelle, mais si on accepte comme étant possible la réponse à ce qui semble impossible, on rend possible le calcul d’une réalité et le résultat final correspond exactement à la réalité.

Pour en revenir avec notre question initiale qui était à savoir si les problèmes mathématiques impossibles à résoudre sont possibles, la balance venait de pencher sur le côté «impossible».

Il a fallu un philosophe de génie, Kurt Gödel, pour dénouer ce problème et prouver mathématiquement une fois pour toutes que l’impossible est possible grâce à son théorème dit d’incomplétude paru en 1931.

À partir de ce moment, les mathématiciens se sont vus administrer une pilule empoisonnée. Avant 1931, ils se disaient que s’ils travaillaient suffisamment fort, ils finiraient par trouver la solution à tous les problèmes et voilà que cet illustre inconnu vient de prouver l’inverse. Il se peut que certains problèmes mathématiques n’aient aucune solution, rendant l’impossible possible.

« Je mens »

En seulement deux mots et six lettres, je parviens à poser à l’univers un problème insoluble. Ouais, les anglophones font mieux que nous. Ils n’ont besoin que de quatre lettres. I lie. Tant pis, on a toujours été plus volubiles qu’eux.

Mais revenons-en au titre. Cette affirmation n’est pas sans conséquence. Elle représente un paradoxe véritable. Si je mens, ce que je dis est faux. Donc, si je dis que je mens et que c’est faux, je ne mens pas. Mais si je ne mens pas et que j’affirme que je mens, c’est un mensonge, donc je mens…

Et on peut poursuivre ce raisonnement à l’infini. En électronique ou en informatique, on crée le même paradoxe en plaçant un inverseur dont sa sortie est indexée à l’entrée du même inverseur. Ça crée une boucle infinie. Il faut couper le courant pour réussir à y mettre fin. Avec un humain qui affirme qu’il ment, on est obligé de le trucider pour obtenir le même résultat, soit de mettre fin à son paradoxe. C’est salissant. Et surtout, surtout, ne considérez pas le titre de cet article comme une réelle affirmation de ma part. Sa présence ne sert qu’un but didactique ou ludique selon votre état d’esprit.

Kurt Gödel a mis ce concept sous forme mathématique et depuis ce jour, il est formellement prouvé que certains problèmes n’ont aucune solution. Les paradoxes ne sont donc pas que des abstractions, ou des apparences trompeuses, ils peuvent revendiquer une existence réelle.

Ceci m’amènera à introduire le prochain article qui mettra en lumière un autre paradoxe qui, cette fois, pourrait bien ne revendiquer aucune réalité.

Je traiterai du voyage temporel dans le passé. Alors, à bientôt! Ou, devrais-je vous dire, à hier!