Intelligence artificielle – faut-il la craindre ?

L’un des plus importants pôles mondiaux pour le développement de l’intelligence artificielle est ici, dans la ville où j’habite, à Montréal. Presque à toutes les semaines, une annonce confirme le démarrage d’une entreprise, ou encore l’agrandissement d’un centre déjà implanté, ou l’arrivée imminente d’un joueur majeur. Radio-Canada titrait même en janvier 2019: «L’intelligence artificielle a désormais son quartier général à Montréal».

Le site web de Montréal International (montrealinternational.com) dénombre un investissement privé de 1,1 G$ depuis 2016, 1 G$ en recherche universitaire, 15000 experts, 11000 étudiants à des programmes liés à l’IA, 300 chercheurs et étudiants aux cycles supérieurs universitaires. Plusieurs instituts et associations liés à ce domaine d’études et d’emplois s’installent dans la métropole. C’est indéniable, Montréal a la cote si l’on se fie au nombre de sommités mondiales qui y déménagent. Les annonces de créations d’emplois ne font pas état de milliers d’emplois chacune, mais ce sont tous des postes très bien rémunérés et certainement des plus stimulants.

Parmi les plus gros noms déjà actifs, IBM, Microsoft, Google, Facebook research et Deepmind forment le noyau dur. Cependant, les plus grandes innovations viendront peut-être d’entreprises en démarrage ou encore de noms moins connus, mais profondément implantés dans d’autres pays, comme le Royaume-Uni qui dépêche dans la ville ses QuantumBlack, WinningMinds et Bios.

Évidemment, les deux géants actuels que sont les É.U.A. et la Chine détiennent presque un monopole mondial avec près de 55 % des emplois, mais plusieurs facteurs incitent les entreprises à venir s’établir dans la quatrième plus grande ville francophone au monde après Kinshasa, Paris et Abidjan. Hé oui! Paris n’est plus la première ville francophone.

Tout d’abord, l’anglais sans la mentalité anglophone aux tendances dominatrices et obtuses, Montréal est à cheval entre ses racines francophones et l’hégémonie anglophone. Montréal est aussi une grande ville universitaire qui compte 4 universités importantes, dont l’université de Montréal et McGill, chacune œuvrant activement en IA. L’Université du Québec à Montréal s’intéresse surtout aux impacts sociaux de l’IA et à l’éthique liée à cette nouvelle façon de mener le Monde.

Car il s’agit bien de mener le Monde. Mais à quoi vous attendiez-vous de la part des compagnies dont je vous ai donné certains noms? De la charité? De l’intérêt porté aux humains? Comme toutes les compagnies, elles veulent faire plus d’argent que la concurrence et l’intelligence artificielle est la technique moderne qu’elles utiliseront toutes pour en obtenir plus.

Mais le vrai problème n’est pas aussi trivial. Toutes les compagnies œuvrant sur le net utilisent déjà l’IA pour scruter vos comptes sur les réseaux sociaux pour en ressortir des moyens d’augmenter votre intérêt à propos de certains produits dont ils ont la charge de hausser leurs ventes. C’est de bonne guerre. Vous publiez votre vie sans gêne, sans pudeur et sans contrainte, ils s’en servent, voilà tout. Votre impact social lié à l’achat de telle ou telle marque de produit reste banal, ça ne dérange personne. Vous trouvez même ça utile de voir des annonces de produits que vous aimez pour profiter des rabais ou d’apprendre la sortie d’un nouvel élément faisant partie de la gamme que vous affectionnez. Si l’IA se contentait de générer ce genre d’astuces commerciales, on n’aurait pas à débattre bien longtemps autour de son éthique.

L’intelligence artificielle implique un stade beaucoup plus avancé de comportement. Avec un humain, on ne se contente pas de lui apprendre des choses, on lui apprend à apprendre, on lui apprend à devenir autonome, à penser par lui-même, à dégager des solutions qui n’existaient pas, à créer de la nouveauté.

L’intelligence artificielle n’est pas que des algorithmes prévus pour calculer des formules plus rapidement que nous à partir de variables dont on la nourrit. L’intelligence artificielle invente des solutions dont nous ignorons tout. L’intelligence artificielle expérimente, analyse les résultats et sélectionne parmi ses tentatives les meilleures méthodes.

Le hic vient du mot «meilleur». Meilleur pour quoi, ou à quoi? Meilleur pour qui? L’intelligence artificielle n’a pas vécu vingt ans dans un milieu familial à se faire inculquer des valeurs. L’IA est un bébé naissant muni d’un cerveau des milliers de fois plus rapide que celui d’un adulte et qui n’a qu’une seule tâche à accomplir.

Être meilleur, bien, éthique, adéquat, sensé, réfléchi, correct, juste, bon, tous ces mots n’ont absolument aucune signification intrinsèque pour une IA, pas plus que pire, mal, inapproprié, insensé, irréfléchi, incorrect, injuste ou cruel. Voilà pourquoi cette branche des sciences relève autant du social que du technologique.

Alors, faut-il craindre l’IA? Je ne pense pas, car la vraie menace n’est pas l’IA en tant que telle, mais les humains construisant de l’IA et conséquemment, on a effectivement tout à craindre. Ce n’est pas par hasard que l’IA soit principalement l’affaire des Étatsuniens et des Chinois, le premier contrôlant le Monde et le second rêvant de la même chose.

De sérieux dérapages finiront par survenir, car il existe de vraies guerres, qu’elles soient commerciales ou territoriales et l’humain a toujours utilisé ses inventions pour les gagner. L’IA est déjà utilisée comme une arme et cet usage ne fera que s’amplifier.

Par le passé, nos armes ont quasiment toujours été réutilisées dans un but plus noble. L’humanité comprend parfois que la guerre permanente lui nuit. Dépositaires d’une technologie, nous devenons créatifs afin de répondre à des besoins qui peuvent être comblés en l’adaptant. Au bout du compte, la poudre à canon, le radar, le laser, le nucléaire, le sous-marin, toutes ces technologies ont heureusement été bien plus utiles qu’elles nous ont anéantis.

En sera-t-il de même avec l’IA? On peut l’espérer. Toutefois, il existe une différence fondamentale entre nos anciennes inventions et celle-ci. Un bâton de dynamite n’est dangereux qu’une fois dans les mains d’un humain. L’intelligence artificielle possédera tous les moyens de penser et d’être dangereuse sans l’apport ultérieur des humains. Lui transmettrons-nous nos pires vices, comme le désir irrépressible d’accumuler des fortunes illimitées? Bien entendu, puisque cela fera partie de ses premières missions et qu’elle aura cette tendance inscrite dans les plus profondes circonvolutions de son cerveau humain à l’instar de notre cerveau reptilien.

Lisez la suite de mes réflexions sur l’IA dans un prochain article à paraitre dont j’ignore encore le titre. Abonnez-vous pour ne pas le rater.

10 commentaires sur “Intelligence artificielle – faut-il la craindre ?

  1. Je pense sincèrement qu’en l’état actuel des choses les IA ne sont pas vraiment en mesure de pouvoir s’émanciper pleinement du pouvoir des hommes qui les ont crées par conséquent de mon point de vue tout grave dérapage lié à une IA sera de la responsabilité de l’humain qui l’aura fait vriller. Du coup je pense aussi que c’est avant tout la même question ancienne des valeurs d’une société qui est posée ici. Par exemple quand je compare ce qu’on fait de l’IA les américains et les japonais je ne peux pas douter que la culture et les valeurs de chacun de ses pays s’y reflètent, en caricaturant pas mal pou simplifier et résumer aux États Unis elles sont profondément enracinées dans le capitalisme et l’optique de servir à toujours plus permettre à leurs concepteurs d’argent gagner et perçues comme des objets, au Japon elles sont intégrées aux conceptions « animistes » de la tradition shinto et considérées de façon plus ou moins similaires aux yokai comme ayant leurs vies et consciences propres et faisant à leur façon pleinement partie de la société et sont surtout trouvées dans les secteurs de l’art, de l’aide aux personnes âgées et de tout ce qui est social et culturel les robots étant depuis longtemps intégrés à la pop culture du pays et appréciés tandis qu’en Occident peut être par crainte des histoires à la Frankeinstein de robots se retournant contre leurs créateurs on tend à s’en méfier…sans doute par association inconsciente au mythe biblique de Lucifer symbole de la lumière et du feu mais aussi par là même de la technique se retournant contre Dieu peut être? Ou alors c’est juste la crainte de voir Sky Net se créer en vrai et la révolution des robots style Terminator se jouer. En tout cas je constate trois choses : 1-Les robots sont un peu les enfants de leurs concepteurs et clairement quand je vois comment ils sont intégrés à différents peuples je me dis que selon leur culture ils transmettent à ceux ci la même éducation et les mêmes valeurs que celles qu’ils y donnent à leurs enfants humains donc c’est peut être surtout là que le problème est en fait. 2-Les robots pour nous remplacer dans les taches ingrates c’est ce qu’on nous vend comme rêve mais robots signifie esclave au sens étymologique, veut t’on vraiment comme futur le retour à l’esclavagisme et en quoi le fait que ce soit de l’esclavage de non humains le justifierait? Au fond n’auraient t’ils pas bien raison de se révolter contre une telle situation si d’aventure il se trouvait qu’ils le faisaient? 3-Les ressources se raréfie drastiquement et les problèmes écologiques empirent plus que jamais auparavant énormément d’êtres vivants à commencer par l’humanité en sont à moyen terme menacé…dans ce contexte tout miser sur une industrie robotique qui ne peut par sa façon d’être industriellement fabriquée qu’encore davantage les empirer est ce vraiment LA bonne idée? Je me permets hautement d’en douter. Certes je sais qu’on use déjà de robots pour sauver des écosystèmes comme la Grande Barrière de Corail avec succès mais je pense que le fond du problème reste le choix de société et que la fuite en avant vers des solutions scientistes et technicistes est exactement l’inverse de tenter de les résoudre. Pour moi c’est pas tant une question de l’avenir appartient à quelle espèce robot ou humanité qu’une question de va t’on résoudre la crise écologique ou va t’on se laisser par elle tuer. Paradoxalement j’ai déjà eu l’occasion de voir des robots programmés pour dans une optique écologique militer et je commence à trouver dommage qu’on ne puisse pas aussi aisément le « programme » cérébral et de valeurs de nos dirigeants et grands milliardaires sur ce point corriger pour l’adapter à la réalité. Bon certes tout ça ce n’est que spéculer mais bon moi aussi j’avais envie d’évoquer mes pensées à ce sujet et je sais qu’ici ce genre de discussions est bien accueillie.

    Aimé par 1 personne

    1. Bonjour Sylpheline et merci pour ton généreux commentaire qui vient fortement enrichir mon article, permettant du même coup de regarder l’IA avec une vision plus élargie. Je constate que pour toi, ce sujet a fait l’objet de mûres réflexions à plusieurs niveaux et j’admire ceux et celles qui grattent au-delà de la surface. Tu ne peux qu’influencer de façon positive la poursuite de mes propres réflexions.

      J'aime

      1. Merci je suis flattée. Je suppose que le fait d’être fan de manga depuis l’enfance à permis que j’absorbe une partie du regard japonais sur la robotique et perçoive qu’il en existe d’autres que ceux dont en Occident on a plus l’habitude et que partant de là beaucoup d’éléments que la plupart des gens considèrent comme évidents sur les robots et IA m’ont semblé l’être nettement moins. Et aussi à force qu’en tant qu’autiste on me compare sans cesse à un robot je suppose que ça m’a fait un peu réfléchir.

        Aimé par 1 personne

      2. Être différent-e de la moyenne apporte de la richesse à l’ensemble de l’humanité et de cela découle des avantages incommensurables, quoi qu’en pense la majorité. La survie de n’importe quelle espèce sur Terre a toujours été liée à ses sujets « disparates » qui ont pris le relais lorsqu’un événement subit ou prolongé est venu bouleverser leur quotidien. Ce qu’on nomme l’autisme et que certains voient comme une maladie, je la considère comme une évolution capable de rendre d’incroyables services à l’humanité et peut-être même de garantir sa survie. C’est un rôle qu’ont toujours joué les entités différentes. Qui plus est, je suis convaincu qu’une humanité majoritairement constituée d’autistes (de ton genre) ferait bien mieux que l’actuelle.

        J'aime

      3. Euh merci. Après je n’aime pas renvoyer la pierre que les gens « normaux » nous lancent en pathologisant nos comportements. De plus certes je ne vois pas l’autisme comme une maladie mais de la à le voir comme un don…il y a clairement pas que des avantages non plus hein à vivre c’est même plutôt difficile bien que c’est en effet surtout à cause du rejet des gens « ordinaires » pour nos comportements et fonctionnements « hors normes ». De plus je suis un peu sceptique quand à l’idée qu’on soit une nouvelle étape dans l’évolution de l’humanité pour deux raisons, la première est que je pense qu’on existe depuis longtemps comme de nombreux éléments semble l’attester dans l’histoire même si avant on nous nommait autrement et aussi car bah être autistes nous fait fonctionner différemment mais ne nous rend pas fondamentalement meilleurs moralement. Je pense que si l’humanité était autiste je vivrais bien mieux et ça me faciliterait beaucoup la vie mais je ne suis vraiment pas certaine que ça résoudrait à soi seul tout les grands problèmes du monde car on partage beaucoup de défauts ordinaires avec l’humanité dans son ensemble aussi en fait.

        Aimé par 1 personne

      4. J’aimerais préciser ma pensée sur le sujet. L’autisme existe depuis des lustres, mais l’évolution ne s’effectue pas rapidement. Ensuite, j’ai toujours écrit dans mes articles qu’évolution n’est pas synonyme d’amélioration. Je ne considère donc pas nécessairement l’autisme comme une amélioration de l’espèce humaine, mais comme une différence notable par rapport à la moyenne. La survie d’une espèce n’est pas due à ses éléments les meilleurs, mais à ceux qui parviennent à mieux tirer leur épingle du jeu lorsque des circonstances changent. C’est la relation intime entre les individus et leur environnement qui détermine leurs chances de survie. Je ne faisais pas l’apologie de l’autisme, mais je ne le dénigre pas non plus. Par contre, j’ai très peu de respect pour mes semblables qui encouragent la destruction de la planète pour s’enrichir toujours plus. Je les compare à ceux qui se tapent le front avec une roche et qui recommencent parce que ça fait grossir leur compte en banque. Qu’est-ce qu’une société majoritairement composée d’autistes pourrait faire de pire alors que le pire est en train d’être commis ?
        J’aime simplement virer les couvertures à l’envers, ça fait voir les choses différemment.

        J'aime

      5. Oui en ce sens je comprends. Après justement les semblables peu respectables qui ont oublier que l’argent ne se mange pas sont un élément de nos environnements qui fait que nos chances de survie en tant qu’autistes souvent fort peu adaptés à ce fonctionnement là sont plutôt plus faible que la moyenne dans le contexte actuel en témoigne nos espérances de vie et les leurs hélas. Faire pire non je ne le pense pas mais faire forcément mieux je n’en suis pas sure tout les autistes n’ont pas les mêmes opinions politiques et consciences écologiques et si on a souvent plus de bon sens c’est du fait je pense que contrairement aux gens que tu critique ici nos situations sont en général des galères pour survivre de notre mieux au quotidien dont ces gens sont très déconnectés qui font que les rythmes des besoins naturels on les a moins oubliés qu’eux globalement. Après je suppose qu’un monde où les autistes pourrait être riches aurait le même problème de déconnexion vu que les quelques rares qui le sont l’ont aussi. Ceci dit vu comment est construit le capitalisme je te l’accorde ce n’est pas prêt d’advenir une société où les autistes sont intégrés sans des changements radicaux de valeurs et de modèles de sociétés auxquels le capitalisme ne survivrait probablement pas y étant du moins de ce que je peux en percevoir inadaptable. Toute la question étant de savoir qui entre lui et nous disparaitra le premier.

        Aimé par 1 personne

  2. Bonjour Mathis,
    Je te cite :  » Un bâton de dynamite n’est dangereux qu’une fois dans les mains d’un humain.  » ….
    Je crois que c’est la réponse, du moins en partie, à la question que porte le titre de ton article super intéressant. Nous espérons tous et toutes que l’humain fera bon usage de toute cette science, technologie, ne visant que le bien de l’humanité.

    Mes amitiés
    Manouchka

    Aimé par 1 personne

Répondre

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google

Vous commentez à l'aide de votre compte Google. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s