Golem

img_4990.jpg » Mais c’est Rilke, je crois qui a dit que la vie est un jeu auquel on doit commencer à jouer avant d’en connaître les règles. Les apprend-on jamais ? Y a-t-il vraiment des règles ? »
Roger Zelazny « 24 vues du mont Fuji, par Hokusai – 1985 »
Golem a été le nom du premier ordinateur israélien. Ces créatures mi-homme/mi- machine, Golem, Frankenstein, Terminator hantent l’imaginaire du numérique. Nous sommes terrorisés par la possibilité que les machines puissent nous remplacer. Des prophètes nous annoncent le jour de la singularité. Ce moment où l’intelligence des ordinateurs sera supérieure à la notre.
IA
Qu’est-ce que l’intelligence artificielle ? Des définitions sophistiquée existent mais voici la plus simple : des machines capables d’effectuer des taches dont seul l’esprit humain était capable. La lecture et la traduction de textes, la reconnaissance faciale, la réalisation de diagnostics médicaux, ou de jugements judiciaires, des jeux complexes comme les échecs, le go ou le poker. Chaque jour des sociétés nous annoncent que des programmes nouveaux ont permis de faire des choses inimaginables. Et encore s’agit-il de ce que les spécialistes appellent de l’intelligence faible. C’est à dire la capacité des machines de réaliser une tache dans un environnement aux règles stables. L’intelligence forte devrait permette aux machines de faire plusieurs taches dans un environnement incertain (par exemple marcher dans la rue tout en soutenant une conversation). Certains l’annoncent pour dans quelques années et des dirigeants de la Silicon Valley prédisent l’arrivée du moment de la singularité.
Et il n’y a pas que les machines qui s’améliorent. L’homme devient l’homme augmenté, avec un cœur artificiel, des électrodes dans le cerveau (plus besoin de chercher son smartphone). Cette évolution peut enthousiasmer ou effrayer. Les mêmes dirigeants soufflent le chaud et le froid, nous annoncent des découvertes formidables et nous avertissent des risques qu’ils nous font courir. Le point commun est de prédire que ce progrès est inéluctable et pour demain.
Quels doutes ?
Sans être péremptoire il est possible de mettre en doute ces prophéties pour au moins trois raisons.
D’abord l’objectif s’éloigne au fur et à mesure que l’on s’en approche. Les découvertes sur le cerveau humain n’ont jamais été aussi nombreuses que dans les vingt dernières années (voir le livre de Danièle Trisch et Jean Mariani). Nous sommes loin du temps où Marie Shelley pouvait croire que le docteur Frankenstein animerait sa créature en envoyant des décharges électriques. Nous savons que le cerveau met en œuvre des processus physico-chimiques plus complexes. C’est aussi une déception. Les maladies neuro-dégénératives sont devenues un problème de santé publique et les autorités sanitaires déremboursent les médicaments contre l’Alzheimer faute de pouvoir en démontrer les effets. Comment soigner alors que nous ne sommes pas capable de modéliser le fonctionnement du cerveau, ce à quoi aurait du servir aussi l’intelligence artificielle ?
Ensuite il y a une contradiction dans l’intelligence artificielle. Elle consiste à croire qu’une machine pourrait reproduire le cerveau humain sans tenir compte de ses relations avec le corps auquel il se rattache. En somme l’âme immortelle serait détachable de notre enveloppe charnelle, l’esprit cartésien de l’animal–machine qui est en nous. Le matérialisme de la démarche cohabite avec le dualisme idéaliste le plus absolu. Là aussi, les découvertes de la science sont allée dans une autre direction, montrant l’importance de l’epygénétique (l’interaction entre l’environnement et notre capital génétique) ; le rôle du bouillon de culture que nous transportons dans nos viscères, le macrobiote, sur notre humeur ou notre capacité à réfléchir.
Enfin, c’est ne pas tenir compte de la spécificité de l’espèce humaine. Nos cousins les grands primates s’éteignent avec la disparition de leur milieu naturel. Nous ne cessons de croitre malgré les bouleversements constants de notre environnement. Notre espèce a une capacité exceptionnelle à adapter ses règles et ses lois aux problèmes nouveaux qu’elle rencontre, au besoin de coloniser de nouveaux territoires. Aujourd’hui les machines savent appliquer des règles, les apprendre, optimiser les solutions en fonction de ces règles. Elles ne savent pas inventer et choisir ces règles pour optimiser leur solution. Certains imaginent qu’elles y arriveront prochainement. Encore faudrait-il savoir comment nous le faisons. Il y là un champ de recherche qui implique de comprendre aussi bien le fonctionnement du cerveau que celui des rapports sociaux. Il y a là des processus qui font intervenir le raisonnement rationnel, mais aussi l’empathie, l’amitié et l’amour. Nous sommes loin de maîtriser ces interactions.
Le bluff
Alors pourquoi ces prophéties inquiétantes ou enthousiasmantes sur la singularité et le transhumanisme ? Dans le numéro d’août 2018 du Monde diplomatique, Perragin et Renouard proposent une explication simple mais convaincante. La révolution numérique n’est pas séparable de l’évolution néoconservatrice depuis le reaganisme. Le financement de la recherche et du développement a été permis par la concentration massive du capital entre quelques mains. Elle l’a justifié, expliquant que les Steve Jobs, Bill Gates, Zukerberg, et autre Jeff Bezos méritaient leurs fortunes par la transformation de la société qu’ils avaient déclenchée.
Aujourd’hui ce moteur est en panne. La loi de Moore se ralentit. Notre cerveau et notre corps sont d’abord des usines chimiques, mais chaque nouveau médicament coûte un milliard d’euros et dix ans de recherche. Il y a encore à faire avec les technologies actuelles pour aider au fonctionnement de notre société, mais cela nécessite beaucoup de code à écrire, de formation, de conduite du changement, donc des coûts aux retours d’investissement incertains. Tout cela n’a rien pour enthousiasmer les décideurs financiers.
Alors, les experts du numérique disent n’importe quoi, la victoire des machines, la mort de la mort, la colonisation de Mars. Plus c’est gros plus ca passe. « Nombre de chercheurs et d’entrepreneurs qui se montrent très prudents dans un contexte universitaire ont tendance à faire des déclaration sensationnalistes lorsqu’ils parlent à la presse : un appel direct aux investisseurs, qui ont pour la plupart des connaissances techniques limitées et se fondent largement sur leur lecture du New York times ou du Wall Street Journal » (Zachary Chase Lipton cité par Perragin et Renouard)
Pygmalion
Toutes les histoires de Frankenstein à Terminator sont des variations sur le thème de Pygmalion et Galatée. Un homme invente une créature qu’il veut parfaite et s’aperçoit qu’elle échappe à son pouvoir. Ce mythe ne fait que répéter la vie. Nous faisons des enfants, qui invariablement font autre chose que ce que nous attendions.
Et là risquons une prophétie. Il y a aujourd’hui 7,5 milliards d’humains sur Terre. Cela fait beaucoup de cerveaux disponibles pour réfléchir aux problèmes du monde, trouver des solutions, inventer des techniques et définir de nouvelles règles. Ils peuvent s’appuyer sur des outils qu’ils seront les premiers à véritablement maitriser car ils sont nés avec pour communiquer, calculer, mémoriser tester ces solutions.
Sans avoir besoin de superpouvoirs, ils créeront un univers différent du nôtre. Il ne sera ni celui qu’imaginent les génies de la Silicon Valley et leurs investisseurs financiers, ni celui que nous espérons.

Cet article a été publié dans intelligence artificielle, propriété intellectuelle, système d'information. Ajoutez ce permalien à vos favoris.

Laisser un commentaire

Entrez vos coordonnées ci-dessous ou cliquez sur une icône pour vous connecter:

Logo WordPress.com

Vous commentez à l'aide de votre compte WordPress.com. Déconnexion /  Changer )

Photo Google+

Vous commentez à l'aide de votre compte Google+. Déconnexion /  Changer )

Image Twitter

Vous commentez à l'aide de votre compte Twitter. Déconnexion /  Changer )

Photo Facebook

Vous commentez à l'aide de votre compte Facebook. Déconnexion /  Changer )

Connexion à %s