Le fantasme des machines: l'intelligence très artificielle
La sortie de Terminator 4 est une belle occasion de revenir sur un des ressorts centraux de la SF mais aussi sur une inquiétude profonde de l'homme: les machines - ou plutôt l'effroi que suscite la perte de contrôle et l'autonomisation progressive de ces dernières. Plus précisément, c'est le fantasme de l'IA ( Intelligence artificielle ) que nous voudrions interroger pour tenter de comprendre vers quoi il nous renvoie car, dans le fond, cette autonomisation n'est possible que lorsqu'une lueur d'intelligence émerge d'une plaque de circuit imprimé.
Hal 9000 - le Cyclope de 2001 l'Odyssée de l'espace. Le symbole le plus prégnant de la lutte homme/machine.
On pourrait commencer notre exploration au printemps 1817 lorsque Mary Shelley porte la touche finale à son Frankenstein. Avec ce livre, Shelley met en mots les premières angoisses qui peuvent assaillir l'homme face à la montée en puissance de la science qui semble de plus en plus se détacher de la spéculation pour se tourner vers la technique. Ce n'est donc pas un hasard si c'est au siècle de la révolution industrielle qu'émerge un tel ouvrage. Le récit met en avant la perte de contrôle.
C'est précisément cette perte qui sera le fil conducteur de la peur de la technique. Mais le plus intéressant c'est que le destin même de la technique semble faire route vers ce dénouement. Le terme même de machine semble annoncer ce destin et Aristote dans Mechanica (847a22) rappelle que le mot même renvoie à l'idée de ruse: elle est ce qui permet "au plus petit de dominer le plus grand". L'exemple du voilier utilisant le vent contre lui-même étant ainsi une exemplification parfaite de ce procédé. L'essence même de la technique est perfide et l'autonomisation est en quelque sorte son destin.
La généalogie de ce mouvement apparaît de façon évidente. Si l’on peut faire débuter la technique avec la ruse (le "truc"), il s'ensuit que la mise en œuvre de ces "tours" est réalisée dans l'outil. Ce dernier reste dans le prolongement du pouvoir de l'homme car il le contrôle mais aussi l'anime par ses propres mouvements. La machine, intrinsèquement, est déjà un stade supérieur et surtout le commencement d'une réelle émancipation car, avec elle, la source d'énergie devient indépendante. L'homme la contrôle mais ne l'anime plus - le principe de son mouvement résultant d'une source qui lui est propre (thermodynamique, électrique...). A ce niveau il ne reste plus qu'un pallier à passer dans ce processus d'autonomisation: c'est justement une prise de décision "personnelle", un début de raisonnement, ce que nous appellerons plus tard l'IA (Intelligence artificielle). Nous dépassons alors largement les rêves du XVII ième friand d'automates pour arriver au stade supérieur de cette émancipation: penser par soi-même. Il est cocasse de se dire que les machines suivent un procès inverse à celui des hommes. C'est au moment où penser semble devenir une charge pour l'homme et la culture un poids inessentiel que les machines tendent le plus vers cet achèvement.
Frankenstein interprété par Boris Karloff dans le film de J. Whale (1931)- les boulons qui traversent le cou sont là pour nous rappeler sa construction et donc en un sens sa condition de machine - source.
Hans Jonas, une fois n'est pas coutume, décrit le phénomène et montre en quels sens, peu à peu, nous nous retrouvons pris au piège d'un protagoniste qui pour l'instant ne semble pourtant toujours pas doué de conscience. Le problème peut se décrire facilement et revient à un jeu de pouvoir: l'homme exerce un pouvoir sur la nature par l'intermédiaire d'une technique qu'il ne contrôle plus. L'idée peut paraître saugrenue mais elle est pourtant limpide. La technique exerce sur nous une forme de contrainte et nous impose finalement les conditions de son maintien mais aussi - et c'est là tout le problème - de son renforcement. Sommairement, il faut toujours plus de techniques pour résoudre les problèmes que crée la technique. Un exemple peut éclairer tout cela. Notre dépendance face aux hydrocarbures n'est plus à démontrer et la nécessité de maintenir en état les appareils qui fonctionnent par cette source est une évidence. Du coup la technique a créé une première dépendance qui nous pousse à trouver une autre technique pour pallier les défauts de la première. Disons que le nucléaire est un début de solution, mais là encore les déchets que génère cette nouvelle source d'énergie imposent encore des recherches pour absorber leurs effets néfastes et ainsi de suite. Il y a en quelque sorte un effet boule de neige qui impose une multiplication vertigineuse de la technique.
A partir de là, on comprend bien que le fantasme de l'homme esclave de la machine n'est finalement qu'une version imagée d'une dépendance qui est déjà bien réelle. Terminator mais aussi Matrix et une grande partie des romans d'Asimov exagèrent cette servitude en la rendant littérale. Le cas de Matrix est intéressant car il parodie le processus d'évolution que nous avons décrit en le retournant contre l'homme. Nous avons vu que la différence entre l'outil et la machine était que la source d'énergie du fonctionnement devenait autonome - l'homme n'étant là que pour superviser l'utilisation. Dans Matrix, non seulement l'homme ne dirige plus mais il régresse au stade inférieur de la maîtrise devenant la source d'énergie - et non de contrôle - de la machine puisqu'il n'est dans le fond qu'une simple batterie destinée à la survie des machines.
L'exagération ne doit pas occulter le contrôle réel que les machines exercent et qui est lié non pas à leur intelligence mais aux transformations qu'elles font subir à la nôtre. Nous avons déjà exploré en analysant la notion de dispositif l'impact du téléphone portable sur la socialisation et la construction de la personne. Mais au-delà de cela, c'est la structure même de notre pensée qui est modifiée par les instruments que nous utilisons. Sans nous plonger directement dans les méandres du net, Tanizaki Junichirô rappelle bien cet aspect dans son très beau Eloge de l'ombre lorsqu'il affirme que "la forme même d'un outil d'apparence insignifiante pouvait avoir des répercussions presque à l'infini." Il illustre ce propos en montrant la répercussion qu'a pu avoir sur la littérature japonaise l'adoption du stylo à bille en lieu et place du stylo-pinceau. Tout sera bouleversé du support jusqu'à la pensée. Et c'est bien ce petit instrument qui provoque selon lui la chute des idéogrammes.
Le stylo à bille: le fossoyeur des idéogrammes ?
A l'ombre de cet exemple, on peut anticiper par avance les bouleversements que peut susciter l'interface des machines que nous utilisons. Dans un article récent repris et traduit dans l'édition du Monde du 05/06, Nicolas Carr , reprenant en grande partie les thèses de McLuhan, poursuit ce genre d'analyse en témoignant tout simplement de l'impact de la navigation internet sur son propre esprit. En synthétisant sans cesse l'information pour permettre la sélection, internet transforme son appréhension et rend opaque les modes traditionnels d'appréhension du savoir. Lire un document de plusieurs pages devient éprouvant, une phrase qui contient plusieurs subordonnées parasite l'attention du lecteur. Nicolas Carr résume bien ce sentiment: "la lecture profonde, qui était auparavant naturelle, est devenue une lutte." Internet introduit une résistance vis à vis de ce qu'il n'a pas généré ou plutôt digéré. Cette idée est le nerf de la guerre qui nous oppose aux machines. En digérant l'information à notre place, elle aiguille sa réception. Si l'on entend bien le mot préjugé (dans le même sens que le prémâché est ce qui a été mâché à notre place), on peut dire que le net entrave notre pensée en favorisant en son sein des raccourcis, des éléments qui ont été pensés à notre place et se positionne donc bien dans le sens littéral de pré-jugé. La pensée s'origine dans la création de connexions nouvelles, en favorisant toujours les mêmes liens : ces nouvelles pratiques créent donc nécessairement une situation défavorable à son développement.
Le web structure des raisonnements en facilitant des chemins pour la pensée - ici la carte d'un site généré par le logiciel Site Manager - source.
Ce renversement est tout bonnement celui que décrit Hegel dans sa célèbre dialectique du maître et du serviteur. Le maître chute précisément parce que l'esclave produit le monde qu'il habite et qu'en le façonnant - inévitablement - il le fait à son image. Le danger n'était donc pas dans l'autonomisation des machines mais dans notre "désautonomisation" et donc la désintégration d'un monde proprement humain qui se construisait à travers une complexification croissante de ses significations.
Intelligence vs. puissance de calcul.
Cette intelligence de la machine, qui fait écran au véritable danger que nous voulons dénoncer, est un fantasme qui ne perdure que par une vision erronée de ses performances. Ce monde de fantaisie connaît déjà son premier héros: "deep blue". Le 11 mai 1997 pourrait être le premier jalon de cette funeste lutte qui nous hante tant. Garry Kasparov, un des plus grands champions des échecs, s'incline face à une armoire de 1400 kilos construite par IBM. L'intelligence de l'homme semble ébréchée par cet événement. Nous assistons ainsi à la première victoire de la machine sur un terrain qui est propre à l'homme: la pensée.
Mais ne nous laissons pas abuser par un problème de définition car la question qui se pose réellement dans le fond est de savoir si ce sont bien deux intelligences qui se sont affrontées. Feng-Hsiung Hsu, le principal concepteur de "deep blue" ,nous livre des informations essentielles pour appréhender ce dilemme dans son ouvrage Behind Deep Blue. Fier de ca "créature" il expose fièrement ses caractéristiques: pas moins de 256 processeurs spécifiquement développés pour appréhender le jeu d'échec commandés par 32 processeurs qui organisent et optimisent les tâches. D'un point de vue logique, la "pensée" de la machine s'organise autour de trois fonctions. Elle a un cerveau qui recense l'ensemble des coups possibles, un autre qui évalue la pertinence de ces coups et donc crée des scénarios de jeu possibles et enfin un troisième - de loin le plus intéressant - qui apprend pour mieux s'adapter à la partie. Ainsi, ce n'est pas moins de 200 millions de positions par seconde (soit 50 billions en trois minutes - durée honorable d'un coup) qui passent dans "l'esprit" de "Deep Blue".
Et pourtant cela n'a pas suffi à emporter la première manche - et tout entier sur la victoire on a assez mal évalué les causes de la défaite première de la machine sur l'homme. Kasparov conscient du mode opératoire de son adversaire commence sa partie avec des coups de débutant. Cet imprévu qui fait la finesse justement de la tactique humaine déstabilise le programme qui échoue. L'équipe est alors forcée d'implanter à la hâte dans la machine une nouvelle série de coups pour pallier ce défaut et dissimuler le talon d'Achille de la machine. Mais même caché il est là et cette stratégie nous montre bien que la machine calcule mais ne pense pas. Sa force provient de la quantité de positions qu'elle a emmagasinée et qu'elle peut évaluer mais pas du tout du rapport analyse/synthèse mais aussi invention qui rend spécifique le jeu humain.
Mai 1997 - un tournant ?
Le moteur d'un programme d'échecs se base sur un principe simple: la machine calcule des suites de coups à partir de la situation donnée et réalise suivant une série de critères celui qui semble le plus efficace. "Deep Blue" optimise ce mécanisme grâce à une force brute de calcul très importante (les fameuses 200 millions de positions seconde) mais aussi grâce à une fonction d'évaluation optimisée qui lui permet de mieux organiser ses bases de données et donc de choisir au mieux le coup à jouer. On le voit bien : la place laissée à l'intelligence est restreinte et ce n'est que par projection que l'on utilise le terme. Il ne viendrait pas à l'idée de parler de la défaite de la pensée humaine face à une calculatrice sous prétexte que la machine a calculé sans erreur une racine carrée complexe. Il y a deux domaines qui s'opposent et c'est précisément cela qui fonde une distinction de nature entre l'homme et la machine. Cette dernière est toute entière du côté de la quantité alors que l'intelligence humaine, elle, tire sa spécificité de la qualité. L'idée même de jouer des coups de débutants face à la machine la plus puissante de son époque est un trait spécifique de ce génie.
Et c'est justement cette quantité qui est bien mise en valeur dans le jeu d'échecs car on est précisément dans un domaine fermé où l'on peut épuiser la totalité des possibles. En début de partie, le joueur n'a à envisager que 20 coups possibles - le jeu de Go par comparaison en compte 361. Ce n'est donc pas un hasard si dans l'état actuel de notre connaissance pas une seule machine ne peut battre un joueur de Go d'un niveau honorable (et loin d'être exceptionnel). Ensuite la victoire ne peut reposer uniquement sur un catalogue de parties - la réussite passe toujours par une évaluation pertinente voire inventive de la situation globale. Cette vision synthétique n'est pas à la portée de la machine qui se perd dans des simulations improbables des coups à venir. L'exemple peut faire école et montrer qu'il ne fallait pas trop vite avoir peur de notre ombre lorsque Kasparov a dû abandonner la partie. Et le projet Hydra, malgré ses réussites face aux grands joueurs depuis 2005, devrait subir le même sort. Car ce qui a été amélioré reste uniquement du ressort de la quantité même si ce qui est mis en avant ce n'est plus tant la puissance brute que la capacité à mieux puiser dans ses réserves grâce à des algorithmes de sélections plus fins voire peut-être auto-modifiables comme a pu le suggérer le projet S.A.G.A.C.E aussi passionnant qu'ambitieux. Mais cette métamorphose ne reste dans le fond qu'une adaptation de la machine à l'intelligence première qu'elle cherche à affronter, elle ne répond qu'en miroir à son adversaire et ne le fait chuter que quand elle arrive à le faire douter en l'amenant sur le domaine qu'elle maîtrise : celui brutal et froid de la quantité. La machine ne gagne que quand elle nous "machinise" et nous pousse à raisonner comme elle - c'est-à-dire à calculer. Le danger est que, comme nous l'avons vu, loin de cultiver notre différence, nous cherchons au contraire à assimiler ses procédures réductrices et que notre pensée s'uniformise en suivant les règles d'un médium qui est formaté avant tout pour des machines et non pour des hommes. Le problème n'est donc pas que l'IA arrive à nous dépasser pour nous contrôler mais plutôt que la fréquentation des "machines" appauvrisse tellement notre pensée que la victoire se fasse par abandon et que l'homme perde justement sa spécificité en errant à jamais sur les autoroutes figées de l'information faute de pouvoir construire un chemin de traverse qui justement lui est propre.
L'homme reprend la main - la fin de Hal dans 2001, l'Odyssée de l'espace - source.
Ugo Batini
