« Comment piéger une intelligence artificielle ? » questionne Rand Handi, le fondateur de SNIPS, un assistant vocal open source, lors des derniers Entretiens du Nouveau Monde Industriel (ENMI). En guise de réponse, il projette à l’écran une voiture autonome coincée à l’intérieur de deux cercles concentriques. Le cercle extérieur est tracé d’une ligne blanche en pointillés, le cercle intérieur d’une ligne blanche continue. La voiture a donc pu pénétrer à l’intérieur du double cercle, mais le code de la route lui interdit à présent d’en ressortir...

« L’IA ne peut pas comprendre l’humour, s’amuse-t-il, c’est pourquoi les humains parviendront toujours à la bloquer ». Il parle de l’IA faible, la seule que nous connaissions aujourd’hui, en opposition à une IA forte, qui serait une intelligence douée de conscience, de sensibilité et d’esprit, qui reste pour le moment un fantasme. Cette IA faible serait donc stupide au sens de Deleuze, car elle serait « incapable de discerner un faux problème », explique le théoricien des médias Warren Sacks. Ne pouvant distinguer une blague d’une situation réelle, la voiture autonome serait donc stupide. A ce jeu-la, Terminator aurait pu être une comédie burlesque.

C’est, dès lors, plus de bêtise que d’intelligence dont il aura été question aux ENMI. La bêtise par exemple, de persister à assigner un genre à la technologie. Ainsi, la société Hongkongaise Hanson Robotics a procuré, à son robot doté d’intelligence artificielle, l’identité d’une femme, « Sophia », et une morphologie, paraît-il, inspirée d’Audrey Hepburn. Et l’homme créa la femme… robot. En cherchant à représenter une réalité, on tombe dans le piège du réalisme, souligne la chercheuse Anaïs Nony : « Un corps ne se prend pas, un corps prend forme ». Réagissant à ses propos, le philosophe Paolo Vignola déplore que nous soyons restés emmurés dans « l’éternel point de vue masculin sur le monde ». Cependant, rétorque Anaïs Nony, l’idée même qu’il y aurait une pensée féminine ou masculine perpétue une posture patriarcale, cette dernière se nourrissant de l’opposition entre les deux genres. Mais il y a plus violent encore, la « robote » Sophia est devenue « citoyenne » d’Arabie Saoudite, un État où les femmes ne sont que des sous-citoyennes. Ainsi, pour espérer avoir les mêmes droits que les Saoudiens, les Saoudiennes devraient songer à devenir des femmes artificielles…

« La stupidité, ajoute Warren Sacks, c’est tout comprendre d’une seule façon », (« understanding everything in one way »), c’est-à-dire croire qu’avec une même approche, on pourrait régler tous les problèmes. Ainsi l’IA, cette super intelligence, nous sauvera du réchauffement climatique et du cancer et de la délinquance, etc. Le modèle économique des startups des dix prochaines années est, ainsi, tout trouvé, remarque Christian Fauré, directeur technique d’Octo technology, ce sera « truc + IA ». Tous ces objets du quotidien qui sont, tout à coup, devenus « intelligents », de la brosse à dent au doudou du bébé, vont ainsi bientôt devenir « autonomes ».

Et l’oscar de la bêtise est décerné, par le mathématicien Guiseppe Longo, à la pensée transhumaniste dans son expression la plus extrême : celle du tout information. Comme si un logiciel pouvait fonctionner sans matériel, comme si le monde était une matrice de données et d’algorithmes sans règle physique : « Si ce stylo tombe, c’est qu’il est programmé pour tomber », tel serait le raisonnement des adeptes de cette vision… Comme si l’intelligence, la pensée, le langage étaient indépendants du corps et de ses interactions. Pourtant, rappelle-t-il, « les expériences de privation sensorielle ont prouvé, que coupé de ses sens, le cerveau bascule dans le chaos, il devient fou. Le corps est une contrainte nécessaire à la pensée, à la production de sens ».

À 776 kilomètres de là, comme un écho complice aux propos du mathématicien, Tiphaine Raffier met en scène, au théâtre de La Criée à Marseille, un futur où nous serions devenus immortels. Dans « France fantôme », les citoyens déchargent chaque jour, contre rémunération, leurs souvenirs dans une machine – clin d’œil habile à nos pratiques sur les réseaux sociaux et à la valeur montante des données personnelles, carburant des IA en devenir. À partir de toute cette mémoire individuelle stockée, des entreprises proposent aux proches de défunts de les réincarner dans une nouvelle enveloppe humaine. L’immortalité s’appuierait donc uniquement sur des données, le corps ne serait qu’un simple support interchangeable. Cependant, les intelligences défuntes ainsi embarquées dans des corps, dont on aurait vidé le disque dur, expulsé toute conscience passée, souffrent de nombreux décalages d’identité. Certains « rappelés » se sentent comme des consciences étrangères aux corps qu’ils habitent : « Quand les gens me regardent, je vois bien que ce n’est pas moi qu’ils voient », « j’ai un physique, comment dire, terriblement rabelaisien, mortellement paysan. Et presque on me respecte pour ça, pour une chose que je ne suis pas », etc.

A qui appartiennent ces corps de seconde main ? Si cette question reste en suspens, la résurrection ayant pris la forme d’un service marchand extrêmement lucratif, on est en droit de s’attendre au pire. Appartiennent-ils à ceux qui n’ont pas eu les moyens de ne pas mourir ou qu’on aurait rémunéré pour mourir ? Sont-ils achetés en masse à des pays pauvres ? Font-ils l’objet d’un trafic illégal à grande échelle ? Appartiennent-ils à ceux qui, dans la pièce, optent pour une « mort inutile », une forme de suicide assisté qui promet une destruction du corps et un effacement total des données ? Car, dans une société où la marchandisation de la vie serait monnaie courante, où nous pourrions indéfiniment payer pour faire revivre l’être aimé, ce dernier (ou plutôt son fantôme) aurait-il vraiment son mot à dire ?

Consentir, c’est accepter que quelque chose ait lieu, ne pas l’empêcher. Néanmoins, chez les marins, un mât qui consent, c’est un mât qui cède sous l’effort, sous la pression. Toute la question du consentement, dont les débats de société regorgent aujourd’hui, se cristallise peut-être dans cette ambiguïté de sens. Sommes-nous réellement consentants au développement de l’intelligence artificielle comme remplacement de notre propre intelligence ? Ou bien subissons-nous une pression sociale et économique telle qu’il nous parait inconcevable qu’il en soit autrement ? « Pour voir, il ne faut pas avoir peur de perdre sa place, disait Jean-Luc Godard, mais faut-il céder sa place à un algorithme ? », questionne Cédric Matthews, chercheur en biologie au CNRS. Ou comme le formule habilement Warren Sacks : « Voulons-nous rendre notre intelligence artificielle au point de devenir naturellement stupide ? ».

Sur ce, une bonne résolution pour 2018 : et si nous arrêtions de faire de l’anthropomorphisme avec les machines ? La technologie n’a pas de genre. La technologie n’a pas de corps. La technologie n’est pas intelligente. « Pourquoi tu as l’air triste ? » demande Ferdinand dans Pierrot le fou, « Parce que tu me parles avec des mots, et moi je te regarde avec des sentiments », répond Marianne. Voilà, ça n’a rien à voir, et tout confondre, ça rend fou.

Publié sur le Digital Society Forum, le 16 janvier 2018