À la fin de l’été, en plein désert du Nevada, une ville émerge de la poussière, festoie en toute démesure et produit des constructions insensées, dont la statue géante d’un homme en bois qui finit brûlée dans un grand feu de joie. Puis la ville disparaît sans laisser de trace jusqu’à l’année d’après, comme chaque fois depuis plus de trente ans. En 2018, le thème du festival Burning man  était I, Robot, visiblement en hommage à l’écrivain de science-fiction Isaac Asimov et à ses fameuses lois de la robotique : 1) un robot ne peut porter atteinte à un être humain, ni, en restant passif, permettre qu’un être humain soit exposé au danger ; 2) un robot doit obéir aux ordres qui lui sont donnés par un être humain, sauf si de tels ordres entrent en conflit avec la première loi ; 3) un robot doit protéger son existence tant que cette protection n’entre pas en conflit avec la première ou la deuxième loi. On aurait pu imaginer que ce soit un robot qui brûle à la fin, et non un humain. Qu’on fasse un « burning bot » plutôt qu’un « burning man »… Mais un robot a peut-être plus de valeur symbolique qu’un humain, notamment pour les techies de la Silicon Valley, fervents soutiens et habitués du festival. En effet, les big boss et les cadres des GAFA (Google, Apple, Facebook, Amazon) et autres NATU (Netflix, Airbnb, Tesla, Uber) sont nombreux à venir se dévergonder à Burning Man. On a pu y croiser Elon Musk, Sergei Brin et Larry Page, Jeff Bezos, Mark Zuckerberg, etc.

Le fait qu’une grande partie des entreprises technologiques soient concentrées dans un périmètre de la taille de l’île de Chypre (c’est une estimation, les frontières de la Silicon Valley étant très fluctuantes) ne crée-t-il pas un miroir déformant qui ferait de la technologie l’essence même du futur, voire de la vie ? En d’autres termes, hors de la technologie, point de salut ?

L’affaire Theranos au cœur de la Silicon Valley illustre l’aveuglement qu’une telle croyance dans la technologie peut provoquer. Il y a plus de dix ans, Elizabeth Holmes, avec sa société Theranos, a réussi à lever 1,4 milliard de dollars pour financer ce qu’elle appelait une révolution de l’analyse sanguine. Elle promettait des prises de sang sans aiguille et des analyses ultra rapides avec une seule goutte de sang. Lancée en 2015, une enquête au long cours dans le Wall Street Journal a révélé la supercherie : Elizabeth Holmes  serait, en fait, une arnaqueuse hors pair, ou peut-être une menteuse pathologique. En effet, ses super machines n’ont jamais fonctionné et n’avaient scientifiquement aucune chance de donner les résultats escomptés. Elle risque aujourd’hui 20 ans de prison et 2,75 millions d’amende pour fraude et résultats d’analyses sanguines sciemment erronés. Ce scandale ne devrait-il pas nous faire réfléchir sur toutes ces belles promesses d’innovations technologiques qui envahissent nos fils Twitter et rebondissent sans filtre dans les médias ?

Prenons Elon Musk et son neurolace . Le charismatique et politiquement incorrect patron de Space X et de Tesla Motors pense-t-il sérieusement à nous implanter des électrodes dans le cerveau pour connecter nos neurones à une intelligence artificielle afin d’éviter que l’intelligence artificielle ne nous réduise au statut d’animal domestique ? Le lancement d’un Starman dans l’espace  l’aurait-il fait basculer dans de la science-fiction de bas étage ? L’ambition de contrer les dérives de l’intelligence artificielle en inventant justement un système pour nous connecter à l’intelligence artificielle n’est-elle pas totalement illogique ?

Ce qui apparait en filigrane, c’est une intoxication technologique. Tout miser sur la technologie signifie en creux minimiser le facteur humain, voire l’enlever de l’équation. Cela crée des impensés, des angles morts, cela peut conduire à croire réellement aux seringues sans aiguilles de Theranos.

La voiture autonome est assez symptomatique de cette hallucination collective. L’argument de vente est majoritairement sécuritaire et s’articule ainsi : « Si les humains ne conduisent plus, on devrait pouvoir réduire le nombre d’accidents car 90% des accidents sont liés à une erreur humaine, dont 40% mettent en cause l’alcool, la drogue, la fatigue et la distraction », rapporte l’étude de Kara Kockelman , docteure en ingénierie du transport à l’Université du Texas à Austin. En supposant que les constructeurs de véhicules autonomes se soient assurés que leur intelligence embarquée conduise au moins aussi bien ou pas plus mal qu’un humain, le raisonnement tient. Cependant, depuis que des véhicules autonomes commencent à circuler on découvre que l’intelligence artificielle peut aussi provoquer de nouveaux types d’accident, celui par exemple de confondre un piéton avec un sac en plastique qui vole. La vidéo de l’accident de ce taxi Uber , qui a fait le tour du monde, met en évidence deux problèmes : la difficulté de l’intelligence embarquée à identifier un positif d’un faux positif et le fait que l’automatisation entraîne une baisse de l’attention de la personne dans le véhicule, sachant qu’elle aurait pu reprendre les commandes. En se focalisant ainsi sur la suppression de l’erreur humaine et donc du facteur humain, on se prive finalement des capacités humaines.

Cette réduction de la place de l’humain conduit sans doute à un autre angle mort. Beaucoup s’inquiètent, en effet, du risque d’attaques terroristes ou d’assassinats via la prise de contrôle à distance des voitures autonomes, mais personne ne semble songer que nous serons probablement les premiers à hacker nos propres véhicules… Il y a, en effet, fort à parier que tout un marché légal et illégal du « tuning » des véhicules autonomes va accompagner le déploiement de cette technologie : des add-ons, des pluggins, des patchs, des forks, très créatifs qui permettront sûrement de rouler plus vite, de brouiller les radars connectés, de passer en mode furtif ou anonyme, de franchir les lignes blanches, etc.

Ainsi se déploie une pensée magique, autour de la technologie. Une pensée qui vient nourrir la théorie du grand remplacement des humains par l’IA , car elle postule qu’on pourra régler les problèmes malgré et sans nous, en faisant abstraction de la nature humaine, nous imaginant de facto coopératifs, et en se privant de nos propres capacités, ce qui amènera les innovateurs à, régulièrement, réinventer la roue, parfois en moins bien.

L’expérience de Fan Hui , le premier joueur professionnel de Go à avoir perdu contre AlphaGo, l’IA de Google, nous montre à quel point on se trompe dès qu’on projette ce que l’IA pourrait changer dans nos vies. En fait, bien malin celui qui le saura avant de l’avoir expérimentée. Dans le cas du jeu de Go, l’IA qui était au départ perçue comme un adversaire, s’est avérée être un coach hors pair, un moyen de s’émanciper de l’académisme, en incitant les joueurs à oser des coups qu’aucun grand maître du Go n’avait encore tentés.

Ainsi, penser la technologie « hors sol », même avec les meilleures intentions qui soient, risque fort de produire un monde de moins en moins au contact de la réalité humaine. Ce serait un peu comme vivre Le fabuleux destin d’Amélie Poulain, une vie factice teintée de sépia, sans aspérité ou tout se passerait pour le mieux, mais dont une bonne moitié de la population serait absente…

En savoir plus

L'histoire du festival Burning man

Dossier : les trois lois de la Robotique
FUTURA SCIENCE

Bad blood, un journaliste français démolit une icône de la Silicon Valley
META MEDIA

L'ex-star de la Silicon Valley Elizabeth Holmes risque 20 ans de prison pour escroquerie
LE FIGARO

Ces start-up qui veulent bidouiller le cerveau: Neuralink
Frenchweb

Elon Musk : un neurolace pour ne pas devenir des animaux domestiques
VIDEO / Re/Code

Google contre Go : Game Over ? Keynote - Futur en Seine
VIDEO / FUTURE EN SEINE

Le fabuleux destin d’Amélie Poulain de Jean-Pierre Jeunet
LES INROCKS / Critique acerbe du film

Publié sur le Digital Society Forum