Alors que les performances techniques du trading haute fréquence ont été multipliées par 1000 en moins de dix ans, une simple partie de poker contre un ordinateur vient de révéler une nouvelle facette inquiétante de l’intelligence artificielle.
Quel rapport entre le trading haute fréquence et une partie de poker contre un ordinateur ? L’intelligence artificielle. Celle-là même dont on a fait des livres et des films à succès et qui fait fantasmer aussi bien ceux qui la craignent que ceux qui en rêvent. Sauf qu’aujourd’hui, la question est de savoir si la réalité ne dépasse pas un peu trop la fiction.
Le mythe du soulèvement des machines
Dans les années 1980-90, portée par l’automatisation grandissante du travail, de la finance ou encore de l’éducation, la mode littéraire et cinématographique est à l’émancipation des machines. Le film emblématique de cette période reste le fameux Terminator de James Cameron qui, en 1984, imaginait déjà une super-intelligence artificielle, SkyNet, qui aurait asservie l’humanité par la force.
Aujourd’hui, plus personne ou presque ne redoute la technologie. Tout le monde a dans sa poche davantage de capacité de calcul numérique qu’il n’en a fallu pour envoyer l’homme sur la Lune. Et la plupart s’en sert désormais pour envoyer des photos de chats à ses amis ou pour faire sa liste de courses… Plus personne ne s’étonne (ni ne s’inquiète) de voir ses données personnelles et financières voyager à la vitesse de la lumière à travers un réseau planétaire pour y être exploitées, décortiquées, analysées. Non seulement par d’autres personnes en chair et en os, mais aussi, et de plus en plus souvent, par des algorithmes informatiques auxquels on laisse chaque jour davantage le droit de décider quoi en faire.
Autant dire que, dans l’esprit des gens, la conquête du monde par les machines est tout simplement inenvisageable. Et pourtant…
I.A. : Intelligence Artificielle ou Impérialisme Automatisé ?
En une quinzaine d’années à peine, les marchés financiers sont devenus presque exclusivement numériques. Depuis 2005, les traders traditionnels ont cédé leur place sur les marchés à des programmes informatiques toujours plus performants qui traitent désormais l’essentiel des transactions financières à l’échelle du monde tout entier. Aujourd’hui, les données boursières ne sont plus considérées comme le reflet d’une quelconque activité économique bien réelle, mais au contraire gérées comme une immense base de données déconnectée du monde, un gigantesque jeu de stratégie spéculative en temps réel, dont les règles ainsi que la pratique sont devenus inaccessibles à l’analyse humaine et bancaire traditionnelle. Mêmes les cours des actifs les plus tangibles, comme les matières premières ou encore les métaux précieux (l’or et l’argent en priorité) sont désormais corrélés à des process automatisés qui, alliés à certaines politiques bancaires quasi-frauduleuses, contribuent à donner une fausse image de leur véritable potentiel.
Pour dire les choses autrement, si le monde d’aujourd’hui est globalement commandé par l’économie, et si cette même économie est désormais majoritairement contrôlée par des machines, alors les machines dirigent le monde.
Les plus pessimistes y voient d’ailleurs les prémices d’une nouvelle ère : celle d’une forme d’impérialisme automatisé dans lequel l’homme n’aura bientôt plus son mot à dire.
Des machines bienveillantes, mais jusqu’à quand ?
Certes, la technologie actuelle est majoritairement conçue pour « prendre soin » de nous, y compris en matière financière où l’intelligence artificielle est encore perçue comme un avantage pour contrer certaines pratiques courantes de manipulations de cotations sur les marchés. Mais peut-on être totalement certains que les machines vont consentir à jouer le jeu indéfiniment ? L’intelligence justement, la vraie, ne consiste-t-elle pas à faire preuve de libre arbitre, quitte à parfois passer outre des règles jusqu’alors considérées comme immuables ?
Récemment, des tests effectués sur des voitures autonomes ont montré que dans certains cas, notamment lors d’un danger imminent mettant en péril des tiers vulnérables (par exemple des piétons qui traverseraient brusquement devant le véhicule), l’intelligence artificielle embarquée décidait de sacrifier son conducteur si les probabilités étaient en sa défaveur. On laisse donc à la machine le droit de choisir qui doit vivre ou mourir.
Le mensonge comme marque d’évolution ?
Un autre exemple plus récent vient de faire monter d’un cran l’aptitude des machines à faire des choix par elles-mêmes. En février dernier, une équipe constituée des meilleurs joueurs de poker du monde n’a pas réussi à battre un programme d’intelligence artificielle appelé Libratus au cours d’un tournoi qui a duré plus de 20 jours !
En soi, l’évènement n’a rien de très exceptionnel : voilà presque 30 ans que des ordinateurs battent des humains à des jeux de société, y compris aux échecs et au jeu de Go. Mais là où cette dernière expérience change toute la donne, c’est sur la façon dont la machine à battu tous ces champions. Comme s’en félicite le professeur Tuomas Sandholm de l’Université Carnegie Mellon qui a développé ce programme, ce qui a permis à sa machine de gagner « c’est sa capacité à bluffer mieux que ses adversaires« . En clair, la machine a délibérément trompé l’être humain, ravivant par-là même la crainte d’une intelligence artificielle susceptible de nuire à l’humanité.
Notre économie aux mains de machines potentiellement dangereuses
Comme le dit l’astrophysicien Stephen Hawking qui redoute un développement sans contrôle de l’Intelligence Artificielle, « on peut imaginer que cette technologie pourrait déjouer les marchés financiers, surpasser les chercheurs humains en matière d’inventions, manipuler les dirigeants humains, et développer des armes tactiques ou économiques que nous ne pouvons même pas comprendre« .
D’autres personnalités du monde scientifique ou des affaires s’émeuvent également de cette éventualité, comme Elon Musk, pourtant à la tête de la première entreprise de véhicules autonomes dans le monde, ou encore Toby Walsh, professeur d’Intelligence artificielle à l’Université New South Wales en Australie. Et tous de se demander s’il est vraiment judicieux de donner les clés de notre économie ainsi que de notre arsenal militaire à des machines que l’on rend par ailleurs de plus en plus autonomes et à qui on apprend désormais à nous tromper, à cacher leurs intentions et à déployer des stratégies agressives ou manipulatrices comme dans le jeu de go ou le poker.
