29/06/2014

Ces Algorithmes qui nous gouvernent

Plusieurs événements provoqués par l’usage d’algorithmes puissants sont à la source d’un malaise planétaire. Que se soient les pratiques de « data mining » de la NSA, des différents « flash krach » de Wall Street ou encore de la « Google Car » entièrement conduite par des algorithmes ! L’avenir tout programmé fait peur. Petit tour d’horizon.

algo

Le 6 mai 2010 à 14 heures 40 le marché boursier de Wall Street a soudainement piqué du nez de manière vertigineuse. Des titres comme Accenture ou Boston Beer se sont retrouvés avec une cote de 0,01 $. Du jamais vu ! Aujourd’hui, on sait que des algorithmes de trading aussi appelés les « robots » par les financiers sont à l’origine de ce « flash » krach. Seule une interruption de Wall Street a permis aux ordinateurs de retrouver un peu de calme. Cet événement n’a toutefois pas changé le cours de l’histoire, les algorithmes sont toujours aux commandes à New York et représentent aujourd’hui entre 60 et 70% du volume des transactions.

Le 11 mars 2014, un article entièrement produit par des algorithmes, sort des murs du Los Angeles Time. Il parle d’un tremblement de terre de magnétude 4.7 survenu au large de Santa Monica, il y a seulement quelques instants. La dépêche est reprise par une grande majorité de la presse américaine, notamment celle du « on-line ». Une semaine plus tard, la nouvelle sur le mode de fabrication se répand dans les milieux des médias. Stupéfaction ! On n’avait pas été averti du caractère automatique de l’écriture. La fin du métier de journaliste s’approcherait-t-elle ?

Le 18 juin 2018, il est 19h30. Ma cuisinière parle à mon frigo et lui demande de ne pas tirer sur le courant électrique pendant une heure. C’est à son tour de prendre le relai car il ne faut pas surcharger le réseau. Comme toutes les cuisinières agissent ainsi ensemble, un « pic » électrique est réduit. La consommation globale s’en trouve améliorée.

Ces algorithmes dictent des nouvelles règles du jeu sans vraiment faire appel à l’humain. C’est en cela que notre ère est vraiment nouvelle : « les objets, les systèmes se passent de nous. Trop lent, trop cher, trop encombrant ».

Internet avec son immense écosystème de données, d’informations interconnectées est le champs d’action privilégié des algorithmes, car elles sont les seules à parvenir à traiter, à manipuler et à produire dans ce dédale immense du réseau mondial des « big data ». Au final, les données résultantes de ces processus deviennent à leur tour de nouvelles données et des sources d’informations.

Ainsi lorsque je fais une recherche sur Google, l’algorithme qui me prend en charge va offrir plusieurs solutions à ma requête présentée comme une liste de liens et dans le même temps, va retenir ma requête comme une information qui va être intégrée comme une donnée pour ses propres recherches futures.

Il en est de même par exemple sur Amazon ou Ebookers, chacune de mes recherches et chacun de mes achats seront intégrés à une base de données de « comportement clients » qui ira enrichir les recherches et offres futures non seulement me concernant, mais aussi pour ceux qui auront fait les mêmes choix.

C’est une nouvelle réalité : les algorithmes nous prennent en charge. Il ne reste plus qu’à franchir un petit pas pour qu’ils nous gouvernent simplement. Un pas qui, comme on vient de le voir, a dans certain cas déjà été franchi.

Dans l’automobile, et au-delà de la « Google Car », des centaines d’algorithmes ont été introduits dans la gestion de nos véhicules. Le plus visible et marquant est l’algorithme pour garer sa voiture. La publicité maintes fois vue de la marque automobile Volkswagen est une nouvelle étape d’aide à la conduite dont l’algorithme utilisé introduit une véritable évolution, voire une rupture. Ainsi à chaque visite chez votre garagiste, le diagnostic du véhicule s’opère grâce à un ordinateur pratiquement indépendant de l’humain. La facture souvent conséquente reste cependant aux frais du conducteur… Tout appareil électroménager, HiFi, TV, Radio, téléphone et bien sûr votre ordinateur sont bourrés d’algorithmes. On s’en doutait un peu !

Qu’en est-il de l’Etat ?

Si aujourd’hui de nombreuses procédures sont automatisées, il y a peu d’algorithmes qui utilisent l’interopérabilité des bases de données. C’est à la fois historique, à cause de l’étanchéité des départements (encore largement en silo) et aussi philosophique car les administrations ne cherchent pas à interpréter les comportements des citoyens se contentant de plus ou moins les servir. Sans doute un jour, les états vont faire leur (r)évolution vers l’anticipation des besoins, mais ce n’est pas le cas actuellement à l’exception notoire des services secrets et notamment de la NSA américaine. Un citoyen reste un usager passif sauf si on le sollicite pour obtenir sa voix lors d’élections ou de votations. Cependant, on lui demande rarement de donner de la voix pour s’exprimer comme un citoyen « augmenté ». La réalité du changement dans les administrations publiques est plus lente que l’on ne le pense généralement, mais ses conséquences à long terme sont certainement sous-estimées.

Et notre liberté de décider ?

Les algorithmes sont entrés par petites vagues successives dans notre vie en fonction des progrès accomplis dans la programmation des logiciels d’intelligence artificielle (de type : systèmes experts ou aides à la décision). D’abord sous forme d’aide à notre prise de décision, par exemple pour manipuler une borne bancaire ou d’enregistrement à l’aéroport ; puis sous la forme de suggestion à nos décisions comme le font si bien Amazon ou Google. Ce dernier vient par exemple d’étendre son offre avec un système qui anticipe vos désirs de destinations touristiques ! Enfin et cela devient vraiment plus que troublant, des systèmes qui décident à votre place. On trouve de tel système dans le pilotage automatique des avions mais aussi plus communément dans la gestion de freinage de certaines voitures ou encore dans les « smart phone » et autres appareils de photos pour gérer la netteté ou les différents coloris. Bref, il n’existe plus aucun objet électronique sans éléments algorithmiques autonomes c’est-à-dire au sens où vous ne pouvez pas intervenir sur eux.

Et demain ?

A vrai dire il n’y aura pas de marche en arrière possible car on a déjà commencé a donné partiellement la gouvernance aux algorithmes. Et l’arrivée de l’Internet des objets va amplifier ce phénomêne de manière exponnentiel à un point aujourd’hui encore inimaginable. Songez seulement que depuis juin 2013, le protocole Internet V6 des adresses IP comporte 667 millions de milliards d’adresses nouvelles. Cela représente autant de composantes électroniques qui seront dirigés par des algorithmes qui vont sans aucun doute être destinés à décider!

Désormais, la seule interrogation est de savoir comment dans ce monde ultra « branché » nous allons pouvoir évoluer vers plus de liberté ? Cela paraît antinomique. Et pourtant, il faudra bien donner une nouvelle définition au mot liberté si l’on veut garder une envie d’être et un espace de faire, de création!

ce texte a été publié dans le magazine HEBDO du 26 juin 2014

 

Les commentaires sont fermés.