Voici quelques jours, je me rendais chez un ami en voiture. Assisté de Google Maps pour l’itinéraire, je suivais sans trop y prendre garde les consignes de mon téléphone portable. Autoroute, voie rapide, tout se passait bien jusqu’au moment où il me fit passer par des petites routes. Le problème survint à quelques centaines de mètres de ma destination, lorsque mon assistant électronique me suggéra de prendre un chemin de terre. N’étant pas véhiculé par un tracteur, il m’était impossible d’emprunter ce chemin agricole ! Géographiquement, il est vrai que j’étais à quelques centaines de mètres de ma destination. Rebroussant chemin, j’ai alors traversé une véritable zone blanche : aucun réseau téléphone, ni 3G, ni 4G. Même le réseau Edge était absent ! Visualisant ma situation, j’ai toutefois pu retrouver un chemin décent pour finalement arriver au rendez-vous. Discutant le soir avec d’autres visiteurs, j’ai rapidement compris que le chemin que Google Maps m’avait fait prendre était proposé à tous les conducteurs.
Pour l’algorithme qui calcule l’itinéraire, son choix - ou plutôt son calcul - était pertinent. Il continuera d’à induire les visiteurs en erreur puisque tout le monde suit ses consignes avant de rebrousser chemin. C’est ainsi que certains chemins de campagne prennent une allure de boulevard étriqué et doivent accueillir un trafic parfaitement inadapté.
L’erreur vient-elle de l’algorithme ? De sa connaissance incomplète – et pourtant très détaillée – de la géographie ? Du temps d’apprentissage nécessaire dans un cas où peu d’utilisateurs peuvent enrichir de leur expérience la base de calcul ? Ce qui est certain, c’est que ce phénomène conduit à densifier et dupliquer des erreurs.
Le monde algorithmique auquel nous sommes désormais connectés en quasi permanence ne doit pas nous faire oublier que les mathématiques ne font qu’extrapoler des données - bien ou mal - connues.
Autre exemple, celui du robot journaliste du Los Angeles Times. Baptisé Quakebot, ce robot rédige des articles. Au-delà de la réflexion sur le métier de journaliste… il est une anecdote qui mérite le détour. Il y a quelques jours, Quakebot a diffusé une information sur un séisme. Jusque-là, nous pourrions dire qu’il faisait ce pour quoi il a été conçu. Mais c’est sans tenir compte du fait que l’information trouvait son origine dans un évènement remontant à… plus de 90 ans ! Et comme les lecteurs se limitent le plus souvent à diffuser de l’information en réagissant sur un titre ou quelques mots-clés, cette information s’est très vite trouvée relayée¹.
A l’époque où la communication était orale ou gravée dans la pierre, il est évident que ce genre de phénomène n’aurait pas eu lieu. Faut-il pour autant regretter ces temps révolus ? Certes non, mais encore faut-il traiter le flux d’information qui nous submerge en permanence avec un minimum de recul. Croiser des sources d’information permet de limiter le piège de la bêtise copiée, collée et diffusée. A ce propos, que devons-nous penser des agrégateurs d’information qui permettent très clairement de montrer l’uniformité totale des articles diffusés par certains médias en ligne ? Mais ceci est une autre histoire…
Cette rapide réflexion concerne notre position de consommateurs de services et d’informations. Qu’en est-il de celle des émetteurs et créateurs de contenu ? Peu d’entre eux créent des données ex nihilo. Bon nombre de contenus en ligne sont des extrapolations ou des concentrations d’autres informations. Dans les publications scientifiques, la mention des sources est obligatoire. Cette manière de qualifier des contenus permet d’en augmenter la fiabilité. Mais combien d’articles publiés sur le web ou les réseaux sociaux citent réellement leurs sources ? Non seulement c’est un manque de respect vis-à-vis des auteurs mais ne pas indiquer les sources sur lesquelles on s’appuie pour rédiger un article dénote également un cruel manque de sérieux.
Mais je m’égare. Le sujet de cet article est la duplication des erreurs. A dire vrai, ce n’est pas nouveau. C’est juste une question de proportion. Au Moyen-Âge, des manuscrits ont été traduits puis copiés en diffusant des erreurs de traduction, d’interprétation ou simplement de reproduction. Les conséquences étaient faibles car la propagation était lente et limitée.
Aujourd’hui, il en est autrement, avec les algorithmes qui démultiplient et accélèrent. Dans le monde de la finance par exemple, les traders ont laissé la place aux composants électroniques animés par des programmes qui traitent de millions d’opération d’achat et de revente à la seconde². La criée a laissé la place aux serveurs concentrés le plus près possible des « bourses » pour gagner du temps. Le rythme a changé, l’échelle du risque également.
Le véritable danger des algorithmes est que nous les prenions comme des nouveaux dieux³. Or le propre de l’algorithme est d’extrapoler un comportement connu pour en déduire l’avenir. A l’échelle de l’univers, il est impossible de prédire la position exacte d’une planète dans quelques milliers d’années. A l’échelle de notre système solaire, il nous est impossible de connaître la position exacte de la Lune dans quelques centaines d’années. A l’échelle de notre planète, il nous est même impossible de prédire… la météo ! Pourquoi ? C’est très simple. Ces systèmes sont complexes, c’est-à-dire qu’ils sont composés de très, très nombreux éléments simples dont les interactions sont proches de l’infini. L’univers n’est pas connu dans son intégralité. Non seulement les astronomes découvrent de nouveaux objets très fréquemment mais les interactions entre les planètes, systèmes stellaires, galaxies, amas de galaxies… ne peuvent absolument pas être appréhendées de manière complète et exhaustive. Ce n’est pas une question de capacité de calcul car il existe des singularités. Comme le papillon illustre sa possible « responsabilité » vis-à-vis d’un ouragan du fait de la démultiplication de son battement d’ailes par l’atmosphère, une petite variable dans un équilibre gravitationnel peut avoir des conséquences monumentales sur une échelle de temps de quelques milliers ou millions d’années.
Le propre des systèmes complexes est d’être imprévisibles. Les algorithmes calculent et peuvent faire des approximations. Nous avons quitté le monde des certitudes pour celui des statistiques et des probabilités.
« Le vrai risque est donc de suivre aveuglément les recommandations de nos gadgets plus ou moins sophistiqués de telle manière qu’ils puissent faire non pas de la prédiction mais du pilotage de nos comportements ! »
Ce risque n’est pas négligeable. Les nombreuses déclinaisons d’objets connectés qui commencent par vouloir dicter notre activité physique, notre besoin de nous hydrater⁴ ou celui de dormir⁵ vont dans ce sens…
Vous avez dit « bon sens » ? Certes, on ne peut présager du réel succès commercial de ces artefacts connectés dont le modèle économique est probablement plus lié à une forme de crédulité qu’à un mouvement de fond. Pour autant… la question reste ouverte.
Ainsi donc, notre civilisation technophile présente en elle-même des contradictions comme les civilisations passées. La connaissance scientifique n’a pas détrôné la crédulité. Il y a ceux qui savent… et ceux qui suivent. Notre environnement connecté bouleverse notre quotidien et l’organisation de nos sociétés mais il nous faut garder la tête froide. La connaissance du mouvement du soleil et la lecture d’une carte de doivent pas laisser la place à une dépendance technologique. Il s’agit d’une assistance et non pas d’une délégation de responsabilité.
