Vous ouvrez une application musicale et le morceau placé en tête est exactement celui qu’il vous fallait.

Vous ne l’avez pas recherché. Peut-être n’y aviez-vous même pas encore pensé clairement. La recommandation apparaît simplement, assez proche de votre humeur pour donner l’impression que le système a compris quelque chose.

La même expérience se répète ailleurs. Une boutique anticipe un achat. Une application propose le trajet que vous auriez probablement choisi. Un fil fait apparaître un sujet au moment précis où il commence à occuper votre attention.

Ces coïncidences créent une impression troublante : le système saurait-il quelque chose de nous avant que nous le sachions nous-mêmes ?

Pas au sens humain du terme.

Mais il peut connaître remarquablement bien nos régularités.

Ce que le système observe réellement

Un système prédictif n’a pas besoin d’accéder à notre vie intérieure. Il lui suffit de traces.

Une pause. Une recherche répétée. Un trajet emprunté trois matins de suite. Un achat abandonné puis repris deux jours plus tard. Une chanson réécoutée. Un article ouvert mais jamais terminé.

Pris séparément, ces gestes signifient peu.

Accumulez-les, et une structure apparaît.

À une échelle suffisante, cette structure devient prédictive. Le système compare des séquences, repère des régularités et calcule quel choix a le plus de chances de venir ensuite.

Il peut ainsi révéler des habitudes que la mémoire conserve mal. Nous dépensons davantage que nous ne le pensions. Nous travaillons plus tard que nous ne nous en souvenons. Nous revenons continuellement vers un sujet que nous n’aurions jamais présenté comme un centre d’intérêt.

Cette capacité peut être réellement utile.

La prédiction réduit le bruit. Elle rend un catalogue immense plus lisible, révèle une dépense récurrente, fait réapparaître un intérêt négligé ou met en évidence un rythme devenu discrètement insoutenable.

L’algorithme n’a pas produit de sagesse.

Il a rendu un motif visible.

Ce que nous en faisons reste plus important.

Quand la prédiction commence à façonner le choix

Une recommandation n’est pas seulement une observation.

C’est aussi une position.

Le morceau placé en premier est plus facile à écouter que celui enfoui vingt résultats plus loin. Le produit présenté au bon moment bénéficie d’un avantage sur celui que l’on ne voit jamais. L’opinion sélectionnée pour un fil entre dans notre champ d’attention avant d’autres possibilités qui restent disponibles en théorie mais deviennent plus coûteuses à découvrir.

C’est ici que la prédiction change de nature.

Le système n’observe plus seulement le comportement. Il participe à l’environnement dans lequel les comportements suivants vont apparaître.

Une personne choisit dans un espace déjà ordonné. Le système enregistre son choix comme une preuve supplémentaire. L’espace suivant est réorganisé à partir de cette preuve. La répétition augmente la confiance du modèle, et cette confiance augmente à son tour la probabilité de répétition.

À terme, un système peut devenir extrêmement précis pour prédire un comportement que ses propres recommandations ont contribué à renforcer.

La précision ne garantit donc pas la neutralité.

Une curiosité passagère peut prendre l’apparence d’une préférence durable après suffisamment d’expositions similaires. Une humeur temporaire peut produire une longue série de contenus du même type. Un raccourci peut devenir une habitude simplement parce que l’alternative devient progressivement moins visible.

La prédiction peut rester statistiquement juste tout en participant à la permanence de ce qu’elle prédit.

Un motif n’est pas un but

La limite devient plus nette lorsqu’on demande ce qu’un comportement signifie.

Travailler tard chaque soir peut indiquer de l’ambition. Cela peut aussi révéler de l’anxiété, une nécessité économique, une mauvaise organisation ou simplement une échéance temporaire.

Des achats répétés peuvent exprimer une préférence réelle, mais aussi la commodité, la pression sociale ou la compensation d’une insatisfaction sans rapport avec l’objet acheté.

La répétition se mesure.

Son sens ne se déduit pas automatiquement.

Un modèle peut devenir extrêmement performant pour répondre à la question :

Que ferez-vous probablement ensuite ?

Il ne peut pas trancher cette autre question :

Que méritez-vous de continuer ?

Ces deux questions n’appartiennent pas au même ordre.

La probabilité décrit ce qui risque d’arriver. Le but exige une interprétation.

Aucune densité de données ne peut déterminer si une orientation professionnelle mérite d’être poursuivie, si une relation doit être réparée, si un engagement créatif doit survivre à une période difficile ou si une habitude ancienne appartient encore à la vie que l’on souhaite construire.

Les données peuvent révéler le motif.

Elles ne lui donnent pas autorité.

Nous ne sommes pas non plus des observateurs parfaits de nous-mêmes

Il serait pourtant trop simple d’opposer la lucidité humaine à la froideur des machines.

Notre introspection est imparfaite.

La mémoire réécrit. L’émotion amplifie certains événements et en efface d’autres. Une habitude devient invisible précisément parce qu’elle est habituelle. Nous nous décrivons souvent à partir de la personne que nous pensons être plutôt qu’à partir de ce que nous faisons réellement.

Une grande partie de la puissance des systèmes prédictifs vient de cet écart.

Ils peuvent nous confronter à des régularités que notre propre récit avait ignorées.

C’est précieux.

Mais un comportement observable ne contient encore que ce qui s’est produit dans certaines conditions. Il ne révèle pas toutes les intentions, hésitations, obligations ou possibilités qui entouraient l’action.

Un système peut savoir que vous empruntez toujours le même trajet sans savoir si vous aimez la destination.

Il peut connaître ce que vous achetez sans savoir si vous approuvez l’impulsion.

Il peut reconnaître avec précision la vie déjà vécue tout en restant incapable d’identifier celle qui justifierait d’en changer.

La connaissance de soi dans un monde prédictif

La connaissance de soi devient alors plus concrète.

Elle ne consiste plus seulement à former une représentation intérieure de son caractère. Elle demande aussi d’apprendre à lire les modèles que d’autres systèmes construisent à partir de notre comportement.

Le motif doit devenir une preuve, pas un verdict.

Une recommandation peut être acceptée. Elle peut aussi être rejetée, testée ou volontairement interrompue.

Une préférence récurrente peut être confrontée à une intention plus longue. Un fil trop étroit peut être corrigé par une exploration active. Une prédiction peut révéler une tendance sans décider si cette tendance mérite d’être prolongée.

C’est là que demeure l’agence humaine.

L’autonomie ne consiste pas à vivre sans influence. Elle consiste à reconnaître une influence et à conserver la capacité de modifier sa direction.

Comprendre pourquoi une recommandation paraît si convaincante crée déjà une petite distance. Cette distance ouvre un espace de jugement. Elle remet en circulation des possibilités que le classement avait repoussées.

La continuité ne signifie pas répéter chaque séquence existante.

Il arrive au contraire que préserver une direction exige de modifier le comportement qui l’exprimait jusque-là.

Rester auteur

Les algorithmes pourront sans doute décrire certains de nos comportements récurrents avec davantage de précision que notre mémoire consciente.

Il ne faut pas minimiser cette capacité.

Mais connaître un motif n’est pas connaître une personne, parce qu’une personne ne se réduit pas à l’addition de ses choix passés.

Il existe des intentions qui n’ont pas encore produit d’action, des engagements qui résistent à la commodité, des décisions prises précisément pour rompre avec ce qui précédait et des possibilités dont aucune donnée comportementale ne peut encore témoigner.

La prédiction est la plus forte lorsque le passé se répète.

L’agence humaine apparaît précisément lorsque l’avenir n’est pas obligé de le faire.

La question la plus utile n’est donc pas de savoir si un algorithme vous connaît mieux que vous-même.

Elle est de savoir si vous pouvez utiliser ce qu’il voit sans laisser sa prévision devenir votre avenir.