Je teste des IA de temps en temps. Je n’en suis pas fan, mais il paraît qu’il ne faut pas rater le coche, que ça va bientôt envahir nos vies. Je ne veux pas passer à côté.

Récemment, j’ai eu l’occasion de faire du tourisme pour la première fois depuis longtemps. Par curiosité, j’ai demandé à une IA de me proposer un séjour :

Je vais passer 5 jours à Petochnoque, on sera 5 dont un bébé de deux ans. On cherche donc une vibe détente, orientée nature, plage avec des randonnées. Propose-moi un itinéraire point par point avec un budget total de XXX € sur place.

J’ai eu un plan bien ficelé, mais fade. Le truc que tout le monde fait. Qui ne sort pas des sentiers battus. Je ne l’ai pas suivi. Mais combien de personnes font de même ?

J’entrevois le tourisme de masse —encore plus massifié. Un trou noir touristique qui aspire tout le monde… dans quelques lieux saturés, où l’attention converge.

Et si… c’était une conséquence logique des systèmes qui se mettent en place et qui accélèrent depuis l’arrivée d’internet ?

Le capitalisme aime les monopoles

Les États-Unis se sont construits sur le capitalisme. Mais pas le capitalisme d’aujourd’hui, sans frontières ni régulation. Non. À l’époque, au contraire, les législateurs avaient compris que le capitalisme aime les monopoles —mais les consommateurs, eux, beaucoup moins. On avait donc mis en place des gardes-fous : les lois anti-trust.

Le principe est simple : si une entreprise grossit trop et que les barrières d’entrée du marché deviennent insurmontables, on scinde l’entreprise en plusieurs entités, chacune pouvant être concurrencée.

AT&T et IBM avaient une peur bleue de ces lois. AT&T a raison puisqu’ils ont fini par être scindés, la dernière utilisation notable de ces lois. IBM y a échappé, mais la peur d’une sanction avait contribué à l’ouverture de la séquence d’amorçage, c’est en partie grâce à ça qu’il est bien plus simple d’installer Linux sur un ordinateur que sur un téléphone. La contrainte légale avait poussé à l’ouverture.

Puis, Reagan est arrivé. Et avec lui, la financiarisation de l’économie au nom de la croissance. On a dérégulé massivement pour espérer ne pas arriver au bout des 30 glorieuses. Ça a échoué, mais la mentalité est restée. Plus tard, on a commencé à entendre la petite musique selon laquelle la guerre froide aurait été gagnée bien plus vite si on n’avait pas mis de bâtons dans les roues des grandes entreprises étasuniennes. Ça reste à démontrer, mais la musique résonne encore dans la tête des politiciens.

La suite, on la connaît : création des GAFAM, hégémonie des États-Unis… emmerdification du web !

Les monopoles ont compris qu’il valait mieux éviter d’attirer l’attention. Ils se sont mis à se cacher. Google détient le quasi-monopole du marché des moteurs de recherche —il s’est donc présenté comme Alphabet, acteur parmi d’autres du marché de la publicité en ligne, où les concurrents ne manquent pas. Chaque branche d’Alphabet a des compétiteurs. C’est crédible… reste que la majorité de ses revenus provient du moteur de recherche.

On a supprimé les garde-fous, et tout le monde semble trouver ça très bien.

La technologie change la donne

Le problème des monopoles n’est pas nouveau. Il est par contre exacerbé par les technologies —de la communication en particulier— qui créent un effet winner takes all, les vainqueurs raflent tout.

Avant l’invention du phonographe, écouter de la musique demandait des musiciens. C’était cher, tout le monde ne pouvait pas se le permettre —mais les vitesses de déplacement faisaient qu’il en fallait partout, dans toutes les villes. Si un Beethoven ou un Mozart apparaissait, il était demandé par ceux qui avaient le plus de moyens, mais il n’empêchait pas les autres d’exercer.

Avec l’enregistrement, puis la radio, puis le streaming, une seule interprétation peut être écoutée dans le monde entier, en simultané. On a besoin de beaucoup moins de musiciens (qui deviennent profs) et seuls quelques élus s’en sortent très bien. Le pire, c’est que ce n’est même pas forcément les meilleurs (c’est une question de goût), mais parfois juste de mode, de marketing, de faits divers.

Les technologies de l’information ont ajouté une couche supplémentaire : la hiérarchie visible. La note sur cinq étoiles, le classement des articles, le « top 10 des meilleures… » —tout cela concentre l’attention sur les mêmes références. Le premier résultat Google reçoit statistiquement dix fois plus de clics que le dixième. Dans un monde où l’attention est limitée, être bien classé, c’est presque tout.

Les algorithmes de recommandation sont l’étape suivante. Plus besoin de consulter les tops : on vous dit directement quoi regarder, quoi écouter. La recommandation se veut personnalisée, mais elle est biaisée par construction —culture occidentale par défaut, biais de popularité, convergence vers le mainstream. Les séries qui hypent sont proposées à tout le monde.

L’IA une réponse pour les gouverner toutes

Nous entrons aujourd’hui à l’ère de l’IA. À toute question posée, plus de top 10, on apporte désormais une réponse unique. Elles sont entraînées pour être d’accord avec nous et nous beurrer l’ego.

Même le pire des cons a une IA en train de lui dire qu’il a raison

—Ai-je pu lire sur le net. C’est vrai, mais ce n’est pas le plus grave.

Le plus grave, c’est que cette IA lui recommande aussi les mêmes films, les mêmes musiques, les mêmes destinations que le voisin. Et pour la même question posée par des millions de personnes, elle donne à peu près la même réponse —parce qu’elle est entraînée sur les mêmes données, avec les mêmes biais culturels, dans les mêmes langues. Majoritairement en anglais. Massivement sur du contenu occidental. La diversité du monde réel n’a pas été invitée à la table.

La structure du marché va bientôt aggraver ça. Tout le monde parle de bulle de l’IA, et d’éclatement prochain. La première conséquence de l’éclatement, c’est la concentration du marché. Le nombre d’acteurs diminue, liquidés ou absorbés. Les coûts d’entraînement deviennent tellement élevés que seule une poignée d’acteurs —les GAFAM en tête— en ressortiront vivants. Moins de choix, plus de convergence.

On aura alors tous une IA nous disant quoi lire, quoi regarder, quoi aimer —et peut-être même, quoi penser.

Est-ce grave ?

On a tendance à répondre oui par réflexe. La diversité, c’est l’étendue des possibles, un monde plus complexe, plus intéressant. Mais à bien y réfléchir, est-ce vraiment le cas ? Mes intuitions sont souvent utilitaristes (conséquentialistes cherchant à maximiser le bonheur collectif) ; dans le cas présent il me semble que les conséquences ne sont de prime abord pas si graves.

Une normalisation des goûts et des opinions, ça signifie moins de frictions entre individus. Moins de malentendus culturels. Plus de terrain commun. On pourrait imaginer une démocratie plus apaisée, des conflits moins nombreux. Ce n’est pas absurde.

On pourrait également regretter la baisse de l’innovation qui pourrait en découler mais dans un monde en constante accélération comme ç’a été le cas les dernières décennies, une pause serait appréciable pour les humains qui sont largués de plus en plus vite, comme pour la planète qui s’épuise d’autant plus vite qu’on accélère.

Le point mort du point de vue conséquentialiste ici est peut-être ce qui nous met intuitivement mal à l’aise avec l’idée : qui décide ?

Les GAFAM. Ou plutôt les boîtes qui font ces algorithmes, ces IA quelles qu’elles soient. Or, on n’est plus dans le domaine de la recommandation, on est dans le domaine du pouvoir ; et les plus riches sont rarement les plus altruistes. La concentration du pouvoir de définir les goûts, les références, les opinions de milliards de personnes entre les mains de quelques acteurs privés non élus est un risque moral important —quels que soient les beaux slogans qu’ils veulent nous faire avaler.

Taleb l’a noté dans Le Cygne Noir : la nature préfère les petits territoires insulaires. Plus un territoire est petit, plus il obéit aux lois de la diversité —plus d’espèces par mètre carré, plus d’essais, plus d’échecs, plus d’innovations. Les grands continents favorisent les espèces dominantes au détriment des autres.

La culture ne fonctionne pas différemment. La biodiversité des goûts, des références, des pratiques, c’est ce qui permet à des idées vraiment nouvelles d’émerger. Un monde culturellement uniforme est un monde où les erreurs collectives se propagent sans résistance —personne ne peut surprendre personne, personne ne peut pointer ce que tout le monde a raté.

L’uniformisation n’est pas seulement une perte esthétique. C’est une vulnérabilité collective.

Que faire

Lutter à l’échelle individuelle est très compliqué. Il y a bien sûr des outils à notre disposition mais force est de constater qu’ils ne sont ni enthousiasmants, ni socialement faciles à déployer.

On peut par exemple :

  • Privilégier le local. Un concert dans une salle de 200 personnes, un libraire qui connaît ses clients, un podcast fait par quelqu’un de votre ville : ces choses-là ne sont pas scalables par définition. La géographie est une protection naturelle contre la concentration.
  • éviter les algorithmes de recommandation. Autant que possible. Trouver un resto en se fiant à l’odeur, au monde plutôt qu’aux notes. Choisir un livre en fonction de sa couverture. Se faire recommander par un ami plutôt qu’une IA.
  • cultiver de façon générale une âme de flâneur. Accepter l’imprévu. Se laisser surprendre en bien comme en mal. Tester de nouvelles routes. La résistance à l’uniformisation commence par refuser de savoir à l’avance ce qu’on va penser de quelque chose.

C’est bien sûr insuffisant, parce que le problème est systémique. La solution la plus efficace reste la lutte politique : se battre pour le monde qu’on veut voir demain, soutenir des personnes qui partagent cette vision —même si on ne sera pas d’accord sur tous les points.

Si on cherche quelqu’un d’accord avec notre point de vue sur tout… la solution reste de se présenter.