Pas mal d’encre a coulé suite à la sortie de The Social Dilemma / Derrière nos écrans de fumée. Je crois en la vertu pédagogique de ce docu-film, malgré quelques énormités -à commencer par le le fait que la plateforme qui le présente en “exclusivité” est coupable de certains vices qui y sont dénoncés et que plus généralement le film lui-même utilse certains principes (de manipulation narrative) qu’il dénonce. Toutefois j’aimerais aller un peu plus loin que les critiques que j’ai pu lire sur le sujet.
À leur corps défendant, les “acteurs” (au sens que tout en essayant de prendre un air naturel, ils jouent “leur” rôle) de ce film exemplifient une limite fondamentale de la manière d’appréhender bien des problèmes de nature technologique.
« On ne résout pas un problème avec les modes de pensée qui l’ont engendré »
Albert Einstein
Citation on ne peut plus classique qui saute aux yeux en regardant ces ex-hauts cadres de grandes entreprises essayer de fournir des réponses aux problèmes qu’ils ont activement participé à créer -et dont ils ont retiré des fruits bien juteux.
Les modes de pensées peuvent être considéré à différentes échelles. Ici, il faut le prendre au plus large: la situation critiquée par les intervenants du film ne sont pas la panacée de Facebook et Twitter. Plusieurs critiques ont déjà souligné que les problèmes d’addiction, de terreau pour les extrêmismes divers, de division sociale, etc. ne sont pas propres aux géants de web. Au mieux ces derniers ont industrialisé des principes pré-existant, des principes qui continuent à vivre à plus petite échelle sur toutes sortes de forums, de chats et de sites variés -ça ne dédouane pas pour autant le géants du web.
Bref, les protagonistes présentés sont un peu trop dans leur monde, dans le même mode de pensée que celui qui a engendré la situation actuelle, pour pouvoir fournir ne serait-ce qu’une analyse sérieuse. Sans prétendre pouvoir moi-même fournir une analyse sérieuse et complète, voici tout de même quelques pistes importantes et qui nous invitent surtout à regarder ailleurs que les vire-capots du Social Dilemma.
Capitalisme et analyse critique de notre monde économique
Premièrement, il est impensable de faire une critique de la situation des géants du web sans faire une critique du capitalisme. Le sujet est abordé du bout des lèvres dans le documentaire et pourtant… Si vous voulez une réflexion plus approfondie, vous pouvez lire l’analyse de Evgeny Morozov sur le concept de Capitalisme de surveillance de Soshana Zubov (présente dans le film); cette dernière semble tout mettre sur le dos de la surveillance en oubliant un peu trop qu’elle utilise elle-même le terme capitalisme, pourtant central dans tout ceci: la surveillance est au service du système capitaliste.
On peut bien décortiquer les technologies, les outils, les décisions (ou leur absence de décision) des plateformes sociales (et d’autres), ignorer le système économique dans lequels elles évoluent amène à passer à coté du gros de la réflexion…
Biais de confirmation et vision techno-déterministe
Les protagonistes semblent trop croire à leur propre modèle explicatif, celui voulant que les tentatives de manipulation par les média sociaux fonctionnent de manière incroyable. Ils voient dans toutes sortes d’événements un rôle exagéré des modèles qu’ils ont développé. Dans les faits, même si l’impact existe, il n’est pas aussi délirant que le documentaire veut le faire penser.
Ce faisant, les acteurs donne un effet dramatique au documentaire. Ça marche, c’est poignant, le personne central des séquences fictives répond parfaitement aux “nudges” du réseau social. Cette manière d’aborder la situation ne fait que participer à l’exagération de l’impact de ces plateformes plutôt que de contextualiser correctement leur influence.
Leur propos renforce ainsi la vision techno-déterministe voire transhumaniste selon laquelle la technologie va “manger” l’humain. Les algo sont désormais si puissants qu’ils sont en mesure de dépasser l’entendement l’humain. Dans ce contexte, l’humain ne devient qu’une pauvre petite chose, manipulé par un marionnetiste invisible –marionnetiste-algorithme dont les créateurs auraient eux-mêmes plus ou moins perdu le controle. C’est évidemment une vision horriblement réductrice: ce n’est pas parce qu’un système basé sur de l’apprentissage automatisé peut extraire de l’information dans une quantité d’information inaccessible par un humain que l’humain devient sans défense.
Penser autrement
Je pourrais ajouter d’autres exemples de la limite de perspectives des intervenants du documentaire. Le principal point: ils sont pris dans leur mode de pensée. Par conséquent, leur analyse est biaisée et incomplète, ils ne font que confirmer leurs hypothèses et leur modèles explicatifs, les pistes de solution qu’ils peuvent produire sont de ce fait bornées par le modèle cognitif dans lequel ils évoluent.
Il est donc nécessaire de faire intervenir d’autres modes de pensée. Ces modes de pensée peuvent, doivent, être incarnés par des personnes ne venant pas du milieu des “faiseurs” de technologie.
À défaut d’avoir un exemple concret à fournir sur le sujet du docu-film, je vais donner un exemple plus personnel sur la notion de ville intelligente. Le recueil De la ville intelligente à la ville intelligible contient la production de plusieurs chercheurs en sciences humaines et sociales: sémiologie, anthropologie, histoire, philosophie, etc. Leur approche critique du champ des villes intelligentes permet d’avoir un mode de pensée radicalement différent de l’expert praticien que je suis.
Plus qu’un mode de pensée présent: en mobilisant des cadres d’analyse existant, ils sont capables de convoquer des analyses historiques qui nous démontrent que ce que nous vivons n’a rien d’exceptionnel: il y a des précédents, il existe des analyses qui ont permis de mieux comprendre et d’influencer ces précédents. Il est possible de prendre du recul sur notre situation. Des penseurs clarivoyants ont vu arriver ces tendances de loin et fournissent un cadre d’analyse et des pistes de réflexion selon des axes qui échappent complètement à ce que peuvent envisager ceux qui ont le nez dedans, pour qui certains paradigmes sont des vérités absolues…
Je ne peux faire l’économie de revenir sur Debord, dont les écrits sur la société du spectacle, alors que Donald Trump met en scène sa défaite, semblent tout à fait préscients. Non seulement Debord a vu venir cette tendance lourde un demi-siècle avant l’apothéotique présidence de Trump, mais il a aussi fourni des clés d’analyse!
Ça ne veut pas dire qu’il faut inclure des anthropologues dans tout ce qu’on fait en technologie. Ça veut dire qu’il faut faire l’effort, difficile, d’inclure une grande variété de disciplines sur ces enjeux. Je vois les appels récurrents à ce qu’un nombre croissant de jeunes s’orientent vers les disciplines “STIM” (sciences, technologie, ingénierie et mathématique), avec un sous-entendu à peine voilé que les tenants des “humanités” n’ont pas grande valeur pour l’économie. C’est un terrible appel à l’uniformisation de la pensée, une pensée fonctionaliste et déterministe avec peu de pensée critique -j’en suis un pur produit et je constate à quel point il est difficile de sortir de ce mode de pensée.
Un mode de pensée est une choses ancrée très profondément. Il n’y a pas de bon ou de mauvais mode de pensée non plus. En revanche, il y a la nécessité de maintenir une large variété de modes de pensée pour faire face à des enjeux systémiques, la diversité est la clé, même si elle est difficile à réaliser quand on ne parle pas le même langage.
Pour revenir au Social Dilemma, cette réflexion nous informe sur quelques éléments:
- Les pistes proposées (assez peu nombreuses par ailleurs) par les protagonistes ne peuvent suffire;
- Les meilleures pistes seront surement celles qui incarnent une diversité de modes de pensée;
- Aborder sérieusement les enjeux des réseaux sociaux et des géants du web impliquera la remise en cause de bien plus que simplement les algo ou même les modèles d’affaires des plateformes concernées.
Les médias sociaux sont un exemple parmi d’autre, la “ville intelligente” un autre exemple; dans les deux cas les “praticiens” de ces domaines ne peuvent être ceux qui fournissent la réponse au problèmes qu’ils créent.
« Le langage des Maîtres parle à l’intérieur des hommes. Il a installé à l’intérieur du corps des sortes de récepteurs, et les ondes arrivent. Les gens, eux, croient qu’ils sont libres. Ils croient qu’ils choisissent leurs mots et leur pensée. Les gens croient que leur langage est à eux, et que personne ne sait ce qu’ils pensent. Ils croient qu’ils sont à l’abri. Il croient qu’ils sont dans des carapaces hermétiques et que rien ne peut y entrer. C’est ça qu’ils s’imaginent. Mais leurs corps sont transparents pour le regard des Maîtres du langage »
J.M.G Le Clezio, Les Géants, 1973. Cité par Simon Lévesque dans De la ville intelligente à la ville intelligible.