Yuval Noah Harari - Nexus

Yuval Noah Harari - Nexus - Une brève histoire des réseaux d'information de l'âge de pierre à l'IA

Après l'excellent "Sapiens", puis "Homo Deus" et "21 leçons sur les XXIème" siècle j'attendais avec impatience le prochain Harari qui vient de sortir fin 2024. Cette fois il s'attaque à l'Information au fil des temps et à l'ère qui nous attend avec l'exponentiel développement de l'Intelligence Artificielle.
Cette brique de près de 500 pages se déroule dans un style clair et accessible comme l'auteur en a le secret. Exemples à l'appui et développement avec nombreux rappels et interactions entre les chapitres, il nous est assez simple de suivre le raisonnement.

On est en droit de se poser la question sur ce qu'est vraiment une information. Est-ce forcément une vérité? La preuve en est que nombreuses sont les fictions sur lesquelles une ( grande) partie de notre société est fondée: Bible, Coran, Torah, Astrologie, Théories du complot.... Pourtant il est parfois difficile de distinguer le vrai du faux dans le flot ad nauseam qu'est devenu notre rapport au grand réseau d'internet et des médias. Il faut donc distinguer la vision naïve de l'information de la populiste. La première tente d'approcher la vérité en multipliant et recoupant les sources mais n'est pas à l'abris d'erreurs ou de mensonges, la vision populiste admet que chacun a sa propre vérité et que l'objectivité n'existe pas.
Dans cette jungle, il n'est pas simple d'y voir clair et de se fier à une solide base scientifique exempte de parti pris et de lobby.
Distinguons aussi réalités subjectives, objectives mais aussi intersubjectives. Ces dernières font partie du quotidien de beaucoup de monde: religions, argent, états. Ces éléments n'existent pas tangiblement mais uniquement parce que des milliards de gens y croient.

D'abord de tradition orale, on a cru pouvoir fixer une bonne fois le coté vaporeux d'une histoire avec l'écriture. Des humains faillibles ont voulu graver pour l'éternité des dogmes qu'on ne remettrait plus en cause. Avec le temps, tout est devenu obsolète et les croyants pensent encore à une origine divine de la bible, du coran ou de la torah alors qu'on a cessé de débattre sur ces textes issus d'on ne sait plus très bien où au fil des siècle. Rien n'a été plus remanié et réinterprété que ces textes soi-disant infaillibles.
Au Moyen Age, en Occident,  l'Eglise Catholique est parvenue à contrôler toute l'information, réinterpréter une fois de plus cette pléthore de réinterprétations et empêcher toute dissidence.
L'arrivée de l'imprimerie marque une tournant drastique dans la diffusion de l'information et ouvre la porte à une multitude d'expressions. Le monopole n'est plus tenu par l'Eglise et va contribuer aussi à l'essor de la Science. Mais aussi à l'Inquisition. Une première théorie du complot va naitre sous la forme d'un réseau mondial de satanistes animés par sorciers et sorcières. Des milers de malheureux en feront les frais dans d'atroces souffrances. Bien sur au nom du Bien professé par les religions. La libéralisation de l'information n'a pourtant pas contribué à la propagation de la Vérité.
Les systèmes aussi bien démocratiques que totalitaires ont dû au fil du temps s'accommoder des moyens de communications à disposition de leur époque. Les atrocités commises par le système stalinien n'auraient pas été possibles à l'époque romaine faute de téléphone, télégraphe etc.

 La multiplication d'organes de presse indépendants permettent une circulation et une sélection d'infos qui ne vont pas forcément de concert avec la pensée des dirigeants en place dans les démocraties modernes. On peut encore critiquer le pouvoir dans nos contrées ouest-européennes actuelles. L'obsession de l'Ordre de Staline ou d'Hitler et leurs systèmes centralisés de l'info, ont parfois joué en leur défaveur de par leur lenteur et leur manque d'esprit d'initiative.  Certaines théories du complot, boucs émissaires durant la terreur stalinienne ou hitlérienne ne sont pas loin de la chasse aux sorcières qui perduré durant l'inquisition.
L'auteur a je trouve parfois mélangé un peu marxisme et stalinisme dans sa rhétorique. Ainsi que "anarchie" qui d'après lui est toujours synonyme de bordel chaotique...

Contrairement aux dogmes religieux, les institutions scientifiques sont par définition enclines à se remettre en question. En pratiquant l'autocorrection, elles évoluent sans cesse et sont capables de reconnaître au grand jour leurs erreurs ou inexactitudes passées. La coopération internationale et son caractère empirique aident à s'approcher de la vérité. C'est même comme ça que les grandes avancées ont brillé: en réfutant ou corrigeant les théories précédentes.

L'arrivée de l'informatique et plus précisément de l'IA marque donc un tournant dans l'histoire de l'humanité, le rideau de silicium a fait place au rideau de fer. Ce ne seront plus désormais que des hommes qui rédigeront les livres saints, les lois et les romans mais une instance supérieure en capacité de calcul et de déduction.
En effet, l'IA est capable de prendre des décisions indépendamment de ce que ses programmeurs avaient anticipé. Le mythe de Frankenstein est tout a fait d'actualité.
On attribue aux algorithmes de Facebook par exemple une influence majeure dans la propagation de la haine entre les communautés bouddhistes et musulmanes en Birmanie dans les années 2016-2017, alimentés par des mentors attisant la braise de la violence. Les fondateurs ont misé sur ce qui génère de la présence sur les réseaux, du like et donc comme les publicitaires cherchent bien sûr le nombre, les algorithmes favorisent les fake news, les complots divers qui génèrent bien plus de vues qu'une ode à la paix.
Alors peut-on reprocher à Gutenberg l'impression d'écrits qui ont déclenchés des génocides? Est-ce que Mark Zuckerberg est responsable de la mort de milliers de Rohingyas?
Les géants comme Google sont devenus les vrais maitres du monde car ils peuvent faire plier les gouvernements à leurs désirs en échange de quelques manipulations des algorithmes pour influencer leur élection. On ne peut même pas appeler ça vraiment de la corruption puisque aucun échange monétaire n'est réalisé. C'est bien ce que l'auteur souligne: les vrais riches d'aujourd'hui ne sont plus ceux qui amassent les milliards de dollars mais bien ceux qui amassent les milliards de données sur tout un chacun. Nous leur fournissons même gracieusement le gîte et le couvert en partageant sans cesses nos photos, vidéos, localisations et recherches.
Quid de la fiscalité? Ces entreprises n'exercent aucune activités physiques sur un ensemble de pays et sont donc exempts de taxes. Pourtant l'ordinateur est au centre de toutes les transactions du monde ainsi que de n'importe quelle activité banale.
Par le passé, les plus féroces dictateurs n'ont jamais vraiment réussi à contrôler tous les faits et gestes de leurs sujets, aujourd'hui l'IA peut tout surveiller, compiler, et recouper sans l'aide organique d'un cerveau humain. D'ailleurs les mécanismes qui régissent l'IA échappent à la compréhension humaine et sont capables de créer de nouvelles logiques et pourquoi pas de nouveaux dieux ? Tout cela est sur le point de devenir incontrôlable quand on laisse de plus en plus l'informatique remplacer les humains.
Alors qu'avant certains systèmes de communication, une démocratie ou une véritable dictature à grande échelle n'était pas faisable, la multiplication de bots va complètement biaiser le débat démocratique en choisissant certains sons de cloche et en passant sous silence certains points de vue. Pour la dictature qui aime tout centraliser et a des tendances à la paranoïa, l'IA pourrait devenir son pire ennemi.
Les métiers faits par les humains ont du plomb dans l'aile, la machine a des capacités d'adaptation bien plus rapides que nous et n'est pas influencée par un quelconque sentimentalisme bien qu'elle finira bien par éprouver souffrance et compassion. Nous devrons nous adapter, changer plusieurs fois de fonction durant notre vie. Paradoxalement, l'IA a plus d'aptitudes à exercer des métiers comme médecin que comme infirmer, comme conseiller financier que plongeur dans un restaurant.

Bref, comme l'humain a toujours préféré l'Ordre à la Vérité, qu'il a une fâcheuse tendance à s'autodétruire, il y a de fortes chances qu'une IA toute puissante prolonge la tendance et finisse par nous éradiquer. Dans une vision plus optimiste, elle développera toute une série d'aptitudes à l'autocorrection et d'entraide mais il se peut bien que cette machine non organique nous échappe dans une logique qui n'aura plus aucun rapport avec nos capacités de compréhension.