L’historien et philosophe Yuval Noah Harari a un message pour quiconque se trouve actuellement endormi pendant la révolution de l’IA : réveillez-vous avant que les algorithmes aient fini de réécrire notre réalité.
Ce qu’il s’est passé Lors de son récent voyage au Japon pour promouvoir son livre Nexus, Harari a averti que l’intelligence artificielle n’est pas seulement un changement technologique – il s’agit d’un changement existentiel.
“Nous avons maintenant créé quelque chose qui n’est pas humain – l’IA – qui a maîtrisé le langage et les mathématiques mieux que nous”, a-t-il déclaré dans une interview avec Nikkei.
Un ‘terrain de reproduction’
Harari a pointé du doigt les réseaux sociaux comme un terrain de reproduction du chaos, alimenté par des robots qui imitent les gens et inondent les plateformes de fausses nouvelles, de théories du complot et de rage – le tout pour inciter à l’engagement.
“Les deux contre-mesures les plus évidentes sont, tout d’abord, d’interdire les faux profils humains”, a-t-il dit. “Ils sont les bienvenus pour parler avec des êtres humains seulement s’ils se présentent clairement comme étant des IA.” Il a souligné la manipulation psychologique qui se produit lorsque les gens croient qu’une histoire ‘trend’ est populaire de manière organique, sans réaliser qu’elle est propulsée par une horde de robots.
Voir aussi: Bill Gates, Satya Nadella et Steve Ballmer rôtis par l’IA de Microsoft
La deuxième garantie, a-t-il expliqué, implique la responsabilité : “Les entreprises devraient être responsables des actions de leurs algorithmes.” Il a rejeté la défense commune de la liberté d’expression, en déclarant : “Le problème n’est pas ce que disent les êtres humains. Le problème, ce sont les décisions des algorithmes.”
Les avis de Harari sur la politique
Sur le plan politique, Harari ne s’est pas retenu. Il a déclaré : “La démocratie repose sur des mécanismes d’auto-régulation. Le danger est le suivant : et si vous donniez du pouvoir à quelqu’un qui ne veut pas le rendre ?” Il a décrit la vision du monde de Trump comme étant un endroit où “les forts dominent et où les faibles doivent obéir aux forts”, mettant en garde contre l’escalade de la militarisation mondiale et la suppression de la coopération entre les pays.
Harari a également tiré la sonnette d’alarme concernant les monopoles de l’IA : “Il serait très dangereux que l’intelligence artificielle ne soit monopolisée que par deux pays ou quelques pays.” Il a exhorté à la coopération internationale, en particulier entre les pays comme le Japon, l’Inde, le Brésil et l’UE, pour empêcher la domination des États-Unis et de la Chine.
Malgré ces avertissements, Harari est optimiste. “L’IA peut inventer de nouveaux médicaments, peut nous aider à lutter contre le changement climatique”, a-t-il déclaré. Mais il a mis en garde contre l’imprévisibilité de l’IA, qui en fait “une intelligence étrangère” actuellement. Le défi à relever ? “Vous ne pouvez pas prédire quel genre d’idées l’IA inventera ou quel genre de décision elle prendra.”
Les critiques de la communauté scientifique et des universitaires
« Sapiens » de Yuval Noah Harari a été critiqué par des scientifiques et des universitaires pour son approche spéculative et le manque de preuves rigoureuses. L’anthropologue Christopher Robert Hallpike a rejeté le livre en disant qu’il ne faisait aucune “contribution sérieuse à la connaissance”, le décrivant comme étant un infotainment rempli de spéculations sensationnelles plutôt que d’une analyse substantielle. De même, Charles C. Mann a critiqué les affirmations de Harari en les qualifiant de non sourcées et trop simplistes, les comparant à des « discussions de dortoir ».
De plus, les explications évolutives de Harari sur la religion et la cognition humaine ont été qualifiées de réductrices ; son recours à des “mutations génétiques accidentelles” et à des suppositions naturalistes simplifie des phénomènes complexes, sans tenir compte des intrications religieuses et sociétales plus profondes. Ces critiques mettent en évidence la tendance du livre à s’appuyer sur un récit engageant plutôt que sur une rigueur scientifique.
Image via Shutterstock