Le désert post-humain
Contrairement aux innovations technologiques passées, l’intelligence artificielle ne concerne pas la maîtrise de l’humanité sur la nature, mais plutôt l’abandon total du contrôle. Que nous en soyons conscients ou non, la vieille arrogance anthropocentrique que la technologie permet pourrait bientôt céder la place à l’absence de pertinence humaine et à l’absence de sens.
LJUBLJANA – L’Institut du futur de la vie lettre ouverte exigeant une pause de précaution de six mois sur le développement de l’intelligence artificielle a déjà été signé par des milliers de personnalités, dont Elon Musk. Les signataires craignent que les laboratoires d’IA ne soient « enfermés dans une course incontrôlable » pour développer et déployer des systèmes de plus en plus puissants que personne – y compris leurs créateurs – ne peut comprendre, prédire ou contrôler.
Qu’est-ce qui explique cet accès de panique chez une certaine cohorte d’élites ? Le contrôle et la régulation sont évidemment au centre de l’histoire, mais de qui ? Pendant la pause de six mois proposée où l’humanité pourra faire le point sur les risques, qui défendra l’humanité ? Étant donné que les laboratoires d’IA en Chine, en Inde et en Russie poursuivront leurs travaux (peut-être en secret), un débat public mondial sur la question est inconcevable.
Pourtant, nous devrions considérer ce qui est en jeu, ici. Dans son livre de 2015, Homo Deus, l’historien Yuval Harari a prédit que le résultat le plus probable de l’IA serait une division radicale – bien plus forte que la division de classe – au sein de la société humaine. Bientôt, la biotechnologie et les algorithmes informatiques joindront leurs pouvoirs pour produire « des corps, des cerveaux et des esprits », ce qui créera un fossé grandissant « entre ceux qui savent comment concevoir des corps et des cerveaux et ceux qui ne le savent pas ». Dans un tel monde, « ceux qui prennent le train du progrès acquerront des capacités divines de création et de destruction, tandis que ceux qui resteront seront confrontés à l’extinction ».
