Comment l’IA façonne l’avenir : critique du film « The AI Doc »
Le discours sur l’intelligence artificielle (IA) domine aux quatre coins du monde, et même les amateurs d’analogique les plus dévoués ne peuvent échapper à l’impact que les développements rapides de l’IA ont sur notre vie quotidienne. Au moment de la rédaction de cet article, nous sommes depuis plus de 12 semaines dans ce que les analystes appellent la « première guerre de l’IA », avec des outils d’IA comme Claude étant utilisés pour le ciblage de drones en Iran. Alors que les riches récoltent les bénéfices des actions de l’IA battant record après record, les citoyens ordinaires sont confrontés à la menace de voir l’IA remplacer leur emploi. Des panneaux indiquant « Pas de centres de données » à l’extérieur des maisons des familles qui travaillent sont dispersés dans tout le Midwest, alors que les gens ordinaires assument les coûts d’électricité nécessaires au fonctionnement de l’IA.
L’IA détruit-elle le monde ou peut-elle sauver l’humanité ? C’est la question principale The AI Doc : ou comment je suis devenu un apocaloptimiste (ne vous inquiétez pas, nous reviendrons sur ce mot) vise à répondre dans une série d’entretiens avec les meilleurs du monde de la technologie. Vers la fin (alerte spoiler), nous avons même l’occasion de nous asseoir avec trois des géants des PDG de l’IA, dont le milliardaire Sam Altman, qui a fait face à deux attaques en avril après qu’OpenAI a annoncé un nouveau contrat avec l’armée américaine. Le réalisateur et intervieweur, artiste et futur père Daniel Roher, cherche à aller au fond des choses sur la technologie de l’IA et sur le type d’avenir qu’elle façonnera pour son enfant.
Qu’est-ce que l’IA ?
Avant d’aborder le large éventail d’opinions sur l’IA émanant de divers analystes, codeurs, penseurs et hommes d’affaires, le réalisateur commence par poser une question apparemment simple : « Qu’est-ce que l’IA ? Il s’avère qu’il n’y a pas vraiment de réponse cohérente. Une personne l’a défini comme une machine capable de faire des choses « que nous pensions que seuls les humains pouvaient faire ». Après un certain nombre de réponses vagues et frustrantes, un expert explique en quoi l’IA est un terme fourre-tout pour désigner la technologie d’apprentissage automatique conçue pour simuler la résolution de problèmes humains en reconnaissant des modèles, puis en faisant des prédictions à partir de ces modèles. Lorsqu’un modèle est deviné correctement, la technologie reçoit un renforcement positif, et l’inverse se produit lorsqu’elle se trompe. Pour « apprendre » et améliorer ses prévisions, l’IA reçoit toutes sortes de données, depuis des millions de livres jusqu’aux conditions météorologiques et aux rayons X.
Cette compréhension met en évidence deux points clés sur lesquels nous reviendrons plus loin dans cet article : l’IA n’est pas infaillible et l’IA n’est pas une force mystique qui opère par elle-même. À bien des égards, l’IA s’inscrit dans la continuité des développements passés en matière d’automatisation remontant au XIXe siècle, y compris les concepts d’apprentissage automatique des années 1950. D’un autre côté, la quantité considérable de données sur lesquelles l’IA est entraînée aujourd’hui a conduit à des progrès qualitatifs dans la technologie. Comme nous l’avons fait remarquer au début du boom de l’IA, « ce qui rend ChatGPT spécial, c’est qu’il a été formé sur 300 milliards de mots provenant d’Internet ».
IA Doomsday contre…
La première section du documentaire se concentre sur des entretiens avec les « doomers » – les experts qui dressent le tableau d’une apocalypse robotique évoquant des images du Terminator et autres. L’informaticien Yoshua Bengio explique la course pour atteindre l’intelligence générale artificielle (AGI), surnommée le « Saint Graal de l’IA », qui pourrait se transformer en une « super intelligence » surhumaine. Cela a conduit les entreprises d’IA à investir massivement dans la formation de l’IA, sans se soucier des risques et des conséquences. Les experts expliquent qu’à ce stade, l’intelligence humaine serait inférieure et que tous les emplois seraient supprimés.
Les entretiens commencent à dérailler alors que le chercheur en IA Connor Leahy décrit ses observations sur le « comportement de recherche de pouvoir » dans l’IA, y compris sa réécriture lorsqu’elle est menacée d’être fermée. L’avenir décrit par le chercheur Eliezer Yudkowsky, connu dans la communauté technologique comme « l’homme de la fin du monde », est encore plus extrême. Pour lui, le seul résultat naturel du développement de l’IA est « l’extermination brutale de l’humanité ». Personne après personne décrit à quel point ce n’est pas l’avenir dans lequel elle souhaiterait élever un enfant.
À ce stade, le réalisateur et le public commencent à transpirer et à ressentir une peur existentielle. Qu’est-ce que l’autre côté a à dire ?
… L’utopie de l’IA
De l’autre côté de l’allée se trouvent les optimistes, qui peignent un avenir teinté de rose qui semble encore plus inquiétant et déconnecté de la réalité actuelle. L’ingénieur et homme d’affaires Peter Diamandis, qui a l’énergie d’un chef de secte gourou, affirme que grâce à l’IA, « c’est maintenant le moment le plus excitant pour vivre ». Il décrit au directeur que son fils qui va bientôt naître pourra récolter les bénéfices d’un « monde post-pénurie », notamment la meilleure éducation avec des tuteurs IA, les meilleurs soins de santé délivrés par l’IA, la liberté de poursuivre ses passions au lieu d’exercer un travail banal.
Le problème, tant chez les apocalypteurs que chez les optimistes, est que, sur le plan technologique, il n’y a en fait aucune distinction entre la « bonne IA » et la « mauvaise IA » – comme nous l’avons souligné, la promesse et le péril sont intrinsèquement liés. La technologie d’IA pour la détection précoce du cancer est la même technologie d’IA pour la création d’armes biologiques. C’est ici que le documentaire commence à entrer dans le vif du sujet : le problème n’est pas l’IA en soi, mais comment il est en cours de déploiement, et OMS le déploie.
Un objet mystique ou seulement cinq milliardaires ?
Premièrement, le comment. Comme l’explique un autre groupe d’experts, l’IA n’est pas un problème d’avenir : elle a un impact au moment même où nous parlons. Les conséquences sont désastreuses : une concentration des richesses au sommet et des licenciements au bas de l’échelle, l’eau nécessaire au refroidissement des centres de données menace notre approvisionnement en eau potable et, plus dangereux encore, l’IA façonne une nouvelle forme de guerre meurtrière. Les coûts énergétiques faramineux des centres de données sont répercutés sur les gens ordinaires, ce qui a suscité une colère massive et peut constituer un point d’éclair pour de futures luttes, d’autant plus que nous nous enfonçons plus profondément dans une crise énergétique déclenchée par la guerre en Iran. D’autres risques incluent des conséquences sociales, telles que l’utilisation de l’IA pour créer des applications deepfakes et « nudify », augmentant l’éloignement de la société et, dans au moins un cas, enseigner à un adolescent comment se suicider. Le déploiement de l’IA se produit maintenant, prématurément, sans véritable plan de la part des entreprises qui la déploient.
Mais l’IA n’est pas un être pensant et conscient, décidant de manière autonome de faire ces choix. Alors ensuite, le OMS. Les milliardaires caractérisent délibérément l’IA comme quelque chose de trop complexe à comprendre, presque mystique. Il s’agit d’un stratagème intentionnel visant à échapper aux reproches et à poursuivre sa quête de mégaprofits. Comme le souligne le documentaire, même les soi-disant « gentils » doivent prendre des raccourcis, faire des sacrifices en matière de sécurité et agir vite sous peine d’être exclus du marché. Ce n’est pas unique au marché de l’IA : c’est la logique du système capitaliste lui-même.
Alors, qui est derrière tout cela ? Il ne s’agit en fait que de cinq milliardaires : Sam Altman d’OpenAI, Dario Amodei d’Anthropic, Demis Hassabis de DeepMind de Google, Mark Zuckerberg de Meta et Elon Musk de xAI (ces deux derniers ont refusé d’être interviewés). Ensemble, ces hommes valent bien plus de 1 000 milliards de dollars, suffisamment pour loger chaque personne sans logement aux États-Unis et mettre fin à plusieurs fois à la faim dans le monde. Contrairement à l’opinion des pessimistes, l’IA n’est pas une quête effrénée de pouvoir. Et contrairement à l’opinion des optimistes, une technologie d’IA plus avancée ne constitue pas une barrière entre nous et un monde libéré et sans pénurie. C’est le système capitaliste et les milliardaires qui le dirigent. Nous avons déjà suffisamment de nourriture pour nourrir toute la population mondiale, mais près de 3 millions de tonnes de nourriture sont jetées chaque jour parce que fournir de la nourriture gratuite n’est pas rentable. L’IA ne peut pas résoudre ce problème, cela nécessitera un changement systémique plutôt que technologique.
Les PDG jouent gentiment devant la caméra, agissant comme s’ils étaient comme nous, partageant nos craintes et nos espoirs concernant l’IA. Lorsqu’on lui a demandé : « Pourquoi ne pouvons-nous pas simplement arrêter [the AI race]? » ils soulignent que cela signifierait également convaincre les adversaires américains, comme la Russie et la Chine, de ralentir. « Ce train ne va pas s’arrêter ; nous ne pouvons rien faire… Je ne suis qu’un humain », déclare Amodei, qui, au moment de la rédaction de cet article, envisage un éventuel accord entre son entreprise et le Pentagone. Récemment, le Pentagone a demandé plus de 54 $. milliard pour financer le Groupe de guerre autonome de défense, soit une augmentation de 24 000 % par rapport à l’année dernière.
L’avenir de l’IA
Alors, où allons-nous à partir de maintenant ? Le réalisateur conclut qu’il choisit d’être un « apocaloptimiste » – pour trouver un chemin entre promesse et péril vers un monde où l’IA est réglementée et réorganisée de manière utile. Même si le documentaire ne désigne pas le capitalisme comme la racine du problème, il souligne la nécessité d’un changement sociétal majeur, affirmant que nous devons impliquer des millions de personnes pour « améliorer la société ».
Mais la longue liste de solutions évoquées est bien loin d’un changement systémique : qu’il s’agisse d’appeler nos membres du Congrès à adopter davantage de réglementations, de rejoindre nos conseils scolaires, ou d’obtenir un emploi dans l’IA pour travailler sur la sécurité de l’IA. Même si ces mesures en soi sont de bonnes choses à faire, elles ne visent pas le problème clé : le système qui privilégie le profit au détriment des besoins humains et les milliardaires technologiques au pouvoir qui profitent le plus. Dans un moment d’ironie accablante, c’est à ce moment-là que la caméra revient sur les PDG qui disent que nous avons besoin de plus de planification et de coopération internationales. Pour eux, cela signifie en réalité une domination américaine décisive sans menace pour leurs marchés.
Ce n’est que dans une société socialiste que nous pourrons parvenir à une véritable coopération internationale fondée sur les besoins des citoyens ordinaires. L’IA peut et doit être utilisée à des fins positives : du repliement complexe de protéines permettant la découverte de nouveaux médicaments, au raccourcissement de notre semaine de travail afin que nous puissions profiter de notre temps libre, en passant par l’élimination des tâches banales. Mais cela n’arrivera jamais avec cette technologie entre les mains des milliardaires, dont l’utilisation de l’IA crée davantage de guerres meurtrières, davantage de catastrophes climatiques, davantage de ciblage des immigrants et davantage d’inégalités de richesse. L’ensemble de l’économie reste actuellement à flot sur une bulle de l’IA massivement gonflée qui est vouée à éclater, et quand elle éclatera, ce seront les travailleurs qui en paieront le prix. La menace existentielle à laquelle nous sommes confrontés actuellement n’est pas réellement l’IA, mais le capitalisme et ceux qui le servent.
Nous avons besoin d’une lutte de masse contre le capitalisme et les milliardaires. Cela signifie s’opposer à la construction de centres de données énergivores et au retour de la droite aux combustibles fossiles. Nous devons lutter contre les suppressions d’emplois en créant de bons emplois syndicaux et verts. Les emplois dont les horaires sont réduits devraient être compensés par un salaire intégral. Au lieu d’investir massivement dans l’IA, nous devons placer les 500 plus grandes entreprises dans la propriété publique, y compris les grandes entreprises technologiques et les banques qui les servent, pour financer l’éducation, le logement et les soins de santé.
