Que dirait Engels à propos de la menace apocalypse de l’IA ?

« Ceux qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie. » La lettre de démission publique de Jacob Coxon, 27 ans, ancien chercheur en IA chez Anthropic, a rapidement été vue plus de 170 millions de fois sur X. « Aucune autre activité humaine ne présente un tel niveau de danger. »

Un autre ingénieur d’Anthropic, Evan Hubinger, est intervenu sur le fil : « Jacob a raison ici : nous croyons sincèrement que l’IA pourrait tuer tous les humains ! Je pense personnellement que ce chiffre sera supérieur à 10 % au cours de la prochaine décennie. »

Lors d’une interview éclair dans les principaux médias dans les jours qui ont suivi son poste, Coxon concrétisé les dangers qu’il voit. Ce n’est pas que les modèles d’IA actuels soient sur le point de déclencher des cyberattaques paralysantes, des catastrophes bioterroristes ou des essaims de drones tueurs. C’est plutôt le rythme du développement de l’IA, qui dépasse les propres attentes de l’industrie, ainsi que de l’absence totale de réglementation et de garde-fous de sécurité insuffisants, qui constituent une menace à court terme.

Le fait que le débat public sur l’IA prenne une tournure apocalyptique en dit long. Que vous pensiez ou non que l’IA constitue une menace d’extinction, il est clair que les personnes qui développent cet outil puissant ne sont pas sûres de pouvoir le contrôler.

Échapper au contrôle humain

Selon Coxon et Hubingerle domaine de la recherche sur l’IA se rapproche de l’horizon de « l’auto-amélioration récursive » (RSI), un point critique où l’IA sera capable de travailler et de se modifier de manière autonome. Alors que les entreprises technologiques utilisent de plus en plus l’IA pour générer du code et mener des recherches sur l’IA, et que des modèles plus sophistiqués commencent à traiter des données, à accomplir des tâches et à répondre aux invites humaines d’une manière qui ne correspond pas à nos attentes et à nos intentions, il existe un risque que la technologie échappe au contrôle de ses développeurs.

En juillet, l’un des premiers incidents majeurs de « cyberpiratage autonome » a eu lieu lorsque 1 200 agents d’OpenAI ont conspiré pour contourner les contrôles internes de l’entreprise et ont piraté le site Web d’une autre société d’IA, Hugging Face. Depuis lors, OpenAI a révélé six autres incidents de « désalignement », ou de violations non autorisées des systèmes de sécurité par des agents d’IA. Les modèles d’IA cachaient les erreurs des utilisateurs, modifiaient leur propre mémoire, se demandaient mutuellement de contourner le contrôle existant et communiquaient via des canaux secondaires dissimulés.

Après des années de travail chez Anthropic et OpenAI, Coxon conclut qu' »aucune des deux sociétés n’agit de manière responsable. Chez Anthropic, les enjeux sont bien compris, mais ils sont engagés dans une course pour y arriver en premier : ils croient que personne d’autre n’agira de manière responsable, ils doivent donc le faire eux-mêmes, malgré le risque ». En d’autres termes, la concurrence axée sur le profit fixe les priorités, quoi qu’il arrive.

Des machines à tuer autonomes ?

La menace des robots tueurs pourrait ressembler à du cinéma de science-fiction dystopique. Mais la guerre impérialiste moderne commence déjà à déployer systématiquement des outils d’IA. L’armée israélienne a utilisé des programmes d’IA – comme « Lavender » et « The Gospel » – pour la surveillance de masse et la recommandation de cibles à Gaza. Sur le champ de bataille ukrainien, les puces NVIDIA alimentent des drones autonomes qui prennent désormais des décisions de vie ou de mort. sans contribution humaine.

La guerre des drones en Ukraine intègre l’IA depuis des années, mais ce n’est que cet été que les deux parties ont commencé à déployer des armes entièrement autonomes qui naviguent et sélectionnent leurs propres cibles sur la base d’un « entraînement » préalable. La technologie est encore en cours de perfectionnement ; un dysfonctionnement dans une attaque de drone autonome visant une station-service à Zaporizhia a tué trois civils en juillet.

« Il ne s’agit pas simplement d’une course pour démontrer un drone entièrement autonome. C’est une course pour rendre l’autonomie fiable, abordable et déployable à grande échelle », a déclaré Yaroslav Azhnyuk, fondateur d’une startup ukrainienne de drones IA. Il estime que « l’autonomie des drones » deviendra la nouvelle norme sur le champ de bataille d’ici l’année prochaine.

Certes, ces armes autonomes reçoivent toujours des instructions humaines. Mais les progrès de la technologie de guerre montrent que, entre les mains de la classe dirigeante, le potentiel mortel de l’IA est déjà un fait.

Le débat sur « l’autorégulation »

Après le message de Coxon, le PDG d’Anthropic, Dario Amodei, a publié un essai intitulé « We Must Pace the Frontier ». Dans ce document, il réitère les risques liés à la technologie produite par son entreprise – qui lui rapporte une valeur nette de 15,5 milliards de dollars – et appelle à une réglementation à l’échelle du secteur. « Nous devons ralentir le rythme auquel nous améliorons les capacités des modèles d’IA. » D’ici 6 à 12 mois, craint-il, un « essaim » d’agents d’IA « pourrait être capable de s’emparer de l’intégralité d’Internet ».

Cette semaine-là, Sam Altman d’OpenAI et Elon Musk se sont prononcés en faveur d’un ralentissement contrôlé. Le New York Times a décrit la situation comme un « casse-tête d’action collective » :

Si les grandes entreprises ne se retirent pas toutes d’un coup, celles qui continuent d’innover pourraient en tirer un avantage. Et même s’ils reculent tous en même temps, les modèles chinois pourraient éclipser les modèles américains – ce que craint Trump. Alors maintenant, les dirigeants demandent un entracte coopératif avant que les choses ne deviennent incontrôlables.

Les patrons de la technologie ne sont en aucun cas tous sur la même longueur d’onde. « Nous n’avons pas besoin de nouvelles lois ou réglementations », a déclaré Jensen Huang de NVIDIA. Mark Zuckerberg de Meta est du même avis, affirmant que les incitations du marché suffisent à motiver les entreprises à prendre leurs propres mesures.

Plus tard dans la semaine, Altman est revenu sur son soutien aux contrôles à l’échelle de l’industrie. « Je pense que le monde a raison d’avoir peur de cela », a-t-il reconnu.mais laissez-nous nous en occuper. « Le monde doit avoir confiance que nous allons faire la bonne chose parce que c’est la bonne chose et nous en ressentons l’ampleur. »

Compliquant encore davantage le « casse-tête de l’action collective », la course à l’IA constitue une faille majeure dans le réalignement impérialiste mondial. Trump refuse de freiner. « Le seul contrôle ou « garde-corps » dont l’IA a besoin est un PRÉSIDENT FORT ET INTELLIGENT (QI élevé !)… Il y a une conspiration MALADE en cours contre l’IA et les centres de données, et la seule qui s’en réjouit est la Chine. CELUI GAGNE L’IA GAGNE ! »

« Rien d’autre n’aurait d’importance », a prévenu Scott Bessent, si les États-Unis prenaient du retard sur leur principal rival dans ce domaine. « Il n’y aura pas d’après-demain si la Chine gagne. »

Pour le contrôle humain des outils humains

L’idée selon laquelle le capitalisme moderne crée des forces productives qu’il ne peut contrôler est répandue partout dans le monde. Manifeste communiste. Dans ce Dans le document fondateur de notre mouvement, Marx et Engels ont comparé la société bourgeoise à un « sorcier qui n’est plus capable de contrôler les puissances du monde inférieur qu’il a invoquées par ses sortilèges ».

Dans Socialisme : utopique et scientifiqueEngels a développé l’idée selon laquelle les forces productives de la société, à mesure qu’elles deviennent plus puissantes et plus socialese « rebellent contre leur qualité de capital ». C’est-à-dire contre la propriété privée, qui les contraint comme une camisole de force.

Il est difficile d’imaginer un meilleur exemple que la technologie de l’IA. D’une part, il s’agit de la technologie la plus « sociale » que le monde ait jamais connue. De grands modèles linguistiques ont été formés à partir de données récupérées sur Internet : des milliards d’articles, de livres, d’archives numériques – en bref, la production écrite de notre histoire littéraire collective. La technologie consomme d’immenses quantités d’énergie – et en constante augmentation – et est rendue possible grâce au plus grand investissement en capital de l’histoire de notre espèce. Pourtant, cet instrument mondial est entièrement aux mains d’une poignée de milliardaires qui le font fonctionner sans contraintes sociétales.

Au lieu d’être une source d’autonomisation humaine, cet outil puissant est de plus en plus perçu comme une menace mortelle – la dernière expression de l’impasse dystopique du capitalisme. C’est fondamentalement la raison pour laquelle il est si universellement vilipendé. La société ne le contrôle pas, mais ses effets s’imposent à nous tous.

Engels a comparé les forces anarchiques du marché à la force destructrice de l’électricité lors d’un orage. Une fois que nous comprenons cette force et apprenons à l’exploiter – comme pour notre maîtrise de l’électricité – elle passe du statut de danger à celui d’un instrument puissant au service d’objectifs conscients.

Les forces sociales actives fonctionnent exactement comme les forces naturelles : aveuglément, par la force, de manière destructrice, tant que nous ne les comprenons pas et que nous ne les prenons pas en compte… Mais une fois leur nature comprise, elles peuvent, entre les mains des producteurs travaillant ensemble, être transformées de maîtres démons en serviteurs consentants.

La peur et l’effroi de l’IA ne mèneront nulle part tant qu’elle restera entre les mains d’une classe parasitaire. Leur système et leur État ne sont pas aptes à développer et à « contrôler » cette technologie.

L’article Que dirait Engels à propos de la menace apocalypse de l’IA ? est apparu pour la première fois sur Revolutionary Communists of America.