Les démocraties résisteront-elles à Big Brother ?

Les progrès rapides de l’IA et des outils de surveillance améliorés par l’IA ont créé un besoin urgent de normes et de coordination internationales pour établir des normes raisonnables. Mais avec des régimes autoritaires oppressifs peu susceptibles de coopérer, les démocraties du monde devraient commencer à se préparer à jouer au hardball économique.

CAMBRIDGE – Les écrivains de fiction imaginent depuis longtemps des scénarios dans lesquels chaque action humaine est surveillée par une autorité centralisée malveillante. Mais maintenant, malgré leurs avertissements, nous nous retrouvons à nous diriger vers un avenir dystopique digne de George Orwell. 1984. La tâche d’évaluer comment protéger nos droits – en tant que consommateurs, travailleurs et citoyens – n’a jamais été aussi urgente.

Une proposition sensée consiste à limiter les brevets sur les technologies de surveillance afin de décourager leur développement et leur utilisation excessive. Toutes choses étant égales par ailleurs, cela pourrait éloigner le développement des technologies liées à l’IA des applications de surveillance – du moins aux États-Unis et dans d’autres économies avancées, où la protection des brevets est importante et où les investisseurs en capital-risque hésiteront à soutenir les entreprises dépourvues de solides capacités intellectuelles. droits de propriété. Mais même si de telles mesures sensées sont adoptées, le monde restera divisé entre les pays dotés de garanties efficaces en matière de surveillance et ceux qui n’en ont pas. Nous devons donc également considérer la base légitime du commerce entre ces blocs émergents.

Les capacités de l’IA ont fait un bond en avant au cours des 18 derniers mois, et il est peu probable que le rythme de développement ultérieur ralentisse. La sortie publique de ChatGPT en novembre 2022 a été le coup d’IA génératif entendu dans le monde entier. Mais tout aussi importante a été l’augmentation tout aussi rapide des capacités de surveillance des gouvernements et des entreprises. Étant donné que l’IA générative excelle dans la correspondance de modèles, elle a rendu la reconnaissance faciale remarquablement précise (mais non sans quelques défauts majeurs). Et la même approche générale peut être utilisée pour faire la distinction entre un « bon » comportement et un comportement problématique, en se basant simplement sur la façon dont les gens bougent ou se comportent.