Gouverner l’inconnu

Les avancées majeures de l’IA soulèvent une série de préoccupations concernant l’éducation, le travail, la guerre et d’autres risques qui pourraient déstabiliser la civilisation humaine bien avant le changement climatique. Si des réponses politiques sont nécessaires de toute urgence, elles doivent également être guidées par les bons principes.

ITHACA, NEW YORK – La technologie change le monde plus rapidement que les décideurs ne peuvent concevoir de nouvelles façons d’y faire face. En conséquence, les sociétés se polarisent, les inégalités augmentent et les régimes autoritaires et les entreprises trafiquent la réalité et sapent la démocratie.

Pour les gens ordinaires, il y a de bonnes raisons d’être « un peu peur« , comme le PDG d’OpenAI, Sam Altman, a récemment Mets-le. Les avancées majeures de l’intelligence artificielle soulèvent des inquiétudes concernant l’éducation, le travail, la guerre et d’autres risques qui pourraient déstabiliser la civilisation bien avant le changement climatique. À son crédit, Altman exhorte les législateurs à réglementer son industrie.

Face à ce défi, nous devons garder deux préoccupations à l’esprit. Le premier est le besoin de vitesse. Si nous prenons trop de temps, nous pouvons nous retrouver à fermer la porte de la grange après que le cheval se soit enfui. C’est ce qui s’est passé avec le Traité de non-prolifération nucléaire de 1968 : il est arrivé 23 ans trop tard. Si nous avions réussi à établir des règles minimales après la Seconde Guerre mondiale, l’objectif ultime du TNP, à savoir le désarmement nucléaire, aurait peut-être pu être atteint.