Quels risques liés à l’IA sont importants ?

Même si les prédictions trop confiantes sur l’intelligence artificielle sont aussi anciennes que le domaine lui-même, il y a de bonnes raisons de prendre au sérieux les risques associés à cette technologie. À l’instar d’une future frappe d’astéroïde, l’émergence d’une intelligence susceptible de marginaliser l’humanité est aussi plausible que l’évolution humaine elle-même.

CAMBRIDGE – Le problème dit des gorilles hante le domaine de l’intelligence artificielle. Il y a environ dix millions d’années, les ancêtres des gorilles modernes ont donné naissance, par pur hasard, à la lignée génétique de l’homme. Tandis que les gorilles et les humains partagent encore près de 98% de leurs gènesles deux espèces ont emprunté des chemins évolutifs radicalement différents.

Les humains ont développé un cerveau beaucoup plus gros, ce qui a conduit à une domination mondiale effective. Les gorilles sont restés au même niveau biologique et technologique que nos ancêtres communs. Ces ancêtres ont engendré par inadvertance une espèce physiquement inférieure mais intellectuellement supérieure dont l’évolution impliquait leur propre marginalisation.

Le lien avec l’IA devrait être évident. En développant cette technologie, les humains risquent de créer une machine qui les surpassera – non pas par accident, mais par conception. S’il existe une course entre les développeurs d’IA pour réaliser de nouvelles avancées et conquérir des parts de marché, il existe également une course au contrôle entre les humains et les machines.