La promesse et le péril de l'IA générative

La menace de l’IA persuasive

Dans un avenir pas si lointain, l’intelligence artificielle générative pourrait alimenter de nouveaux systèmes capables de convaincre au nom de toute personne ou entité. Des tentatives malveillantes d’ingénierie sociale suivraient sûrement, et les efforts visant à étiqueter les interfaces d’IA ne contribueraient pas à protéger les individus contre la manipulation.

LONDRES – Que faut-il pour faire changer d’avis une personne ? À mesure que l’intelligence artificielle générative est de plus en plus intégrée aux systèmes orientés client – ​​pensez aux appels téléphoniques de type humain ou aux chatbots en ligne – c’est une question éthique qui doit être largement abordée.

La capacité de changer les mentalités grâce à un discours raisonné est au cœur de la démocratie. Une communication claire et efficace constitue le fondement de la délibération et de la persuasion, qui sont essentielles pour résoudre des intérêts concurrents. Mais la persuasion a un côté sombre : les faux motifs, les mensonges et la manipulation cognitive – des comportements malveillants que l’IA pourrait faciliter.

Dans un avenir pas si lointain, l’IA générative pourrait permettre la création de nouvelles interfaces utilisateur capables de convaincre au nom de toute personne ou entité disposant des moyens de mettre en place un tel système. Tirant parti de bases de connaissances privées, ces modèles spécialisés offriraient différentes vérités qui rivalisent en fonction de leur capacité à générer des réponses convaincantes pour un groupe cible – une IA pour chaque idéologie. Une vague d’ingénierie sociale assistée par l’IA suivrait sûrement, avec une concurrence croissante qui permettrait aux mauvais acteurs de diffuser plus facilement et à moindre coût la désinformation et de perpétrer des escroqueries.

A lire également