"Des outils d’IA sont déjà en développement pour obtenir, déduire, collecter, enregistrer, comprendre, prévoir et, en fin de compte, manipuler et transformer en marchandises" les décisions à venir des internautes, explique Yaqub Chaudhary, l’un des co-auteurs, du Leverhulme Centre for the Future of Intelligence (LCFI) de Cambridge —un centre de recherche interdisciplinaire consacré à l’IA [1].

Ce commerce serait centré sur les intentions des utilisateurs, par exemple leurs futurs achats ou leurs prochains votes. Il irait donc au-delà de la pratique actuelle, qui vise à vendre au plus offrant l’attention d’un utilisateur, en particulier sur les réseaux sociaux, pour lui soumettre par exemple une publicité ciblée en fonction de ses habitudes de navigation ou de son historique.

Agents conversationnels anthropomorphes

Concrètement, notre familiarité croissante avec des agents conversationnels anthropomorphes (chatbots, assistants vocaux, petites amies virtuelles…) basés sur l’IA pourrait permettre aux entreprises qui les gèrent de glaner les données psychologiques et comportementales intimes concernant leurs utilisateurs. Des données qui pourront être utilisées, non seulement pour prédire, mais aussi pour influencer plus facilement leurs intentions, selon les auteurs de cet article publié dans le Harvard Data Science Review.

"Avez-vous songé à aller voir Spiderman ce soir ?" ou "Vous avez dit que vous vous sentiez surmené, puis-je vous réserver cette place de cinéma dont nous avons parlé ?", citent les auteurs de l’article comme exemples de suggestions d’un "chatbot".

Des propositions "à vendre" via un système d’enchères en temps réel, qui pourraient aussi concerner un hôtel, la location de voiture ou le vote pour un candidat politique.

Faire commerce des intentions

Cette "économie de l’intention", comme l’appellent les chercheurs, ouvre la voie à une potentielle "manipulation sociale à l’échelle industrielle", selon le communiqué qui accompagne cet article.

"Nous devrions commencer à réfléchir à l’impact probable d’un tel marché sur les aspirations humaines, notamment des élections libres et équitables, une presse libre et une concurrence loyale sur le marché", affirme Jonnie Penn, co-auteur de l’étude.

"Ce que les gens disent lorsqu’ils conversent, la manière dont ils le disent et le type d’interférences" possibles "sont bien plus intimes que le simple enregistrement des interactions en ligne", souligne Yaqub Chaudhary.

Les chercheurs remarquent que des entreprises comme OpenAI (ChatGPT), Shopify, Nvidia, Meta ou Apple ont commencé se pencher sur ces "technologies persuasives".