Le Vatican craint que l’IA mène au « contrôle social » et à la « manipulation »

Le Vatican s’est inquiété mercredi que l’intelligence artificielle puisse mener au « contrôle social » et à la « manipulation », appelant à se concentrer davantage sur les relations humaines pour contrer les effets déshumanisants de la technologie.

Dans un document intitulé en latin « Quo Vadis, Humanitas ? » (Où vas-tu, Humanité ?), la Commission internationale de théologie du Vatican affirme que l’humanité doit faire face à « des risques jamais imaginés auparavant » en provenance de la technologie.

« Aujourd’hui, nous assistons à une perte du sens de l’Histoire et à une réduction de l’expérience au profit du moment fugitif », est-il écrit dans ce document approuvé par le pape Léon XIV. « La culture numérique tend à (…) transformer la culture vivante de la mémoire et de l’espoir en une culture postmoderne d’un présent refermé sur lui-même ».

Pour le Vatican, l’IA crée un monde « hyperconnecté » avec « une accélération toujours plus forte des dynamiques économiques, politiques, sociales et militaires qui risquent de devenir incontrôlables et, par conséquent, ingouvernables ».

« Dans un tel monde, l’action humaine elle-même devient un matériau qui doit être analysé et formaté en fonction d’objectifs de pouvoir ou de marché qui ne sont pas toujours transparents. Le contrôle social augmente, de même que le risque de manipulation », déplore-t-il.

Les relations, en particulier au sein des familles, sont « une barrière contre l’extension d’une mondialisation homogénéisante, qui n’aide pas toujours à former des liens authentiques », affirme le document du Vatican.

Le pape lui-même a lancé plusieurs mises en garde contre les risques de l’IA générative.

Le 24 janvier, il avait dénoncé « l’absence de transparence dans la création des algorithmes » qui règlent le fonctionnement des différents chatbots. « Derrière cette énorme force invisible qui nous concerne tous, il y a seulement quelques entreprises », avait-il déploré, craignant « un contrôle oligopolistique (…) de l’IA ».

Fin décembre, il avait aussi dénoncé la course à l’IA dans le domaine militaire, voyant dans « la délégation aux machines des décisions concernant la vie et la mort des personnes humaines » une « spirale destructrice ».

AFP