Une entreprise chinoise a tenté de développer une technologie d’intelligence artificielle (IA) qui permettrait aux gouvernements autoritaires non seulement de surveiller les dissidents, mais aussi de prédire qui pourrait le devenir.
Le travail, qui semble être au stade de la recherche, offre un aperçu d’un monde dystopique dans lequel un État autoritaire est capable d’agir contre ses citoyens avant qu’ils contestent l’ordre établi.
L’entreprise Geedge Networks vend déjà une version commerciale du Grand Pare-feu, le logiciel de surveillance et de censure que la Chine utilise pour contrôler l’activité en ligne. Avec ce logiciel, les gouvernements peuvent surveiller l’internet et traquer quiconque tente de contourner la censure.
Mais selon des chercheurs de l’Université Vanderbilt ayant obtenu des documents internes de Geedge, cette firme travaille sur un outil d’IA qui scruterait l’utilisation de l’internet et les données de localisation pour prédire qui pourrait s’opposer au gouvernement en actes ou en paroles.
Une telle technologie, si elle était perfectionnée, donnerait au gouvernement un outil de répression puissant contre sa population.
L’idée qu’un gouvernement utilise l’IA pour réprimer la dissidence est déjà troublante. Mais que l’IA serve à désigner des citoyens comme dissidents potentiels est cauchemardesque, selon plusieurs acteurs de l’industrie.
« C’est ce qui se passe quand on marie la surveillance de masse à l’IA », déplore Brett Goldstein, directeur du Wicked Problems Lab à l’Université Vanderbilt de Nashville. « Sans séparation des pouvoirs, ce que la Chine fait à ses citoyens montre ce qui devient possible partout où ces outils ne sont pas contrôlés. »
Du sable dans l’engrenage
Selon les chercheurs de Vanderbilt, Geedge planche sur une technologie qui générerait des profils de citoyens chinois et utiliserait l’IA pour déterminer qui pourrait représenter un risque politique. Ce projet, qui vise la prochaine génération de technologie chinoise de surveillance, se fait de concert avec MESA Labs, un organisme affilié à l’État chinois.
Cet article est paru dans le New York Times.
Lisez la suite de la version originale (en anglais ; abonnement requis)
FRANCE
