La Chine surveille ses 1,4 milliard de citoyens. Ceci est rendu possible par un modèle d’IA qui exporte Pékin vers la Russie, par exemple. Les Russes sont conscients du risque de technologie, explique l’expert Michael Rochlitz. Cela devient encore plus dangereux si le président américain Trump les découvre pour lui-même.
.DE: Comment est-il venu que les États autoritaires ont découvert KI à leurs fins?
Michael Rochlitz: La Chine a été le pionnier. Cela a commencé avec le jeu asiatique, qui est beaucoup plus complexe que les échecs. La start-up de Londres Deepmind a développé la première IA en 2016 qui était mieux en Go que les joueurs asiatiques, y compris ceux de Chine. Cette équipe s’est envolée pour Séoul, l’IA y a joué contre le champion du monde coréen Lee Sedol et a remporté quatre matchs sur cinq. C’était le capteur des yeux des Chinois: les experts en informatique occidentale étaient soudainement plus forts que les Asiatiques dans ce jeu très asiatique. De peur de prendre du retard, l’État chinois a ensuite investi massivement dans l’IA. La Chine avait déjà collecté de grandes quantités de données sur la population chinoise, y compris par le biais du système de crédit social …
… Le système de prêts sociaux de l’État, qui évalue les citoyens et les entreprises en fonction de leur comportement et de leur conformité aux lois et réglementations et attribue un score.
Partout en Chine, des caméras avec reconnaissance faciale sont désormais installées qui le rendent possible. Il y a même de nouveaux appartements en Chine sans clés qui ne sont ouvertes que par la reconnaissance faciale. Pékin regroupe désormais des données détaillées de ses citoyens afin d’exercer un contrôle. Les entreprises chinoises reçoivent de grandes quantités de ces données de l’État pour former leur IA. Les entreprises développent ensuite des systèmes de surveillance qui sont transmis aux gouvernements régionaux. Là où cela se produit, il y a une baisse mesurable des manifestations publiques contre le gouvernement. Dans le même temps, ces entreprises ont un avantage de localisation sur les concurrents occidentaux en raison de la grande quantité de données de formation, ce qui conduit à une croissance économique plus élevée. Cela crée une sorte de situation gagnant-gagnant pour l’État autoritaire: la hausse économique et en même temps une meilleure surveillance de la population.
Et d’autres en découvrent?
La Chine exporte ce modèle à travers la nouvelle route de la soie, dans laquelle plus de 60 pays en participent. D’autres États peuvent acheter le modèle sous le nom de Safe City Solutions. Les clients sont, par exemple, la Russie, les États du Golfe et le Kazakhstan. Je visite le Kazakhstan chaque année avec un groupe de recherche. L’année dernière, il y avait des caméras avec reconnaissance faciale partout – sur les bâtiments de l’Unigen, les bus et même dans le téléphérique dans les montagnes. Vous payez avec votre visage. Ceci est pratique, mais peut également avoir des conséquences négatives. Technologiquement, l’accès aux bâtiments ou aux transports locaux peut être bloqué technologiquement. De cette façon, par exemple, des manifestations peuvent être empêchées. Ensuite, les gens restent à la maison.
La Russie a donc acheté le modèle de l’IA en Chine et l’utiliser?
La Russie a acheté des solutions chinoises et développé ses propres systèmes avec la technologie chinoise. Ceux-ci n’ont pas encore été introduits en termes d’espace, mais le métro de Moscou, par exemple, l’a déjà. Dans le métro de Moscou, vous payez avec votre visage, il est donc simplement scanné par la reconnaissance faciale lorsque vous vous lancez. Supposons que quelqu’un reçoive une lettre du bureau de recrutement pour qu’un modèle se bat en Ukraine – et n’apparaît pas là. Si celui conduit Metro, son visage est reconnu et il peut être arrêté.
La Russie est-elle sur le chemin de la surveillance totale et développe-t-elle son propre système de crédit social?
La Russie a développé un système pour les services d’État, la plate-forme numérique « Gosuslugi ». C’est extrêmement avancé. Les Russes peuvent l’utiliser pour payer des impôts, prendre des services médicaux ou enregistrer l’enfant à la maternelle. En attendant, des avis de concession sont également envoyés via Gosuslugi. Il existe un système similaire au Kazakhstan. Si un État relie ces cartes au registre de la police, il a un outil incroyablement puissant pour surveiller les gens.
Que pensent les Russes de ce système?
Nous avons demandé aux gens une étude dans différents pays ce qu’ils pensent de ces systèmes – en Russie, au Kazakhstan, en Estonie, en Allemagne, en Turquie et aux États-Unis. Il y avait deux groupes. Le système avec la peine a été présenté à un groupe que le travail du gouvernement pourrait rendre le travail beaucoup plus efficace. Dans tous les pays, 60 à 70% des répondants ont ensuite accepté ce système. Cependant, nous avons donné au deuxième groupe des informations supplémentaires: le système est efficace, mais le gouvernement peut également l’utiliser pour le surveiller et empêcher les protestations. Cela réduit en moyenne 5 à 10 points de pourcentage dans tous les pays. La seule exception: la Russie où l’acceptation a diminué de 25 points de pourcentage.
De toutes les personnes en Russie?
Nous avons réalisé l’enquête en octobre 2022 et interviewé 2462 personnes en Russie. Notre évaluation est que les Russes avaient particulièrement peur du Kremlin après le début de la guerre. Nous avons effectué l’enquête un mois après la mobilisation partielle et quelques mois après le début de l’invasion de l’Ukraine. À cette époque, toutes les chaînes de télévision de l’opposition ont été éteintes en Russie et Alexej Nawalny était en prison. C’était le tournant vers un État complètement autoritaire sans aucune liberté.
Les Russes sont donc parfaitement conscients de la dangereuse de l’État autoritaire dans lequel ils vivent?
Oui, il semble y avoir une conscience du danger subliminal. Si vous éteignez un peu les répondants russes et indiquez le danger potentiel d’un tel système technique, beaucoup le rejettent. Dans le même temps, toute forme de protestation en Russie est devenue impossible, en particulier à cause de la présence policière partout. Il n’y a plus de forme de société civile qui peut être rebellée contre l’introduction de ces systèmes. C’est pourquoi il est plus facile d’introduire quelque chose en Russie que dans les États démocratiques comme l’Allemagne.
Et que se passe-t-il dans les États qui introduisent de telles technologies d’IA pour la surveillance?
Une fois la technologie introduite, elle soutient l’autocratie – et un changement à la démocratie devient plus difficile. Dans de nombreux pays, il y avait des mouvements de pendule, parfois vers la démocratie, parfois vers l’autocratie. Après les manifestations du printemps arabe, par exemple, le pendule de ces pays a exclu dans la direction de la démocratie, puis à nouveau dans la direction autocratique à travers de nouveaux dictateurs. Si un dictateur présente cette technologie, elle peut faire en sorte que les gens qui veulent protester plus facilement derrière le château et le bar. Ensuite, les pays restent autocratiques. Imaginons cela aux États-Unis lorsque le président Donald Trump dit: Ce système d’IA est maintenant introduit pour un gouvernement efficace. Ensuite, il perd le choix suivant et n’accepte pas cela. Si les gens veulent descendre dans la rue, ils ne peuvent plus le faire en raison de la surveillance.
Les États-Unis sont en plus de la Chine lorsqu’il s’agit de développer une IA. Trump reconnaîtra-t-il le potentiel et l’utilisera-t-il pour lui-même?
Les États-Unis sont un leader de la meilleure recherche absolue, mais pas dans le domaine de la technologie de surveillance. Les Chinois sont en avance. Les États-Unis n’ont pas encore la possibilité que l’État utilise simplement les données de tous les Américains pour la surveillance. Et Trump est probablement sur le chemin parce qu’il s’intéresse à quelque chose d’autre chaque jour. Maintenant, il veut cet avion du Qatar, autre chose demain. La stratégie à long terme est manquante. Mais beaucoup est recherché dans la Silicon Valley. Et les milliardaires technologiques dans l’environnement de Trump reconnaissent le potentiel de l’IA.
Si ce n’est pas l’emporte-t-il, les milliardaires de technologie américains pourraient-ils travailler vers le contrôle total par le biais de l’IA?
En arrière-plan, il y a certainement des gens qui poursuivent une stratégie à long terme, par exemple dans les groupes de réflexion conservateurs. Ils pourraient penser: nous avons maintenant cette technologie et nous devons simplement le présenter. Des gens comme Elon Musk reconnaissent depuis longtemps le potentiel de l’IA. Ces personnes pourraient dire: tout bien, alors Trump obtient son avion aujourd’hui – mais en cinq ou dix ans, nous voulons être au pouvoir. Il est donc logique pour eux d’introduire des systèmes d’IA pour la surveillance.
Lea a dit avec Michael Rochlitz