Oxford. Le président du Tribunal fédéral brésilien (STF), Luís Roberto Barroso, a exprimé « son optimisme et son inquiétude » face à l’utilisation croissante de l’intelligence artificielle (IA) lors d’un événement organisé au Brazil Forum UK 2024. Selon le juge en chef, l’IA offre de nombreux avantages pour la société, mais présente également des risques. Il faut en discuter, comme la diffusion massive de la désinformation.
Le Brazil Forum UK est organisé chaque année par des étudiants brésiliens au Royaume-Uni.
Pour Barroso, qui a également ouvert le forum en tant qu’intervenant, l’IA est plus capable de prendre des décisions que les humains dans certains domaines, car elle peut traiter plus d’informations à un rythme plus rapide, automatiser les activités et générer du langage, du contenu, du texte et des images.
Cependant, Barroso a également souligné les risques de cette technologie. Il s’inquiète de l’impact de l’IA sur le marché du travail à travers la perte d’emplois, l’utilisation de la technologie à des fins militaires, l’invasion de la vie privée par l’utilisation généralisée des données et la discrimination algorithmique. L’une des plus grandes craintes est le risque de désinformation massive avec le recours aux fausses nouvelles et aux deep fakes, a-t-il déclaré dans son discours.
Il a également exprimé la crainte que les algorithmes puissent accroître la discrimination à l’égard des groupes vulnérables de la société.
En ce qui concerne le monde du travail, certaines professions pourraient disparaître, ce qui nécessitera la création de programmes sociaux par l’État. « Il y aura une lacune. Un chauffeur de bus ne deviendra pas programmeur du jour au lendemain », a déclaré Barroso.
Selon lui, l’IA pourrait apporter des avantages au système judiciaire en termes de rapidité, d’efficacité et d’égalité. Il a toutefois souligné que les applications de l’IA ne remplaceront pas le rôle du « juge responsable » mais constitueront davantage un outil qu’une technologie autonome.
« Je vois l’essor de l’IA dans le processus décisionnel (des procédures judiciaires) sans trop de parti pris tant qu’il y a un jugement humain responsable, car les juges ne sont pas élus. Ce qui donne de la légitimité à la décision d’un juge, c’est sa capacité à prouver rationnellement que le jugement est juste et constitutionnel, et ils ne sont pas exemptés de cette obligation, même si la décision est prise via un processus d’IA », a-t-il déclaré.
Le « plus grand cauchemar » serait que les ordinateurs contrôlés par l’IA développent leur conscience et leur propre volonté. « Si cela se produit, ils conquériront le monde », a prévenu le président du STF.
Cependant, Barroso considère que réglementer l’IA au Brésil est une tâche « difficile » compte tenu de la rapidité de l’évolution technologique. Selon lui, la régulation de l’IA devrait se concentrer sur trois piliers : 1. les droits fondamentaux, tels que la vie privée et la liberté d’expression ; 2. Protéger la démocratie en luttant contre la désinformation et les discours de haine ; et 3. Une gouvernance transparente avec contrôle humain.
Afin de réglementer l’utilisation de l’IA au Brésil, le gouvernement a soumis un projet de loi au Parlement. Le projet de loi est actuellement discuté au Sénat et passera ensuite par la Chambre des députés.
Le Brésil porte également le sujet de l’IA sur la scène internationale dans le cadre du G20. Le gouvernement de Lula da Silva, qui assumera la présidence des pays du G20 en 2024, s’engage à exploiter les possibilités de l’IA pour la justice sociale et le développement durable.