Organisation : principes nécessaires
L’UNESCO voit le danger de la falsification historique générée par l’IA
Les modèles d’IA ont tendance à inventer des événements historiques. Ils peuvent également être formés avec un contenu incorrect. L’UNESCO prévient que cela peut influencer la perception de l’Holocauste. Mais l’organisation a une idée de la façon dont le problème pourrait être résolu.
L’organisation culturelle des Nations Unies, l’UNESCO, a mis en garde contre la négation de l’Holocauste et la falsification de l’histoire générée par l’intelligence artificielle (IA). Si les principes éthiques pour l’utilisation de l’intelligence artificielle, tels que ceux déjà développés par l’UNESCO, ne sont pas appliqués au niveau international, la représentation historique de l’Holocauste pourrait être déformée et l’antisémitisme pourrait être alimenté, selon un rapport de l’UNESCO et de l’Association juive mondiale. Congrès.
L’IA générative – comme celle utilisée dans le chatbot ChatGPT – est basée sur des données provenant d’Internet, qui contiennent également du contenu trompeur et des préjugés humains. Cela pourrait déformer les informations sur certains événements et renforcer les préjugés, indique le rapport. En raison du manque de surveillance et de modération de la part des développeurs d’IA, les outils d’IA générative pourraient également être formés sur la base des données des sites Web négationnistes de l’Holocauste.
Propension de l’IA pour les inventions
L’IA permet également à des acteurs malveillants de déformer des contenus tels que des déclarations de témoins et des documents historiques sur l’Holocauste. Les fausses images et contenus audio créés avec l’IA générative sont particulièrement attrayants pour les jeunes qui pourraient les rencontrer sur les plateformes de médias sociaux. Les modèles d’IA générative ont également tendance à inventer des événements, voire des phénomènes historiques, s’ils n’ont pas accès à suffisamment de données.
« Si nous permettons que les horribles faits de l’Holocauste soient dilués, déformés ou falsifiés par l’utilisation irresponsable de l’IA, nous risquons l’explosion de l’antisémitisme et la détérioration progressive de notre compréhension des causes et des conséquences de ces atrocités », a déclaré l’UNESCO. La Directrice générale a déclaré Audrey Azoulay. Il est urgent de mettre en œuvre les recommandations de l’UNESCO sur l’éthique de l’intelligence artificielle afin que la jeune génération grandisse avec des faits et non avec des contrefaçons.