Yvan Cliche
La Voix sépharade, décembre 2024
La mise en garde est percutante ! Selon un rapport publié en juin 2024 par l’UNESCO, en partenariat avec le Congrès juif mondial, l’IA pourrait jouer un rôle dans « la propagation fulgurante de l’antisémitisme et la diminution de notre compréhension des causes et des conséquences des atrocités liées à l’Holocauste. »
Le document de 25 pages s’intitule AI and the Holocaust: Rewriting History? The Impact of Artificial Intelligence on Understanding the Holocaust.
Il se penche sur la préservation de la mémoire de l’Holocauste face aux dangers d’une distorsion, intentionnelle ou par inadvertance, de cette mémoire avec la percée de l’IA.
Ceci pour sensibiliser la communauté internationale aux enjeux posés par la préservation de la vérité historique à propos de l’Holocauste dans une ère numérique pouvant être manipulée pour favoriser la dissémination de faussetés historiques ou d’informations biaisées ou diluées.
Il faut être alerté au risque, souligne cette étude, que « les victimes de l’Holocauste soient de nouveau victimes, que les survivants soient ciblés par un discours de haine généré par l’IA avec l’intention maligne de suggérer un doute sur la réalité de leur expérience et de leur mémoire » (p. 6).
Cette fine analyse de l’UNESCO établit la distinction entre l’IA, une technologie de traitement de données et d’information qui ressemble à l’intelligence humaine, et l’IA générative, qui produit du contenu de manière automatique par le biais d’interfaces conversationnelles, mais est souvent incapable d’évaluer la justesse du contenu généré.
Le rapport met en lumière le manque de transparence des systèmes d’IA, qui introduisent souvent, parfois de manière intentionnelle, des biais et des erreurs dans leur traitement et la production de contenu.
Cinq inquiétudes liées à l’IA et à l’Holocauste
L’enquête identifie cinq préoccupations associées à l’utilisation de l’IA concernant l’Holocauste :
L’invention de contenus
Le contenu généré par l’IA peut inventer des faits sur l’Holocauste. L’IA a déjà produit des « hallucinations » à ce sujet, avec des contenus parfois incorrects, voire carrément inventés de toutes pièces.
La falsification des faits historiques
La technologie dite deepfake a la capacité de manipuler des produits audiovisuels pour fabriquer du contenu à propos de l’Holocauste. Cette technologie a déjà été utilisée pour simuler des conversations avec des dirigeants nazis.
L’utilisation de l’IA pour répandre un discours de haine
Des groupes extrémistes peuvent exploiter les failles de l’IA pour promouvoir des contenus haineux. Par exemple, des moteurs de recherche ont déjà été piratés pour répandre une idéologie antisémite, glorifiant l’idéologie nazie.
L’introduction de biais algorithmiques pour répandre le déni de l’Holocauste
Des bases de données biaisées ont influencé les résultats fournis par les moteurs de recherche, minimisant l’Holocauste, voire niant son existence.
La simplification de l’histoire
La tendance de l’IA à puiser ses informations sur les sites web les plus fréquentés et à ne retenir que les faits les plus connus produit l’effet pervers de simplifier les faits liés à l’Holocauste, omettant des éléments essentiels relatifs à cette importante tragédie historique.
Les auteurs ne nient pas les effets bénéfiques liés à l’IA pour l’éducation et la recherche. Cependant, son utilisation doit être encadrée. Pour une utilisation responsable, il faut que l’IA intègre des mesures de protection robustes, protégeant les droits de la personne. Cela exige de ses utilisateurs une solide littératie numérique. De plus, la gestion de ses effets les plus néfastes nécessite une collaboration étroite entre les concepteurs de l’IA, les responsables publics, les éducateurs et les chercheurs.
Un des aspects positifs de l’IA est la possibilité de produire des contenus immersifs ou de réalité augmentée, notamment au profit de la jeunesse. Ces contenus peuvent générer de l’empathie et inciter les jeunes à vouloir en savoir plus sur l’Holocauste, lors de visites dans des musées ou lors de cours dédiés à l’événement.
On cite l’exemple du projet Dimensions in Testimony de l’USC Shoah Foundation (Californie). Ce projet utilise l’IA pour permettre aux étudiants et aux visiteurs de dialoguer de manière virtuelle avec des survivants de l’Holocauste.
Contrer les distorsions de l’IA
L’analyse de l’UNESCO présente également des moyens pour contrer les distorsions de l’IA concernant l’Holocauste. Elle souligne l’importance pour les entreprises d’IA d’introduire, de manière ouverte et transparente, des procédures de suivi et de supervision permettant d’éviter la production de contenus promouvant le déni de l’Holocauste et l’antisémitisme, dans toutes les langues.
Cette approche requiert une collaboration entre les concepteurs de l’IA, les experts et les parties prenantes associées à l’éducation sur l’Holocauste, afin de s’assurer que le contenu produit est authentique, véridique et factuel, et respecte la vie privée des victimes et des survivants.
Recommandations
Le rapport émet toute une série de recommandations pour différents publics cibles, notamment les responsables des politiques publiques, les éducateurs, les dirigeants des musées et mémoriaux de l’Holocauste, les concepteurs de plateformes d’IA et enfin les chercheurs.
Pour les responsables des musées et mémoriaux de l’Holocauste, il est recommandé de poursuivre la numérisation des collections historiques liées à l’Holocauste pour accroître la quantité de données pouvant améliorer la performance de l’IA ; et d’offrir aux chercheurs une formation sur l’IA, afin qu’ils puissent soutenir les concepteurs de l’IA à mieux intégrer sur le contexte historique propre à l’Holocauste, tout en respectant pleinement les droits de la personne.