Ces derniers mois, de nombreuses « fausses » images ont fait le tour des réseaux sociaux mettant en scène des personnalités politiques, des manifestants contre la réforme des retraites, voir remettant en cause des évènement historiques. Elles n’ont pas été prises par des photographes mais générées par des outils d’intelligence artificielle, comme Midjourney ou Dall-E.

Les progrès sont si rapides qu’il sera bientôt difficile de faire la différence entre une « fausse image » d’un de ces logiciels et une photographie prise par un journaliste.

Les logiciels qui permettaient jusqu'ici de repérer un photomontage en pointant des différences de pixels ne sont pas fiables pour détecter les images générées par IA. Ces dernières sont en effet constituées de "milliers voire millions d'images, qui sont déconstruites pixel par pixel pour recréer une nouvelle image. Et pour le moment, aucun logiciel n'est capable de détecter correctement une image générée par intelligence artificielle." (Juliette Mansour, journaliste à l'AFP).

MAJ du 11/09/2023 : Google vient de présenter SynthID, un outil qui permettrait d'identifier l'image au moment de sa création en ajoutant des pixels à des endroits stratégiques, créant une sorte de signature numérique. Cet outil ne fonctionne qu'avec les outils de Google et pose la question d'une réglementation internationale.
 

• Pour repérer les images crées par une IA, nous vous proposons 7 clés d'analyse de l'image :

Les techniques utilisées par les intelligences artificielles et la diffusion massive de leurs productions ont des implications éthiques et juridiques importantes. Il est essentiel d'aborder ces questions en classe.

Pour compléter l'infographie donnant 7 clés pour repérer les créations d'image par l'intelligence artificielle, nous vous proposons d'aborder les points essentiels dans le cadre de séances d'EMI, qui peuvent être menées sous la forme de recherches, de débats et d'analyse d'exemples :

L’exposition IA : Double Je présente l’actualité des recherches et développements autour de l’intelligence artificielle. Elle met aussi en avant les rapports que nous entretenons avec l’IA et interroge les futurs plus ou moins désirables auxquels les technologies d’IA pourraient nous conduire.

Visites guidées avec vos élèves, du 2 février au 3 novembre 2024 : informations et réservations

Thématiques proposées par niveaux :

Cycle 3 :

• L’intelligence artificielle est-elle présente dans mon quotidien ? Pour trouver où se cache l’intelligence artificielle dans notre quotidien, suivez notre médiateur et décelez les intérêts mais aussi les limites de cette technologie qui nous entoure déjà.

Cycle 4 :

• Développons notre esprit critique en comprenant comment fonctionne l’IA. Comment bien l’utiliser ? En comprenant le fonctionnement de cette science de l’informatique, vous comprendrez aussi ses biais. A vous de développer votre esprit critique par rapport à cette technologie et aux doubles numériques.

Lycée :

• Futurs désirables ? Quelle place imaginons-nous donner à l’IA dans notre société ? En découvrant l’histoire de l’IA nous comprendrons son fonctionnement, les enjeux environnementaux et éthiques actuels qu’elle peut faire émerger.