histoire-géographie-citoyenneté

L’utilisation de l’IA en classe ne va donc pas de soi et il est bon de réfléchir au cadre pédagogique et juridique. Il importe notamment d’adopter une position éthique et prudente (ne pas exposer des données personnelles). Dans la mesure où il n’existe pas d’IA institutionnelle performante compatible avec la RGPD, nous sommes contraints d’utiliser des outils grand public. Le site Comparia (https://www.comparia.beta.gouv.fr) permet toutefois de comparer les réponses de plusieurs IA et de comparer l’impact énergétique de la discussion, stimulant un usage citoyen en éducation.

 Le site suivant constitue également une aide efficace et utile à la rédaction du prompt : https://actif.numedu.org/

Anthropomorphisme : le dialogue avec une IA peut être empathique, cordial. N’oubliez jamais qu’il s’agit d’un outil, d’une machine et en aucun cas un confident ou un ami.

Conseils

•        Nécessité de taguer (à expliciter) toutes les ressources pédagogiques utilisées en classe ou sur les exercices et devoirs. (Sources, auteurs, droits et conditions d’utilisations)

•        Expliciter les conditions du recours à l’IA par les élèves pour chaque activité : autorisé ou pas, notamment dans le cadre du travail à la maison. Par défaut, l’utilisation de l’IA est autorisée.

•        Indiquer spécifiquement les usages :  « relu et corrigé par l’IA » « produit avec l’aide de Chatgpt »
« correction des fautes avec Gemini » ...(normalement il faudrait indiquer le prompt et la date de la génération).

•        Mobiliser des ressources clairement identifiées en classe : ressources pédagogiques libres de droits pour l’éducation, type éduthèque, applications dédiées à l’enseignement, manuels numériques...

Les biais

La réponse à un prompt dépend de la base de données qui a servi à entraîner l’IA : le plus facile à démontrer est la création d’image. Les banques de données sont le plus souvent anglo-saxonnes : si vous souhaitez obtenir une carte d’anniversaire, il est fort probable que vous obteniez un « happy birthday » comme titre !

Les IA amplifient les stéréotypes. Synthèse de la conférence au Liberté Living-Lab | CNNum | Traducteur et éclaireur des transformations numériques

Création de comptes par les élèves

Le professeur ne peut imposer la création de compte, même gratuit, à un élève mineur sans autorisation spécifique des parents. Au lycée, les élèves sont plus nombreux à posséder un compte personnel, parfois payant. Il en résulte une forte inégalité dans les usages des élèves entre les « branchés » utilisateurs avancés, et les autres.

Ethique

« Les IA génératives sont entraînées sur un ensemble de données comprenant plusieurs paramètres, […] construits à partir de logiciels traitants d’énormes archives d’images et de textes. Ce système pose des défis uniques au droit d’auteur, car il exploite d’immenses quantités de données pour créer de nouveaux contenus et son utilisation incontrôlée peut entraîner des risques de violation d’un droit de propriété intellectuelle. » nous informe Arnaud Touati et Dany Sawaya, Juriste (IA générative et propriété intellectuelle, les défis juridiques et les perspectives réglementaires)..

Si vous utilisez la réponse proposée par une IA, il est légitime de la créditer comme le fruit du travail d’un collectif. Il convient donc d’indiquer le prompt utilisé, l’outil mobilisé et la société prestataire du service, la date précise de la requête.

Prendre de nouvelles habitudes avec l’utilisation de logos peut permettre de clarifier les usages notamment scolaires et de limiter les accusations de plagiat.

Source : mpeters.uqo.ca

Données

L’IA va utiliser vos conversations pour enrichir son modèle prédictif : n’apportez pas de données personnelles à l’IA ! Un mode « secret » est disponible mais ne garantit pas l’anonymat.
Dans un contexte géopolitique en évolution, la problématique de la souveraineté est à prendre en considération.
Utiliser une IA américaine induit l’acceptation des lois d’extraterritorialité des Etats-Unis (Patriot Act de 2001 et Cloud Act de 2018). Les autorités américaines peuvent demander l’accès à vos données hébergées par des entreprises américaines même si leur hébergement est situé en Europe.

Dans cette logique, on restera vigilant à ne pas introduire le nom des élèves, des établissements et toutes formes de données personnelles (photographies…).

Hallucinations, illuminations

Les images générées par l’IA peuvent séduire mais comportent régulièrement des illuminations ou autres erreurs diverses comme sur cet exemple généré par Microsoft Designer.

Le prompt était le suivant : « un couple aux cheveux bruns, l’homme conduit une voiture type cabriolet anglais, de couleur rouge, sur une route sinueuse en bord de fleuve, soleil levant, pas de nuage, style réaliste »
Toutes les images proposées par Designer comportaient des erreurs plus ou moins visibles. Il est plus difficile de repérer les approximations des générateurs de texte. Souvent l’IA invente une partie de la réponse et propose parfois des inventions de son cru plus ou moins faciles à détecter. Toute production avec l’IA nécessite donc des relectures fines pour éviter nombre d’erreurs ou d’approximations.

Impact environnemental et sociétal

Utilisez l’IA à bon escient : le coût écologique n’est pas négligeable, même s’il est difficile à calculer. Sobriété numérique et énergétique s’imposent ! Il est donc indispensable de présenter aux classes l’impact environnemental des usages numériques.

Sources

Les IA s’améliorent constamment : désormais, soit les sources utilisées sont immédiatement identifiées, soit il suffit de demander les sources. Mais le plus souvent l’IA se contente de résumer le contenu d’un site web avec des références plus sérieuses que d’autres…
Le souci dans l’usage de l’IA est la non reproductibilité : le même prompt peut générer une réponse différente. L’utilisation d’un logiciel anti-plagiat n’est donc pas toujours pertinente pour prouver le recours à l’IA par un élève. 

 Donc : relire, identifier les sources, croiser les sources est indispensable. L’usage de l’IA n’est donc ni obligatoire ni indispensable. Son utilisation doit toujours être associé à la formation de l’esprit critique des élèves pour aboutir à un usage raisonné et clairvoyant de l’IA.