Une IA générative peut produire un texte très convaincant… et totalement faux. On parle d’« hallucinations ». Comprendre leur origine aide à s’en protéger.
Pourquoi cela arrive
Ces outils génèrent le texte le plus plausible à partir de ce qu’ils ont appris. Ils ne vérifient pas la vérité de ce qu’ils écrivent. Quand l’information manque, ils peuvent combler le vide par quelque chose de vraisemblable.
Les erreurs typiques
- des chiffres ou des dates inexacts ;
- des références juridiques ou des sources qui n’existent pas ;
- des citations attribuées à tort ;
- des calculs faux présentés avec assurance.
Comment s’en protéger
Vérifier toute information factuelle, demander les sources et les contrôler, fournir soi-même les données de référence, et relire systématiquement avant envoi. Celui qui envoie le document en reste responsable.
L’IA est un excellent assistant de rédaction, pas une source fiable d’information.
Vérifier et assumer un contenu produit avec l’IA : un chapitre entier de notre formation IA générative.
EREL Formation
Formation IA générative
Programme, durée, tarifs et modalités : retrouvez tous les détails de la formation, et demandez un devis ou un rappel.