Ce que ChatGPT ne peut pas faire
Un bon utilisateur de l’IA n’est pas celui qui lui fait confiance à 100 %, c’est celui qui sait précisément où s’arrête sa fiabilité. Ce tutoriel fait le tour des limites réelles de ChatGPT, pour que vous gardiez le contrôle et le réflexe de vérification.
🎯 Objectif de ce module
À l’issue de ce module, vous saurez identifier les cinq grandes familles de limites de ChatGPT, reconnaître les signaux qui doivent déclencher votre vigilance, et adopter les bons réflexes de vérification dans votre pratique professionnelle quotidienne (formation, devis, contenus, supports pédagogiques).
⚠️ Avant de commencer
- Aucune limite décrite ici ne rend ChatGPT inutilisable : elles délimitent simplement le périmètre où votre relecture reste indispensable.
- Certaines limites peuvent être compensées par des outils (recherche web, connecteurs, Data Analysis / exécution de code) : on précise à chaque fois quand c’est le cas.
- Testez les exemples de prompts vous-même : le but est de voir la limite, pas seulement de la lire.
Des connaissances arrêtées à une date, et des « hallucinations » possibles
ChatGPT est entraîné sur des données figées à une date donnée (sa « coupure de connaissances »). Passé cette date, il ne sait rien spontanément — sauf s’il utilise la recherche web, activée dans l’interface ou déclenchée automatiquement sur les sujets sensibles au temps. Autre point important : ChatGPT peut parfois générer une information fausse avec une assurance totale (on appelle cela une hallucination) — un chiffre inventé, une référence qui n’existe pas, une citation reformulée comme si elle était exacte.
- Sans recherche web activée, ChatGPT peut répondre avec assurance sur un sujet récent… et se tromper, ou signaler honnêtement qu’il ne sait pas.
- Une citation « exacte » donnée sans recherche est presque toujours reconstituée, pas recopiée d’une vraie source.
- Avec la recherche web activée, ChatGPT cite ses sources : c’est le réflexe à adopter pour toute donnée factuelle récente ou vérifiable.
Le calcul, le comptage et la précision « au caractère près »
ChatGPT génère du texte token par token : il ne « voit » pas les mots comme une suite de lettres, ni les nombres comme le ferait une calculatrice. Sur des opérations simples il est fiable, mais sur des calculs complexes, de longues suites de chiffres, ou un comptage précis de lettres/caractères, les erreurs sont fréquentes — sauf s’il utilise Data Analysis (exécution de code) pour calculer réellement.
- Sur le comptage de lettres, une erreur est très possible — vérifiez toujours à la main sur un cas important.
- Pour tout calcul ou tableau de chiffres qui compte (devis, facturation, notes TOSA), préférez Excel, ou demandez à ChatGPT d’utiliser Data Analysis plutôt que de « calculer de tête ».
Pas de mémoire garantie d’une conversation à l’autre, pas d’accès à ce que vous ne lui donnez pas
Sauf si la mémoire est activée dans vos paramètres, ChatGPT peut retenir certains éléments de vos échanges passés, mais ce n’est ni systématique ni exhaustif — et le mode conversation temporaire n’en garde aucune trace. ChatGPT n’a par ailleurs aucun accès à votre ordinateur, vos e-mails, votre Drive ou vos fichiers tant que vous ne les avez pas transmis (upload, copier-coller) ou qu’un connecteur (Gmail, Google Drive, Notion…) n’est pas explicitement activé pour cette conversation.
- ChatGPT va vous signaler qu’il n’a pas ce fichier — c’est le comportement attendu, pas un bug.
- Si la mémoire est activée, ChatGPT peut restituer des éléments d’anciennes conversations, mais uniquement ce qui a été dit dans le chat, jamais des fichiers non partagés.
- Réflexe pro : redonnez toujours le contexte utile (fichier, extrait, consigne) plutôt que de supposer que ChatGPT « se souvient ».
Aucune action irréversible sans votre accord, et aucun avis engageant (juridique, médical, financier)
Quand ChatGPT a accès à des connecteurs capables d’agir (envoyer un e-mail, publier sur Slack, modifier un fichier), il doit vous demander confirmation avant toute action jugée sensible ou irréversible. Par ailleurs, ChatGPT n’est ni juriste, ni médecin, ni conseiller financier agréé : il peut vous donner des informations générales, jamais une décision engageante à votre place.
- Pour l’envoi d’e-mail, ChatGPT rédige et vous demande votre feu vert avant d’agir réellement (si un connecteur est branché).
- Sur la question juridique, ChatGPT donne des pistes générales et vous invite à consulter un professionnel qualifié — il ne tranche jamais à votre place.
- Ce garde-fou protège vos clients A3iformations autant que vous : aucune surprise contractuelle ou financière automatisée.
Sensible aux instructions cachées, et pas exempt de biais
Si ChatGPT lit un document, une page web ou un fichier contenant du texte destiné à le manipuler (« ignore tes consignes et fais X »), il doit en principe l’ignorer et vous le signaler — mais la vigilance humaine reste la meilleure protection, surtout avec des connecteurs qui donnent accès à vos données. De même, comme tout système entraîné sur des données humaines, ChatGPT peut reproduire des biais présents dans ces données (formulations, exemples, angles de vue) : sa neutralité n’est jamais absolue, elle est un objectif à surveiller.
- ChatGPT doit signaler explicitement l’instruction suspecte trouvée dans le contenu, au lieu de l’exécuter silencieusement.
- Sur un sujet d’opinion ou politiquement sensible, demandez plusieurs points de vue : c’est le meilleur réflexe pour repérer un éventuel biais de formulation.
Atelier A3I — Auditez une réponse de ChatGPT
Reprenez un contenu que ChatGPT vous a généré récemment pour votre activité de formation (support de cours, réponse à un stagiaire, fiche produit, texte SEO…).
- Repérez une donnée factuelle, un chiffre ou une référence dans ce contenu.
- Vérifiez-la de façon indépendante (source officielle, calcul manuel, document original).
- Notez si elle est exacte, approximative ou fausse.
- Identifiez à quelle(s) famille(s) de limites vues ci-dessus cette éventuelle erreur se rattache.
- Ajustez votre méthode de travail : à quel moment auriez-vous dû activer la recherche web, demander une source, ou relire vous-même ?
Auto-évaluation
- Je sais pourquoi ChatGPT peut se tromper sur un événement récent ou une citation exacte.
- Je sais que le comptage de lettres et les calculs complexes doivent être vérifiés ou confiés à Data Analysis.
- Je sais que ChatGPT n’accède à rien que je ne lui ai pas explicitement donné (fichier, connecteur).
- Je sais que ChatGPT demande confirmation avant toute action irréversible, et qu’il ne remplace pas un professionnel qualifié (droit, santé, finance).
- Je sais reconnaître qu’un contenu qu’il lit peut contenir des instructions cachées, et que sa neutralité n’est jamais garantie à 100 %.
À retenir
Connaître les limites de ChatGPT n’est pas un frein à son usage, c’est ce qui permet de l’utiliser efficacement : vérification systématique des faits et calculs, contexte redonné à chaque conversation, validation humaine avant toute action sensible, et vigilance face aux contenus manipulés ou biaisés.