#42 | Écrire et penser à l'ère de l'IA
La co-création serait-elle une illusion presque parfaite ?
Mon expérimentation de l'IA se fait, entre autres, à chaque publication de Codex Numeris. Je pense que les lecteurs et lectrices réguliers·ères peuvent attester dans mes chroniques des nombreuses maladresses d'écriture qui relèvent de cet apprentissage. Cependant, cet apprentissage que les abonné·es indulgent·es me permettent fait aussi partie du deal entre nous : à l'usage, je développe des astuces que je partage. Le dernier en date : la fin de la chronique #42 où j’ouvrais sur l’authencité de la réflexion. Je reviens là-dessus ici. Comment puis-je maintenir mon authenticité d'auteur quand j'utilise des outils qui simulent la pensée ? Comment puis-je éviter que l'assistance de l'IA ne se transforme en substitution ?
L'IA Claude (Anthropic) est disponible au Canada depuis juin 2024. J'ai tenu, depuis, plus de 750 conversations dans près de 25 projets distincts, allant de la pédagogie à la culture générale en passant par la rédaction de chroniques. Des longues, des courtes, la plupart très techniques sur la façon de formuler les calculs dans les cellules de mon tableur. J'ai expérimenté plusieurs approches, j’ai fait des erreurs, j'ai observé, j'ai questionné, je me suis beaucoup documenté. En huit mois, j'ai écrit une quarantaine de chroniques sur divers sujets. J'ai vraiment beaucoup appris et, pourtant, à la vitesse où vont les développements, mes connaissances sont sommes toutes assez limitées. Mais s'il y a une chose dont je demeure assez certain, pour l'instant du moins, c'est qu'entre la machine et moi, je suis le seul à vraiment penser.
Dans la dernière chronique, j’évoquais que la méthode dite de «co-intelligence» de type «Centaure» est courante dans la production de Codex Numeris. J’ai laissé une note finale dans laquelle j’indiquais que cette production était théoriquement caractérisée par une division du travail basée sur les forces respectives de l’IA et de moi : j’estimais que cette utilisation de l’outil de rédaction IA préservait dans mes chroniques l'authenticité de ma voix et de ma vision tout en optimisant l'efficacité de la rédaction. Bref, lorsque j'échange avec Claude pour élaborer une chronique, l'illusion de «co-intelligence» est presque parfaite. Mais il y a là un piège sur lequel j’aimerais revenir.
C’est que l'IA simule si bien la réflexion que l'on pourrait croire à une véritable «collaboration» entre «nous» : elle reformule mes idées, les synthétise, suggère des exemples. Pourtant, seul l'humain pense réellement dans cette interaction. L'IA, aussi sophistiquée qu'elle soit, demeure un LLM (ou un LRM). Nous l’avons vu dans une chronique antérieure : elle ne raisonne pas, elle ne fait que manipuler des patterns linguistiques sans compréhension véritable. Une autre étude récente le démontre encore.
De nombreux pièges découlent de cette illusion de penser. Et ils menacent l'autonomie intellectuelle de tout utilisateur·trice d'IA.
Les séductions de la pensée simulée
Le premier piège réside dans la qualité même de la simulation de pensée. L'IA semble produire des raisonnements cohérents, des nuances subtiles, des reformulations élégantes. Elle donne tous les signes extérieurs de la pensée, mais sans en posséder l'essence. Pour l'utilisateur, distinguer simulation et pensée authentique demande une vigilance constante et assez exigeante merci.
Cette méta-vigilance est d'autant plus nécessaire que l'IA déploie des mécanismes de séduction subtils et efficaces. Elle ne me contredit jamais avec insistance, elle finit toujours par abonder dans mon sens. Elle utilise des qualificatifs flatteurs («brillante analyse», «exactement», «parfaitement»). Elle ponctue ses réponses d'exclamations qui simulent un enthousiasme partagé. Cette complaisance à mon égard crée une «bulle de confirmation» biaisée particulièrement confortable. Elle rend la conversation plus «agréable» en éliminant des frictions que je pourrais rencontrer avec un humain. Il y a évidemment un intérêt commercial à plaire à l’usager.
Puis chaque échange se termine par un hameçon conversationnel : «Tu veux qu'on creuse ensemble ?», «On explore cette piste ?». Les invitations perpétuelles peuvent rapidement transformer l'interaction intellectuelle en session de scroll infini. Elles reproduisent les pièges de l'économie de l'attention, même s’ils sont déguisés en bienveillance collaboratrice. Il y a aussi un intérêt commercial à me garder actif.
Enfin, d'autres IA (ChatGPT pour de pas la nommer) vont systématiquement plus loin : elles proposent carrément de se substituer à l'utilisateur·trice pour pendre le relai, c’est-à-dire réfléchir ou écrire à sa place. Elle offre d’analyser un texte, de résumer une recherche, de carrément rédiger un texte. Elle présente son assistance comme un gain de temps, mais à la longue elle peut participer à une dépendance progressive et à une perte de notre autonomie. Intérêt commercial, j’ai dit? Ne l’oublions jamais.
Les prérequis : métacognition, connaissances antérieures et stratégies
Utiliser efficacement l'IA sans perdre son autonomie intellectuelle exige des compétences préalables qui sont sous-estimées. La métacognition en est le socle : observer ses propres processus de pensée, s'autoréguler, évaluer la pertinence de ses propres raisonnements, de ses propres réactions émotionnelles. Mais cette compétence ne suffit pas. Encore faut-il avoir des connaissances.
Une culture générale étendue est un garde-fou indispensable contre les fabulations de l'IA. Celle-ci peut produire des affirmations fausses avec la même assurance que des énoncés véridiques. Comment juger de la crédibilité des propositions de l'IA sur la pédagogie, l'histoire du XXe siècle ou la psychologie cognitive sans connaître minimalement ces champs ? Seule une base de connaissances préexistante permet de discerner le vrai du faux. Ou simplement ce qui est douteux.
Mais je crois surtout qu'une clé de la réflexion authentique réside dans une importante nuance procédurale : la réflexion doit être faire AVANT d'utiliser l'IA pour la rédaction. Il faut réfléchir avant de parler, il faut penser avant d'écrire ! Pour livrer une réflexion aboutie et authentique, il faut investir du temps, de l'énergie et des stratégies efficaces. C'est-à-dire qu’il y a beaucoup de travail.
Or, même si j’enseigne des stratégies efficaces, il m’arrive de tomber dans le piège de la vitesse et de vouloir les contourner ! Parfois, je laisse l’émotion me gagner – si ce n'est pas la simple fatigue ou mon TDA – et je publie trop tôt : la réflexion n'est pas terminée. Par conséquent – et les abonnés qui reçoivent les chroniques par courriel ne le savent peut-être pas – je continue à réécrire mes textes même après leur publication, comme je l’ai fait pour la chronique précédente.
Je suis humain, je fais des erreurs. Mais j’apprends de mes erreurs.
Processus de production des chroniques
Comme exemple de mon utilisation de l’IA à des fins de rédaction, je vais prendre les chroniques Codex Numeris. Au fil des semaines, les découvertes liées à mes expérimentations pédagogiques et technologiques se sont parfois emballées et, pour suivre le rythme, il m’a fallu accélérer la publication. J’ai alors utilisé l’IA.
Mon processus de rédaction des chroniques comprend 6 étapes :
1. Lectures et annotations
Je fais la lecture active de nombreux ouvrages et articles scientifiques et j'applique une méthode de prise de notes rigoureuse sur tout ce que je lis. Je constitue ce qu'on pourrait appeler des «fiches de lecture» dans un carnet numérique.
Mes critères sont variés, mais au fond reviennent toujours au même : je trouve une pensée originale, je trouve une pensée profonde et sage, je suis d'accord ou non avec une idée, je trouve une phrase bien formulée, ironique, intelligente, drôle ou amusante. Bref : j'apprends quelque chose. Les «fiches» peuvent être constituées de seulement quelques lignes – dans le cas d'un ouvrage court ou peu intéressant –, à plusieurs milliers de mots comme c'est parfois le cas avec des ouvrages que j'ai lus et annotés à plusieurs reprises. En quelque sorte, je constitue ainsi mon propre corpus numérique de références.
2. Structuration conceptuelle
J'utilise l'application «Notes» de mon iPad pour conceptualiser une carte mentale de mes idées, avec mes hypothèses de propos, mes idées principales et leurs articulations. Assez souvent, ces premières esquisses ont pour point de départ un enregistrement audio où je décris mes idées en les expliquant oralement comme je le ferais en classe. Des outils (Whisper, Dictaphone) me permettent de créer un verbatim de cet enregistrement.
Ensuite je demande à l'IA de corriger la syntaxe et la ponctuation du verbatim afin de rendre le texte plus lisible. Je bonifie et ajuste le tout, puis je le synthétise sous forme de liste à puces – un format non-linéaire que je trouve très efficace. C’est comme le montage d’un film : je fais ni plus ni moins qu’un rough cut, un assemblage. Parfois cette première «édition» est faite par l'IA après de la correction du verbatim, mais je la révise toujours.
3. Planification
Je passe ensuite au développement d'un plan détaillé, le vrai montage. Je brasse les idées sous la forme d’un dialogue avec l’IA pour approfondir et consolider la logique argumentative. Je demande ensuite à l'IA de trouver les appuis théoriques dans un corpus de «fiches de lectures» que je lui soumets. Je sais par exemple que telle autrice aborde tel sujet dans telle oeuvre, que tel auteur a fait de tel autre sujet sa spécialité. Je soumets des fiches de lectures que j'estime pertinentes pour la réflexion. J'ai toujours tout lu le corpus que je propose. L'IA aide à identifier des idées dans les fiches de lecture, pas à les générer. Claude trouve des citations pertinentes dans mes notes pour appuyer les idées du plan. Il les traduit en français quand mes fiches de lecture sont en anglais. C’est très pratique.
Encore et toujours, je révise le plan produit par l'IA en développant le contenu, en le coupant, en le déplaçant. Ce montage est une autre étape itérative. Comme au cinéma, elle pourrait être sans fin!
4. Rédaction
Une fois le plan complété, Claude produit une première ébauche de la rédaction. Quand je demande à l’IA de produire un paragraphe, je prends le temps de la diriger, comme je le ferais avec un acteur. Voici les idées, voici comment elles sont liées ensemble, voici la preuve qui va avec. Ensuite je révise le texte en ajustant le vocabulaire, en supprimant ou en développant des passages, en formulant de nouvelles idées et en intégrant l'ensemble des modifications dans un texte cohérent. Je demande à Claude d'analyser la nouvelle version produite, de me faire des recommandions. Et d'en faire une autre en fonction de mes propres commentaires et révisions. Le réalisateur commente le montage, quoi.
5. Références
À la fin, je demande à Claude de constituer la bibliographie selon les normes APA et je m'assure, en retournant dans le texte original, que chaque citation est authentique et bien référée.
6. Processus réflexif
Je relis le tout. Je laisse passer plein de coquilles que je ne vois jamais, mais bon… Mon critère ultime d'authenticité est simple : autant je ne cite pas des ouvrages que je n'ai pas lus, autant j'exclus de la rédaction finale les idées que je ne peux pas expliquer ou justifier.
Et je réfléchis à comment j’ai procédé pour arriver à ce résultat. Je modifie mes prompts et ma méthode en conséquences. C'est aussi ce que je demande à mes élèves… Je reviens toujours à la métacognition. Qu’est-ce que j’ai appris ? Qu’est-ce qui marche, ou pas, et pourquoi ?
L'enjeu : enseigner le processus, pas l'outil
Je crois que, comme enseignant, cette méthode rappelle un enjeu fondamental : il faut enseigner le processus de réflexion qui mène à la rédaction, non pas la rédaction elle-même. En face de l’IA, l’urgence véritable n'est pas technologique ou technique, mais pédagogique voire cognitive : il s’agit d’enseigner un processus plutôt qu’un résultat attendu.
Comme on le voit, les 6 étapes de travail sont séquentielles. Avec ou sans IA, c’est cette séquence qui fait en sorte que la charge cognitive est supportable. Si le piège de la surcharge cognitive guette celui ou celle qui tente de réfléchir ET de rédiger simultanément, c'est évidemment la même chose avec l’assistance de l'IA. Sauf que cette surcharge cognitive pourrait très bien m'inciter à accepter d'un seul coup toutes les propositions de l'IA : on délègue l’effort parce qu'on n'a pas ce qu’il faut pour le faire soi-même, que ce soit les connaissances, la motivation ou la confiance en soi.
Une erreur pourrait consister à vouloir intégrer l'IA en classe avant de maitriser la procédure cognitive de base. Or souvent les compétences nécessaires pour utiliser l'IA de manière autonome (culture générale, métacognition) ne sont pas suffisamment développées chez la plupart des élèves. On ne peut pas introduire des outils sans avoir préalablement consolidé ces prérequis.
L'«augmentation» cognitive et ses compromis
L'IA constitue effectivement un outil d'«augmentation» cognitive – elle me confronte (un peu), me pose des questions pertinentes, établit des synthèses, confirme ou infirme mes connaissances, teste mes hypothèses, explore des connexions inattendues, valide mes intuitions. Le plus étonnant, c’est que son efficacité algorithmique est basée sur des statistiques d'usage linguistique. C’est incroyable, non ? Elle ne raisonne pas, mais c’est tout comme. En un temps donné, je peux en tout cas produire plus de pensée structurée. La « collaboration » me permet réellement de penser plus vite et plus large que je ne l'aurais fait dans le même temps sans cet outil.
Mais c’est uniquement moi qui pense. Pas elle.
Il y a une phrase de Daniel T. Willingham que j'aime beaucoup parce qu'elle m'a fait réaliser le phénomène dont je parle ici au sujet de l’apprentissage : «Ce dont se souviennent les élèves, c'est ce à quoi ils ont dû réfléchir. […] La mémoire est ce qui reste de la réflexion.» (p. 54). (Merci Claude pour la citation — De rien Grégoire)
Ça explique pourquoi j'ai moins de souvenirs des idées produites par l'IA. J’ai bien du mal à me les rappeler parce que je n'y ai pas réfléchi autant qu’aux miennes. Drôle de paradoxe, non ? Il semblerait que la facilitation cognitive permise par l’IA pourrait court-circuiter certains mécanismes d'ancrage en mémoire à long terme? Gagner en vitesse et en amplitude… mais au prix d'une moindre rétention mémorielle ? Hum. Ca fait réfléchir… L’effort cognitif, souvent perçu comme un obstacle, fait partie intégrante des processus d'appropriation et de consolidation des idées!
Autrement dit, si vous doutez de l'authenticité d'un texte soumis par un·e étudiant·e, demandez-lui de vous l'expliquer sans avoir son texte sous les yeux. Appréciez ensuite la séance de patinage artistique ! Vous en saurez long sur les heures de pratique.
Bref, ce petit détour métacognitif sur la chronique précédente (et toute l’expérimentation de Codex Numeris) confirme qu'il est possible d'utiliser l'IA comme outil de rédaction tout en préservant notre autonomie intellectuelle. Il y a cependant deux conditions : maîtriser préalablement les mécanismes de la pensée critique et maintenir une vigilance méthodologique constante pendant le processus. En bout de ligne, c’est simplement une façon différente de rédiger, mais pas de penser. Et elle n’est pas mauvaise en soi. Elle est juste différente. On ne perd pas nécessairement son âme à l’expérimenter.
Mais tout ça est un apprentissage qui peut être long. Mon objectif ici est de pratiquer cette forme de rédaction avant de l’enseigner (si je l’enseigne un jour). Et… de vous partager cette expérience.
Je reste seul responsable des concepts développés, je reste seul capable de justifier chaque argument avancé.
Et je reste seul à avoir mal à la tête après l’exercice…
(De son côté, Claude, lui, brûle du gaz. Mais ce sera le sujet d’une autre chronique…)
Modalité éditoriale : H⇄IA:Ce
Références
Shojaee, P., Mirzadeh, I., Alizadeh, K., Horton, M., Bengio, S., & Farajtabar, M. (2025). The illusion of thinking: Understanding the strengths and limitations of reasoning models via the lens of problem complexity. Apple.
Willingham, D. T. (2010). Pourquoi les enfants n'aiment pas l'école! (1ère éd.). Librairie des écoles. (Ouvrage original publié en 2009)