Comment utiliser l’intelligence artificielle sans renoncer à ce qui fait notre capacité à penser par nous-mêmes ?

Deux articles publiés dans le numéro 1 de la revue L’Audace !, dans lequel un dossier est consacré à l’impact de l’intelligence artificielle sur la transmission et l’éducation, proposent des éclairages différents mais complémentaires sur cette question essentielle.

Le premier article, Vers l’intelligence humaine dégénérative [1], est signé par Michel Desmurget, docteur en neurosciences  et directeur de recherche à l’Inserm, et Marius Bertolucci, maître de conférences en sciences de gestion à Aix-Marseille Université.

Le second, Il est urgent de rompre avec la paresse intellectuelle que nourrit la “technobéatitude” [2], est un entretien avec Luc Julia, ingénieur et informaticien, directeur scientifique chez Renault, connu notamment pour ses travaux dans le domaine des interactions homme-machine et pour ses responsabilités dans l’innovation technologique.

Leurs approches ne sont pas identiques. Desmurget et Bertolucci mettent davantage l’accent sur les risques de dépendance intellectuelle liés à un usage excessif de l’IA, tandis que Luc Julia adopte une approche plus optimiste et insiste sur la complémentarité entre l’être humain et la machine.

Mais leurs analyses convergent sur un point essentiel : l’intelligence artificielle ne doit jamais nous dispenser de penser par nous-mêmes.

Quand l’IA nous invite à ne plus réfléchir

Les performances de l’intelligence artificielle sont parfois si spectaculaires qu’elles pourraient nous conduire à une conclusion trompeuse : puisqu’elle semble penser à notre place, pourquoi continuer à faire l’effort de réfléchir ?

C’est précisément contre cette illusion que mettent en garde, chacun avec sa sensibilité, Michel Desmurget et Marius Bertolucci, ainsi que Luc Julia.

Desmurget et Bertolucci rappellent que le cerveau humain se construit par l’effort. Les neurosciences montrent qu’il est plastique : plus il est sollicité, plus il développe ses capacités de raisonnement, de mémorisation et d’analyse. À l’inverse, lorsqu’une machine accomplit durablement les tâches intellectuelles à notre place, ces capacités risquent progressivement de s’affaiblir.

Comme ils le résument : “En choisissant la facilité et l’immédiateté, le cerveau se prive de son terreau nourricier.”

Cette réflexion prend une résonance particulière dans le domaine de l’éducation. Les deux auteurs s’inquiètent d’un déploiement rapide de l’intelligence artificielle, encouragé, selon eux, par un enthousiasme politique et industriel qui précède parfois la réflexion pédagogique.

Ils rappellent que l’introduction massive du numérique à l’école avait déjà suscité de grandes promesses sans que les études en démontrent clairement les bénéfices. Ils s’interrogent donc sur la pertinence de reproduire aujourd’hui la même démarche avec l’IA, au risque de confondre innovation technologique et progrès éducatif.

Luc Julia adopte une approche plus optimiste, sans pour autant renoncer à cette exigence de vigilance. Selon lui, l’enjeu n’est pas de former tous les élèves aux mécanismes complexes de l’intelligence artificielle, mais de leur apprendre à utiliser ces outils avec discernement.

Il ne s’agit pas d’enseigner la technologie elle-même, mais de développer la capacité à en comprendre les possibilités, les limites… et les erreurs possibles.

Dans les trois approches, une même exigence apparaît donc : ne jamais abandonner à la machine le jugement qui doit rester celui de l’être humain.

Tous trois aboutissent ainsi à une même conclusion : à mesure que l’intelligence artificielle devient plus performante, les compétences proprement humaines (le jugement, le doute, la vérification des informations et l’esprit critique) prennent encore davantage de valeur.

L’IA se trompe… et elle ne le sait pas !

Cette exigence de vigilance est d’autant plus importante que l’un des principaux dangers d’une utilisation insuffisamment maîtrisée de l’intelligence artificielle ne réside pas dans le fait qu’elle puisse se tromper. Après tout, l’erreur est aussi le propre de l’être humain.

Son véritable écueil est ailleurs : elle peut affirmer avec la même assurance ce qui est exact et ce qui est faux. Elle ne doute pas, ne s’interroge pas spontanément sur la fiabilité de ses réponses et ne sait donc pas qu’elle peut se tromper.

C’est précisément cette apparence de certitude qui peut induire son utilisateur en erreur.

Michel Desmurget et Marius Bertolucci soulignent que les intelligences artificielles génératives peuvent produire des erreurs, des biais, des approximations, voire des informations entièrement inventées : les fameuses « hallucinations ». Leur pouvoir de persuasion est d’autant plus redoutable qu’elles donnent souvent l’illusion de la certitude, y compris lorsqu’elles délivrent une réponse erronée.

Luc Julia explique ce phénomène sous un autre angle. Selon lui, les IA généralistes apprennent à partir de milliards de données extrêmement hétérogènes, issues de sources et de contextes très différents, sans véritable compréhension de leur signification. Plus elles deviennent généralistes, plus elles perdent en précision.

Il souligne également un paradoxe préoccupant : les modèles les plus récents sont désormais entraînés en partie sur des contenus produits… par d’autres intelligences artificielles. Ces « données synthétiques » alimentent à leur tour les générations suivantes de modèles, créant un cercle vicieux dans lequel les erreurs risquent de se reproduire, voire de s’amplifier.

À cela s’ajoute une autre réalité souvent méconnue : les intelligences artificielles ne sont jamais totalement neutres. Elles reflètent inévitablement les données sur lesquelles elles ont été entraînées. Un modèle principalement nourri de contenus américains ne mobilisera pas toujours les mêmes références historiques, culturelles ou géopolitiques qu’un modèle entraîné sur des sources françaises.

C’est pourquoi Luc Julia plaide en faveur d’intelligences artificielles spécialisées, construites à partir de données fiables et adaptées à un domaine précis ou à un contexte culturel donné. Selon lui, cette spécialisation constitue l’une des conditions essentielles pour améliorer leur fiabilité.

Face à une réponse produite par une IA, la bonne question n’est donc pas seulement : “Est-elle bien formulée ?” mais surtout : “Comment puis-je savoir qu’elle est vraie ?”

C’est là que l’esprit critique reprend toute sa place.

Un partenaire formidable… à condition de rester aux commandes

Les limites mises en évidence par Michel Desmurget et Marius Bertolucci ne conduisent pourtant pas à rejeter l’intelligence artificielle. Elles invitent au contraire à mieux définir la place qui doit être la sienne : celle d’un outil puissant, mais toujours placé au service du jugement humain.

C’est précisément dans cette perspective que s’inscrit Luc Julia. Refusant aussi bien la technophobie que la technobéatitude, il défend une utilisation lucide et maîtrisée de l’intelligence artificielle.

Pour lui, l’avenir ne réside pas dans la substitution de la machine à l’homme, mais dans leur complémentarité.

L’exemple qu’il propose est particulièrement éclairant. Un enseignant demande à ses élèves de faire rédiger par une intelligence artificielle la biographie de Victor Hugo. Les élèves pensent avoir terminé leur travail… alors que, selon Luc Julia, il ne fait que commencer.

Ensemble, ils relisent le texte, repèrent les erreurs ou les affirmations douteuses, puis confrontent les informations à d’autres sources. Ils découvrent ainsi que Victor Hugo n’est évidemment pas né en mars 1902, comme l’affirmait pourtant l’IA avec assurance, mais en février 1802.

La pédagogie retrouve alors tout son sens. L’objectif n’est plus seulement d’obtenir une réponse, mais d’apprendre à en vérifier la fiabilité. L’intelligence artificielle devient ainsi un formidable support pour exercer l’esprit critique, plutôt qu’un substitut à la réflexion.

Cette approche rejoint les préoccupations de Desmurget et Bertolucci. L’intelligence artificielle peut faire gagner un temps précieux, mais seulement lorsqu’elle vient prolonger une compétence déjà acquise.

La règle est finalement assez simple : plus nous maîtrisons un domaine, plus l’intelligence artificielle devient un assistant performant. À l’inverse, moins nous possédons de connaissances, plus nous risquons d’accepter comme vraies des réponses erronées.

Autrement dit, l’intelligence artificielle ne dispense jamais d’apprendre. Bien au contraire : elle est d’autant plus utile que son utilisateur est compétent.

On aboutit ainsi à un paradoxe particulièrement révélateur : ce sont souvent ceux qui savent déjà qui en tirent le plus grand bénéfice.

Pour utiliser intelligemment l’intelligence artificielle, il faut donc paradoxalement conserver ce qu’elle pourrait nous inciter à abandonner : nos connaissances, notre capacité de jugement et notre esprit critique.

Le défi majeur : ne pas former des citoyens en état de dépendance intellectuelle

Le risque le plus préoccupant n’est peut-être pas technologique. Il est avant tout éducatif.

Michel Desmurget et Marius Bertolucci rapportent des observations particulièrement révélatrices : généralisation de la triche assistée par l’intelligence artificielle, étudiants utilisant systématiquement ChatGPT pour rédiger leurs travaux, enseignants eux-mêmes soupçonnés de recourir à ces outils pour préparer leurs cours.

Une étude américaine qu’ils citent est particulièrement éclairante. Lorsque l’accès à ChatGPT est supprimé, les étudiants qui y avaient le plus recours obtiennent des résultats inférieurs à ceux qui avaient appris sans cette assistance. Plus inquiétant encore, certains enseignants témoignent que des étudiants utilisent désormais l’IA jusque pour préparer les questions qu’ils poseront oralement en classe.

Le véritable enjeu dépasse donc largement la seule question de la technologie. Il touche à notre rapport à l’effort, à la connaissance et, finalement, à notre autonomie intellectuelle.

Si nous cessons progressivement d’apprendre parce qu’une machine semble savoir à notre place, nous risquons de devenir dépendants d’outils que nous ne serons plus capables de contrôler et dont, surtout, nous ne saurons plus nous passer.

À l’inverse, si nous faisons de l’intelligence artificielle un partenaire plutôt qu’un substitut, elle peut devenir un formidable moteur de créativité, d’innovation et de progrès.

Luc Julia résume cette vision à travers un concept qu’il appelle la “coopétition” : l’avenir ne réside pas dans une compétition entre l’homme et la machine, mais dans une coopération où chacun apporte ce que l’autre ne possède pas.

L’intelligence artificielle excelle dans la vitesse de traitement, l’analyse de masses considérables de données et l’assistance au raisonnement.

L’être humain, lui, conserve ce qui ne peut être délégué : la compréhension, le discernement, l’esprit critique, la créativité, le sens de l’éthique et, au bout du compte, la responsabilité de ses décisions.

La question n’est donc plus seulement de savoir ce que l’IA peut faire à notre place. Elle est de savoir ce que nous devons continuer à faire nous-mêmes pour rester capables de la contrôler.

Former des utilisateurs capables de penser par eux-mêmes

La véritable question est donc la suivante : notre système éducatif saura-t-il former des citoyens capables de maîtriser l’usage de l’intelligence artificielle, plutôt que d’en devenir dépendants ?

L’enjeu est considérable.

Il ne s’agit ni d’interdire l’intelligence artificielle, ni de l’introduire partout au nom de l’innovation. Il s’agit d’apprendre à l’utiliser sans jamais renoncer à l’effort de comprendre, de vérifier, de questionner et de décider.

Cette réflexion n’a pas vocation à clore le débat, bien au contraire. Elle ouvre un champ de questions qui concernent directement l’avenir de notre système éducatif : quelles seront demain les missions de l’école et des enseignants ? Quelles compétences faudra-t-il transmettre en priorité ? Comment préparer les jeunes à vivre, à apprendre et à agir dans un monde où l’intelligence artificielle sera omniprésente ?

D’autres articles prolongeront cette réflexion en explorant ces questions et en proposant des pistes d’action concrètes.

Car, au fond, l’intelligence artificielle nous oblige à nous interroger sur une question qui dépasse largement la technologie : qu’est-ce qui fera encore la singularité de l’intelligence humaine demain ?

Plus les machines progresseront, plus notre capacité à comprendre, à exercer notre jugement, à douter, à créer, à faire preuve d’esprit critique et à assumer la responsabilité de nos choix deviendra précieuse.

Le véritable défi n’est donc pas de construire des machines toujours plus intelligentes. Il est de continuer à former des femmes et des hommes capables de le rester.

C’est cette ambition qui guidera les réflexions que nous poursuivrons dans les prochains articles : contribuer à construire une société où l’intelligence artificielle renforce l’intelligence humaine, au lieu de s’y substituer.

RÉFÉRENCES
1] Michel Desmurget et Marius Bertolucci[
Vers l’intelligence humaine dégénérative
Revue L’Audace !, n° 1
Quel impact de l’intelligence artificielle sur la transmission et l’éducation

[2] Entretien réalisé avec Luc Julia
Il est urgent de rompre avec la paresse intellectuelle que nourrit la technobéatitude
Revue L’Audace !, n° 1
Quel impact de l’intelligence artificielle sur la transmission et l’éducation

---

Le dossier