L' I.A. (Intelligence artificielle), un progrès technologique ambivalent…

« We never saw this coming / Pride comes before our fall / We never heeded the warning / Buried deep within us all / The age of shadows has begun! / (Giant machines blot out our Sun!) / Frozen minds becoming numb! / (The age of shadows has begun!) / The age of Shadows has begun! / (I won't accept what we've become!) / We stand to lose more than we've won! / (The age of Shadows has begun!) / Our quenchless thirst for knowledge / Our urge to change and grow / Our need to expand the nation (Our need for experimentation) : Made us rise from the depths below/ The age of shadows has begun! (Giant machines blot out our Sun!)».

Ayreon, « Age of shadows », 01011001, 2008.

En novembre 2022, l’application ChatGPT basée sur l’intelligence artificielle (IA) a atteint un million d’utilisateurs cinq jours après son ouverture au grand public. L’utilisation de cette nouveauté par les élèves a rapidement fait débat, certains souhaitant l’interdire alors que d’autres envisageaient de l’utiliser dans leur enseignement. Le Ministère a donc dû se positionner, et il a choisi « d’engager une dynamique positive, responsable et raisonnée de mobilisation de l’IA pour les enseignement ».  Une position qui amène la DRANE (Direction Régionale  Académique  au  Numérique  pour  l’Education) à organiser du 15 au 19 avril une semaine dédiée à l’IA dans l’académie de Reims.

Mais qu’est-ce que l’IA, ce nouvel outil qui fait passer l’idéologie du tout-numérique à un niveau  supérieur d’imprégnation sociale et de conformation des esprits ? La question est en réalité  politique dans notre société qui a placé sa foi dans le progrès technique, érigé en quasi-religion.

Cette foi dans les nouvelles technologies et la promotion qui en est faite par des lobbies issus des plus puissantes multinationales des technologies de l’information et de la communication auprès des  gouvernements ont des conséquences majeures dans bien des domaines. Parmi eux, il y a l’éducation.  En général, nous pensons que l’IA est un outil fantastique ; qu’elle n’est ni bonne, ni mauvaise ; que  tout dépend de ce qu’on en fait. C’est faux !

Premièrement, une technologie de l’esprit comme l’IA est foncièrement ambivalente, toujours et  bonne et mauvaise, quelles que soient les situations, et donc intrinsèquement dangereuse, y compris  pour la formation de la conscience de soi, de l’autre et du monde. Et particulièrement dangereuse pour  les  jeunes  générations  qui  vont  venir  au  monde  sous  son  règne  et  communiquer  avec  ses  manifestations, comme avec un tiers, perçu comme au moins égal sinon supérieur.

Deuxièmement,  l’IA  est  désormais  l’infrastructure  algorithmique  dans  laquelle  sont  calculées,  évaluées et orientées politiquement toutes les réalités sociales. L’IA n’est plus un outil : c’est le nouvel  espace dont la structure calculatoire valide, ou non, l’existence d’un fait. L’IA est ainsi un dispositif  de reconditionnement de nos existences. Un dispositif de contrôle géant, dans lequel on nous  encapsule et hors duquel il devient peu à peu difficile voire impossible d’exister.

Il est très probable qu’il n’y aura pas d’intelligence artificielle « forte », comme on dit dans le domaine :  c’est-à-dire qu’il n’y aura pas de machine qui pensera vraiment, qui sera douée de distance et d’esprit  critique, ni capable d’une interaction émotionnelle sensible devant un humain ; bref, qu’aucune  machine n’aura jamais de conscience de l’autre et du monde, ni de réelle empathie.

Mais le danger n’est pas écarté pour autant : les dispositifs technologiques de simulation de l’intelligence et de l’interaction qui émergent aujourd’hui promettent d’être bientôt suffisants pour  tromper l’attention et la conscience de nombre d’êtres humains. Il suffira qu’on y croit. Qu’on veuille y croire. L’illusion collective l’emportera, par le biais de confirmations réciproques.  Et si ces  dispositifs nous « facilitent la vie » au point d’être indispensables pour qu’on existe en société,  alors le tour sera joué : plus personne ne les remettra en question.

L’affaiblissement de  la  conscience  critique,  disons  même  un  abêtissement  de  la  masse  par  uniformisation médiocre des individus dans cette masse est un terrain favorable à l’accueil d’une IA  qui n’a pas besoin d’être « forte » pour dominer. Mais la technologie ne domine pas seule, elle domine  par l’intention d’un pouvoir qui use de cette technologie pour augmenter sa puissance de contrôle.

Derrière l’IA, il y a un pouvoir politique et une intention de régulation sociale par l’usage de  dispositifs qui recueillent les données d’individus pensés comme des « divisibles », puisqu’ils sont  réduits à une poudre de paramètres qui n’est pas eux mais qu’on exploite pour se les représenter et  conformer  leur  existence  à  des  desseins  qui  ne  résultent  pas  d’un  dialogue  ni  de  décisions  démocratiques. Voilà ce qui constitue la nouvelle base du contrôle des populations. La Chine est en  avance. Ce qu’elle fait suscite secrètement l’envie de gouvernements pourtant à la tête de démocraties,  même s’ils s’en défendent. Nous prenons le même chemin, et pas si doucement.

Et dans l'éducation ?

On ne peut déjà plus la penser comme en 2010. Il faut anticiper, et la penser déjà comme si nous  étions en 2030. La penser par anticipation proche, donc, et sur tous les plans : recrutement et  formation des maîtres – un sujet d’autant plus urgent qu’une réforme de la formation des enseignants  est prévue pour la rentrée 2024 – contenus des programmes, pertinence à former les élèves à lire, à  écrire, à compter, autrement dit à développer des facultés cérébrales autonomes avant toute forme  d’emprise par les facilités d’assistance de quelque dispositif technologique que ce soit !

L’éducation s’alourdit d’une nouvelle tâche, encore une, sans la prise en charge de laquelle tout  le reste (les savoirs et les savoir-faire fondamentaux) partira à vau-l’eau : la tâche de préserver  les jeunes esprits de l’influence des dispositifs du tout-numérique et désormais plus particulièrement  des dispositifs algorithmiques d’IA ; de les préserver non pas « des écrans », mais des interfaces  cognitives ; car ce sont ces dispositifs, essentiellement visuels, qui assurent la médiation entre le  monde réel et les connaissances (l’un comme l’autre fracturés en « informations »), et le destinateur- récepteur, dont les facultés sont sollicitées d’une manière à en conformer le cerveau, le type de  conscience et d’être-au-monde, afin qu’il soit un agent favorable au maintien d’une certaine idéologie  promue comme seule valide. 

Quel type d’enseignants, avec quelle structure mentale et quelle force morale faudra-t-il, en 2030,  pour lutter contre ce nouveau léviathan cognitif dont « l’effroi qu’il inspire lui permet de modeler la  volonté de tous » ? Pour "Action et Démocratie CFE-CGC", c’est dès maintenant qu’il faut se poser cette  question essentielle pour mettre à profit le peu de temps qu’il reste, afin que l’éducation  conserve la part d’humanité indispensable à la formation d’élèves dotés d’esprit critique et de  capacités de décider par eux-mêmes.

Comme pour cette tribune de notre collègue Philippe nous sommes preneurs de chacune de vos remontées de terrain (constats, suggestions…) afin de publier vos témoignages (anonymement ou pas selon votre volonté) et surtout d'envisager des actions concrètes face à une catastrophe annoncée.