Critiquer les résultats de l’IA… ou l’industrie de l’IA et son emprise?

Ma collègue et amie, Clara Dyan-Charles, a fait paraître dans Le Devoir un texte d’opinion relativement aux impacts pernicieux de l’IA et à un aveuglement qu’elle perçoit de la part des institutions d’enseignement supérieur quant à cette technologie. Parce que ce texte me semble soulever des questions importantes pour la formation universitaire, je m’autorise à me soustraire d’une certaine réserve qui aurait pu m’amener à ne pas le commenter, puisque j’en connais bien l’autrice. Curieusement, ma préoccupation touche moins à l’IA qu’à certaines des observations de Clara et à ce qu’elles m’amènent comme réflexions à propos de la formation universitaire contemporaine dans son ensemble.

Certains pourraient estimer la position de Mme Dyan-Charles comme alarmiste: « Conséquences sociétales et professionnelles à long terme et à large échelle », « pratiques anticoncurrentielles », « bataille culturelle et économique », « course à l’armement »… Le vocabulaire est fort, mais il ne m’émeut pas. De mon point de vue, les outils d’IA – notamment les IAg – m’apparaissent comme un réel changement civilisationnel; une innovation « de rupture » dans tous les sens. Le mot innovation est tellement galvaudé qu’on a oublié à quel point une réelle innovation suscite des adhésions et des résistances profondes, parce qu’elles dérangent… Une « innovation » qui ne remet pas en question les pratiques est-elle vraiment « innovante »?

Non, ce texte m’interpelle parce qu’il nous renvoie une question qu’il m’apparait de plus en plus urgent de se poser: à quoi veut-on que serve l’institution universitaire au XXIe siècle? Soit, on veut y enseigner la pensée critique, mais à quelle fin? Pensée critique dans un cadre professionnel ou dans un cadre citoyen? Dans l’idéal, l’un n’irait pas sans l’autre et ces deux dimensions ne seraient pas incompatibles. Je crois néanmoins qu’elles se retrouvent de plus en plus souvent en conflit, sinon carrément en opposition.

Ainsi, ce passage du texte de Clara: « Sans même rentrer dans les méandres des usages plus controversés, nous avons confié les rênes de notre exposition médiatique collective à des compagnies privées sur lesquelles nous n’avons aucune préhension. Notre esprit critique ne nous permet plus, bien souvent, de percevoir le pouvoir politique collectif dont nous avons abdiqué. » Tant que l’on se limitera à enseigner comment être des professionnels efficaces – parfois des employés de ces mêmes compagnies privées (ou de secteurs publics complices), tout critiques soient-ils à l’intérieur de leurs fonctions – aurons-nous réellement joué notre rôle? Si nous estimons que le rôle de nos institutions est de former des personnes professionnelles qui s’intègrent au système actuel, alors ce sera mission accomplie.

(En parallèle, il m’apparaît qu’il y a aussi lieu de se demander ce que signifie former des personnes professionnelles du XXIe siècle, alors qu’une bonne partie des connaissances a été externalisée. Personne ne remet en question l’importance de développer des compétences et une identité disciplinaires fortes chez les personnes étudiantes. Toutefois, comme le mentionnait un professeur de médecine: « Je n’ai peut-être pas besoin que les futurs médecins connaissent les 21 symptômes d’une maladie. J’ai cependant besoin qu’elles en connaissent suffisamment pour poser une hypothèse diagnostique qu’elles iront valider avec les autres symptômes, tels que décrits par un agent intelligent spécialisé. » Cependant, des compétences professionnelles (et citoyennes) spécifiquement humaines d’intelligence émotionnelle, de leadership, de travail d’équipe, de tolérance au risque, etc. pourront difficilement être assumées par les machines…)

Si nous considérons par ailleurs que nous avons un devoir de former des humains critiques, qui utilisent leurs compétences universitaires pour interroger un système qui s’intéresse davantage à transiger nos données personnelles qu’à améliorer la qualité de vie de nos semblables, alors nous échouons. Clara explique qu’elle est « arrivée à la conclusion que nous ne sommes pas face à la simple implantation d’une technologie de valeur neutre ». Je suis d’accord, mais parce que nous en pervertissons le potentiel : nous reproduisons avec les IAg les dérives des réseaux sociaux. Non satisfaites de nous avoir réduits à notre plus simple rôle de consommateurs, ces compagnies privées font de nous de simples produits… Pour moi, les IA restent des outils. Elles ne sont pas neutres, bien sûr, mais elles ont un potentiel de soutenir notre évolution ou d’y nuire définitivement. Avec un marteau, on peut construire une maison… ou tuer son prochain.

Mme Dyan-Charles écrit encore que, selon elle, « L’esprit critique […] doit permettre à nos étudiants de regarder avec clarté le monde qui les entoure, de produire des réflexions pertinentes dans un monde dont nous ne mesurons pas encore réellement le degré de changement en cours et à venir ». Ici aussi, il y a lieu de nous demander si nous formons des personnes professionnelles avec des préoccupations immédiates ou des personnes citoyennes engagées qui souhaitent se projeter sur le long terme et examiner les conséquences des choix d’aujourd’hui sur l’avenir. Choix environnementaux, d’abord, mais choix économiques et culturels, donc forcément politiques.

“L’esprit critique doit devenir un outil pour penser notre monde technologique, pas seulement pour produire un travail de session de qualité. L’esprit critique ne peut faire l’économie des enjeux politiques et de la pensée collective.”

Alors que notre monde se complexifie et que les faux-semblants se multiplient, notamment au moyen de la technologie, il apparaît que devenir un citoyen critique requiert de plus en plus une formation supérieure. Serait-il possible que l’on développe, en plus des compétences professionnelles, une pensée critique essentielle à l’égard des impacts sociaux des technologies, mais aussi de leurs usages éthiques et du genre de société dans laquelle on souhaite vivre ? Les unes et les autres deviennent indissociables, il me semble.

Source: Dyan-Charles, C. (15 janvier 2025), L’IA et l’enseignement supérieur, ou quand la pensée critique ne suffit plus (opinion), Le Devoir.