Désarmer l'IA ou éduquer au jeûne de l'IA ?

“Désarmer l'IA.” De la première encyclique du pape Léon XIV publiée ce lundi, qui a essentiellement à voir avec l'intelligence artificielle, je vois cette dernière phrase circuler beaucoup.

À une époque où nous nous nourrissons de plus en plus de ce que produisent les algorithmes, souvent sans le savoir, je m'en tiens d'abord à une autre : "Nous devons éduquer au jeûne de l'IA".

Dans Magnifica Humanitas, je trouve particulièrement pertinents les messages relatifs à l'éducation, à la sobriété numérique et à l'opposition aux idéologies qui font tout leur possible pour nous persuader que l'être humain est obsolète :

Le pape Léon dénonce l'illusion selon laquelle nous aurions des machines parfaites qui font paraître la pensée humaine inutile.

Le problème est qu'une grande partie de l'industrie numérique s'appuie sur cette idée, au point qu'il est difficile de ne pas y croire.

Alors, face à cette idée, quel devrait être le rôle de l'école ? Conforter encore plus les générations futures dans ce principe ? Non, l'école doit être le lieu où l'on enseigne ce que la technologie numérique ne peut pas nous donner : « du temps partagé pour apprendre et des relations de confiance ». 

C'est là qu'intervient un autre concept fondamental :

➼ Il faut faire tout ce qui est possible pour que "le désir de poser des questions" ne s'éteigne pas chez les jeunes.

Tout cela s'inscrit dans une réflexion beaucoup plus large sur la puissance de la machine et les limites de l'être humain, que l'idéologie transhumaniste prétend transcender en nous fusionnant avec la machine : 

➼ La limite n'est pas un défaut à éliminer, mais une dimension constitutive des personnes, puisque « l'être humain ne se développe pas malgré la limite, mais souvent à travers la limite ».

Le pape rappelle un autre aspect essentiel, et pourtant loin d'être assimilé par tout le monde : "la technologie n'est pas neutre, car elle adopte le visage de ceux qui la conçoivent, la financent, la régulent ou l'utilisent".  

Ainsi, lorsqu'on entend que l'IA ressemble à n'importe quel autre outil, que "il suffit de l'utiliser correctement pour en tirer profit", on passe à côté d'une grande partie du problème.

Par Diego Hidalgo