Avec 'Magnifica humanitas' Léon XIV invite à regarder derrière l'écran de l'IA

Pour Jean Claude Huot  l’encyclique du pape Léon XIV  Magnifica humanitas restera un document marquant de la Doctrine sociale de l’Église. Ce texte aide à regarder avec lucidité la réalité de l’intelligence artificielle et à rechercher ce qui se cache derrière les écrans.

En présentant son encyclique le pape Léon a invité à ‘désarmer’ l’IA.
Jean-Claude Huot: C’est le message central de ce document. L’IA doit être un outil au service du bien commun et non un levier de domination. Cela vaut dans tous les domaines, le travail et l’économie bien sûr, mais aussi la communication, la santé, la justice sociale, l’environnement, la guerre, les relations internationales, la culture, la formation...
Léon XIV cite les paroles du Magnificat: «Le Seigneur comble de biens les affamés, renvoie les riches les mains vides» (Luc 1,46-55). Ce chant montre que rien n’a changé dans le monde, mais que tout a changé dans l’histoire du salut, car Dieu fait ‘toutes choses nouvelles’.

Pour vous, ce document marque une étape importante pour la doctrine sociale de l’Église.
C’est un jalon, car l’encyclique arrive à un tournant pour l’humanité. Nous sommes encore au commencement du processus et il est bon que l’Église anticipe sur les choses à venir. Le pape est une voix forte.  
Le texte va rester marquant et j’ose espérer qu’il aide les communautés chrétiennes et le monde à regarder avec lucidité cette réalité et à rechercher ce qui se cache derrière les écrans. L’encyclique montre que l’Église est capable de ‘lire les signes des temps’, comme le dit le Concile Vatican II, sans se placer dans une position de surplomb. J’apprécie aussi beaucoup que le pape pose l’Église comme défenseure des droits humains.    

Le pape situe les enjeux de l’IA à partir des deux histoires bibliques de la Tour de Babel et de la reconstruction des murailles de Jérusalem avec le prophète Néhémie. 
Il nous invite à faire un choix à propos de l’intelligence artificielle qui constitue la ‘chose nouvelle’ de notre époque. (En référence à l’encyclique Rerum Novarum – Des choses nouvelles – de son prédécesseur Léon XIII à la fin du XIXe siècle NDLR). L’IA a et aura un impact très fort sur l’humanité, donc il faut en dire quelque chose. Il faut arrêter le chantier d’une nouvelle Babel fondée sur l’autosuffisance et l’absolutisation de l’humain. Le ton a quelque chose de prophétique. L’IA décuple les questions autour du pouvoir de l’économie privée, de l’exploitation humaine, de l’impérialisme politique et culturel des grandes nations. L’IA est bien davantage qu’un simple outil: elle est un «environnement dans lequel nous sommes immergés et un pouvoir avec lequel nous devons composer» (§ 110).

 On considère volontiers la première encyclique d’un pape comme le programme du pontificat.
Oui et non. On comprend le choix de son nom Léon XIV. Il se présente comme le porteur de l’enseignement social de l’Église, fondé par Léon XIII, qu’il veut actualiser. Mais la foi va évidemment au-delà et sa mission d’évêque de Rome est plus large. Je remarque aussi positivement qu’il applique sa réflexion également à l’Église autour de la communication, des abus, et de l’esclavage. Il admet que l’Église ne fait pas tout juste. 

La première partie de l’encyclique est un large rappel du développement de la doctrine sociale de l’Église. 
Le pape reprend le ‘noyau dur’ de la doctrine sociale de l’Église à savoir les principes qui la portent: la dignité de la personne humaine, le bien commun, la destination universelle des biens, la subsidiarité, la solidarité et la justice sociale (§ 109). Le pape les met en lien avec les évolutions technologiques actuelles. Avec, entre autres, un questionnement sur la régulation de l’IA ou sur l’usage et la propriété des données numériques. Ou encore sur le sort des travailleurs qui continuent de ‘valider’ manuellement les données de l’IA ou de ‘nourrir’ les algorithmes dans des ‘usines’ des pays du Sud. Ou enfin sur l’exploitation des ressources minières et énergétiques nécessaires aux infrastructures. 

La révolution industrielle devait mettre la machine au service de l’homme mais on constate souvent l’inverse: l’homme est asservi à la machine.
C’est une crainte directe, semblable à celle de Rerum Novarum face à la révolution industrielle du XIXe siècle. Dans mon activité d’aumônier du monde du travail, j’ai constaté ce risque de réduire l’humain à un outil, quand on mesure sa performance à l’aune du robot. . Or la force de travail ne peut pas être réduite à une ‘ressource’, elle implique la liberté, la créativité et l’épanouissement de la personne. Le système doit rester centré sur la personne et non pas sur la performance.
Le paradigme technologique n’est pas neutre Le pape avertit que le  progrès technique ne peut pas se faire sans «faire preuve d’une attention responsable envers la famille humaine» (§ 106). 

L’enjeu devient alors anthropologique.  
Oui. Léon XIV nous rappelle que ce qui fait la spécificité de l’humain est aussi sa fragilité, sa vulnérabilité, ses souffrances. C’est à travers ses limites que l’on grandit et que l’on devient pleinement humain. C’est aussi là que se trouve le lieu de la relation. Avec son titre «Magnifique humanité» cette encyclique est un plaidoyer pour l’humanisme au sens large. La dignité ne se mesure pas en termes de réussite ou de performances. Le pape renvoie directement à la Déclaration universelle des droits de l’Homme et à des grandes figures de l’engagement humaniste, y compris non chrétiennes. 

Concrètement cette réflexion concerne tout le domaine de l’emploi.
Léon XIV rappelle que si l’efficacité devient le critère unique, on rate le sens du travail comme lieu d’épanouissement et de contribution à la société. Ce critère s’applique partout où on restructure, on centralise, on supprime des postes et on réduit les prestations.
Si on considère les emplois précaires, souvent non qualifiés, entre autres dans le nettoyage, la construction l’hôtellerie ou l’agriculture, les ouvriers deviennent de simples pions interchangeables. Et on leur impose des conditions de travail qui ne leur permettent pas d’obtenir un permis de séjour, un salaire décent, un logement ou un droit à la retraite. L’IA risque d’étendre ce phénomène à d’autres catégories de travailleurs. 

Au chapitre de la destination universelle des biens, Léon XIV aborde la question des données numériques.
J’apprécie cette réflexion de Léon XIV qui fait le lien entre le principe de la destination universelle des biens et la récolte de données numériques que les grandes entreprises privées de la tech s’approprient. Ces données sont un bien commun qui devrait appartenir à tous. Il n’est pas ici seulement question de propriété, mais aussi de transparence. Lorsque l’IA peut ‘trier’ les personnes et décider de l’emploi, de la fourniture de soins de santé, de médicaments, de vaccins, d’aides sociales... ou plus tragiquement encore, dans le cas de la guerre, de la vie et de la mort avec des robots tueurs, «il est nécessaire que les décisions soient compréhensibles, contestables et soumises à un contrôle» (§ 164) 

Il s’agit donc de gérer de manière plus transparente le développement de l’IA.  
Le pape rappelle plusieurs fois qu’il n’est pas contre le développement en tant que tel, mais que l’on doit réfléchir et discuter sur la manière de le construire et de le gouverner. Les orientations qu’on donnera à l’IA seront décisives. En s’appuyant sur la notion de subsidiarité, le pape demande donc que la gestion des données et des algorithmes  ne reste pas aux mains de quelques-uns, mais soit fondée sur des règles décidées aux divers échelons de la communauté mondiale. Face aux manipulations opaques de l’opinion publique, le pape plaide pour la recherche de la vérité, seule à même de consolider la démocratie. 

Face au développement fulgurant de l’IA, la formation est un autre enjeu capital.
C’est un des points soulignés par Léon XIV. Il approuve  par exemple qu’on fixe une limite d’âge pour l’accès aux réseaux sociaux. Ce n’est pas seulement la responsabilité des parents, mais celle de la collectivité. Le pape prône une éducation qui vise non seulement à utiliser l’IA mais à comprendre et critiquer son fonctionnement. Cela vaut pour l’école, mais aussi pour la formation continue. (cath.ch/mp)