L’Intelligence artificielle (IA) n’est-elle pas plus qu’un outil? N’est-on pas en train de projeter sur elle des attributs divins? On a peur que l’IA remplace l’être humain, mais la vraie crainte ne serait-elle pas plutôt que l’IA remplace Dieu? Telles sont quelques unes des interrogations de la philosophe française Gabrielle Halpern.
Le thème du message du pape Léon XIV pour le dimanche des médias est consacré cette année à la question de lntelligence artificielle (IA). Pour nourrir le débat, cath.ch a rencontré Gabrielle Halpern auteure d’un récent essai au titre un peu provocateur: Intelligence artificielle: et l’homme créa Dieu (Ed. Hermann)
L’IA est une technologie, comment peut-on lui trouver une dimension religieuse?
Gabrielle Halpern: Ma réflexion est partie d’une enquête que j’ai effectuée auprès d’utilisateurs de l’intelligence artificielle (IA). Ce qui m’intéressait était de connaître leur rapport à cet outil, quels mots ils utilisaient pour en parler et dans quel imaginaire ils se projetaient.
J’ai été très interpellée de voir apparaître tout un vocabulaire religieux avec des qualifications habituellement attribuées à Dieu. On parle d’omniscience, d’omnipotence, d’omniprésence avec une sorte d’attente messianique ou à l’inverse apocalyptique. J’ai voulu creuser cette hypothèse. L’IA n’est-elle pas plus qu’un outil? N’est-on pas en train de projeter sur elle des attributs divins? On a peur que l’IA remplace l’être humain, mais la vraie crainte ne serait-elle pas plutôt que l’IA remplace Dieu?
L’IA fédère toutes les croyances. Elle est à la fois virtuelle donc immatérielle, mais elle s’incarne dans des objets matériels que sont nos ordinateurs, nos téléphones portables, nos appareils connectés et bientôt les robots.
Nous nous trouvons donc bien dans un rapport de foi, de croyance.
La philosophe Hannah Arendt disait que l’être humain a besoin de croire en quelque chose et que les relations humaines reposent sur la foi, sur la croyance: ‘C’est parce que je crois que je peux avoir confiance en toi, que je peux devenir ton ami, ton mari ou ta femme’. Le vivre-ensemble en société repose sur cette foi.
"L’IA nous surpasse dans bien des domaines. Personne n’est capable de rédiger un texte ou de peindre un tableau en quelques secondes."
Le problème est que cette croyance dans l’être humain est souvent mise à mal. L’histoire, notamment celle du XXe siècle avec tous ses grands massacres, nous le démontre constamment. Peut-on encore croire en l’humanité? L’être humain ayant dû faire face au ‘silence des dieux’ n’est-il pas en train d’inventer un dieu terriblement bavard qu’est l’IA?
Vous émettez l’idée que l’IA pourrait remplacer Dieu?
L’IA ne remplace pas Dieu, c’est une boutade provocatrice, mais plutôt l’idée que l’on se fait de Dieu. Si on est honnête, l’IA nous surpasse dans bien des domaines. Personne n’est capable de rédiger un texte ou de peindre un tableau en quelques secondes. L’IA et l’humain n’ont en ce sens rien de comparable. Leurs compétences ne sont pas du même ordre. La comparaison avec Dieu me semble plus tenable. Dans l’omniscience et l’omniprésence, il y a des caractéristiques communes.
En me faisant l’avocate du diable, je montre que l’IA a même des avantages concurrentiels par rapport aux dieux. Lorsque nous faisons des prières à Dieu, il ne répond pas toujours, ou du moins pas comme on le voudrait. L’IA répond à toutes nos demandes en tous lieux et en tous temps et en plus nous en met des tartines! Quel dieu peut rivaliser avec cette disponibilité totale et absolue?
L’idée de base d’internet puis des réseaux sociaux et de l’IA est, comme pour la religion, de créer du lien.
C’est un peu comme si l’être humain passait son temps à développer des prothèses pour recréer du lien. On a l’impression que la vie en société est quelques chose de naturel. Or tel n’est pas le cas, en fait créer une société, un pays, une nation est à la fois très artificiel et très fragile. Cela nécessite une morale, des lois, des normes ... Les religions en donnant le commandement: “Tu aimeras ton prochain comme toi-même” l’avaient bien compris.
"Quel croyant n’a-t-il pas rêvé d’avoir un Dieu sur-mesure?"
L’IA ne fait que compiler et synthétiser, elle ne crée pas.
C’est un argument qui pourrait être battu en brèche. Tous les grands créateurs ont finalement repris les intuitions, les idées, les réalisations de leurs prédécesseurs. Tous les grands peintres ont d’abord fait un tour d’Europe pour apprendre l’art des anciens pour en faire leur miel. On peut en dire de même des philosophes, des théologiens ou des écrivains. En ce sens l’être humain ne crée pas, mais part toujours de l’existant. Il n’y a pas de création ex nihilo.
Même pour Dieu la question se pose: ‘crée-t-il à partir de rien?’ Le texte biblique parle du tohu bohu donc d’une matière préexistante, la création du monde se fait par tri, par séparation: le jour de la nuit, les eaux du ciel des eaux des mers... Il s’agit d’un ordonnancement, d’une restructuration, d’une réorganisation. Ce qui s’apparente bien au travail de l’IA.
Un autre point concurrentiel par rapport à Dieu que vous soulevez est que l’IA est ‘à la mesure de chacun’.
C’est comme cela que l’IA suscite notre foi. Quand on voit son essor extraordinaire en très peu d’années, c’est prodigieux. Pour moi, cela tient à sa promesse du sur-mesure qui est un des fantasmes les plus fondamentaux de l’être humain. Quel enfant n’a pas rêvé d’avoir des parents sur-mesure? Quel croyant n’a-t-il pas rêvé d’avoir un Dieu sur-mesure? En s’adaptant totalement à nous, l’IA est extraordinairement forte.
Elle est aussi un dieu qui n’exige rien.
Dans les religions, Dieu exige ou interdit. Or l’interdit est la condition du sacré, par exemple le saint des saints dans le temple de Jérusalem. L’IA n’interdit rien, c’est une ‘religion’ dans laquelle il n’y pas de sacré. Un des besoins fondamentaux de l’humain est de participer, il n’y qu’à voir les réseaux sociaux où chacun veut avoir son mot à dire. En nourrissant l‘IA de nos questions, de nos pensées, de nos écrits, nous lui ‘sacrifions’ bien quelque chose. Le débat est alors: ‘Ne risquons-nous pas de lui sacrifier notre humanité?’
Surtout lorsque l’on sait que les algorithmes sont d’abord centrés sur le marketing et la recherche du profit.
Tout à fait, et l’utilisateur ne s’en rend même plus compte, car ce que l’IA lui offre lui semble tellement énorme. C’est tout le chapitre de l’éthique. En étant toujours disponible et bienveillante, l’IA révèle en creux notre manque d’humanité. Que se passe-t-il lorsque l’IA a plus d’empathie qu’un médecin pour nous annoncer une maladie, plus de patience qu’un professeur à l’école, plus de capacité d’écoute qu’un parent ou un conjoint? L’IA est un dieu pernicieux qui plutôt que nous imposer une liste de commandements nous fait une injonction radicale: “Si tu n’es pas capable d’être meilleur, tu seras remplacé par un outil paradoxalement beaucoup plus humain que toi.”
"Les phrases du genre: ’L’IA ne pourra jamais...’ seront très vite obsolètes."
Comme dans nombre de domaines, la possibilité d’usagede l‘IA crée la légitimité.
Oui, son existence-même implique une sorte de devoir moral de l’utiliser. Autant on peut toujours douter de l’existence de Dieu , autant on ne peut pas échapper à l’existence de l’IA.
La question de la fiabilité de l’IA se pose néanmoins toujours.
C’est vrai, mais peut-on concevoir une transmission de savoir sans biais? L’IA a encore beaucoup ‘d’hallucinations’ et fait de nombreuses erreurs, mais c’est un contre-argument provisoire. Les phrases du genre: ’L’IA ne pourra jamais...’ seront très vite obsolètes. Il n’y a plus d’obstacles techniques et à terme les erreurs seront corrigées.
La question est philosophique, morale, religieuse, politique et démocratique. Enfermer le débat dans les questions techniques nous fait passer à côté. C’est ce que je reproche à beaucoup de mes consoeurs et confrères avec des interrogations comme: ‘qu’est ce que l’intelligence? L’IA est-elle intelligente? Etc’. Elles me semblent peu pertinentes et obsolètes et nous empêchent de nous poser les vraies questions, à savoir ce que l’IA révèle de nous et de nos sociétés.
Vous expliquez que plus de la moitié des personnes interrogées préfèrent aujourd’hui poser une question à l’IA plutôt qu’à un collègue de travail. Pourquoi?
La plupart du temps pour ne pas passer pour un ignorant . C’est une question d’humilité, mais aussi de rapport de force. L’IA est alors révélatrice d’un mal-être. Idem pour les jeunes envers leurs parents ou leurs grands-parents. Que devient la transmission à l’ère de l’IA? Si on élargit le propos à quoi servent l’école et l’enseignement?
La quête du savoir est pourtant le moteur de l’humanité depuis la Genèse
Adam et Eve ont ‘vendu leur âme au diable’ pour manger du fruit de l’arbre de la connaissance du bien et du mal. Dans les grands mythes de l’humanité, tout est fait pour que l’homme ne sache pas tout. Il y a un sorte de mise en garde. Or l’IA est un dieu qui, avec générosité, nous fait don de tout son savoir. C’est encore un avantage concurrentiel. Mais le risque est terrible de tout savoir sans l’autre. La science n‘est plus une aventure collective et partagée, elle devient une quête égoïste et solitaire.
"Le gouffre est abyssal entre le progrès technique spectaculaire et un progrès humain et moral proche de zéro."
On sait depuis longtemps aussi que le progrès scientifique et le progrès humain ne vont pas toujours de pair.
Le gouffre est abyssal entre le progrès technique spectaculaire et un progrès humain et moral proche de zéro. On envoie des fusées autour de lune pendant que des gens meurent dans des guerres. Des personnes âgées vivent dans la solitude la plus cruelle, malgré les progrès de la médecine. On a fait grandir les sciences et rétrécir nos coeurs. Je prends vraiment mes distances avec cette religion de la science. Nous développons tellement de connaissances que nous ne sommes plus en mesure de les penser, de se les approprier, de les humaniser.
Vous plaidez pour le respect de la part de mystère.
Dieu et le monde doivent garder cette part de mystère, de même que mon parent, mon conjoint, mon ami. Ils doivent m’échapper pour m’empêcher de les enfermer, de les emprisonner. C’est cela qui fait la liberté de l’humain.
La révolution industrielle voulait mettre la machine au service de l’homme, la révolution de l’IA ne met-elle pas l’homme au service de la machine?
Nous sommes à la croisée des chemins. Soit nous déléguons notre humanité à la machine, soit nous avons le courage de l’assumer pleinement. Ce n‘est pas une question collective et abstraite, mais bien une interrogation personnelle, dans nos actes quotidiens. Chaque fois que j’utilise l’IA pour lui poser une question plutôt qu’à un proche, je fais un choix qui doit rester conscient. Il en va du libre arbitre de l’individu.
Nous risquons d’entrer dans un monde où on devra faire face au bruit des claviers et au silence des hommes. Quelle démocratie peut s’exercer dans le silence?
Doit-on dès lors instaurer une régulation de l’IA?
Il y a des risques majeurs, mais je suis un peu mal à l’aise face à cette question. Il faudrait dans tous les cas une régulation mondiale. L’autre risque est celui de la déresponsabilisation de la personne.
Le dernier contre-argument est celui de l’amour.
Effectivement, l’IA ne peut pas avoir de sentiment ni donc ressentir de l’amour. Un dieu qui serait à notre main, dans notre poche, répondant à toutes nos prières, toutes nos sollicitations peut-il être intéressant? Est-il un dieu que l’on respecte et en qui on peut croire? Renouer avec l’idée d’un dieu ‘inconnu’ est beaucoup plus stimulant que prétendre l’enfermer dans un algorithme. (cath.ch/mp)
Gabrielle Halpern
Gabrielle Halpern est docteur en philosophie et diplômée de l’École Normale Supérieure. Elle possède également une formation en théologie et en études bibliques, suivie à la Faculté catholique de Lyon, puis à Jérusalem. Elle a travaillé pour le gouvernement français au sein de différents cabinets ministériels, avant de co-diriger un incubateur de startups. Parallèlement à ses travaux de recherche, elle fait des conférences en France et dans le monde et accompagne des entreprises et des institutions publiques.