Les chrétiens doivent-ils craindre l’IA? (Épisode 459)

Un chrétien devrait-il craindre l'IA? C'est la question que souhaite poser Florent. Pour y répondre, il a invité son ami Quentin, qui, en plus d’être un frère en Christ, travaille dans le domaine professionnel de l’intelligence artificielle: deux conditions idéales pour apporter des éléments de réflexion sur l’emploi de l’IA par un chrétien.

Un pasteur vous répond: le podcast de Florent Varak qui t’aide à mieux comprendre la Bible, une question à la fois.

Tu veux poser une question?

Si tu as une question adressée à Florent Varak, commence par consulter la liste des épisodes existants ici et si le sujet n’a pas encore été traité, tu peux poser ta question à l’adresse: contact@toutpoursagloire.com.

Transcription:

Cette transcription a été générée automatiquement, n’hésitez pas à nous signaler toute erreur ou incohérence qui nous aurait échappé.

FlorentLa question qui nous préoccupe pour ce podcast est d'actualité, l'intelligence artificielle et je suis accompagné de Quentin Klopfenstein dont c'est le domaine d'activité professionnelle. Donc je suis vraiment reconnaissant qu'il ait accepté de se joindre à moi pour cet épisode parce que moi je ne peux pas en parler intelligemment, mais lui peut le faire. Bonjour Quentin.

QuentinSalut Florent, merci beaucoup pour l'invitation.

FlorentAlors Quentin, je sais que tu es Ancien d'une Église, l'Église protestante évangélique de Dijon-Est, une Église membre de l'union d'Église Charis dont je fais partie. Donc c'est vraiment un bonheur de t'avoir sur cette sur cette émission. Et alors je ne sais pas si tu veux te présenter davantage, mais je t'ai lancé un peu quoi.

QuentinOui, avec plaisir, merci Florent. Du coup, je m'appelle Quentin, j'ai 31 ans, je suis marié à Emilie et on a ensemble 3 enfants. Comme tu disais, j'ai le privilège de servir en tant qu'ancien dans une Église à Dijon depuis mars de l'année dernière. Et puis ce qui nous intéresse peut-être plus aujourd'hui, je travaille pour une entreprise qui utilise l'IA pour faire de la recherche sur le domaine médical, donc pouvoir chercher des nouveaux médicaments notamment contre le cancer ou d'autres maladies. Et ce qui m'a amené là en fait c'est un cursus universitaire assez classique et vous verrez pourquoi je mentionne ça aussi peut-être par la suite. Mais j'ai donc une licence, un master et une thèse en mathématiques appliquées avec des liens dans le domaine de l'IA appliqué à la santé. Donc voilà.

FlorentMerci. Bon déjà on va casser un petit peu le mythe des chrétiens bonnets. Mais ce n'est pas le sujet de la conversation.

QuentinNon.

FlorentAlors justement, moi j'ai cité un jour Chat GPT un peu de façon rigolote dans une émission et je me suis fait prendre une volée de bois vert dans certains commentaires, vous ne réalisez pas les dangers de de l'IA. Donc moi ce ce podcast, enfin cet épisode, ça va être les chrétiens doivent-ils craindre l'intelligence artificielle Alors ce que je te propose déjà, c'est que tu nous plantes le décor un peu. Qu'est-ce que l'intelligence artificielle Comment ça fonctionne

QuentinDu coup, l'intelligence artificielle, c'est un domaine qui utilise l'informatique et les mathématiques pour faire simple, pour réaliser des tâches plus ou moins difficiles. Alors c'est soit accomplir des tâches complètes, soit simplifier, optimiser des tâches qui sont dans notre quotidien ou dans dans nos travail respectifs, et qui en fait va essayer de copier le fonctionnement d'un être humain dans la manière dont elle va réaliser ses tâches. Donc je vais donner quelques exemples. Donc il y a des tâches assez simples qui sont par exemple le fait de reconnaître sur une image si l'animal est un chien ou un chat. Donc ça c'est une tâche qu'un enfant peut réaliser. C'est une tâche qui qui n'est pas si si facile que ça pour pour l'intelligence artificielle, même si aujourd'hui on a fait des des beaux progrès là-dessus. Des beaux progrès là-dessus. Un autre exemple ça pourrait être, qui est utilisé aussi dans notre quotidien, c'est le fait de définir s'il y a un mail qu'on reçoit et un spam ou non en fonction de certaines caractéristiques du mail, du Nombres de caractères spéciaux qu'il y a dans le mail etc etc. Et puis on peut imaginer les tâches plus complexes comme détecter une tumeur sur une imagerie médicale à partir de l'image, voire même la conduite d'une voiture autonome pilotée par une IA. Donc voilà, ça, c'est c'est très large et d'où aussi l'impact et et les enjeux qu'il y a aujourd'hui autour de de l'intelligence artificielle.

FlorentOuais alors je c'est intéressant que tu tu cites plusieurs de ces domaines. Souviens de James Tour qui est un chimiste, biochimiste de haut vol, enfin c'est un des grands spécialistes de la question. Il venait de poster il y a quelque temps un un remerciement pour une intelligence artificielle. Il disait certains de ces logiciels de conceptualisation de de molécules pour des médicaments sont des logiciels complexes qu'il faut maîtriser en plusieurs mois et les calculs sont longs. Ils disaient avec l'intelligence artificielle, on est allié à une rapidité et une précision d'exécution absolument extraordinaire. Il en était reconnaissant. Alors évidemment, ça pose la question comment ça fonctionne

QuentinOui, oui, c'est une bonne question. Alors on va essayer de garder les choses simplement, mais donc vraiment toute la base de ces de ces outils-là, c'est lié à la digitalisation et à la l'accès aux données qui est rendu possible aujourd'hui par nos ordinateurs voire même internet et les serveurs qui sont derrière. Donc tous ces outils vont se baser sur ce qu'on appelle de la donnée et derrière le le terme donnée, il ne faut pas imaginer quelque chose d'abstrait. La donnée pour nous aujourd'hui, c'est des images, du texte, de la vidéo, voire même des tableaux de données comme on peut imaginer des tableaux où on a pour chaque patient certaines caractéristiques. Et donc ces données sont ensuite converties en Nombres et traitées par des formules mathématiques pour pouvoir donner quelque chose qui est cohérent et qui va rendre possible le fait de réaliser cette tâche-là. Donc pas de pas de choses mystiques ou magiques, c'est simplement utiliser de la donnée, la transformer en information qui est compréhensible par l'ordinateur et puis en faire quelque chose d'intelligent avec.

FlorentAlors ces données justement elles sont repiquées sur ce qui existe j'imagine. Donc il y a un côté, il y a un côté de d'observation moyenne de l'information qui est disponible n'est-ce pas

QuentinOui il y a ce côté observation adaptation à un contexte déjà vu ou voire même la mise en commun de plusieurs contextes vus différents qui permet d'obtenir quelque chose de nouveau.

FlorentOk. Alors les utilisations principales, on on en a évoqué quelques-unes. Tu tu as parlé de la création de de de molécules pour pour des médicaments par exemple ou des choses comme ça. J'ai évoqué aussi cet aspect des choses. Tu pourrais donner d'autres exemples de fonctionnement

QuentinOui, il y a des exemples qui sont beaucoup plus mis en avant aujourd'hui depuis quelques années. Tu l'as mentionné tout à l'heure avec chat GPT. Et donc tous les tous les exemples autour de ce qu'on appelle dans dans le domaine les modèles génératifs, si on veut vraiment être précis, c'est c'est tous les outils d'IA qui sont capables de générer des images, du texte ou des vidéos à partir juste d'un d'un message donné par l'utilisateur qu'on appelle un prompt. Et donc en fait ces ces outils-là ils ont révolutionné un petit peu tout ce qu'on connaissait sur l'intelligence artificielle avant cela pour plusieurs raisons, mais notamment le fait que ça a été rendu accessible au grand public très rapidement. Et donc je ne sais plus mais chat GPT je crois qu'ils ont atteint un million d'utilisateurs en quelques semaines. Ça a été ça a été un boom extra. Ce qu'il faut bien comprendre si on revient à l'exemple de chat GPT peut-être pour que les gens qui nous écoutent puissent aussi comprendre comment ça fonctionne et qu'est-ce qu'il y a derrière. En fait l'idée des modèles ou des outils il y a derrière chat GPT mais je vais en citer d'autres Claude, le chat, Jimini, enfin prenez celui que vous préférez. C'est le fait de pouvoir produire du du texte et qui qui fait sens dans une langue parce que c'est pas si simple pour des des des des ordinateurs de produire une suite de mots qui fait sens. Donc une vraie expression du langage. Et donc la manière dont ces dont ces outils fonctionnent est la suivante c'est c'est assez simple de comprendre. En fait ils sont ils sont construits pour pouvoir à partir d'un contexte de mots donner un mot qui suit qui fait sens. Donc si on commence le début d'une phrase en disant par exemple les élèves ouvrent l'heure et on ne donne pas la suite de la phrase. En fait ces outils d'IA sont entraînés, sont construits pour donner un mot qui suit ce contexte de mots qui fait sens avec une certaine probabilité, avec une certaine c'est comme si on tirait au dé le mot qui suit sauf que là les probabilités ne sont pas égales pour chacun des mots qu'il pourrait donner. Et donc par exemple derrière ChatGPT il dirait les élèves ouvrent leurs cahiers cahiers avec une probabilité de 40%, ouvrent leurs livres avec une probabilité de 30% et caetera et caetera. Et donc en fait après, ChatGPT j'ai pété un peu au sort avec ces probabilités là pour donner le texte final qu'on connaît ou qui nous est rendu nous utilisateurs. Et ce qu'il faut bien comprendre c'est qu'en fait derrière ces modèles qui paraissent incroyables et c'est le cas, L'idée principale de ce qui fait fonctionner ces outils, c'est en fait la quantité de données qui leur sont données pour pouvoir construire ce qu'ils sont aujourd'hui. En fait depuis deux-mille-24, c'est les plus gros modèles qu'on connaît, les plus gros outils, ils sont construits quasiment à partir de toute la connaissance et de toutes les pages disponibles sur internet.

FlorentC'est incroyable toutes les pages.

QuentinC'est des milliers de milliers de de pages qui sont données à ingurgiter à ce modèle-là en fait.

FlorentOui alors c'est énorme. Est-ce que ça crée des problèmes au niveau des copyrights aussi peut-être des éléments que l'on retrouve ou pas

QuentinAlors ça peut, ça dépend comme l'utilisation qu'on en fait par la suite. Aussi des des gros sujets autour de la législation autour de tout ça qui sont en train d'arriver sur le sur le sur le devant de la scène. Et bien souvent là la technologie va tellement plus vite que la législation que ce n'est pas encore des questions qui sont tout à fait résolues. Mais donc ce qu'il faut vraiment comprendre c'est que aujourd'hui pour les gens du domaine il y a même des effets de saturation où on a utilisé toute la donnée disponible et donc c'est plus au niveau de ajouter plus de données qui va permettre d'améliorer ces outils-là. Ça va être changer l'architecture, changer la manière dont on traite ces données.

FlorentMais c'est sûr que c'est spectaculaire. Alors moi j'utilise plutôt Claude, tu l'as mentionné.

QuentinOui.

FlorentEt j'avais besoin récemment pour un podcast d'avoir les références dans le catéchisme de l'Église catholique d'une question précise, j'ai posé la question et il m'a dit ça c'est l'article blablabla, enfin c'est assez sidérant comme ce qui m'aurait pris un quart d'heure 20 minutes à naviguer avec le livre en main que j'ai dans ma bibliothèque, soudainement ça m'a pris 10 secondes et c'est un gain de temps absolument formidable. Donc il y a pas mal d'utilisation, tu voudrais en nommer d'autres des utilisations intéressantes

QuentinTu l'as mentionné, je crois que l'utilisation la plus intéressante pour nous en tant qu'utilisateur lambda, c'est cette idée de condenser l'information ou utilisateur lambda, c'est cette idée de condenser l'information ou d'avoir accès à une information très résumée et très précise en un gain de temps record. Après, une utilisation qui me touche particulièrement aussi dans mon travail, ce sont des assistants pour le code et pour le développement de nouveaux outils. En fait, l'humain reste l'orchestrateur principal quand on va écrire du code, mais il va être assisté par un outil d'IA qui va nous faire des propositions en direct sur soit une partie du code qui pourrait être complétée automatiquement, soit même pour nous pour nous proposer des modifications pour pouvoir améliorer ce qu'on est en train de faire. Et donc ça dans le monde de l'entreprise et de la technologie, c'est beaucoup utilisé aujourd'hui.

FlorentOk. Alors j'aimerais qu'on parle des espoirs puis ensuite on terminera un peu sur les dangers. Il y a une expression que je trouve absolument fabuleuse, l'hallucination, que les intelligences artificielles ont des hallucinations, je trouve ça très rigolo comme concept, parce que généralement elles ne fument pas les mêmes choses que les autres, les humains en tout cas. Donc parlons déjà des espoirs. Quels sont les aspects positifs, constructifs et puis ensuite on parlera des dangers.

QuentinUn des plus grands espoirs tu l'as mentionné pour moi tout à l'heure, c'est ce qui est lié un petit peu au domaine médical et ça me touche particulièrement, c'est le domaine dans lequel je je travaille. Le corps humain est d'une complexité incroyable et les données qu'on peut en tirer aujourd'hui sont multiples Et donc un un cerveau humain ou même un médecin le plus qualifié, c'est difficile pour lui de de processer et de comprendre l'ensemble de son patient avec toutes les données qu'il peut obtenir. Et donc pour moi un désespoir de l'IA c'est accompagner la médecine pour pouvoir chercher en quelque sorte l'aiguille dans la botte de foin qui va permettre de mieux comprendre la maladie du patient ou de mieux comprendre le traitement qu'il faut donner aux patients au bon moment et et pour quelle raison. Et donc ça pour moi c'est un des des espoirs et c'est pour cela que l'IA et la santé me tiennent à coeur depuis depuis que j'ai fait mes études.

FlorentSuper et peut-être un espoir pour nous qui sommes chrétiens dans l'utilisation tu dirais quoi enfin je sais que ce n'est pas forcément une des questions à laquelle tu as réfléchi mais.

QuentinLes espoirs pour nous qui sommes chrétiens tiens pour moi c'est dans dans ce monde hyperconnecté où parfois on on manque de temps, on est on est pris un peu de par des choses différentes ou des ou des tâches qui pourraient être déléguées en fait c'est de pouvoir utiliser l'IA pour nous laisser du temps, enfin pour nous faire gagner du temps et qu'on puisse l'utiliser un bon escient que ce soit pour servir les autres dans nos dans nos Églises respectives, pour passer plus de temps en famille. Si on a un outil d'IA qui nous permet de préparer nos nos réponses aux emails par exemple ou de planifier des réunions, en fait ça c'est c'est toute une liste de tâches qu'on n'a plus à effectuer nous-mêmes et qui nous permet de passer du temps avec d'autres ou d'étudier la parole ou d'être délégué de ces tâches-là.

FlorentSoudainement, tu me fais vraiment envie parce que je ne maîtrise pas encore les les outils pour cela, mais c'est vrai que la gestion des mails, la gestion des rendez-vous, c'est c'est beaucoup de temps, la gestion aussi des des notes de frais, de l'administration, c'est beaucoup de temps. Donc je vais imaginer que ça va révolutionner un peu notre notre manière de fonctionner.

QuentinTout à fait. Et même au niveau des Églises, on peut imaginer, je sais qu'on travaille beaucoup avec les conseils administratifs de nos Églises, on peut imaginer des outils qui résument automatiquement les réunions ou ce genre de choses. Enfin voilà, Il y a beaucoup de choses qui sont possibles à mettre en place.

FlorentOk. Et alors, on va terminer sur les dangers. Quels sont les dangers potentiels de l'intelligence artificielle et particulièrement pour les chrétiens, parce que c'est un peu le sens de l'émission que je tiens ici. Est-ce que tu peux identifier les dangers ?

QuentinOui, donc le plus gros danger pour moi, c'est ce que tu as mentionné tout à l'heure, c'est les hallucinations. Ce qu'il faut vraiment comprendre et dans la manière dont j'ai essayé d'écrire dans la manière dont le l'outil d'IA est construit, en fait l'outil en lui-même n'a aucune notion de logique ou de vérité.

FlorentOk.

QuentinC'est simplement des probabilités des mathématiques mis bout à bout qui vont donner l'information, qui vont donner la phrase qui va être donnée à l'utilisateur. Et donc il faut bien comprendre que si pour chat GPT 2 plus 2 égal 5, il ne va pas pouvoir se rendre compte qu'il a fait une erreur sauf si on lui dit il réitère alors bien sûr aujourd'hui, ils ont mis des choses en place, les entreprises qui développent ces outils-là pour limiter ce genre d'erreurs, mais juste je vous donne un exemple qui m'a fait sourire la semaine dernière. Il y a une personne qui devait partir je crois à Cuba en Amérique du Sud et elle a demandé à à Chat GPT si elle avait besoin d'un visa pour faire ce voyage. Chat GPT a répondu que non. Et donc la personne est allée jusqu'à l'aéroport pour partir et arriver sur place à l'arrivée du vol, il s'est fait refouler par les services de sécurité parce qu'il n'avait pas de visa. Et donc vous voyez, il faut, la prudence que j'aimerais dire ici, c'est qu'il ne faut pas prendre pour argent comptant ce que ce que ces outils-là vous donnent comme information. Ils ne sont pas construits pour être des notions de vérité ou de logique pure et dure comme un être humain pour être capable de le faire. Et donc toujours avoir un esprit critique sur ces outils et ce qu'il nous donne comme réponse.

FlorentOk, oui, c'est fascinant. En tout cas, ce que je note, et alors je ne veux pas te mettre dans le coup de ma réflexion là-dessus, parce que je ne sais pas ce que tu penses à ce sujet, mais ce que je note, c'est qu'il y a quand même pour que des machines puissent réfléchir avec des données, des métadonnées et puissent les aligner, il y a quand même la notion, il me semble, qui transcende notre expérience humaine et qui, il existe des réalités abstraites, objectivement vraies, comme les lois de la logique, comme la notion même de grammaire, de pensée codifiée, de vérité. Alors, pour moi, c'est un témoignage et une attestation d'un créateur, d'un créateur qui a mis dans nos coeurs cette pensée de l'éternité et cette capacité de reconnaître ces éléments intangibles, mais pour autant des fondements très utiles. Alors tu tu partages un peu, je te vois acquiescer.

QuentinOui, oui tout à fait. Oui oui, exactement. C'est c'est aussi pour ça que très jeune, je me suis tourné vers les mathématiques où c'est des règles pour certaines que les êtres humains ont mis en place, mais il y a même des choses qu'on n'est pas capable d'expliquer et qui nous dépassent, qui nous transcendent comme tu disais. Et le but c'est d'aller toujours plus loin dans cette compréhension du monde qui nous entoure avec ces idées qui nous transcendent et même les choses qu'on peut mettre en place. Donc je suis tout à fait d'accord avec toi sur ce regard. Et après pour revenir à ta question tout à l'heure sur en en plus particulier les dangers en tant que croyant, pour moi j'en ai identifié 2 principaux. Il y a il y en a une qui, ces outils en fait pour certaines tâches sont tellement super que ça pourrait être tentant de les utiliser un peu à tout va. Et moi qui suis confronté ou en tout cas qui qui sert aussi notre Église en tant que prédicateur, on pourrait être tenté de de demander à chat GPT de faire notre herméneutique ou notre étude de texte et puis de, oui de gagner du temps aussi là-dessus. Et je crois pour le coup c'est un c'est un vrai danger parce qu'on s'enlève le fait de de travailler, de persévérer, de la difficulté de la tâche et en fait le le but de cette tâche-là n'est pas tant le résultat que aussi le processus du prédicateur qui va prendre le temps de de se confronter au texte, de trouver ça difficile de de de balbutier ces mots parfois, mais voilà, ne pas enlever en fait le le processus avec lequel on fait une tâche et et ça vaut pour les prédications, mais ça vaut aussi peut-être pour les plus jeunes qui nous écoutent dans les devoirs ou les choses comme ça, il y a des gros enjeux autour de ces questions-là. Et puis le le deuxième danger en tant que chrétien, ça serait aussi de se tourner vers ces outils-là avant Dieu et ça c'est un exemple qui que je prends de ma vie personnelle. Récemment j'ai une personne de ma famille qui est qui était souffrante, et mon premier réflexe n'a pas été de de prier ou de de demander à Dieu de l'aider, mais ça a été de poser à Chat GPT plein de questions autour de cette maladie pour mieux la comprendre, pour savoir un peu quoi quoi faire. Et après je m'en suis rendu compte, j'ai fait machine arrière et je me suis posé dans la prière, mais voilà il y a il y a ce réflexe parfois de demander à l'IA plutôt qu'à Dieu. Donc Dieu reste au-dessus et l'IA n'est qu'un outil à notre service et pas l'inverse.

FlorentExcellent merci beaucoup Quentin, c'était j'espère en tout cas pour ceux qui nous écouteront très très enrichissant pour moi cela l'a été. Et puis cette notion d'un Dieu qui dont l'intelligence quelque part a été communiquée aux humains pour qu'ils puissent le, ça nous invite et j'espère que ce sera le cas si vous écoutez de l'extérieur un peu cet cet épisode, à découvrir comment ce Dieu se révèle et je vous encourage à lire un évangile pour découvrir un peu la pensée de Dieu. Alors vous pouvez aussi demander à Claude ou à chat Jupiter le résumé de l'évangile, peut-être il y aura quelque chose d'intéressant à dire, mais c'est tellement mieux, c'est tellement mieux de lire l'original. Et je suis d'accord avec toi Quentin, c'est, il y a une notion transformatrice d'être impliqué dans le travail d'étude de l'écriture et de découverte personnelle. Et puis finalement ce qui va rester, c'est que l'intelligence sera probablement très accessible dans les décennies à venir, mais l'authenticité va être le critère un peu déterminant entre les hommes et les autres. Cette authenticité, cette capacité humaine à pas simplement être un cerveau, mais à pouvoir être un cerveau avec avec un coeur et avec des relations. Enfin en tout cas, c'est ce serait le petit mot de conclusion pour cet épisode. Merci beaucoup Quentin.