Comment utiliser correctement les outils de l’IA? (Épisode 460)

Dans l'épisode précédent, Florent était accompagné de Quentin, un frère professionnel de l'Intelligence Artificielle, pour proposer leurs réflexions sur la façon d'appréhender cet outil en tant que chrétien. Ils se retrouvent dans cette deuxième partie afin de partager cette fois des conseils sur son utilisation, ainsi que des rappels sur les dangers, les limites et les questions éthiques qui y sont rattachées.

Pour commencer:

Tu veux poser une question?

Transcription:

FlorentLa question qui nous préoccupe pour cet épisode est l'intelligence artificielle et plus particulièrement comment utiliser correctement les outils de l'intelligence artificielle. Je suis accompagné de de Quentin qui nous rejoint pour une deuxième session, un deuxième épisode. Dans le premier, on s'est intéressé à la question de la crainte. Est-ce qu'il faut craindre l'intelligence artificielle Ce que j'aimerais qu'on fasse avec cet épisode, on va résumer un peu les éléments qui ont déjà été évoqués très rapidement, mais c'est de savoir un peu comment utiliser correctement les outils de l'IA et notamment avec ces questions un petit peu éthiques. Donc je suis accompagné de Quentin, Quentin Klopfenstein. Il travaille dans le domaine de l'intelligence artificielle, donc il est spécialiste et pourra mieux répondre à mes questions que moi je saurais le faire. Il est également ancien d'une église, l'église protestante évangélique de Dijon-Est, qui est membre de notre union d'église, donc forcément une super église. Et je suis vraiment reconnaissant, Quentin, que tu nous, tu me rejoignes pour cet épisode. Bonjour.

QuentinSalut Florent, merci beaucoup pour l'invitation.

FlorentOui, je te laisse te présenter un peu plus.

QuentinOui, avec plaisir. Du coup, je m'appelle Quentin, je suis marié à Émilie. J'ai 31 ans. Ensemble, on a aussi, on a 3 enfants et donc, comme le disait Florent, je travaille dans le domaine de l'intelligence artificielle appliquée à la santé où je travaille pour une entreprise privée qui fait de la recherche biomédicale pour trouver de nouveaux traitements contre le cancer notamment, ou certaines maladies cardiovasculaires. Et donc ce métier là, en fait, vient du fait de mes études où j'ai étudié les maths à l'université jusqu'à la thèse. Et ce qui m'a donné en fait goût à ce côté recherche et surtout au domaine de l'application à la santé.

FlorentSuper, merci beaucoup. Alors quand on parle avec des des chrétiens de l'intelligence artificielle, je remarque qu'il y a des réactions très contrastées. Et pour beaucoup d'entre eux, il y a immédiatement une levée de boucliers avec de de la peur, des côtés un petit peu négatifs. Donc déjà, est-ce que tu peux rapidement, alors je sais que tu l'as un peu évoqué dans l'épisode précédent, nous parler de ce qu'est l'intelligence artificielle et comment cela fonctionne

QuentinOui, avec plaisir. Donc l'intelligence artificielle, c'est un vaste domaine qui regroupe l'informatique et les mathématiques pour faire simple et qui va essayer d'automatiser certaines tâches ou de les optimiser ou de les rendre plus simples. Et donc derrière le mot de tâches, ça peut être vraiment de multiples choses. On peut penser en fait de conduire une voiture de manière autonome. On peut penser au fait de pouvoir détecter si un mail est un spam ou non. C'est toutes des tâches qui peuvent être automatisées à partir de données existantes. Et quand on parle de données, c'est que ces outils d'intelligence artificielle, en fait, préprocessent et utilisent des images, du texte, des vidéos, des tableaux de données pour arriver à automatiser ou à optimiser la tâche pour laquelle ils sont, ils sont développés. Et donc, en résumé, l'intelligence artificielle, c'est simplement une utilisation intelligente des données à partir d'outils informatiques et mathématiques pour pouvoir accomplir certaines tâches.

FlorentAlors tu parles de données, j'étais impressionné par la taille des données qui sont consultées. Tu nous rappelles de quoi on parle quand on parle des données que l'intelligence artificielle consulte.

QuentinOui, donc pour les modèles peut-être les plus en vogue en ce moment comme ChatGPT, cloud ou d'autres, ce genre de modèle utilise des données du texte et pour le coup depuis l'année dernière, ils utilisent quasiment l'ensemble des données textes qui sont disponibles sur internet. Donc, c'est des quantités de données qui sont astronomiques. C'est des milliers de milliers de pages internet et de textes qui sont préprocessés, entraînés. D'où aussi les coûts d'entraînement. Je ne sais pas si on peut mentionner rapidement, mais ça coûte beaucoup d'argent d'entraîner et de développer ces modèles-là. Mais voilà, c'est des quantités de données énormes et qui ont permis aussi les avancées qu'on a connues dans les dernières années.

FlorentÇa m'amuse parce que je viens de lire ce matin quelqu'un qui faisait le calcul lorsque vous dites merci à une intelligence artificielle ou et bien ça mobilise des ressources et en fait ça coûte énormément d'argent en électricité et en en gestion. Je ça fascinant quoi, c'était vraiment vraiment intéressant. Alors est-ce qu'un chrétien peut utiliser l'intelligence artificielle Parce que c'est un peu l'angle de de cette de ce podcast que dit la Bible. Alors la Bible n'en parle pas directement, quoiqu'on pourrait s'interroger sur certains passages de Apocalypse si ça fait partie de ces éléments, mais ça, c'est très spéculatif. Est-ce que, ouais, est-ce qu'un chrétien peut utiliser l'intelligence artificielle

QuentinOui, c'est c'est une question très intéressante, pas simple d'y répondre en quelques minutes, mais je vais, je vais y tâcher. Donc pour moi, comme tu disais, il n'y a rien dans la parole qui semble particulièrement interdire l'usage de lire. On peut éventuellement se poser certaines questions avec Apocalypse, mais ça reste des interprétations pour moi difficiles à tenir et d'être sûr que ça parle spécifiquement de l'IA. Et donc, pour moi, je le rattache plutôt au grand mandat de Dieu, de la Genèse, d'être maître de la création et de pouvoir l'utiliser pour le bien autour de nous. Et donc comme tout outil, l'IA peut être utilisée pour faire du bien ou du mal, tout en sachant que je nuance sur l'IA. Ce n'est pas simplement un outil neutre comme pourrait être, je ne sais pas, une fourchette ou un couteau. Ça demande, c'est beaucoup plus fin et beaucoup plus insidieux dans la manière dont ça peut, je pense, nous causer du tort ou même des dangers qu'il peut y avoir. Mais donc pour moi en tout cas en tant que chrétien, il n'y a pas de juste utiliser l'IA n'est pas une prérogative négative de Dieu, c'est la manière dont on va utiliser et quelles sont les motivations qui nous poussent à utiliser l'IA en fait qui est plus problématique et où il va falloir réfléchir.

FlorentOk, alors effectivement, moi, j'utilise occasionnellement l'intelligence artificielle pour pouvoir repérer des données. Je me souvenais d'un passage en que Irénée avait écrit dans son livre, il faut que je retrouve le titre là, contre les hérésies, oui. Et ce livre, c'est un gros livre composé d'ailleurs de 5 livres lui-même et qui traite de beaucoup d'informations et je cherchais 3 lignes. Et j'ai posé la question où se trouve le passage où Irénée parle de ce sujet. Il me l'a donné en un instant. C'était absolument incroyable parce qu'il m'aurait pris peut-être des, peut-être des heures s'il fallait feuilleter l'ensemble du livre ou que je trouve une version en ligne. Donc c'est vrai qu'il y a, il y a une aide possible qui n'est pas forcément négative. Donc toi tu vois aucun problème à ce qu'un chrétien utilise. Ce n'est pas intrinsèquement mauvais que d'utiliser une intelligence artificielle. Alors comment bien l'utiliser et comment mal l'utiliser

QuentinComme je le disais tout à l'heure, pour moi derrière cette question de bien ou mal l'utiliser, la première question que je me pose ou même que que j'invite les gens à réfléchir, c'est quelles sont les motivations qui nous poussent à utiliser ces outils-là Et donc des questions telles que pourquoi est-ce que j'utilise l'IA Qu'est-ce que je recherche exactement Ce sont des questions qu'on veut se poser pour ne pas rentrer dans une sorte de mode automatique d'utilisation des outils parce qu'ils sont disponibles. On veut rester au contrôle et on veut, on veut savoir ce qui nous pousse.

FlorentÇa, c'est intéressant la notion de ne pas laisser l'outil nous contrôler, nous contrôlons l'outil. C'est d'ailleurs Exactement. Les réseaux sociaux, c'est vrai pour tout en réalité.

QuentinTout à fait, tout à fait. Et donc derrière, c'est l'utilisation de ces outils. On peut se poser la question de si je reprends ton exemple de tout à l'heure pour retrouver 3 lignes dans un, dans un gros livre ou même plusieurs volumes. Est ce que ça, enfin, quel est le gain que j'obtiens avec ça? Est ce que pour ta part, est ce que probablement tu avais déjà lu ou au moins feuilleté ces livres là, et cetera. Donc, il y a des questions comme ça. Est ce que je cherche l'efficacité ou la productivité à tout prix? Est-ce que ce qui me pousse à faire ça, c'est d'obtenir plus de gains et de richesses ou de gains de temps pour court pour en faire quoi derrière, et caetera Et puis la question que je vais vous poser sur le bien ou mal utiliser l'IA, c'est aussi la question de est-ce que l'IA peut m'enlever certaines compétences qui me paraissent importantes Si je reviens à ton exemple tout à l'heure, si tu n'as jamais lu le livre d'Irénée et peut-être que l'IA peut te résumer ces 3 lignes ou te le retrouver, mais je trouve qu'il y a de la beauté à aller lire un livre complet, de comprendre l'argumentaire de l'auteur, de comprendre un peu le contexte aussi. Et donc si on fait juste aller chercher l'information au moment où on en a besoin, je trouve qu'on enlève certaines compétences d'imagination, de créativité, de juste se poser aussi pour pouvoir apprécier un livre.

FlorentExcellent.

QuentinEt donc ces problèmes se posent aussi dans, je donnais l'exemple dans le l'épisode précédent, mais sur les assistantes de code où en fait les les gens se rendent compte qu'il y a certaines compétences de développement de code qui sont perdues à cause de l'utilisation de ces assistants-là. Et donc il faut bien réfléchir sur est-ce que je demande à l'outiller à d'accélérer certaines choses que je sais déjà faire ou est-ce que c'est des choses qui le jour où l'IA disparaît, je me retrouve sans rien et je ne peux plus, je ne peux plus faire sans.

FlorentOui, c'est ça. Alors, c'est c'est, on a évoqué la notion de d'authenticité. Je sais que par exemple, je me suis prêté à l'exercice quand je suis rentré d'un congrès à Lausanne, j'avais rencontré un prof de français coréenne. Alors c'était la conférence Lausanne, mais qui était en Corée du Sud. Et j'ai rencontré un prof de français qui avait finalement décidé de prendre sa retraite parce que depuis qu'elle donnait des exercices, alors qu'elle donnait des exercices dans les dernières années, les élèves consultaient immédiatement l'intelligence artificielle, ne faisaient plus d'efforts par eux-mêmes, et elle était dépitée, et elle avait décidé d'arrêter. Et je me suis demandé par rapport à ma discipline, si je demande à l'intelligence artificielle de me faire un plan sur un texte biblique, qu'est-ce que ça va donner Et j'ai fait 2 3 essais pour voir, et j'avoue que c'était parfois meilleur que mes étudiants à l'institut public de Genève. Alors ça, je me suis dit bon, quelle est la part où je vais ruminer maintenant les données pour que ça ait un impact dans mon coeur et dans ma vie Où je réfléchisse à la manière dont je vais projeter ces données pour l'église avec tout ce coeur à coeur qui peut avoir dans la réflexion de ma préparation et de gens qui vont entendre ce que je vais dire. Et là, il y a une différence entre devenir un technicien et puis devenir quelqu'un qui maîtrise pour de vrai et de coeur ce ce qu'il dit. Donc, oui, je comprends ce que je comprends ce que tu dis. Il y a beaucoup d'efficacité possible, mais il y a une perte parfois possible de notre humanité. Je ne sais pas si je le formule correctement

QuentinOui, si si, tout à fait, tout à fait. Et je crois aussi que la manière dont Dieu a voulu les choses, s'il avait voulu une intelligence artificielle qui prenne soin de l'église au lieu des anciens ou même qui nous enseignent, Ça aurait probablement été plus plus qualitatif si on regarde juste aux résultats parfois que certains prédicateurs ou même moi dans l'exercice.

FlorentJe suis offensé Quentin, mais en même temps, je sais que tu as raison.

QuentinOui, mais, mais du coup, ce n'est pas ce que Dieu a voulu et je crois que Dieu, enfin j'en suis certain que Dieu se plaît à utiliser l'être humain pour certaines tâches et il délègue beaucoup de choses et il nous donne part à sa gloire et à son oeuvre au sein de l'église. Et donc, je ne suis pas sûr que toutes les tâches sont amenées à être remplacées par l'IA. Au contraire, je pense qu'il y a des tâches qui sont réservées pour nous.

FlorentOui.

QuentinÇa peut peut-être nous aider sur certains points, mais.

FlorentJ'avais consulté aussi quelqu'un m'avait demandé d'utiliser pour vérifier l'utilisation d'une analyse de sermon. On balançait ça sur l'intelligence artificielle et qui disait voilà les points à améliorer. Là au moins, il y a un travail préalable et puis un examen d'amélioration, ça me semblait intéressant. Ce n'était pas fabuleux comme outil, ça va évoluer. Maintenant ce que j'aimerais qu'on évoque ensemble, c'est que tu disais qu'il y a une notion de données, donc c'est une analyse donnée, c'est finalement une voie moyenne de tout ce qui existe sur le web. Mais alors, est-ce qu'il est possible qu'une intelligence artificielle, une entreprise qui met à disposition une intelligence artificielle masque un certain nombre de données parce qu'elle correspondrait pas à la narrative qu'elle souhaiterait que l'intelligence artificielle développe. Est-ce que l'on a un risque d'influence d'une orientation, alors sans parler d'un néfaste, mais finalement de de parti pris. Parce que parfois on a l'impression que les gens ils pensent à l'intelligence artificielle comme une sorte d'absolu bien supérieur à à ce que l'on peut trouver par soi-même, mais il peut y avoir des biais n'est-ce pas

QuentinOui tout à fait. En fait il n'y a pas, En tout cas aujourd'hui, il n'y a pas de l'intelligence artificielle n'est pas une intelligence absolue qui ne contient aucun biais et qui serait pure entre guillemets. Donc, il y a plusieurs aspects. Le premier aspect, c'est que, comme je vous le disais, ces outils intelligence artificielle, ils utilisent la donnée présente sur Internet et on sait bien que la donnée est présente sur Internet. Elle retranscrit aussi notre état de pêcheur, les biais qu'il peut y avoir dans la société et même la disparité entre l'accessibilité aux données. Par exemple, dans le domaine médical, on a beaucoup plus de données sur des des patients occidentaux que des patients asiatiques ou africains. Et donc ça crée des problèmes sur l'utilisation d'outils d'IA pour pour des personnes provenant de certaines régions du monde. Voilà, il y a des biais comme ça qui sont qui sont importants à prendre en compte. Une autre chose qu'il faut avoir en tête aussi en lien avec l'influence et certains dangers pour nous croyants, c'est que quand on tape des phrases et qu'on envoie nos requêtes à ces outils-là, toutes les données sont conservées par les entreprises qui sont derrière et sont réutilisées pour pour améliorer ces outils. Alors il ne faut pas voir le mal partout. Il n'y a pas des gens derrière leurs ordinateurs qui regardent question par question. Qu'est ce qui est envoyé à chaque outil Mais il faut quand même se dire que c'est stocké à un endroit et que on pourrait imaginer que le jour où où par exemple les chrétiens sont persécutés, ça sera assez facile d'utiliser ces données-là pour retrouver qui a fait des recherches sur la Bible ou qui qui qui a essayé de de poser des questions sur Dieu. Donc voilà, c'est à garder en tête.

FlorentOuais.

QuentinEt puis pardon excuse-moi vas-y. Et puis sur cette question d'influence un peu, en fait c'est vraiment des questions intéressantes et où il faut aussi prendre la mesure des choses. Ce qu'il faut se rendre compte, c'est que les les outils qui sont donnés par les entreprises telles que OpenAI ou anthropique pour Claude ou d'autres. En fait, à la fin du processus de construction de ces outils là, on va leur donner des teintes et des directions particulières, surtout sur des sujets éthiques ou sociétales de notre temps. Par exemple sur l'aspect médical, vous allez toujours avoir une petite note à la fin des réponses en disant veuillez consulter un médecin, cet outil n'est pas n'est pas un outil médical. Parce qu'en plus dans nos régulations européennes et américaines, un outil médical doit passer par tout plein de phases de validation, ce qui n'a pas été le cas de ces outils-là. Donc on ne peut pas juste les utiliser comme comme remplacement d'un médecin ou accompagnement d'un médecin. Mais c'est le cas pour des choses plus insidieuses. Il est très possible et je ne dis pas qu'elles le font. C'est difficile de vérifier, mais que les entreprises donnent des des directions politiques ou des directions sur des sujets sociétaux d'importance comme je ne sais pas l'avortement ou ou même les questions transgenres et compagnie où on va faire en sorte que le modèle donne des directions qui sont soit acceptables par la société ou soit que l'entreprise veut donner aussi au modèle. Et donc ce qui est, ce qu'il faut se rendre compte, c'est que les réseaux sociaux avaient déjà une influence grande par le nombre d'utilisateurs. Mais là, en fait, c'est encore décuplé parce qu'on a un aspect qui est, c'est presque un peu comme si on correspondait avec un humain et un aspect affectif où on peut un peu être modelé, être amené à penser certaines choses. Et donc, ça peut être utilisé à des fins commerciales ou à des fins d'influence d'opinion.

FlorentWaouh. Je lisais aussi un article d'une femme qui en avait marre de mal tomber dans ses relations amoureuses. Et ce n'était pas une chrétienne, mais c'est un article qui était sorti. Elle avait décidé d'entraîner son intelligence artificielle à exprimer l'amour telle qu'elle pouvait le désirer. Et au bout d'un an, elle était très satisfaite, alors pas partout, mais je veux dire, c'est un monde tellement, cette relation à la technique doit être vraiment réfléchie et mûrie parce que ça peut donner des choses totalement inadéquates. Alors quels sont les domaines qui ne seront pas remplacés par l'intelligence artificielle Et notamment pour nous qui sommes chrétiens, quels sont les éléments où on peut se dire voilà, ça, il faut vraiment qu'on garde cet aspect vivant et détaché de ce monde-là

QuentinOui, c'est une bonne question. On l'a mentionné dans le podcast précédent, mais tout ce qui est étude de la Bible et le fait de devoir se confronter au texte dans nos vies de croyants, ça, pour moi, ça ne sera pas remplacé par lire. La parole de Dieu a une place particulière dans la révélation que Dieu a voulu nous faire et il ne l'a pas fait au travers du nia, il l'a fait au travers d'un livre. Et donc j'invite tous nos, tous nos auditeurs à aller piocher directement dans la Bible et à ne pas laisser synthétiser l'information par l'IA. Il y a une telle richesse que le Saint-Esprit utilise aussi pour nous encourager, nous reprendre, nous faire comprendre des choses sur Dieu. Et pour moi, il ne faut absolument pas utiliser d'outils comme ça pour, enfin on peut les utiliser pour résumer l'information, pour aller trouver de l'information plus rapidement, mais il ne faut pas que ça remplace le pain qui est la parole de Dieu dans notre quotidien à 100%. Tu le mentionnais aussi tout à l'heure sur cet exemple de femme avec leurs relations. Pour moi, il y a, l'IA ne remplacera jamais le rôle qu'a l'église et que nous avons en tant que croyant de de nous aimer, de nous servir les uns les autres. En fait, on. On continue à faire les mêmes chances, ça va être exacerbé dans les prochaines années où le fait d'avoir des relations authentiques, de vivre des choses ensemble, de partager des repas, de de porter les fardeaux les uns des autres, et caetera va être encore plus renforcée. Parce que même si en apparence, les outils d'IA peuvent donner de l'empathie, peuvent donner de l'amour, peuvent donner derrière en fait, c'est vide. C'est une coquille vide qui est malléable, qui ne repose sur pas grand chose. Mais des relations authentiques, des relations humaines, c'est ce pourquoi aussi Dieu nous a créés, nous a créés comme des êtres relationnels et c'est pour être en relation avec les uns des autres. Et je crois que l'importance de l'église dans ce monde là va être encore plus, l'accent va être mis sur les relations authentiques, sur les relations vraies et fraternelles.

FlorentSuper, mais écoute un grand merci Quentin d'avoir accepté de répondre à mes questions pour ce podcast. Un Pasteur Vous Répond. Pour une fois, c'est questions pour ce podcast Un Pasteur Vous Répond. Pour une fois c'était un ingénieur vous répond avec toute la qualité de ton intervention. Vraiment merci et puis j'espère que vous pourrez trouver plein de de nouveaux médicaments utiles dans votre travail d'entreprise.

QuentinOn l'espère merci Florent.