Pourquoi les entreprises d’IA consultent désormais des responsables religieux
Pendant longtemps, les débats autour de l’intelligence artificielle se sont concentrés sur les performances techniques. Les ingénieurs cherchaient à rendre les modèles plus rapides, plus précis et capables de traiter toujours davantage d’informations.
Mais à mesure que ces outils deviennent capables de conseiller, d’informer ou d’accompagner des millions de personnes, une autre question s’impose : quelles valeurs doivent guider leurs réponses ?
C’est dans ce contexte que l’entreprise Anthropic, à l’origine de l’assistant conversationnel Claude, a choisi de consulter des spécialistes venus d’horizons variés. Parmi eux figure le père Brendan McGuire, un prêtre catholique installé au cœur de la Silicon Valley.
« Les questions posées par l’IA dépassent désormais le cadre de l’informatique. »
Cette collaboration peut sembler inattendue. Pourtant, elle illustre une évolution profonde du secteur technologique : les concepteurs d’intelligence artificielle cherchent désormais des repères auprès de philosophes, de psychologues, de juristes et parfois même de responsables religieux.
Un prêtre au profil atypique
Le père Brendan McGuire n’est pas arrivé dans ces discussions en simple observateur extérieur. Avant son entrée dans les ordres, il a suivi une formation en ingénierie et travaillé dans le secteur technologique américain.
Aujourd’hui curé d’une paroisse à Los Altos, en Californie, il exerce son ministère dans une région où vivent de nombreux chercheurs, entrepreneurs et cadres de l’industrie numérique.
Son parcours lui permet de comprendre à la fois les enjeux techniques de l’intelligence artificielle et les interrogations humaines qu’elle suscite. C’est précisément cette double compétence qui a retenu l’attention d’Anthropic.
Ce qui rend son parcours particulier
-
Formation en ingénierie et informatique.
-
Expérience professionnelle dans l'industrie technologique.
-
Connaissance du monde religieux et de la théologie morale.
-
Présence au cœur de la Silicon Valley.
Cette combinaison relativement rare lui permet d'intervenir dans un dialogue où les considérations techniques et éthiques sont étroitement liées.
La « Constitution » de Claude : un cadre moral sans conscience
Le travail auquel a participé Brendan McGuire concerne ce qu’Anthropic appelle la « Constitution de Claude ». Ce document rassemble les principes destinés à orienter les réponses de l’assistant conversationnel.
Contrairement à certaines idées reçues, il ne s’agit pas de donner une conscience à la machine. Claude ne possède ni libre arbitre, ni jugement moral autonome.
L’objectif est plutôt de définir des règles permettant au modèle de privilégier certains comportements : être utile, honnête, prudent et respectueux des utilisateurs.
« L’enjeu n’est pas de créer une conscience artificielle, mais de fixer des limites humaines à la machine. »
Selon Brendan McGuire, ces garde-fous sont nécessaires car une intelligence artificielle risque autrement de reproduire sans discernement les comportements, les préjugés et les contradictions présents dans les données qu’elle analyse.
La question devient alors moins technique que philosophique : comment définir ce qui constitue une bonne réponse lorsque plusieurs valeurs entrent en conflit ?
Quand les traditions religieuses entrent dans le débat sur l’IA
Anthropic ne s'est pas limitée à consulter une seule personnalité religieuse. L'entreprise a également organisé plusieurs rencontres réunissant des responsables catholiques et protestants afin de réfléchir aux conséquences humaines et spirituelles de l'intelligence artificielle.
Les discussions ont notamment porté sur le deuil, la souffrance psychologique, la solitude ou encore le risque que certains utilisateurs développent une relation affective excessive avec des assistants conversationnels toujours plus sophistiqués.
Ces sujets intéressent particulièrement les traditions religieuses, qui réfléchissent depuis des siècles aux questions de responsabilité, de dignité humaine et de rapport à l'autre.
Les principales questions abordées
-
La souffrance et l'accompagnement des personnes vulnérables.
-
Le deuil et les interactions émotionnelles avec l'IA.
-
Les limites morales des assistants conversationnels.
-
La place de l'être humain face à des outils toujours plus performants.
Une question qui concerne toute la société
La présence d'un prêtre dans les discussions d'une entreprise d'intelligence artificielle peut sembler anecdotique. Elle révèle pourtant une interrogation beaucoup plus large.
Les systèmes d'IA influencent désormais la manière dont nous cherchons des informations, apprenons, travaillons et parfois même prenons des décisions. Les principes qui encadrent ces outils deviennent donc des choix de société autant que des choix techniques.
Les religions ne détiennent pas seules les réponses à ces questions. Mais leur participation montre que le débat sur l'intelligence artificielle dépasse désormais largement les laboratoires et les entreprises de la Silicon Valley.
« La question n’est plus seulement ce que l’IA peut faire, mais ce qu’elle devrait faire. »
À mesure que ces technologies se diffusent dans le monde entier, la réflexion sur leurs limites et leurs valeurs devient elle aussi un enjeu mondial. Le fait qu’un prêtre, des théologiens ou d’autres représentants religieux participent à cette conversation témoigne surtout d’une certitude : l’avenir de l’intelligence artificielle ne sera pas seulement une affaire d’ingénieurs.
