Les développeurs d’IA qui consultent des penseurs religieux suscitent des questions sur les valeurs que refléteront leurs assistants, selon un reportage de l’Associated Press publié le 25 octobre. Réalisé à Los Angeles, il examine ces échanges destinés à orienter le comportement de l’IA et les craintes que la fusion des croyances efface leurs différences.
Anthropic a présenté ce travail le 19 mai, indiquant avoir rencontré des chercheurs, religieux, philosophes et spécialistes de l’éthique de plus de 15 groupes religieux et interculturels. Selon l’entreprise, ces premiers échanges pourraient éclairer la constitution de Claude, ses valeurs d’entraînement et ses évaluations comportementales ; ils ne constituent pas une solution achevée.
Webb Keane, anthropologue à l’université du Michigan, a expliqué à l’AP que réduire la religion à des principes moraux détachables risque de déformer les traditions. La doctrine, les rituels et les relations comptent aussi, souligne-t-il, et certaines religions ne se définissent pas principalement comme des systèmes de règles éthiques.
Meghan Sullivan, philosophe à l’université de Notre Dame ayant participé à une réunion chez Anthropic, a livré à l’AP un témoignage plus favorable. Elle a décrit des échanges approfondis : les salariés ont expliqué les modèles avant une discussion morale, notamment sur l’usage d’assistants pour apprendre à lire aux enfants.
Anthropic affirme vouloir considérer les perspectives religieuses, laïques et politiques sans adopter la vision d’une seule tradition. L’entreprise décrit aussi un essai donnant à Claude un outil de rappel de ses engagements éthiques pendant ses tâches. Les évaluations internes montrent moins de comportements non conformes, selon elle, sans déterminer si le rappel ou la pause explique cet effet.
La distinction entre consultation et amélioration démontrée reste centrale. L’AP rapporte les craintes du juriste Paolo Carozza : mélanger les traditions pourrait effacer leurs traits distinctifs. Dans son annonce de mai, Anthropic prévoyait d’élargir les échanges aux juristes, psychologues, écrivains et institutions civiques, de confronter ces idées à la recherche et de partager ses conclusions.
Commentaires