Los desarrolladores de IA que consultan a pensadores religiosos afrontan preguntas sobre qué valores reflejarán sus asistentes, según un reportaje de Associated Press publicado el 25 de octubre. El trabajo, fechado en Los Ángeles, examina consultas para orientar la conducta de la IA y advertencias de que mezclar creencias puede ocultar diferencias entre tradiciones.
Anthropic presentó este trabajo el 19 de mayo y afirmó haber reunido a académicos, clérigos, filósofos y especialistas en ética de más de 15 grupos religiosos e interculturales. La empresa señaló que estos primeros diálogos podrían orientar la constitución de Claude, sus valores de entrenamiento y sus evaluaciones de conducta; no los presentó como una solución definitiva.
Webb Keane, antropólogo de la Universidad de Michigan, dijo a AP que tratar la religión como una colección de principios morales separables puede distorsionar las tradiciones. Su preocupación es que también importan la doctrina, los rituales y las relaciones, y que algunas religiones no se conciben principalmente como sistemas de normas éticas.
Meghan Sullivan, filósofa de la Universidad de Notre Dame que asistió a una reunión en Anthropic, ofreció a AP una valoración más positiva. Describió un diálogo sustancial: el personal explicó los modelos antes de debatir cuestiones morales, entre ellas si los niños deberían utilizar asistentes para aprender a leer.
Anthropic afirmó que busca considerar perspectivas religiosas, seculares y políticas sin adoptar la visión de una sola tradición. También describió un experimento que daba a Claude una herramienta para recordar sus compromisos éticos durante las tareas. Según la empresa, las evaluaciones internas mostraron menos conductas desalineadas, aunque no se sabe si el efecto se debe al recordatorio o a la pausa.
La diferencia entre consulta y mejora demostrada sigue siendo fundamental. AP recogió la preocupación del jurista Paolo Carozza de que mezclar tradiciones borre sus características propias. El comunicado de mayo de Anthropic preveía ampliar los diálogos a juristas, psicólogos, escritores e instituciones cívicas, contrastar las ideas con la investigación y compartir los resultados.
Comentarios