据美联社十月二十五日发表的报道，向宗教思想家寻求指导的人工智能开发者，正面临聊天机器人究竟应体现谁的价值观这一问题。这篇发自洛杉矶的报道，考察了旨在影响人工智能行为的咨询活动，同时介绍学者的警告：把不同信仰结合在一起，可能掩盖各个传统之间的重要差异。报道关注的是这些对话的意义及其局限，并将企业寻求伦理指导的做法与学者对传统差异的看法放在一起考察。人工智能企业希望借助此类讨论塑造模型行为，而宗教传统之间并不总能形成统一的答案。
Anthropic曾在五月十九日的公告中介绍这项工作，称已经与来自十五个以上宗教及跨文化团体的学者、神职人员、哲学家和伦理专家会面。公司表示，这些仍处于初期的讨论，可能为克劳德的行为准则、训练中强调的价值观以及行为评估提供参考。公司并未将咨询描述为已经完成的解决方案，而是将其视为研发工作的潜在参考。具体而言，讨论涉及模型应如何与人互动，训练应强化哪些价值，以及开发人员选择哪些行为来开展测试；这些都是公司所描述的可能应用方向。
密歇根大学人类学家韦布·基恩向美联社表示，将宗教视为一组可以从其他实践中抽离出来的道德原则，可能歪曲相关传统。他担心，这种处理方式忽略教义、仪式以及人际关系同样具有重要意义。一些宗教并不主要把自身理解为伦理规则体系，因此不能只以规则来概括其内涵。基恩所提出的疑问，针对的是把宗教内容从信徒实际生活中分离出来的方法，而非只判断某一条道德建议是否适合聊天机器人。
曾参加Anthropic会议的圣母大学哲学家梅根·沙利文，则向美联社提供了较为积极的评价。她描述的交流具有实质内容：公司工作人员首先向与会者解释人工智能模型，随后参与者就道德问题交换意见。其中一个问题是，是否应该让儿童使用聊天机器人来学习阅读。这一经历体现了她对会议讨论方式的肯定。按照她的叙述，会议既包含技术方面的说明，也让宗教人士有机会就模型可能引发的问题提出反馈，讨论并非仅仅停留在一般性的原则上。
Anthropic表示，公司希望考虑宗教、世俗及政治领域的不同观点，而不是采纳某一个传统的世界观。公司还介绍了一项实验，为克劳德提供工具，使其在执行任务期间获得关于自身伦理承诺的提醒。据公司称，内部评估显示，模型偏离价值要求的行为有所减少；但目前仍不确定，这一效果究竟源于提醒内容本身，还是源于暂停并反思这一过程。公司把结果归于内部测试，同时承认仍在分析其原因，并未据此断言某种宗教观点已经解决了人工智能的行为问题。
因此，咨询活动与已经得到验证的改善之间，仍存在需要区分的界线。美联社报道了法学学者保罗·卡罗扎的担忧：混合不同传统可能抹去各自具有代表性的特征。Anthropic五月的声明则提出，今后将把交流扩大至法律学者、心理学家、作家和公民机构，并通过研究检验所听到的想法，继续分享所得结论。
评论