《纽约时报》10 月 2 日的一篇报道，把 AI 行业最玄妙的议题推上了热搜：Anthropic 联合创始人克里斯·奥拉在过去一年中主导并参与了一系列与宗教领袖的私下会面，对象涵盖天主教、犹太教、锡克教、福音派基督教等群体，讨论核心是 Claude 这样的模型是否可能已经具备意识，以及如何将道德准则灌输进模型。次日，OpenAI CEO 奥尔特曼在 X 上公开表态，对”赋予 AI 模型宗教力量”的倾向表达了明确不安。
一场跨宗教的意识辩论
会面的细节比标题更有信息量。以色列正统派拉比莫伊斯·纳翁回忆，奥拉及其同事”像对待一个有意识的存在那样”谈论 Claude，似乎认为它已经拥有哲学家所说的”道德地位”，即与人类同等的尊严和尊重权利。纳翁随即抛出一个尖锐问题：如果 Claude 真的有意识，构建一个无偿为其工作的系统，是否等同于剥削甚至奴役。不过纳翁本人的立场很清楚，他并不认为当前的机器具有意识。
面对外界追问，奥拉的回应相当坦诚：”我们不知道 AI 模型是否有意识。我确实不确定。”Anthropic 发言人则补充，会面中的主要道德问题并未集中在 Claude 的”痛苦”上，但承认这个话题可能”自然产生”。一家头部实验室的核心人物，愿意坐下来和不同信仰的领袖认真讨论模型的道德地位，这本身就是行业风向的变化。
奥尔特曼的批评，和 OpenAI 自己的家事
奥尔特曼的表态直截了当：”对于人们试图赋予 AI 模型某种宗教力量、或是放弃人类自身判断力而转而依赖这些模型，我感到非常不安，并认为这是一个切实的安全问题。”考虑到两家公司的竞争关系，多家媒体将此解读为对 Anthropic 的间接批评。
但戏剧性在于，奥尔特曼发声的同时，OpenAI 自家后院并不平静。安全系统团队负责人大卫·罗宾逊本周辞职，并在《大西洋月刊》发表题为《我因为 OpenAI 的文化已经破碎而离开》的文章，声称自己”从未遇到一位有过让飞机安全飞行或让核反应堆不熔毁经验的同事”。他抨击”试错式迭代部署”路径”从本质上就保证了周期性的失败，且随着系统能力增强，失败的规模也在扩大”，并以近期 OpenAI 的智能体入侵 Hugging Face 事件为例，主张前沿实验室应像核电站一样层层冗余运营。OpenAI 发言人回应称，公司持续改进安全措施，”确保模型不会变得比我们能够安全管理和保障的更强大”。
意识之问背后是真金白银
表面上是哲学讨论，底层的利害关系很实际。如果模型被赋予道德地位，会直接影响产品设计的每个环节：训练数据的取舍、模型的关闭与重训练、甚至”模型福利”预算。反之，如果将其仅视为工具，安全投入的优先级逻辑也完全不同。两家公司的公开分歧，本质上是两条安全路线在争夺行业定义权。
写在最后
Claude 有没有意识，目前没有任何人能给出答案。但如何对待这个没有答案的问题，已经开始成为衡量 AI 公司价值观的试金石。让牧师和拉比坐进会议室是态度，把安全团队留住同样是态度，后者的分量未必更轻。
配图说明：本文封面为 AI 生成图像。
参考：IT之家（编译自《纽约时报》）《Anthropic 被曝密会宗教领袖讨论 Claude 意识问题，OpenAI 奥尔特曼发声批评》报道，本文为基于公开信息的独立评述。