#Anthropic##Claude##AI伦理##大模型##AI安全#

Anthropic最近一件很特别的事，是把AI对齐问题继续往“技术之外”推进。Anthropic 近期邀请了包括儒家、道教、印度教、锡克教、摩门教、伊斯兰教等不同信仰背景的人士，在旧金山总部讨论Claude模型的“道德构成”；更早之前，公司也已与基督教牧师、神学家和伦理学者举行过类似闭门会议。一位天主教神父布伦登·麦奎尔——这位曾在1980年代进入硅谷、后来出家三十年的前科技人，如今又重新回到AI伦理讨论现场，与Anthropic合作参与Claude的道德对齐讨论。

这件事折射出大模型对齐路线的变化：过去行业更多依赖一套偏技术圈内部的价值框架来定义“向善”，现在则开始意识到，这套方法未必足够覆盖真实世界里复杂、长期、跨文化的伦理问题。Anthropic内部甚至在反思过去推崇的“有效利他主义”是否存在盲点，并试图从宗教哲学和长期伦理传统中引入新的“代码库”。换句话说，前沿模型公司如今面对的，已经不只是模型够不够强的问题，而是当AI越来越接近真实决策系统时，谁来定义它应当遵循的价值边界，以及这些边界能否经得起现实世界的压力测试。