Redwood Research：为什么应该加速 AI 的概念推理能力

Redwood Research 发文主张，对齐等关键工作依赖难以验证的概念推理能力，而 AI R&D 和接管主要依赖可验证技能，因此加速概念推理具有差分安全价值。文章认为默认训练主要针对易验证任务，AI 公司会忽视概念推理；其实践显示，few-shot 提示等基础引导方法和小规模训练可让模型在其概念推理基准上提前三到十二个月达到前沿水平。