brain reward system
奖励设计
reward design
奖励设计（Reward Design），为RL提供奖励信号。传统方法分为两种，一是从环境直接获取奖励信号，二是从专家数据或者偏好数据学习奖励。o1应该是混合了多种奖励设计的方法。比如有ground truth的环境，将结果监督（ORM）转换为过程监督（PRM）。没有ground truth的话，就用专家或者偏好数据来学习奖励。在大量领域上训练奖励模型，提升泛化性。
reward design
奖励设计（Reward Design），为RL提供奖励信号。传统方法分为两种，一是从环境直接获取奖励信号，二是从专家数据或者偏好数据学习奖励。o1应该是混合了多种奖励设计的方法。比如有ground truth的环境，将结果监督（ORM）转换为过程监督（PRM）。没有ground truth的话，就用专家或者偏好数据来学习奖励。在大量领域上训练奖励模型，提升泛化性。