单选题
2062.在强化学习中,折扣因子的主要作用是:
A
增加奖励的即时性
B
减少长期奖励的重要性
C
增加长期奖励的重要性
D
减少奖励的波动性
答案解析
正确答案:C
解析:
答案:C
解析:本题考查强化学习中折扣因子(discount factor)的核心作用。
在强化学习中,智能体通过与环境交互获得奖励,目标是最大化累积奖励。由于未来奖励具有不确定性,且为了保证算法的收敛性,引入了折扣因子 γ(gamma),其取值范围通常为 0 ≤ γ ≤ 1。
折扣因子的主要作用是对未来奖励进行加权衰减。具体来说,当前时刻 t 的奖励为 R_t,则未来时刻 t+k 的奖励会被乘以 γ^k。当 γ 接近 0 时,智能体更关注即时奖励;当 γ 接近 1 时,智能体更加重视长期回报。
因此,折扣因子的作用是调节智能体对即时奖励和长期奖励的权衡。较大的折扣因子(接近1)意味着未来奖励被衰减得较少,从而增加了长期奖励的重要性。
选项分析:
- A:增加奖励的即时性 —— 错误。这与折扣因子的作用相反。较小的 γ 才会强调即时奖励。
- B:减少长期奖励的重要性 —— 错误。这是小折扣因子的效果,而题目问的是折扣因子的一般作用,且正确理解应为:折扣因子的存在本身是为了合理处理长期奖励,适当大的 γ 是增强长期奖励的重要性。
- C:增加长期奖励的重要性 —— 正确。当 γ 较大时,未来奖励的权重更高,智能体会更注重长期累积回报。
- D:减少奖励的波动性 —— 错误。折扣因子并不直接用于平滑或降低奖励的方差,这不是其设计目的。
核心知识点:
- 折扣因子 γ 控制智能体对未来奖励的关注程度。
- 使用折扣因子可以确保无限时间范围下的累积奖励收敛。
- γ 越大,智能体越重视长期收益;γ 越小,越偏向短期收益。
综上,正确答案为 C。
相关知识点:
强化学习折扣增长期奖励
题目纠错
人工智能训练师题库
