库名称: stable-baselines3
标签:

• CartPole-v1
• 深度强化学习
• 强化学习
• stable-baselines3

模型索引:

• 名称: PPO
  结果:
  • 任务:
    类型: 强化学习
    名称: 强化学习
    数据集:
    名称: CartPole-v1
    类型: CartPole-v1
    指标:
    • 类型: 平均奖励
      值: 500.00 +/- 0.00
      名称: 平均奖励
      已验证: 否

PPO 智能体在 CartPole-v1 中的表现

这是一个经过训练的 PPO 智能体模型，用于在 CartPole-v1 环境中运行，使用了 stable-baselines3 库 和 RL Zoo。

RL Zoo 是一个用于训练 Stable Baselines3 强化学习智能体的框架，包含超参数优化和预训练智能体。

使用方法（与 SB3 RL Zoo 配合）

RL Zoo: https://github.com/DLR-RM/rl-baselines3-zoo
SB3: https://github.com/DLR-RM/stable-baselines3
SB3 Contrib: https://github.com/Stable-Baselines-Team/stable-baselines3-contrib

安装 RL Zoo（包含 SB3 和 SB3-Contrib）：

pip install rl_zoo3  

# 下载模型并保存到 logs/ 文件夹  
python -m rl_zoo3.load_from_hub --algo ppo --env CartPole-v1 -orga sb3 -f logs/  
python -m rl_zoo3.enjoy --algo ppo --env CartPole-v1 -f logs/  

如果通过 pip 安装了 RL Zoo3（pip install rl_zoo3），可以在任何位置执行以下命令：

python -m rl_zoo3.load_from_hub --algo ppo --env CartPole-v1 -orga sb3 -f logs/  
python -m rl_zoo3.enjoy --algo ppo --env CartPole-v1 -f logs/  

训练（使用 RL Zoo）

python -m rl_zoo3.train --algo ppo --env CartPole-v1 -f logs/  
# 上传模型并生成视频（如可能）  
python -m rl_zoo3.push_to_hub --algo ppo --env CartPole-v1 -f logs/ -orga sb3  

超参数

OrderedDict([('batch_size', 256),  
             ('clip_range', 'lin_0.2'),  
             ('ent_coef', 0.0),  
             ('gae_lambda', 0.8),  
             ('gamma', 0.98),  
             ('learning_rate', 'lin_0.001'),  
             ('n_envs', 8),  
             ('n_epochs', 20),  
             ('n_steps', 32),  
             ('n_timesteps', 100000.0),  
             ('policy', 'MlpPolicy'),  
             ('normalize', False)])  

环境参数

{'render_mode': 'rgb_array'}