库名称: stable-baselines3
标签:

• HalfCheetah-v3
• 深度强化学习
• 强化学习
• stable-baselines3

模型索引:

• 名称: PPO
  结果:
  • 指标:
    • 类型: 平均奖励
      值: 5836.27 +/- 171.68
      名称: 平均奖励
      任务:
      类型: 强化学习
      名称: 强化学习
      数据集:
      名称: HalfCheetah-v3
      类型: HalfCheetah-v3

PPO 智能体在 HalfCheetah-v3 中的表现

这是一个经过训练的 PPO 智能体模型，用于在 HalfCheetah-v3 环境中运行，使用了 stable-baselines3 库 和 RL Zoo。

RL Zoo 是一个用于 Stable Baselines3 强化学习智能体的训练框架，包含超参数优化和预训练智能体。

使用方法（配合 SB3 RL Zoo）

RL Zoo: https://github.com/DLR-RM/rl-baselines3-zoo

SB3: https://github.com/DLR-RM/stable-baselines3

SB3 Contrib: https://github.com/Stable-Baselines-Team/stable-baselines3-contrib

# 下载模型并保存到 logs/ 文件夹  
python -m rl_zoo3.load_from_hub --algo ppo --env HalfCheetah-v3 -orga sb3 -f logs/  
python enjoy.py --algo ppo --env HalfCheetah-v3  -f logs/  

训练（使用 RL Zoo）

python train.py --algo ppo --env HalfCheetah-v3 -f logs/  
# 上传模型并生成视频（如果可能）  
python -m rl_zoo3.push_to_hub --algo ppo --env HalfCheetah-v3 -f logs/ -orga sb3  

超参数

OrderedDict([('batch_size', 64),  
             ('clip_range', 0.1),  
             ('ent_coef', 0.000401762),  
             ('gae_lambda', 0.92),  
             ('gamma', 0.98),  
             ('learning_rate', 2.0633e-05),  
             ('max_grad_norm', 0.8),  
             ('n_envs', 1),  
             ('n_epochs', 20),  
             ('n_steps', 512),  
             ('n_timesteps', 1000000.0),  
             ('normalize', True),  
             ('policy', 'MlpPolicy'),  
             ('policy_kwargs',  
              'dict( log_std_init=-2, ortho_init=False, activation_fn=nn.ReLU, '  
              'net_arch=[dict(pi=[256, 256], vf=[256, 256])] )'),  
             ('vf_coef', 0.58096),  
             ('normalize_kwargs', {'norm_obs': True, 'norm_reward': False})])