这个开源项目用Pytorch实现了17种强化学习算法

新闻 深度学习 算法
强化学习在过去的十年里取得了巨大的发展,如今已然是各大领域热捧的技术之一。今天,猿妹和大家推荐一个有关强化学习的开源项目。

强化学习在过去的十年里取得了巨大的发展,如今已然是各大领域热捧的技术之一,今天,猿妹和大家推荐一个有关强化学习的开源项目。

这个开源项目是通过PyTorch实现了17种深度强化学习算法的教程和代码库,帮助大家在实践中理解深度RL算法。

完整的17个算法实现如下:

  • Deep Q Learning (DQN) (Mnih et al. 2013)
  • DQN with Fixed Q Targets (Mnih et al. 2013)
  • Double DQN (DDQN) (Hado van Hasselt et al. 2015)
  • DDQN with Prioritised Experience Replay (Schaul et al. 2016)
  • Dueling DDQN (Wang et al. 2016)
  • REINFORCE (Williams et al. 1992)
  • Deep Deterministic Policy Gradients (DDPG) (Lillicrap et al. 2016 )
  • Twin Delayed Deep Deterministic Policy Gradients (TD3) (Fujimoto et al. 2018)
  • Soft Actor-Critic (SAC & SAC-Discrete) (Haarnoja et al. 2018)
  • Asynchronous Advantage Actor Critic (A3C) (Mnih et al. 2016)
  • Syncrhonous Advantage Actor Critic (A2C)
  • Proximal Policy Optimisation (PPO) (Schulman et al. 2017)
  • DQN with Hindsight Experience Replay (DQN-HER) (Andrychowicz et al. 2018)
  • DDPG with Hindsight Experience Replay (DDPG-HER) (Andrychowicz et al. 2018 )
  • Hierarchical-DQN (h-DQN) (Kulkarni et al. 2016)
  • Stochastic NNs for Hierarchical Reinforcement Learning (SNN-HRL) (Florensa et al. 2017)
  • Diversity Is All You Need (DIAYN) (Eyensbach et al. 2018)

 

所有实现都能够快速解决Cart Pole(离散动作),Mountain Car Continuous(连续动作),Bit Flipping(具有动态目标的离散动作)或Fetch Reach(具有动态目标的连续动作)。创建者计划尽快添加更多的分层RL算法。

1. Cart Pole 和 Mountain Car

下面展示了各种RL算法成功学习离散动作游戏Cart Pole 或连续动作游戏Mountain Car。使用3个随机种子运行算法的平均结果显示如下: 

这个开源项目用Pytorch实现了17种强化学习算法

阴影区域表示正负1标准差。使用超参数可以在 results/Cart_Pole.py 和 results/Mountain_Car.py 文件中找到。

2. Hindsight Experience Replay (HER) Experiements

下图展示了DQN和DDPG在 Bit Flipping(14位)和 Fetch Reach 环境中的性能,这些环境描述在论文《后见之明体验重放2018》和《多目标强化学习2018》中。这些结果复现了论文中发现的结果,并展示了Fetch HER如何让一个agent解决它无法解决的问题。注意,在每对agents中都使用了相同的超参数,因此它们之间的唯一区别是是否使用hindsight。

这个开源项目用Pytorch实现了17种强化学习算法

3. Hierarchical Reinforcement Learning Experiments

这个开源项目用Pytorch实现了17种强化学习算法

上图左边的结果显示了在 Long Corridor 环境中 DQN 和 Kulkarni 等人在 2016 年提出的 hierarchy -DQN 算法的性能。
上图右边的结果显示了 Florensa 等人 2017 年提出的 DDQN 算法和用于分层强化学习的随机神经网络 (SNN-HRL) 的性能。

这个开源项目用Pytorch实现了17种强化学习算法

目前,该项目已经在Github上标星 962,170个Fork(Github地址:https://github.com/p-christ/Deep-Reinforcement-Learning-Algorithms-with-PyTorch)

 

责任编辑:张燕妮 来源: 开源最前线
相关推荐

2023-06-25 11:30:47

可视化

2023-03-23 16:30:53

PyTorchDDPG算法

2020-11-16 08:54:05

Google 开源技术

2020-08-10 06:36:21

强化学习代码深度学习

2021-04-29 14:53:14

谷歌强化学习开发

2020-06-05 08:09:01

Python强化学习框架

2023-01-24 17:03:13

强化学习算法机器人人工智能

2022-11-02 14:02:02

强化学习训练

2023-09-12 13:28:36

AI模型

2023-03-13 16:05:03

强化学习开源

2021-11-16 15:26:23

强化学习火箭人工智能

2023-05-04 15:53:34

强化学习开发

2019-08-12 08:43:53

GitHub代码开发者

2023-03-09 08:00:00

强化学习机器学习围棋

2019-10-08 10:44:42

人工智能机器学习技术

2021-09-24 09:35:34

AI 数据机器学习

2023-11-07 07:13:31

推荐系统多任务学习

2020-12-02 13:24:07

强化学习算法

2022-12-21 17:27:30

强化学习AI

2024-03-19 00:15:00

机器学习强化学习人工智能
点赞
收藏

51CTO技术栈公众号