On-policy v.s. Off-policy

• On-policy：要学习的agent和与环境交互的agent是同一个agent；相当于自己玩自己学
• Off-policy：要学习的agent和与环境交互的agent不是同一个agent；相当于看别人玩自己学

On-policy \(\rightarrow\) Off-policy

由于项目需要，开始跟着李宏毅《强化学习》学习强化学习的一些内容。

强化学习

基础组件：

译：《BERT:用于语言理解的深度双向Transformer预训练》

论文地址：《BERT: Pre-training of Deep Bidirectional Transformers for Language Understanding》

Motivation

译：《生成对抗网络(GAN)》

论文地址：《Generative Adversarial Nets》

Motivation

译：《图神经网络》

博客地址：《A Gentle Introduction to Graph Neural Networks》

前言

Transformer

译：《你只需要注意力》

论文地址：《Attention Is All You Need》

ResNet

译：《图像识别中的深度残差学习》

论文地址：《Deep_Residual_Learning_for_Image Recognition》

译：《基于可微退火指示器搜索的自动通道修剪》

论文地址：《DAIS: Automatic Channel Pruning via Differentiable Annealing Indicator Search》

motivation

Transformer

前言

在之前，已经学习了word2vec、RNN网络，简单了解了LSTM等，现在使用更广泛的是基于Transformer的网络模型。