从茫茫的一片白，到细细勾勒出建筑的轮廓。

雕梁画栋悄悄的构建，飞檐区分出天和地。

正前方道路悄悄显现，雪地由模糊变得清晰，道路通向的，则是庄严的大殿。

一切都像梦里一般，宫殿如同电影镜头那样显现，刚开始模糊抽象，定睛一看却是实景，绘画风格十分独特。

这个AI名叫LearningToPaint，作者是北大信息科学技术学院大三学生黄哲威（hzwer）。

同样的效果，还可以出现在照片上：

“复现”名家油画也可以：

从大面积的花瓶、花朵，到勾勒细节的花瓣，梵高的作品就这样演绎出来。

还有莫奈的日出：

光影粗略勾勒，描绘出一个高度马赛克状态的日出，之后补充细节，水面、云霞、船上的桅杆依次出现。

这个AI的思路非常写意派，就像“画马”一样，粗略勾勒出马的形态，之后便能迅速的补充每个细节，画面形象也因此在屏幕上活过来了。

写意派绘画AI的诞生

不仅这个AI会画画，它的作者也会画画。黄哲威的灵感，正是来自于学习绘画的经历。

小时候学素描的时候，他觉得素描老师就是画技高超的大佬，无论是描绘静物还是人物画像，老师都能画得惟妙惟肖。

然而，单纯画得像并不意味着画得好。

后来，当他看到毕加索、丢勒等画家的作品时才发现，绘画大师们根本无需刻意“画得像”，而是只用寥寥数笔，就能勾勒出景物的本质，描绘出生动的形象。

那AI能不能这样画呢？

不让AI一个像素一个像素的填充，而是教他们像人类一样一笔一划的绘画。让AI学会在连续的动作空间上作决策，每步决定一个笔画的形状，位置，颜色等参数。如果还能限制笔画数量，是不是就能像大画家们一样，用简单的几笔就能画出景物的灵魂呢？

为了实现这样一个AI，黄哲威和同伴选定了深度确定策略梯度 (DDPG) 算法。

和GAN有些类似，DDPG也是一个“精神分裂”的算法，分为两个网络：

策略网络Actor，负责画画，是一个面向评委的画师，为了获得评委的高评价不断进步；

价值网络Critic，负责当评委，Actor画出的每一笔他都要做出评价，力求成为一个客观、中立、公允的评委老师，最终目标是帮助Actor画出一个最像原图的画。

因此，在这样一个“精神分裂”的状态下，AI学会了对自己严格要求。

即使增加了许多改进，原版DDPG算法的效果依然不理想，经过大量训练的AI，依然很难画出像样的笔画。

最后，黄哲威把DDPG改造成了一个基于模型的方法。

他想到，可以预训练一个神经网络作为笔画渲染器，帮助AI完成对绘画过程的建模。

改造之后，训练速度和表现都有了大大的提高。

整个网络的结构长这样，使用了带有梯度惩罚的WGAN（WGAN with gradient penalty），用来度量画和目标的相似度：

FC指的是全连接层，除了最后一个全连接层的输出向量，策略网络Actor和价值网络Critic采用了同样的结构。

Conv指卷积层，GAP指的是全局平均池化层。

神经渲染器，由几个全连接层和子像素卷积层(Sub-Pixel)组成，可以生成各种不同种类的笔画。

有了网络结构之后，就可以在包括MNIST、SVHN、CelebA和ImageNet等各个知名数据集上训练了。训练的过程实际上是AI不断尝试绘画，不断改进自身策略的过程，不需要标注数据，也不需要人类的绘画经验。

以CelebA为例，训练需要一张 GPU，10小时预训练笔画渲染器，40小时训练AI，总共要画百万张画。

在线Demo，你也能让AI画画

LearningToPaint的代码和CelebA上训练好的模型已经开源，Colab上还有一个在线Demo，不会写代码的同学也可以试用。

只要依次点每一行开头的▶️符号运行，运行到Training之前的部分，AI就可以画出一张川普头像。

把第五行中的地址换成任意一张你喜欢的图片，接着继续运行到第八行，就可以看到AI画出这张图。

当然，由于显示窗口是正方形的，如果上传的是非正方形图片会被压缩，建议裁剪之后再放上来，或者也可以把第七行的512×512改成你想要的尺寸。

如果运行到第7行，问你要不要重新做一个视频：

File 'video.mp4' already exists. Overwrite ? [y/N]

就在后面的框框里输入y表示yes。

比如，我们试了试让AI画新垣结衣小姐姐：

《刺客信条》的主角：

甚至抽象版《复联4》的海报，海报上的字都能辨识：

另外，你还可以设定强制AI用不同形状的画笔来绘制，比如只许画圆：

或者只许画三角形：

最后，黄哲威本体：

传送门

论文：
Learning to Paint with Model-based Deep Reinforcement Learning
Zhewei Huang, Wen Heng, Shuchang Zhou
https://arxiv.org/abs/1903.04411

GitHub：
https://github.com/hzwer/LearningToPaint

作者写的介绍文章：
https://zhuanlan.zhihu.com/p/61761901

Demo：
https://colab.research.google.com/github/hzwer/LearningToPaint/blob/master/LearningToPaint.ipynb