PRNet:Joint 3D Face Reconstruction and Dense Alignment with Position Map Regression Network

这篇发表于是ECCV2018,利用神经网络直接预测了3D landmark,取得了不错的效果

2D face alignment技术已经比较成熟,3D face reconstruction和3D face alignment一直是一个热点问题。目前普遍的方法是基于3DMM或者3D face template,但是本文不需要3DMM系数或者TPS扭曲参数,直接通过神经网络,建立从2D图片到3D模版的映射关系,效率很高。

项目地址:https://github.com/YadiraF/PRNet

平台:tensorflow

训练数据集:300W-Large Pose Face Alignment,97967张图片用于训练,24483张图片用于测试,训练集和测试集无重叠。该数据集包含了从正负5度到90度的多Pose人脸以及3D landmark。

一、如何建立2D人脸和3D人脸的映射关系?

这篇文章提出用UV position map来表现3D Face。 UV position map,记录UV空间中所有点的3D位置。如下图左所示, 3D空间的原点与输入图像的左上方重叠,正x轴指向图像的右侧。当投影到x-y平面时,地面实况3D面部点云与2D图像中的面部精确匹配。因此,我们可以很容易地理解我们的位置图,即用x,y,z坐标替换纹理贴图中的r,g,b值。


2D人脸与3D模型的映射关系

右图第一行分别表示,输入的2D图片,UV texture map,UV position map。

第二行分别表示,UV position map的x,y,z通道。

二、网络结构和Loss Function?

这篇文章的网络结构很简单,就是一个Encoder-Decoder结构。该文章的Encoder包含10个Residual blocks,输入是256x256x3的RGB图片,经过5次下采样得到了8x8x512的特征图。Decoder据说有17个transposed convolution layers,经过5次上采样得到了256x256x3的position map。

这篇文章采用了MSE Loss(Mean Square Error),来计算预测的position map与ground truth的差距。

三、输出文件格式以及如何应用?

作者给的开源代码地址已经贴了,通过运行demo.py可以生成各种结果。由于项目需要,我们运行了该代码,获取了后缀为.obj的3D人脸模型文件。

Obj文件是Wavefront公司开发的一种标准3D模型文件格式,用想python导入该文件格式并显示需要安装pywavefront包。

Obj文件是一种3D模型文件,文件主要支持多边形(Polygons)模型。在OBJ文件中,每行的格式如下:

前缀  参数1 参数2 参数3 ...

这篇文章生成的Obj文件中仅包含以下两种关键字:v 几何体顶点(Geometric vertices)和 f  面(Face),下图是实际生成的Obj文件。


v 表示本行指定一个顶点。此前缀后跟着6个单精度浮点数,分别表示该定点的x、y、z坐标值以及归一化后的x、y、z坐标值。

f 表示本行指定一个表面,即一个三角形图元。

将Obj文件读取之后,我们可以通过Opengl将生成的3D人脸模型做各种骚操作,届时我会开另外一篇文章进行介绍。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 201,468评论 5 473
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 84,620评论 2 377
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 148,427评论 0 334
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,160评论 1 272
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,197评论 5 363
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,334评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,775评论 3 393
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,444评论 0 256
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,628评论 1 295
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,459评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,508评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,210评论 3 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,767评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,850评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,076评论 1 258
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,627评论 2 348
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,196评论 2 341

推荐阅读更多精彩内容

  • 摘要: 从传统方法到深度学习方法,对人脸关键点定位/人脸对齐的发展进行梳理,对该领域中经典的方法,最新成果进行汇总...
    踩坑第某人阅读 53,296评论 4 36
  • 元旦刚过,小K一见到我便抱怨,“整个假期这群发问候就没消停过!” “别急,马上就要春节了,就等着手机被‘轰炸’吧!...
    一路凯哥阅读 252评论 0 0
  • 寒山一重叶一层,孤舟离雁瑟瑟风。 天涯泪尽相思语,此时此刻难为声。 (此图由小樊同学提供,在此表示感谢)
    信陵脱剑阅读 228评论 0 1
  • CaptchaView CaptchaView是一个验证码、邀请码的自定义布局,是在 InputCodeLayou...
    叁拾柒点贰阅读 1,069评论 0 0
  • 期末结束了,你的成绩又下滑了,连背的科目都考得不理想,看了成绩我的心凉了一大半,你每天学习到很晚是在用心学吗,还是...
    照小阳阅读 234评论 0 2