Dynamic Programming 开山篇

Dynamic Programming 是一种把大问题拆成小问题来逐个击破的方法,it's all about subproblems.


概念上学会 Edit Distance, Longest Subsequence, 背包问题就基本可以理解它了。

先来说Longest Subsequence 问题吧。

假设我们有一串数字: [10, 9, 2, 5, 3, 7, 101, 18]

最长的上升序列是[2, 3, 7, 101]

这个问题可以被分成subproblem来做。什么叫subproblem? 就是这个问题的迷你版。比如说这串数字只有[10],很容易知道 Longest subsequence的长度为1.

如果是[10, 9] 那么longest len=1. 如果是[10, 9, 2] 因为是降序,所以Longest subsequence len还是1. 但是当子问题为[10 9 2 5]的时候发现,矮油,现在最长的生序列为 2 5 长度为2,有进步! 当mini problem 变成[10, 9, 2, 5, 3, 7]时,2,3,7 也是生序列。

除了知道子问题以外,我们还需要找到每个问题之间的联系,子问题1 可以怎么样被子问题2拿来用?

经过研究发现, 前一个子问题保留下来的最长长度 + 1 如果比当前这个子问题还要长,那么最长长度应该是子问题长度+1.  【我这里描述的我自己都觉得不清楚。。。】


说说Edit Distance 问题。

求两个字符串中有几个不一样的字. 这里最关键的就是要画出DP的 table出来。 每一个Table的格子是一个subproblem的答案!

一般Dynamic Programming Table 的初始化都是将某些地方赋值初始值。 Edit Distance的话需要将first row/ first col全部初始化。 0,1,2,3,4,5...

自习想想就会知道为什么要这么做。 First Row初始其实就是等于比较 subproblem  "E" 和 "P", "E"和"PO", "E"和"POL", "E"和POLY这些的差别数量。 很明显,差别由长的那一个来决定。 First Col同理。在有了最开始的row和col以后, 就可以从子问题逐渐推导出父问题的解了。 每一个格子可以说是代表了一个子问题, 这个问题的值是由它周围的三个格子决定的。因为只有那3个格子有办法通往当前的这个格子。

具体来说, 因为我们想要知道的是最小的differnece between two strings. 那么有3种情况,第一种情况:要么2个string最后一个letter一样,2个string最后一个字不一样。 那么result = diff+ E[i-1, j-1]. 第二种情况: 我们直接拿E[i, j-1]看看会不会给我们更短的result。第三种情况 E[i-1, j].

这里比较Tricky理解的就是: 好像只应该存在第一种情况阿,第二第三是什么意思?

比如说 abcd  和 abcde 其实第二个string比第一个string就多了一个letter,difference应该是1.

但是如果我们先比了最后一个letter,差别1 然后再加上differnece between [abc,和 abcd] 这样difference 至少会变成2. 我们不知道实际操作时候,3种情况哪个更短,所以都得实验一下,取最短的。



背包问题:

背包问题一直是我觉得DP里面最好玩的几个算法之一。

题目是,你现在在一家商店,商店里没人你可以随便偷东西。假设你有一个书包,书包可以装x kg,已知各个物品重量,价值。 我们最大容量只有15kg, 我们想要尽可能的往里面装价值高的东西并且最好不要有剩余空间浪费。 如下图, 如果我们装 15个 2块钱的东西,我们能偷30块走。 如果我们装1个12 kg的 再加3个1kg的凑满15公斤。我们偷走10块钱,这样不划算,少偷了!现在求一共最优的偷法。

首先,我们会发现这个是一个典型的DP问题。为什么? 因为你回发现它是有很多子问题构成的,并且都遵守一样的条件。 比如说, 原问题是包可以装15kg。子问题可以是14kg对吧,13kg也可以阿。

然后我们要知道一个性质吧。比如说书包装capacity w的最优解里要装物品i,那么把物品i拿掉的话,子问题书包capacity w- wi 是子问题的最优解。 

在所有物品里面,肯定起码有一个是我们要拿走的对吧,所以至少有一个会是我们最优解包里要放的物品。书包上限w的最优解=  (书包装重w-wi的最优解 + 多拿走一个 物品i重量为wi的价值 ) 

也就是 k(w) = k(w- wi) + wi. 

但是我们不知道哪一个物品是包含在最优解里的,所以得一个个试试比较。

K(w) =   max(k(w- wi)+wi).

伪代码:

Initialize K array.

for w =1 to W:

      K(w) = max(k(w - wi) + vi for all wi < w);


Run time = O(nW) 因为 每一步要测试n 个item。一共W步。


升级版背包问题:

基本版背包问题是说你可以拿走同样的东西 无限次,只要不超重。 假设现在你一个东西只能拿一次,那该怎么偷?

多加一个变量.

general 问题为: K(w, j)= 最优的偷法for 书包上限w 以及选取物品范围:1,2,3,4,。。。j.

求问题最优解: K(W, N).

K(w, j) = max{k(w- wj, j-1)+ vj,   k(w, j-1)}.  

怎么理解上面一行呢? 为什么一会加vj 一会不加vj?

这是一个很经典的DP 思想。就是说如果这个东西加进来对我有帮助,加。 如果没帮助甚至倒退,那还不如不加。 为了判定到底是哪种情况,用一个max(a, b)来比较更好的哪一方。

伪代码:

Initialize k(0, j)= 0 and all k(w, 0) = 0;

for j = 1 to n:

      for  w = 1 to W:

          if Wj > w:   k(w, j) = k(w, j-1) //如果这个要偷的物品j直接妈的比我整个包能装重还大,无视。

          else:  k(w, j) = max{k(w, j-1), k(w-wj, j-1)+ vj} //因为你要偷j,你就得去掉包里之前装的某个物品来腾空间。未必价值能更高,所以要判断一下。

return k(w, n)

这么做的好处就是我们每个物品要么不偷,要么只偷一次。

子问题: k(w, j-1)为 1--j-1编号物品里一个最多只偷一次的最高价值偷法。

K(w, j)为子问题最优偷法 + 最后这个看偷不偷。

最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 203,324评论 5 476
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 85,303评论 2 381
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 150,192评论 0 337
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 54,555评论 1 273
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 63,569评论 5 365
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,566评论 1 281
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,927评论 3 395
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,583评论 0 257
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,827评论 1 297
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,590评论 2 320
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,669评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,365评论 4 318
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,941评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,928评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,159评论 1 259
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,880评论 2 349
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,399评论 2 342

推荐阅读更多精彩内容

  • 背景 一年多以前我在知乎上答了有关LeetCode的问题, 分享了一些自己做题目的经验。 张土汪:刷leetcod...
    土汪阅读 12,719评论 0 33
  • 树形动态规划,顾名思义就是树+DP,先分别回顾一下基本内容吧:动态规划:问题可以分解成若干相互联系的阶段,在每一个...
    Mr_chong阅读 1,453评论 0 2
  • 动态规划(Dynamic Programming) 本文包括: 动态规划定义 状态转移方程 动态规划算法步骤 最长...
    廖少少阅读 3,252评论 0 18
  • 回溯算法 回溯法:也称为试探法,它并不考虑问题规模的大小,而是从问题的最明显的最小规模开始逐步求解出可能的答案,并...
    fredal阅读 13,621评论 0 89
  • 大梦初醒竟荒唐了昨夜的月亮,重阳,重阳,思亲思姑娘……
    FezDirk阅读 181评论 0 0