动态规划法（十）最长公共子序列（LCS）问题

问题介绍

给定一个序列 $X=<x_1,x_2,....,x_m>$ ，另一个序列 $Z=<z_1,z_2,....,z_k>$ 满足如下条件时称为X的子序列：存在一个严格递增的X的下标序列 $<i_1,i_2,...,i_k>$ ，对所有的 $j=1,2,...,k$ 满足 $x_{i_j}=z_j.$
给定两个序列 $X$ 和 $Y$ ,如果 $Z$ 同时是 $X$ 和 $Y$ 的子序列，则称 $Z$ 是 $X$ 和 $Y$ 的公共子序列。最长公共子序列（LCS）问题指的是：求解两个序列 $X$ 和 $Y$ 的长度最长的公共子序列。例如，序列 $X=<A,B,C,B,D,A,B>$ 和 $Y=<B,D,C,A,B,A>$ 的最长公共子序列为 $<B,C,B,A>$ ，长度为4。
本文将具体阐释如何用动态规划法（Dynamic Programming）来求解最长公共子序列（LCS）问题。

算法分析

1. LCS的子结构

给定一个序列 $X=<x_1,x_2,....,x_m>$ ，对 $i=0,1,...,m$ ，定义 $X$ 的第i前缀为 $X_i=<x_1,x_2,....,x_i>$ ,其中 $X_0$ 为空序列。
（LCS的子结构）令 $X=<x_1,x_2,....,x_m>$ 和 $Y=<y_1,y_2,....,y_n>$ 为两个序列， $Z=<z_1,z_2,....,z_k>$ 为 $X$ 和 $Y$ 的任意LCS，则：

如果 $x_m=y_n,$ 则 $z_k=x_m=y_n$ 且 $Z_{k-1}$ 是 $X_{m-1}$ 和 $Y_{n-1}$ 的一个LCS。
如果 $x_m\neq y_n,$ 则 $z_k \neq x_m$ 意味着 $Z_{k-1}$ 是 $X_{m-1}$ 和 $Y$ 的一个LCS。
如果 $x_m\neq y_n,$ 则 $z_k\neq y_n$ 且 $Z_{k-1}$ 是 $X$ 和 $Y_{n-1}$ 的一个LCS。

2. 构造递归解

在求 $X=<x_1,x_2,....,x_m>$ 和 $Y=<y_1,y_2,....,y_n>$ 的一个LCS时，需要求解一个或两个子问题：如果 $x_m=y_n$ ，应求解 $X_{m-1}$ 和 $Y_{n-1}$ 的一个LCS，再将 $x_m=y_n$ 追加到这个LCS的末尾，就得到 $X$ 和 $Y$ 的一个LCS；如果 $x_m\neq y_n$ ，需求解 $X_{m-1}$ 和 $Y$ 的一个LCS与 $X$ 和 $Y_{n-1}$ 的一个LCS，两个LCS较长者即为 $X$ 和 $Y$ 的一个LCS。当然，可以看出，LCS问题容易出现重叠子问题，这时候，就需要用动态规划法来解决。
定义 $c[i,j]$ 表示 $X_i$ 和 $Y_j$ 的LCS的长度。如果 $i=0$ 或 $j=0$ ，则 $c[i,j]=0.$ 利用LCS的子结构，可以得到如下公式：

$c[i,j]=\left\{ \begin{array}{lr} 0,\qquad 若i=0或j=0\\ c[i-1, j-1]+1,\qquad 若i,j>0且x_i=y_j\\ \max(c[i, j-1], c[i-1, j]),\qquad 若i,j>0且x_i\neq y_j \end{array} \right.$

3. 计算LCS的长度

计算LCS长度的伪代码为LCS-LENGTH. 过程LCS-LENGTH接受两个子序列 $X=<x_1,x_2,....,x_m>$ 和 $Y=<y_1,y_2,....,y_n>$ 为输入。它将 $c[i, j]$ 的值保存在表 $c$ 中，同时，维护一个表 $b$ ，帮助构造最优解。过程LCS-LENGTH的伪代码如下：

LCS-LENGTH(X, Y):
m = X.length
n = Y.length
let b[1...m, 1...n] and c[0...m, 0...n] be new table

for i = 1 to m
    c[i, 0] = 0
for j = 1 to n
    c[0, j] = 0

for i = 1 to m
    for j = 1 to n
        if x[i] == y[j]
           c[i,j] = c[i-1, j-1]+1
           b[i,j] = 'diag'
           
        elseif c[i-1, j] >= c[i, j-1]
            c[i,j] = c[i-1, j]
            b[i,j] = 'up'
            
        else
            c[i,j] = c[i, j-1]
            b[i,j] = 'left'
            
return c and b

4. 寻找LCS

为了寻找 $X$ 和 $Y$ 的一个LCS，我们需要用到LCS-LENGTH过程中的表 $b$ ，只需要简单地从 $b[m, n]$ 开始，并按箭头方向追踪下去即可。当在表项 $b[i,j]$ 中遇到一个'diag'时，意味着 $x_i=y_j$ 是LCS的一个元素。按照这种方法，我们可以按逆序依次构造出LCS的所有元素。伪代码PRINT-LCS如下：

PRINT-LCS(b, X, i, j):
    if i == 0 or j == 0
        return
    if b[i,j] == 'diag'
        PRINT-LCS(b, X, i-1, j-1)
        print x[i]
    elseif b[i,j] == 'up':
        PRINT-LCS(b, X, i-1, j)
    else
        PRINT-LCS(b, X, i, j-1)

程序实现

有了以上对LCS问题的算法分析，我们不难写出具体的程序来实现它。下面将会给出Python代码和Java代码，供读者参考。
完整的Python代码如下：

import numpy as np

# using dynamic programming to solve LCS problem
# parameters: X,Y -> list
def LCS_LENGTH(X, Y):
    m = len(X) # length of X
    n = len(Y) # length of Y

    # create two tables, b for directions, c for solution of sub-problem
    b = np.array([[None]*(n+1)]*(m+1))
    c = np.array([[0]*(n+1)]*(m+1))

    # use DP to sole LCS problem
    for i in range(1, m+1):
        for j in range(1, n+1):
            if X[i-1] == Y[j-1]:
                c[i,j] = c[i-1,j-1]+1
                b[i,j] = 'diag'
            elif c[i-1,j] >= c[i, j-1]:
                c[i,j] = c[i-1,j]
                b[i,j] = 'up'
            else:
                c[i,j] = c[i,j-1]
                b[i,j] = 'left'
    #print(b)
    #print(c)
    return b,c

# print longest common subsequence of X and Y
def print_LCS(b, X, i, j):

    if i == 0 or j == 0:
        return None
    if b[i,j] == 'diag':
        print_LCS(b, X, i-1, j-1)
        print(X[i-1], end=' ')
    elif b[i,j] == 'up':
        print_LCS(b, X, i-1, j)
    else:
        print_LCS(b, X, i, j-1)

X = 'conservatives'
Y = 'breather'

b,c = LCS_LENGTH(X,Y)
print_LCS(b, X, len(X), len(Y))

输出结果如下：

e a t e

完整的Java代码如下：

package DP_example;

import java.util.Arrays;
import java.util.List;

public class LCS {
    // 主函数
    public static void main(String[] args) {
        // 两个序列X和Y
        List<String> X = Arrays.asList("A","B","C","B","D","A","B");
        List<String> Y = Arrays.asList("B","D","C","A","B","A");

        int m = X.size(); //X的长度
        int n = Y.size(); // Y的长度
        String[][] b = LCS_length(X, Y); //获取维护表b的值

        print_LCS(b, X, m, n); // 输出LCS
    }

    /*
    函数LCS_length：获取维护表b的值
    传入参数： 两个序列X和Y
    返回值： 维护表b
     */
    public static String[][] LCS_length(List X, List Y){
        int m = X.size(); //X的长度
        int n = Y.size(); // Y的长度
        int[][] c = new int[m+1][n+1];
        String[][] b = new String[m+1][n+1];

        // 对表b和表c进行初始化
        for(int i=1; i<m+1; i++){
            for(int j=1; j<n+1; j++){
                c[i][j] = 0;
                b[i][j] = "";
            }
        }
        
        // 利用自底向上的动态规划法获取b和c的值
        for(int i=1; i<m+1; i++){
            for(int j=1; j<n+1; j++){
                if(X.get(i-1) == Y.get(j-1)){
                    c[i][j] = c[i-1][j-1]+1;
                    b[i][j] = "diag";
                }
                else if(c[i-1][j] >= c[i][j-1]){
                    c[i][j] = c[i-1][j];
                    b[i][j] = "up";
                }
                else{
                    c[i][j] = c[i][j-1];
                    b[i][j] = "left";
                }
            }
        }

        return b;
    }

    // 输出最长公共子序列
    public static int print_LCS(String[][] b, List X, int i, int j){

        if(i == 0 || j == 0)
            return 0;

        if(b[i][j].equals("diag")){
            print_LCS(b, X, i-1, j-1);
            System.out.print(X.get(i-1)+" ");
        }
        else if(b[i][j].equals("up"))
            print_LCS(b, X, i-1, j);
        else
            print_LCS(b, X, i, j-1);

        return 1;
    }
}