1、1,第5章 回溯法,2,学习要点 理解回溯法的深度优先搜索策略。 掌握用回溯法解题的算法框架 （1）递归回溯最优子结构性质 （2）迭代回溯贪心选择性质 （3）子集树算法框架 （4）排列树算法框架,3,通过应用范例学习回溯法的设计策略。 （1）装载问题； （2）批处理作业调度； （3）符号三角形问题 （4）n后问题； （5）0-1背包问题； （6）最大团问题； （7）图的m着色问题 （8）旅行售货员问题 （9）圆排列问题 （10）电路板排列问题 （11）连续邮资问题,4,有许多问题，当需要找出它的解集或者要求回答什么解是满足某些约束条件的最佳解时，往往要使用回溯法。 回溯法的基本做法是搜索，或是
2、一种组织得井井有条的，能避免不必要搜索的穷举式搜索法。这种方法适用于解一些组合数相当大的问题。 回溯法在问题的解空间树中，按深度优先策略，从根结点出发搜索解空间树。算法搜索至解空间树的任意一点时，先判断该结点是否包含问题的解。如果肯定不包含，则跳过对该结点为根的子树的搜索，逐层向其祖先结点回溯；否则，进入该子树，继续按深度优先策略搜索。,回溯法,5,问题的解空间,问题的解向量：回溯法希望一个问题的解能够表示成一个n元式(x1,x2,xn)的形式。 显约束：对分量xi的取值限定。 隐约束：为满足问题的解而对不同分量之间施加的约束。 解空间：对于问题的一个实例，解向量满足显式约束条件的所有多元组，
3、构成了该实例的一个解空间。,注意：同一个问题可以有多种表示，有些表示方法更简单，所需表示的状态空间更小（存储量少，搜索方法简单）。,n=3时的0-1背包问题用完全二叉树表示的解空间,6,生成问题状态的基本方法,扩展结点:一个正在产生儿子的结点称为扩展结点 活结点:一个自身已生成但其儿子还没有全部生成的节点称做活结点 死结点:一个所有儿子已经产生的结点称做死结点 深度优先的问题状态生成法：如果对一个扩展结点R，一旦产生了它的一个儿子C，就把C当做新的扩展结点。在完成对子树C（以C为根的子树）的穷尽搜索之后，将R重新变成扩展结点，继续生成R的下一个儿子（如果存在） 宽度优先的问题状态生成法：在一个
4、扩展结点变成死结点之前，它一直是扩展结点 回溯法：为了避免生成那些不可能产生最佳解的问题状态，要不断地利用限界函数(bounding function)来处死那些实际上不可能产生所需解的活结点，以减少问题的计算量。具有限界函数的深度优先生成法称为回溯法,7,回溯法的基本思想,(1)针对所给问题，定义问题的解空间； (2)确定易于搜索的解空间结构； (3)以深度优先方式搜索解空间，并在搜索过程中用剪枝函数避免无效搜索。,常用剪枝函数： 用约束函数在扩展结点处剪去不满足约束的子树； 用限界函数剪去得不到最优解的子树。,用回溯法解题的一个显著特征是在搜索过程中动态产生问题的解空间。在任何时刻，算法只
5、保存从根结点到当前扩展结点的路径。如果解空间树中从根结点到叶结点的最长路径的长度为h(n)，则回溯法所需的计算空间通常为O(h(n)。而显式地存储整个解空间则需要O(2h(n)或O(h(n)!)内存空间。,8,递归回溯,回溯法对解空间作深度优先搜索，因此，在一般情况下用递归方法实现回溯法。,void backtrack (int t) if (tn) output(x);elsefor (int i=f(n,t);i=g(n,t);i+) xt=h(i);if (constraint(t) ,9,迭代回溯,采用树的非递归深度优先遍历算法，可将回溯法表示为一个非递归迭代过程。,void iter
6、ativeBacktrack () int t=1;while (t0) if (f(n,t)=g(n,t) for (int i=f(n,t);i=g(n,t);i+) xt=h(i);if (constraint(t) ,10,子集树与排列树,遍历子集树需O(2n)计算时间,遍历排列树需要O(n!)计算时间,void backtrack (int t) if (tn) output(x);elsefor (int i=0;i=1;i+) xt=i;if (legal(t) backtrack(t+1); ,void backtrack (int t) if (tn) output(x);e
7、lsefor (int i=t;i=n;i+) swap(xt, xi);if (legal(t) backtrack(t+1);swap(xt, xi); ,11,装载问题,有一批共n个集装箱要装上2艘载重量分别为c1和c2的轮船，其中集装箱i的重量为wi，且,装载问题要求确定是否有一个合理的装载方案可将这个集装箱装上这2艘轮船。如果有，找出一种装载方案。 容易证明，如果一个给定装载问题有解，则采用下面的策略可得到最优装载方案。 (1)首先将第一艘轮船尽可能装满； (2)将剩余的集装箱装上第二艘轮船。 将第一艘轮船尽可能装满等价于选取全体集装箱的一个子集，使该子集中集装箱重量之和最接近。由此
8、可知，装载问题等价于以下特殊的0-1背包问题。,用回溯法设计解装载问题的O(2n)计算时间算法。在某些情况下该算法优于动态规划算法。,12,装载问题,解空间：子集树 可行性约束函数(选择当前元素)： 上界函数(不选择当前元素)： 当前载重量cw+剩余集装箱的重量r当前最优载重量bestw,void backtrack (int i)/ 搜索第i层结点if (i n) / 到达叶结点更新最优解bestx,bestw;return;r -= wi;if (cw + wi bestw) xi = 0; / 搜索右子树backtrack(i + 1); r += wi;,13,批处理作业调度,给定n个
9、作业的集合J1,J2,Jn。每个作业必须先由机器1处理，然后由机器2处理。作业Ji需要机器j的处理时间为tji。对于一个确定的作业调度，设Fji是作业i在机器j上完成处理的时间。所有作业在机器2上完成处理的时间和称为该作业调度的完成时间和。 批处理作业调度问题要求对于给定的n个作业，制定最佳作业调度方案，使其完成时间和达到最小。,这3个作业的6种可能的调度方案是1,2,3；1,3,2；2,1,3；2,3,1；3,1,2；3,2,1；它们所相应的完成时间和分别是19，18，20，21，19，19。易见，最佳调度方案是1,3,2，其完成时间和为18。,14,批处理作业调度,解空间：排列树,void
10、 Flowshop:Backtrack(int i) if (i n) for (int j = 1; j f1)?f2i-1:f1)+Mxj2;f+=f2i;if (f bestf) Swap(xi, xj);Backtrack(i+1);Swap(xi, xj);f1- =Mxj1;f- =f2i; ,class Flowshop friend Flow(int*, int, int );private:void Backtrack(int i);int *M, / 各作业所需的处理时间*x, / 当前作业调度*bestx, / 当前最优作业调度*f2, / 机器2完成处理时间f1, /
11、机器1完成处理时间f, / 完成时间和bestf, / 当前最优值n; / 作业数;,15,符号三角形问题,+ + - + - + + + - - - - + - + + + - + + - + - -+,下图是由14个“+”和14个“-”组成的符号三角形。2个同号下面都是“+”，2个异号下面都是“-”。,在一般情况下，符号三角形的第一行有n个符号。符号三角形问题要求对于给定的n，计算有多少个不同的符号三角形，使其所含的“+”和“-”的个数相同。,16,符号三角形问题,解向量：用n元组x1:n表示符号三角形的第一行。 可行性约束函数：当前符号三角形所包含的“+”个数与“-”个数均不超过n*(n
12、+1)/4 无解的判断：n*(n+1)/2为奇数,void Triangle:Backtrack(int t) if (counthalf)|(t*(t-1)/2-counthalf) return;if (tn) sum+;elsefor (int i=0;i2;i+) p1t=i;count+=i;for (int j=2;j=t;j+) pjt-j+1=pj-1t-j+1pj-1t-j+2;count+=pjt-j+1;Backtrack(t+1);for (int j=2;j=t;j+)count-=pjt-j+1;count-=i;,+ + - + - + + + - - - - +
13、 - + + + - + + - + - -+,复杂度分析 计算可行性约束需要O(n)时间，在最坏情况下有 O(2n)个结点需要计算可行性约束，故解符号三角形问题的回溯算法所需的计算时间为 O(n2n)。,17,n后问题,在nn格的棋盘上放置彼此不受攻击的n个皇后。按照国际象棋的规则，皇后可以攻击与之处在同一行或同一列或同一斜线上的棋子。n后问题等价于在nn格的棋盘上放置n个皇后，任何2个皇后不放在同一行或同一列或同一斜线上。,18,解向量：(x1, x2, , xn) 显约束：xi=1,2, ,n 隐约束：1)不同列：xixj2)不处于同一正、反对角线：|i-j|xi-xj|,n后问题,bo
14、ol Queen:Place(int k) for (int j=1;jn) sum+;elsefor (int i=1;i=n;i+) xt=i;if (Place(t) Backtrack(t+1);,19,0-1背包问题,解空间：子集树 可行性约束函数： 上界函数：,template Typep Knap:Bound(int i) / 计算上界Typew cleft = c - cw; / 剩余容量Typep b = cp;/ 以物品单位重量价值递减序装入物品while (i = n ,20,最大团问题,给定无向图G=(V，E)。如果UV，且对任意u，vU有(u，v)E，则称U是G的完全
15、子图。G的完全子图U是G的团当且仅当U不包含在G的更大的完全子图中。G的最大团是指G中所含顶点数最多的团。 如果UV且对任意u，vU有(u，v)E，则称U是G的空子图。G的空子图U是G的独立集当且仅当U不包含在G的更大的空子图中。G的最大独立集是G中所含顶点数最多的独立集。 对于任一无向图G=(V，E)其补图G=(V1，E1)定义为：V1=V，且(u，v)E1当且仅当(u，v)E。,U是G的最大团当且仅当U是G的最大独立集。,21,最大团问题,解空间：子集树 可行性约束函数：顶点i到已选入的顶点集中每一个顶点都有边相连。 上界函数：有足够多的可选择顶点使得算法有可能在右子树中找到更大的团。,v
16、oid Clique:Backtrack(int i) / 计算最大团if (i n) / 到达叶结点for (int j = 1; j bestn) / 进入右子树xi = 0;Backtrack(i+1); ,复杂度分析 最大团问题的回溯算法backtrack所需的计算时间显然为O(n2n)。,22,进一步改进,选择合适的搜索顺序，可以使得上界函数更有效的发挥作用。例如在搜索之前可以将顶点按度从小到大排序。这在某种意义上相当于给回溯法加入了启发性。 定义Si=vi,vi+1,.,vn，依次求出Sn,Sn-1,.,S1的解。从而得到一个更精确的上界函数，若cn+Si=max则剪枝。同时注意到
17、：从Si+1到Si，如果找到一个更大的团，那么vi必然属于找到的团，此时有Si=Si+1+1，否则Si=Si+1。因此只要max的值被更新过，就可以确定已经找到最大值，不必再往下搜索了。,23,图的m着色问题,给定无向连通图G和m种不同的颜色。用这些颜色为图G的各顶点着色，每个顶点着一种颜色。是否有一种着色法使G中每条边的2个顶点着不同颜色。这个问题是图的m可着色判定问题。若一个图最少需要m种颜色才能使图中每条边连接的2个顶点着不同颜色，则称这个数m为该图的色数。求一个图的色数m的问题称为图的m可着色优化问题。,24,解向量：(x1, x2, , xn)表示顶点i所着颜色xi 可行性约束函数：
18、顶点i与已着色的相邻顶点颜色不重复。,图的m着色问题,void Color:Backtrack(int t) if (tn) sum+;for (int i=1; i=n; i+)cout xi ;cout endl;elsefor (int i=1;i=m;i+) xt=i;if (Ok(t) Backtrack(t+1); bool Color:Ok(int k) / 检查颜色可用性for (int j=1;j=n;j+)if (akj=1) ,复杂度分析 图m可着色问题的解空间树中内结点个数是 对于每一个内结点，在最坏情况下，用ok检查当前扩展结点的每一个儿子所相应的颜色可用性需耗时O(
19、mn)。因此，回溯法总的时间耗费是,25,旅行售货员问题,解空间：排列树,template void Traveling:Backtrack(int i) if (i = n) if (axn-1xn != NoEdge ,复杂度分析 算法backtrack在最坏情况下可能需要更新当前最优解O(n-1)!)次，每次更新bestx需计算时间O(n)，从而整个算法的计算时间复杂性为O(n!)。,26,圆排列问题,给定n个大小不等的圆c1,c2,cn，现要将这n个圆排进一个矩形框中，且要求各圆与矩形框的底边相切。圆排列问题要求从n个圆的所有排列中找出有最小长度的圆排列。例如，当n=3，且所给的3个圆
20、的半径分别为1，1，2时，这3个圆的最小长度的圆排列如图所示。其最小长度为,27,圆排列问题,float Circle:Center(int t) / 计算当前所选择圆的圆心横坐标float temp=0;for (int j=1;jtemp) temp=valuex;return temp; ,void Circle:Compute(void) / 计算当前圆排列的长度float low=0,high=0;for (int i=1;ihigh) high=xi+ri;if (high-lowmin) min=high-low; ,void Circle:Backtrack(int t) if
21、 (tn) Compute();elsefor (int j = t; j = n; j+) Swap(rt, rj);float centerx=Center(t);if (centerx+rt+r1min) /下界约束xt=centerx;Backtrack(t+1);Swap(rt, rj); ,复杂度分析 由于算法backtrack在最坏情况下可能需要计算O(n!)次当前圆排列长度，每次计算需O(n)计算时间，从而整个算法的计算时间复杂性为O(n+1)!),上述算法尚有许多改进的余地。例如，象1,2,n-1,n和n,n-1, ,2,1这种互为镜像的排列具有相同的圆排列长度，只计算一个就
22、够了，可减少约一半的计算量。另一方面，如果所给的n个圆中有k个圆有相同的半径，则这k个圆产生的k!个完全相同的圆排列，只计算一个就够了。,28,连续邮资问题,假设国家发行了n种不同面值的邮票，并且规定每张信封上最多只允许贴m张邮票。连续邮资问题要求对于给定的n和m的值，给出邮票面值的最佳设计，在1张信封上可贴出从邮资1开始，增量为1的最大连续邮资区间。,例如，当n=5和m=4时，面值为(1,3,11,15,32)的5种邮票可以贴出邮资的最大连续邮资区间是1到70。,29,连续邮资问题,解向量：用n元组x1:n表示n种不同的邮票面值，并约定它们从小到大排列。x1=1是唯一的选择。 可行性约束函数
23、：已选定x1:i-1，最大连续邮资区间是1:r，接下来xi的可取值范围是xi-1+1:r+1。,如何确定r的值？ 计算X1:i的最大连续邮资区间在本算法中被频繁使用到，因此势必要找到一个高效的方法。考虑到直接递归的求解复杂度太高，我们不妨尝试计算用不超过m张面值为x1:i的邮票贴出邮资k所需的最少邮票数yk。通过yk可以很快推出r的值。事实上，yk可以通过递推在O(n)时间内解决： for (int j=0; j= xi-2*(m-1);j+)if (yjm)for (int k=1;k=m-yj;k+)if (yj+kyj+xi-1*k) yj+xi-1*k=yj+k;while (yrma
24、xint) r+;,30,回溯法效率分析,通过前面具体实例的讨论容易看出，回溯算法的效率在很大程度上依赖于以下因素： (1)产生xk的时间； (2)满足显约束的xk值的个数； (3)计算约束函数constraint的时间； (4)计算上界函数bound的时间； (5)满足约束函数和上界函数约束的所有xk的个数。 好的约束函数能显著地减少所生成的结点数。但这样的约束函数往往计算量较大。因此，在选择约束函数时通常存在生成结点数与约束函数计算量之间的折衷。,31,重排原理,对于许多问题而言，在搜索试探时选取xi的值顺序是任意的。在其它条件相当的前提下，让可取值最少的xi优先。从图中关于同一问题的2棵不同解空间树，可以体会到这种策略的潜力。,图(a)中，从第1层剪去1棵子树，则从所有应当考虑的3元组中一次消去12个3元组。对于图(b)，虽然同样从第1层剪去1棵子树，却只从应当考虑的3元组中消去8个3元组。前者的效果明显比后者好。,(a),(b),32,课后作业,习题 5-14，5-16，5-18，5-27，5-29,33,
