(7) 算法的时间和空间效率分析
Tip
GESP C++ 八级考试大纲知识点梳理系列文章:
作为一名优秀的 C++ 程序员,仅仅会写代码让程序跑起来是不够的。如果你的程序在处理大量数据时慢如蜗牛(TLE),或者直接内存溢出(MLE),那么这依然是一个不及格的程序。
算法复杂度分析在 GESP 考纲中反复出现,从四级到八级,要求逐级递进。到了八级,我们需要掌握的是**“较为复杂算法”**的分析能力。
Tip
考纲要求: (7) 算法的时间和空间效率分析。能够掌握 较为复杂算法 的时间和空间复杂度分析方法,能够分析各类算法(包括排序算法、查找算法、树和图的遍历算法、搜索算法、分治及 动态规划算法 等)的时间和空间复杂度。
Warning
本人也是边学、边实验、边总结,且对考纲深度和广度的把握属于个人理解。因此本文更多的不是一个教程,而是个人知识梳理,如有遗漏、疏忽,欢迎指正、交流。
一、考纲要求纵览与重点
这其实已经是大纲中 第三次 明确提出对算法复杂度的要求了。我们先来回顾一下前序等级的要求,以便明确八级的 “进阶” 到底体现在哪里。
1.1 前序等级要求回顾
- 四级考纲 (9):简单算法复杂度的估算,含多项式、指数复杂度。
重点:初步认识 、 与 的巨大差异。
- 五级考纲 (5):掌握算法复杂度估算方法(含多项式、对数)。
重点:引入了 和 ,主要结合 二分查找 和 高效排序(快排、归并)。
1.2 八级分析重点
对比八级考纲要求可见,八级的核心在 “复杂算法” 和 “空间”:
- 对象更复杂:不再是简单的循环嵌套,而是涉及 递归、图论、DP 等非线性结构的分析。
- 维度更全面:明确强调了 空间复杂度 的分析(以往容易忽视,但搜索和 DP 中极易 MLE)。
- 方法更深入:需要掌握递归树、状态转移等更深层的分析逻辑。
二、基本概念快速复习
既然已学过四五级,这里我们只做快速回顾。
2.1 大 O 符号与运算
- :描述最坏情况下的渐进上界。
- 忽略原则:忽略常数系数()、忽略低阶项()。
2.2 数据规模的“1秒定律”
在 C++ 竞赛中(通常 1秒时限),一般认为计算机能执行 次基本运算。
| N 的规模 | 复杂度上限 | 对应算法 |
|---|---|---|
| 搜索、状压 DP | ||
| Floyd、区间 DP | ||
| 朴素 DP、最短路(稠密) | ||
| 排序、堆、二分、线段树 | ||
| 线性筛、双指针 |
三、复杂算法的时间复杂度分析
这是八级的重头戏。我们针对考纲提到的几类算法分别解析。
3.1 树与图的遍历 (Graph/Tree Traversal)
在图论算法中,时间复杂度通常与 点数 (Vertices) 和 边数 (Edges) 有关。我们要看算法到底遍历了什么。
DFS / BFS 遍历
核心逻辑:无论用什么存图,算法的步骤都是:
- 访问点 。
- 找到 的所有邻居 。
- 对 进行递归 (DFS) 或入队 (BFS)。
邻接矩阵 (Adjacency Matrix)
- 什么是邻接矩阵? 用一个二维数组
G[N][N]存图。G[i][j] = 1表示 到 有边。 - 为什么慢? 为了找到点 的邻居,不管它实际连了几条边,程序必须 扫描 这一整行 (从 到 ),逐个检查
if (G[u][v] == 1)。
代码体现:
// 访问点 u,试图找它的邻居 v
for (int v = 0; v < V; v++) { // 必须循环 V 次!
if (G[u][v] != INF) { ... }
}- 复杂度推导:每个点都要做一次 的扫描。总复杂度 = 。
邻接表 (Adjacency List)
- 什么是邻接表? 用
vector<int> adj[N]存图。adj[u]里只存 实际相连的邻居。 - 为什么快? 找 的邻居时,直接遍历
adj[u]即可,不需要扫描不存在的边。 - 代码体现:
// 访问点 u,试图找它的邻居 v
for (int v : adj[u]) { // 只循环实际边数次
...
}- 复杂度推导:所有点的
adj[u]大小之和等于总边数 (无向图 ,有向图 )。总复杂度 = (访问所有点) + (扫描所有边) = 。
推导结论:稀疏图 () 邻接表完胜;稠密图 () 两者相当。
最短路算法:Dijkstra 的两种形态
Dijkstra 算法是解决单源最短路径的经典算法,它的效率取决于 如何找到当前距离最小的那个点。
朴素 Dijkstra ()
- 实现方式:
- 使用一个数组
dist[N]记录起点到各点的最短距离(初始化为无穷大,起点为 0)。 - 使用一个数组
visited[N]记录该点的最短路是否已经确定。 - 算法核心是一个 次的循环:每次在所有 未标记 (
!visited) 的点中,扫描dist[]数组,找到值最小的那个点 ,标记它,并用它去更新邻居。
- 使用一个数组
- 复杂度分析:
- 找最小点:,共需找 次 。
- 更新邻居:每条边会被松弛一次 。
- 总复杂度:。
- 适用场景:稠密图 ()。例如 ,此时 比 更快且常数小。
堆优化 Dijkstra ()
与朴素法的核心区别:
- 朴素法:为了找到那个“当前距离最小的点”,采取了最笨的办法——全班点名(遍历数组),耗时 。
- 堆优化:利用数据结构维护秩序。所有候选点都在堆里排好队,队首就是最小的。我们不需要“找”,拿出来就是最小的。
实现细节与代价:
- 入队 (Push):每当我们发现一条更短的路(松弛成功),就把新的
{距离, 点}扔进堆里。这一步需要维持堆序,耗时 。 - 出队 (Pop):每次取出堆顶元素。耗时 。
- 懒惰删除:因为 C++
priority_queue无法直接修改堆中间的元素,我们允许堆里存在同一个点的多个“旧数据”。当我们从堆顶取出一个点时,如果发现它的距离比dist[]记录的实际最短距离大,说明它是“过期的”,直接扔掉即可。
- 入队 (Push):每当我们发现一条更短的路(松弛成功),就把新的
总账计算:
- 每条边最多引起一次入队操作(松弛),共 次。
- 总复杂度:。
- 对比:在 稀疏图(如 )中,,而 。效率提升了近万倍!
3.2 搜索算法 (Search)
搜索算法(DFS/BFS/回溯)的复杂度通常是指数级的。估算核心模型是 分支系数 (Branching Factor) 与 搜索深度 (Depth)。
- 全排列 ()
- 第一层有 个分支,第二层 个… 第 层 1 个。
- 总节点数:。
- 子集生成 / 0-1 背包暴力 ()
- 每个物品只有 2 种选择(选或不选)。分支系数 ,深度 。
- 总节点数:。
- 斐波那契数列递归
fib(n) = fib(n-1) + fib(n-2)。- 每个节点分裂为 2 个(近似),深度为 。
- 复杂度:。
3.3 分治与递归 (Divide and Conquer)
分析分治算法(如归并排序、快速排序)的最佳方法是 递归树法 (Recursion Tree Method)。
核心公式:
归并排序 (Merge Sort)
核心思想:
- 分 (Divide):把数组拦腰切断,分成左右两半。递归地去处理这两半,直到每个部分只剩 1 个元素(天然有序)。
- 治 (Conquer/Merge):将两个已经有序的子数组,像洗扑克牌一样合并成一个大的有序数组。合并操作需要遍历两个子数组,复杂度与长度成正比。
复杂度推导:
- 第 0 层:1 个问题,规模 。合并耗时 。
- 第 1 层:2 个问题,规模 。合并耗时 。
- 第 2 层:4 个问题,规模 。合并耗时 。
- …
- 层数(树高):每次除以 2,直到规模为 1。深度 。
- 总复杂度:。
快速排序 (Quick Sort)
核心思想:
- 选基准 (Pivot):随便找个数(比如中间那个)作为基准。
- 分区 (Partition):把比基准小的扔左边,比基准大的扔右边。这一步需要遍历当前区间,复杂度 。
- 递归:对左右两个分区重复上述过程。
复杂度推导 (平均情况):
- 第 0 层:1 个问题,规模 。分区耗时 。
- 第 1 层:2 个问题,规模 。分区耗时 。
- 第 2 层:4 个问题,规模 。分区耗时 。
- …
- 总复杂度:同样是 。
- 特例(最坏情况):如果每次选的基准都是最值(比如有序数组选第一个数做基准),每次只分出来 0 个和 个,树高退化为 ,总复杂度退化为 。这也是为什么快排通常要随机选基准。
3.4 动态规划 (Dynamic Programming)
DP 的复杂度分析其实最简单,想象你在 填一张表格。
核心公式解析
DP 的复杂度分析其实最简单,想象你在 填一张表格。不管是几维的表格,道理都一样:
我们套用这个公式来分析几个经典模型:
1. 最长公共子序列 (LCS)
问题简介:给定两个字符串(如 “ABCDE” 和 “ACE”),求它们最长的公共子序列的长度(这里是 “ACE”,长度 3)。注意子序列可以不连续,但顺序不能乱。
核心策略:
- 如果
A[i] == B[j],说明这个字符可以作为公共子序列的一部分,长度加 1。 - 如果
A[i] != B[j],说明这两个字符不能同时选,那就在“A 缩短一点”或者“B 缩短一点”的情况里挑个好的。
复杂度分析:
- Step 1: 数格子 (状态总数)
- 定义
dp[i][j]为 A 串前 个和 B 串前 个的 LCS。 - 的范围是 , 的范围是 。
- 表格大小 = 。
- 定义
- Step 2: 算单次代价 (转移代价)
- 求
dp[i][j]时,要么继承dp[i-1][j],要么继承dp[i][j-1],要么是dp[i-1][j-1] + 1。 - 这只是 3 次常数级别的比较和加法。
- 单次代价 = 。
- 求
- 结论:总复杂度 = 。
2. 最长上升子序列 (LIS) - 朴素版
问题简介:给定一个序列(如 [10, 9, 2, 5, 3, 7]),求它的最长上升子序列的长度(这里是 [2, 3, 7],长度 3)。
核心策略:
- 对于每个数字
a[i],我们想知道:如果以它结尾,能组成多长的上升子序列? - 答案就是:找到所有比
a[i]小的前面的数a[j],取它们对应的 LIS 长度的最大值,再加上 1(即a[i]本身)。
复杂度分析:
- Step 1: 数格子 (状态总数)
- 定义
dp[i]为以第 个数结尾的 LIS 长度。 - 的范围是 。
- 表格大小 = 。
- 定义
- Step 2: 算单次代价 (转移代价)
- 为了求
dp[i],我们需要回头看 的所有位置 。 - 如果
a[i] > a[j],尝试更新dp[i] = max(dp[i], dp[j] + 1)。 - 这需要一个循环,平均遍历次数约为 。
- 单次代价 = 。
- 为了求
- 结论:总复杂度 = 。
3. Floyd 全源最短路算法
问题简介:给定一个带权有向图(允许负权边,但无负权环),求任意两点之间的最短路径。
核心策略:
- 我们定义
dp[k][i][j]为:只允许经过编号在 之间的点作为中转站,从点 到点 的最短路径长度。 - 状态转移时,我们考虑第 个点:
- 不经过 :最短路就是
dp[k-1][i][j]。 - 经过 :最短路就是
dp[k-1][i][k] + dp[k-1][k][j]。
- 不经过 :最短路就是
- 取两者最小值即可。
复杂度分析:
- Step 1: 数格子 (状态总数)
- 原始状态定义是
dp[k][i][j](只允许经过前 个点,从 到 的最短路)。 - 的范围都是 。
- 表格大小 = 。
- 原始状态定义是
- Step 2: 算单次代价 (转移代价)
dp[k][i][j] = min(dp[k-1][i][j], dp[k-1][i][k] + dp[k-1][k][j])。- 这就是一次简单的比较和加法。
- 单次代价 = 。
- 结论:总复杂度 = 。
四、空间复杂度分析 (Space Complexity)
八级考纲中特别强调了空间。在高级算法中,MLE (Memory Limit Exceeded) 是非常容易出现的错误。
4.1 静态空间 (数据结构)
这部分比较显性,主要看开了多大的数组或容器。
int a[N]:。int dp[N][N]:。vector<int> adj[N]:。- 的含义:你需要开一个长度为 的数组来存这些 vector 的“头”,这占用了 的空间。
- 的含义:所有的 vector 里存的元素总数。这占用了 的空间。
警惕: 个
int大约占用 381 MB。 GESP 或 CSP 常见的内存限制是 128MB 或 256MB(有的题甚至 512MB)。
- 128MB 安全界限:
int数组大小不超过 。- 256MB 安全界限:
int数组大小不超过 。如果你需要
int dp[10000][10000],那就是 个 int,必 MLE。
4.2 动态空间 (递归栈与队列)
这部分是隐性的,也是初学者容易“爆栈”的原因。
DFS 递归栈:
- 空间复杂度取决于 递归的最大深度。
- 在树中,最坏情况(退化成链)深度为 ,空间 。
- 平衡树或分治算法中,深度通常为 ,空间 。
- 系统栈限制:Windows 下通常较小(几MB),Linux/评测机通常较大(与堆内存共享或即使限制也有8-10MB)。深度达到 级时极易 Stack Overflow。
BFS 队列:
- 空间复杂度取决于 队列中同时存在的最大元素个数(即图的最大宽度)。
- 最坏情况下(如星型图中心点扩展),可能达到 。
- BFS 虽然不会爆栈,但会消耗大量堆内存。
4.3 空间优化技巧
- 滚动数组:DP 中,如果
dp[i]只依赖于dp[i-1],可以将 空间降为 甚至 。 - 邻接表代替邻接矩阵:将 降为 。
- 迭代代替递归:防止爆栈,虽然空间复杂度理论不变(手写栈),但堆空间通常比系统栈空间大得多。
五、总结与实战建议
| 算法类型 | 关键分析点 | 时间复杂度参考 | 空间复杂度参考 |
|---|---|---|---|
| 二分/分治 | 每次规模减半 | / | / |
| 排序 | 快排/归并/堆排 | / | |
| 图遍历 (DFS/BFS) | 点数 V,边数 E | (邻接表) | |
| 最短路 (Dijkstra) | 堆优化 | ||
| 最短路 (Floyd) | 三重循环 | ||
| 树的遍历 | 节点数 N | 或 | |
| 动态规划 | 状态数 转移 | 视状态而定 () | 视状态而定 (可滚动优化) |
| 全排列 | 阶乘 |
备考建议:
- 看数据范围猜算法:这是做题的第一直觉。看到 ,敢写 Floyd ();看到 ,只能想 或 。
- 重视空间计算:写二维数组前,先按计算器算一下是否超 128MB。
- 警惕递归深度:DFS 深度过深时,考虑是否需要改写或扩栈(如果在允许环境下)。
通过八级的考核,你应当不仅是一个代码的“翻译工”,更是一个懂得计算代价、懂得权衡资源的“架构师”。
本文由coderli.com原创,按照CC BY-NC-SA 4.0 进行授权
所有代码已上传至Github:https://github.com/lihongzheshuai/yummy-code
“luogu-”系列题目可在 洛谷题库 在线评测。
“bcqm-”系列题目可在 编程启蒙题库 在线评测。
GESP/CSP认证交流QQ群: 688906745
