贪心算法

贪心算法（英语：greedy algorithm），又称贪婪算法，是一种在每一步选择中都采取在当前状态下最好或最优（即最有利）的选择，从而希望导致结果是最好或最优的算法。^[1]比如在旅行推销员问题中，如果旅行员每次都选择最近的城市，那这就是一种贪心算法。

一般人换零钱的时候也会应用到贪心算法。把$36换散︰$20 > $10 > $5 > $1

贪心算法在有最优子结构的问题中尤为有效。最优子结构的意思是局部最优解能决定全局最优解。简单地说，问题能够分解成子问题来解决，子问题的最优解能递推到最终问题的最优解。

贪心算法与动态规划的不同在于它对每个子问题的解决方案都做出选择，不能回退。动态规划则会保存以前的运算结果，并根据以前的结果对当前进行选择，有回退功能。

贪心法可以解决一些最优化问题，如：求图中的最小生成树、求哈夫曼编码......对于其他问题，贪心法一般不能得到我们所要求的答案。一旦一个问题可以通过贪心法来解决，那么贪心法一般是解决这个问题的最好办法。由于贪心法的高效性以及其所求得的答案比较接近最优结果，贪心法也可以用作辅助算法或者直接解决一些要求结果不特别精确的问题。在不同情况，选择最优的解，可能会导致辛普森悖论（Simpson's Paradox），不一定出现最优的解。

贪心算法在数据科学领域被广泛应用，特别是金融工程。其中一个贪心算法例子就是Ensemble method。

适用条件

一个问题要能用贪婪法解，必须同时具备以下两个性质

贪婪选择性质

表示在求解过程中，只要每一步都选择当下看起来最好的选项，就能逐步导向整体的最佳解。贪婪演算法依循这种性质，会先做出一个局部最佳的选择，接著再处理规模缩小后的子问题。这种方法的关键在于“一旦做出选择，就不会回头修改”，也不会检查所有子问题的完整解答，只专注于当前状态下的最优选择。这正是它与动态规划的根本差异：动态规划会穷举所有可能的决策路径，并根据之前所有阶段的结果决定后续行动，甚至可能回头调整先前的决策，以保证能找到全域最优解。

最优子结构

表示它的整体最优解必定可以由各个子问题的最优解组合而成。这种性质也是动态规划所依赖的基础。

细节

1. 建立数学模型来描述问题。
2. 把求解的问题分成若干个子问题。
3. 对每一子问题求解，得到子问题的局部最优解。
4. 把子问题的解局部最优解合成原来解问题的一个解。

实现该算法的过程：
从问题的某一初始解出发；while 能朝给定总目标前进一步 do，求出可行解的一个解元素；
最后，由所有解元素组合成问题的一个可行解。

应用

图论的最小生成树的算法如Prim算法、Kruskal算法就是应用的例子。(Prim演算法是对图上的节点贪心，Kruskal演算法是对图上的边贪心。)

但有两点需要注意

• 对于大部分的问题，贪心法通常都不能找出最佳解（不过也有例外），因为他们一般没有测试所有可能的解。贪心法容易过早做决定，因而没法达到最佳解。例如，所有对图著色问题。
• 贪心法在系统故障诊断策略生成乃至高校的排课系统中都可使用。^[1][2]

针对第一点的简单例子，在阵列[1,49,50]求出最少组成98加法，贪婪法第一步会是50(当下最好选项)，这导致后面需要48个1，但最好情况是2个49，该问题不满足贪婪选择性质，当前选择会导向坏结果

参见

• 动态规划
• 最长公共子序列
• Floyd-Warshall算法
• Viterbi算法