Content #
在第二次世界大战期间，由于通信和情报学的需求，产生了信息论。恰巧计算机诞生，催生了信息时代，而信息论则从理论上奠定了信息存储、传输和处理的科学基础。不过有趣的是，信息论于今天的信息时代在管理上的用途并不亚于在通信上的用途。事实上，信息论在管理类图书中的种类，要远远多于它在通信类图书中的种类。
当一个公司确定了目标和价值观后，每一个人就会不自觉地调整自己做事情的方式，以优化这个目标。而这背后的原理就来自信息论中一个重要的原理–期望值最大化(expectationmaximization)。这个原理其实也是今天各种机器学习算法重要的理论基础，同时在管理学中又有非常广泛的应用，而且还能指导现实生活。这可能是因为世界上很多道理是相通的。
期望值最大化原理原本是用来寻找一个最佳函数的，它的原理大致如下：首先，我们要给出一个收益函数*，它代表我们的利益。其次，在每个时刻计算出能够最大化收益的期望值的方向，之后沿着这个方向走一小步。接下来，再从新的起点出发重复这个过程。*收益函数（gain function)，也称为利润函数或者成本函数，因为利润的反面可以理解为成本，因此它们的含义都差不多。
这样，不论从何处开始，最后一定能够达到收益最大的那个终点。这个过程当然是一个迭代的过程，每一步的终点都是下一步的起点，—步比一步优化。由于这个过程可以由计算机自动完成，因此它成为机器学习的基础，包括像下围棋的 AlphaGo*在训练时也采用这种方法。