最大熵原理是在 1957 年由Jaynes提出的，其主要思想是，在只掌握关于未知分布的部分知识时，应该选取符合这些知识但熵值最大的概率分布。

我们常说，不要把所有的鸡蛋放在一个篮子里，其实就是最大熵原理的一个朴素的说法，因为当我们遇到不确定性时，就要保留各种可能性。

吴军数学之美第十六章中通俗地描述其为, 当我们需要对一个随机事件的概率分布进行预测时，我们的预测应当满足全部已知的条件，而对未知的情况不要做任何主观假设。

对参数形式敏感。

如果我们要估计方差，就会发现，将方差作为参数得到的解，并不是将标准差作为参数得到的解的平方。