image.png image.png image.png image.png image.png 信息论中,基选2,单位为比特 机器学习中,基选e(e=2.71828),单位为奈特 对数换底公式: 当概率均等时,信息熵最大。 即当, references [1] 信息熵是什么?