怎么理解消息(概率性)?
比如说梅西进球了,进了三个球。大家想想,梅西并不是每场比赛都进三个球,他进三个球是有一定的概率的。大家可以听广播看电视听别人说来获得这个消息。
怎么理解信息?
梅西进了三个球,当你不知道这个消息时作为一个球迷你听到这个消息一定很兴奋。当你已经知道这个消息时,别人再给你说梅西进了三个球,你就会淡淡的说:“哦。我已经知道了。”
信源编码:压缩,减少冗余
信道编码:增加冗余
就像新疆往西安运棉花,一大堆棉花你怎么运,直接装火车吗?这显然是行不通的,你要把棉花打包压缩以后再装火车,这个压缩过程就相当于信源编码。压缩的过程中可能会有差错所以要进行信道编码。