现代信息论是克劳德·艾尔伍德·香农（Claude Elwood Shannon）首先提出的，他的一个重要的观点是：一个东西的信息量的大小，在于它克服了多少“不确定性”。
从字面上可以看出，不确定性和信息量是一对有相关性的概念。不确定性大的东西，它的信息量就大，反之信息量小。我曾经遇到过一位老师，他每次上课就是读自己写的那本教材，而这本教材在我们每个学生手里都有，他上课和我们自己读教材的效果是一样的，所以上他的课就觉得特别无聊。就是说，这位老师上课时，他将会讲什么内容，甚至将要说那个字都是确定无疑的，那他讲课的信息量就非常小，信息量几乎为零。
还有一种情况，老师备课很充分，课堂内容饱满。有些学生已经提前预习过这一课的内容，老师所将的许多内容和知识点学生已经知道了，对这样的学生来说，老师讲课的不确定性低，这堂课的信息量也就低。但同一堂课，对于那些没有预习的同学来说，老师接下来要讲什么他们完全不知道，课堂的不确定性很高，那么对他们而言，这节课的信息量就很高。
太阳每天都从东边升起，西边落下，这个事件的不确定性非常小，信息量就很小。
在不确定性强的情况下信息量大，根据这一点香农推出一个名词“信息熵”。“熵”是借用物理学的一个名词，这是一个用来表示混乱程度的词，“熵”越大，混乱程度越大。“信息熵”的意思也是一样，一个系统越是混乱，它的信息熵就越高。越是杂乱无章，无规律可循的系统，它的信息含量就越高。还可以说，可供选择的范围越广，选择的信息量就越大。
信息量的概念，出于香农1948年的论文《通讯的数学原理》，当时的香农只有32岁。他的同事瓦伦·韦弗（Warren Weaver）向公众这样解释信息论：“从信息角度开看，最重要的不是你“说了”什么，而是你“能说”什么。
就像前面例子中的第一位老师，他说的每一句话都毫无悬念，那他讲课的信息量就几乎为零。
信息，在于你从多大的不确定性中做出了选择。有一句流行语说：“孩子，我们现在要求你好好学习，是为了你以后能选择自己想要的生活”。这句话的意思就是要增加孩子对于未来生活的不确定性，让他可以通过好好学习，提升自己的能力，具备从更多的可能性上选择自己更加喜爱的生活方向的能力。这种想法的本质上就是增加孩子未来生活的“信息熵”。
信息，在于你制造了多少意外。超市周边的老年居民，他们虽然经常光顾超市购物，但他们的消费主要集中在食品和日用品，而且以打折品居多。这样的顾客对超市而言是没有多少意外和惊喜的，他们的信息量小。突然有一天来了一位大客户，一开口就需要采购很多数量而且利润率高的产品，他给超市带来了意外的收获，这就是一件信息量很大的事件。
信息，在于你有多大的自由度。大多数人一生在一个行业供职，从事一种工作直到退休。有些人不断变化工作单位，改换工作领域。相比较而言，后一种人的一生就比前一种人活得信息量大。
所以信息论的价值观要求选择权、多样性、不确定性和自由度。如果一个人的一生中有很多部分是重复的，多样性差，这些相同的信息就可以忽略不计，能够被记录下来或者值得被记录下来的信息少，这样的人生就是“可压缩的”。虽然渡过了漫长的数十年，但人生中被“压缩”之后的信息量没有多少。一个每天种种地，然后靠在墙边晒太阳的农村老头，他的一生的信息量可能比一个参加各种课外活动，参加各类竞赛，有机会就去四处游历，学习着许多门课程的中学生还要少。可以说那位农村老人在这个世界上留下的信息量比一个城里孩子还要小。
可能每个人会有不同的选择。比如有些人就会说：我就不愿意接受那么多的选择和不确定性，我有选择困难症，我就愿意每天重复相同的生活轨迹，简简单单一路走下去，我才不在乎能不能活出“信息量”来！这种想法当然无可厚非，每个人都有选择自己生活方式的自由。但我自己可不愿意这样的生活，我倒是希望能够过一个可以自由选择的，有着多样化经历和不确定未来的丰富人生。这样的人生需要提升自己选择的能力，就像那句说给孩子的话一样，好好学习的目的就是为了以后能够有选择自己想要的生活的权力。我们需要一个“低压缩率”的人生，不要那个“高压缩率”的人生。
