
1,
又一次看见《传播的数学理论》。
香农在1948年在贝尔实验室的内部刊物上发表了论文《A Mathematical Theory of Communication》,后整理成单行本《the Mathematical Theory of Communication》,单行本作者增加了W.韦弗,所以,国内有些网站会看见说 香农-韦弗模式,但是,一般而言,业界公认香农是信息论的开创者。
以上两篇论文在国内都通译作《通信的数学理论》。
偶尔,会在一些奇葩书籍,应该是以编撰/无脑复制为主的书里出现这种明显不利于理解的翻译。
就像“香农”,非要翻译为“像侬”,是作者的权力。但是吧,和业界标准译法不一致,就是人为增加知识传播成本(当然,我知道作者是无意的,因为他不知道业界的标准用法)。
所以,题主你看的这本书,是不是值得你一句话一句话的理解,是存疑的。
因为他关于信息论的说法,看起来也是复制或者自己翻译(?)一些英文资料的而来,缺乏作者的有效理解。
2,
香农关于信息的定义本身的确很抽象,普通读者难以理解。我觉得非专业人士,先记住这句话就可以了:信息是不确定性。
然后记一下这个典型例子:
你知道今天星期一,然后有个人A跟你说:
1,明天星期二
2,明天下雨
第一句话是你自己可以不需要借助外部信息,自己就能知道的信息,所以,第一句话对你是没有价值的。对你来说,没有任何信息量。而第二句话是你自己(在不借助外部信息的情况下)不能得到的信息,所以,第二句话对你来说就是有信息价值的,是有信息量的。
3,
那么,题目中
这句话就是香农信息定义的多种解读中的一种。A跟你说的那两句话,是讯息,是已知和未知(以你,信息接收方为标准的),是预料之中和预料之外的结合。如果A只跟你说了第一句话,你就可以认为他跟你说的是废话,对你没有任何信息价值,即没有信息。
4,
回到香农的信息,信息是不确定性uncertainty的原文是:
英文原文是:Can we find a measure of how much “choice” is involved in the selection of the event or of how uncertain we are of the outcome?
我个人的理解,香农信息论的本义是对通信过程的度量。信息是不确定性,是概率,是限定场景(在某个具体的通信时,信源可能选择的消息序列的可能性)下对信息的抽象,是为了研究方便所作的高度抽象。
但是科学及们发现,这个定义可以不限定于通信场景,可以用于每一个有关“信息”的场景,所以,信息论传播开来。
那我们这些后来者,非科班出身的普通人,脱离信息论的初始语境,理解这个不确定性,就更难了。所以,我建议啊,把“信息是不确定性”放在通信场景下,放在香农的原文里去理解。个人感觉,可能更容易一些。
更多,可参考:
