信息储存量怎么算

⑴ 信息量是怎么计算的

假设我错过了某年的世界杯比赛，现在要去问一个知道比赛结果的朋友“哪支球队最终获得世界杯冠军”？他要求我猜，猜完会告诉我是对还是错，但我每猜一次就要给他一块钱。那么我需要付给他多少钱才能知道谁是冠军？我可以把球队编号，从1到32，然后问“冠军的球队在1-16号中吗？”。假如他告诉我对了，我就问“冠军的球队在1-8号中吗？”。如果他告诉我不对，我就自然就知道冠军队在9-16号中。这样我只需要猜5次就可以知道哪支球队是冠军了。所以，“谁是世界杯冠军”这个问题的答案的信息量只值5块钱。香农用“比特”（bit）来作为信息量的单位。像上边“谁是世界杯冠军”这个问题的答案的信息量是5比特。如果是64支球队，“谁是世界杯冠军”这个问题的答案的信息量就是6比特，因为要多猜一次。

对足球了解的朋友看到这有疑问了，他觉得他不需要5次来猜。因为他知道巴西，西班牙，德国等这些强队夺冠的可能性比日本，韩国等球队大的多。所以他可以先把强队分成一组，剩下的其它队伍一组。然后问冠军是否在夺冠热门组里边。重复这样的过程，根据夺冠的概率对剩下的候选球队分组，直至找到冠军队，这样也许三次或四次就猜出结果了。因此，当每支球队夺冠的可能性（概率）不一样时，“谁是世界杯冠军”这个问题的答案的信息量比5比特少。

香农指出，“谁是世界杯冠军”这个问题的答案的信息量是：

H = -(p1*log(p1) + p2 * log(p2) + ... + p32 * log(32))

其中log是以2为底数的对数，以下本文中的log都是以2为底的对数，下边不再特别说明。

这就是衡量信息量多少的公式，它的单位是比特。之所以称为熵是因为它的定义形式和热力学的熵有很大的相似性。对于一个随机变量X的信息熵的定义公式为：

H(X)＝-∑P(xi)logP(xi)

其中xi是随机变量X的可能取值。

更多计算信息量的例子可以看这篇文章：信息怎么衡量多少？

⑵ 信息量的计算方法

信息论创始人C.E.Shannon，1938年首次使用比特（bit）概念：1（bit）= 。它相当于对二个可能结局所作的一次选择量。信息论采用对随机分布概率取对数的办法，解决了不定度的度量问题。
m个对象集合中的第i个对象，按n个观控指标测度的状态集合的
全信息量TI= 。
从试验后的结局得知试验前的不定度的减少，就是申农界定的信息量，即
自由信息量FI=－∑pi ，（i=1,2，…，n）。
式中pi是与随机变量xi对应的观控权重，它趋近映射其实际状态的分布概率。由其内在分布构成引起的在试验前的不定度的减少，称为先验信息或谓约束信息量。风险是潜藏在随机变量尚未变之前的内在结构能（即形成该种结构的诸多作用中还在继续起作用的有效能量）中的。可以显示、映射这种作用的是
约束信息量BI=TI-FI。
研究表明，m个观控对象、按n个观控指标进行规范化控制的比较收益优选序，与其自由信息量FI之优选序趋近一致；而且各观控对象“愈自由，风险愈小”；约束信息量BI就是映射其风险的本征性测度，即风险熵。
把信息描述为信息熵，是状态量，其存在是绝对的；信息量是熵增，是过程量，是与信息传播行为有关的量，其存在是相对的。在考虑到系统性、统计性的基础上，认为：信息量是因具体信源和具体信宿范围决定的，描述信息潜在可能流动价值的统计量。本说法符合熵增原理所要求的条件：一、“具体信源和信宿范围”构成孤立系统，信息量是系统行为而不仅仅是信源或信宿的单独行为。二、界定了信息量是统计量。此种表述还说明，信息量并不依赖具体的传播行为而存在，是对“具体信源和具体信宿”的某信息潜在可能流动价值的评价，而不是针对已经实现了的信息流动的。由此，信息量实现了信息的度量。

⑶ 计算机中信息存储最小的单位是

是“位”才对。

二进制数系统中，每个0或1就是一个位(bit)，位是内存的最小单位。一个二进制数字序列,在计算机中作为一个数字单元，一般为8位二进制数，如一个ASCII码就是一个字节，此类单位的换算为：

1千吉字节(KGB,KiloGigaByte)=1024吉字节。

1吉字节(GB,GigaByte) =1024兆字节。

换算

信息存储量是度量存储器存放程序和数据的数量。其主要度量单位是字节，1个字节（Byte）等于8位（b）二进制。位（bit，Binary Digits）：存放一位二进制数，即0或1，为最小的存储单位，8个二进制位为一个字节单位。一个英文字母（不分大小写）占一个字节的空间，一个中文汉字占两个字节的空间。英文标点占一个字节，中文标点占两个字节。

⑷ 信息量的计算

信息量 I=log2（1/p）
其中 p是概率， log2指以二为底的对数。

对于第一问，“不能使用”， 其概率为25%(35度以下)+5%（40度以上）=30%
信息量 I=log2（1/0.3）=1.7

第二问，"能使用"， 其概率p=1-0.3=0.7
信息量 I=log2（1/0.7）=0.515

第三问，“因为装置在冷却中不能使用” ，其概率p为5%
信息量 I=log2(1/0.05)=4.322

参见《通信原理》，樊昌信第五版，第八页。