導航:首頁 > 信息系統 > 信息量的多少

信息量的多少

發布時間:2022-02-01 21:58:44

⑴ 信息量是怎麼計算的

假設我錯過了某年的世界盃比賽,現在要去問一個知道比賽結果的朋友「哪支球隊最終獲得世界盃冠軍」?他要求我猜,猜完會告訴我是對還是錯,但我每猜一次就要給他一塊錢。那麼我需要付給他多少錢才能知道誰是冠軍?我可以把球隊編號,從1到32,然後問「冠軍的球隊在1-16號中嗎?」。假如他告訴我對了,我就問「冠軍的球隊在1-8號中嗎?」。如果他告訴我不對,我就自然就知道冠軍隊在9-16號中。這樣我只需要猜5次就可以知道哪支球隊是冠軍了。所以,「誰是世界盃冠軍」這個問題的答案的信息量只值5塊錢。香農用「比特」(bit)來作為信息量的單位。像上邊「誰是世界盃冠軍」這個問題的答案的信息量是5比特。如果是64支球隊,「誰是世界盃冠軍」這個問題的答案的信息量就是6比特,因為要多猜一次。

對足球了解的朋友看到這有疑問了,他覺得他不需要5次來猜。因為他知道巴西,西班牙,德國等這些強隊奪冠的可能性比日本,韓國等球隊大的多。所以他可以先把強隊分成一組,剩下的其它隊伍一組。然後問冠軍是否在奪冠熱門組里邊。重復這樣的過程,根據奪冠的概率對剩下的候選球隊分組,直至找到冠軍隊,這樣也許三次或四次就猜出結果了。因此,當每支球隊奪冠的可能性(概率)不一樣時,「誰是世界盃冠軍」這個問題的答案的信息量比5比特少。

香農指出,「誰是世界盃冠軍」這個問題的答案的信息量是:

H = -(p1*log(p1) + p2 * log(p2) + ... + p32 * log(32))

其中log是以2為底數的對數,以下本文中的log都是以2為底的對數,下邊不再特別說明。

這就是衡量信息量多少的公式,它的單位是比特。之所以稱為熵是因為它的定義形式和熱力學的熵有很大的相似性。對於一個隨機變數X的信息熵的定義公式為:

H(X)=-∑P(xi)logP(xi)

其中xi是隨機變數X的可能取值。


更多計算信息量的例子可以看這篇文章:信息怎麼衡量多少?

⑵ 一位二進制數可以表示多少信息量

信息量的計算方法是:對消息出現概率的倒數取以2為底的對數,所得結果即是信息量。
一位二進制,出現0或1的概率為1/2,所以信息量=log(1/(1/2))(以2為底)=1。
即一位二進制數可以表示1個信息量。

⑶ 填空提信息中所含信息量的多少與什麼有關系

資訊理論是運用概率論與數理統計的方法研究信息、信息熵、通信系統、數據傳輸、密碼學、數據壓縮等問題的應用數學學科。
資訊理論將信息的傳遞作為一種統計現象來考慮,給出了估算通信信道容量的方法。
信息傳輸和信息壓縮是資訊理論研究中的兩大領域。

⑷ 什麼是信息量

信息多少的量度。1928年R.V.L.哈特萊首先提出信息定量化的初步設想,他將消息數的對數定義為信息量。若信源有m種消息,且每個消息是以相等可能產生的,則該信源的信息量可表示為I=logm。但對信息量作深入而系統研究,還是從1948年C.E.仙農的奠基性工作開始的。在資訊理論中,認為信源輸出的消息是隨機的。即在未收到消息之前,是不能肯定信源到底發送什麼樣的消息。而通信的目的也就是要使接收者在接收到消息後,盡可能多的解除接收者對信源所存在的疑義(不定度),因此這個被解除的不定度實際上就是在通信中所要傳送的信息量。

⑸ 百度有多少信息量

幾乎是無所不包.
我很喜歡這個風格.

⑹ 衡量信息量多少的是

那麼,怎樣度量信息量的大小呢?信息量不能用得到消息的次數來度量,因為千萬個消息可能委復著相同的內容;不能用文字的多少來度量,文字再多,全是廢話,信息量並不會增大;信息量的大小與聲音強弱也無關,比如把收音機開得響些,你得到的信息也不會由此而增加。資訊理論的研究表明,信息量的大小與事件發生的可能性的概率有關。

⑺ 百度百科一年的新增信息量大約有多少

據說大約相當於7本《大英網路全書》,這個數字還在不斷增加中!!

⑻ 人一生接受多少信息量

接著上面的回答,但是大腦的潛能還沒開發出來了。所以儲量還是很有限。

⑼ 信息量是指什麼

信息量是源於通信領域而逐漸普及成為大眾與媒體頻繁使用的一個詞,將它與一篇科技論文聯系起來,是指在篇幅有限的情況下,論文本身能向讀者提供多少有關該論題的信息。筆者在《Chinese physics Letters》的投稿規范上看到,它是指「要盡可能多地給出有關研究的信息,盡可能少地運用investigate(調查),study(研究), disuss(討論)等詞,並舉例作了進一步解釋,如「The cross section is (6.25± 0.02)就比「The cross section is measured」包含更多的信息量。通俗地講,讀之前或許不知道,或者模糊不消或不確切的知識在讀過該文之後不僅獲得新知識,還消除了模糊不清或不確切之處,就說明這篇文章包含較多的信息量。簡言之,當你讀完一篇文章後獲得的新知識越多,說明它的信息量就越大。顯然,「多點測量」的信息量要比「6點測量」少得多,前者給出的是模糊的、不確切的信息,而後者則是清楚的。確切的信息。

閱讀全文

與信息量的多少相關的資料

熱點內容
外資代理記賬價格多少 瀏覽:442
城市軌道車輛應用技術專升本可以報什麼 瀏覽:761
如何搭建數據平台 瀏覽:822
重慶哪裡有冷凍食品批發市場 瀏覽:255
保險代理人資格證怎麼取得 瀏覽:144
東莞莞城區哪個市場豆腐好吃 瀏覽:446
定製屬於什麼技術 瀏覽:223
拼多多在哪裡看數據進行分析 瀏覽:481
產品質量診斷有哪些種類 瀏覽:721
什麼產品充電器好用 瀏覽:427
數據未備份會有什麼後果 瀏覽:360
word狀態欄的信息不包括什麼 瀏覽:971
刑事案簡易程序要多久 瀏覽:211
各視頻會員怎麼代理 瀏覽:424
北京怎麼運作會計代理記賬 瀏覽:796
微信小程序有什麼游戲經營類 瀏覽:727
代理市長什麼時候出現 瀏覽:815
三流產品怎麼引流 瀏覽:342
人口遷移數據為什麼不能查詢 瀏覽:103
手游如何交易安全 瀏覽:87