資訊理論研究有哪些

『壹』 什麼信息科學信息科學技術的主要研究內容是什麼主要應用領 域有那些

近幾年來,由於我國科技的大力發展以及電子信息科學在計算機技術中不斷的應用,對於電子信息科學的應用研究也在不斷的加強。文章主要講述了電子信息科學和計算機技術的

『貳』 資訊理論的主要有哪些內容

1.信息的定義:資訊理論的鼻祖申農給信息下的定義是:不確定性的排除其實，信息的定義不下200種

2.資訊理論:資訊理論是研究信息的本質，並用數學方法研究信息的計量傳遞變換和存儲的一門科學

3.信息的系統性:指信息不是零星的個別的混亂的，而是有一組具有特定內容和性質的信息，在一定條件下為某種目的而形成的有機體，如患者的全部症狀智能診斷卡使用中，應該拿著診斷卡從第一項症狀直到最後一項症狀，一項一項地問診，從頭至尾地建立一個症狀的信息系統

4.信息處理:就是數據處理數據處理包括信息的收集加工存儲檢索傳輸和顯示整個用智能診斷卡診病過程——取卡問診打點統計找大逆診輔檢，就是信息處理過程

5.信息價值衡量:信息的價值因人而異，同一信息，對不同的人，不同的地點，價值不同，在智能診斷卡中的分值也不同

『叄』 試述資訊理論的研究內容

網路知道上有相同的問題,我圖簡便直接復制過來了. 資訊理論的創始人是美貝爾電話研究所的數學家香農. 資訊理論的創始人是美貝爾電話研究所的數學家香農（C.E.Shannon1916——）,他為解決通訊技術中的信息編碼問題,突破老框框,把發射信息和接收信息作為一個整體的通訊過程來研究,提出通訊系統的一般模型；同時建立了信息量的統計公式,奠定了資訊理論的理論基礎.1948年申農發表的《通訊的數學理論》一文,成為資訊理論誕生的標志. 申農創立資訊理論,是在前人研究的基礎上完成的.1922年卡松提出邊帶理論,指明信號在調制（編碼）與傳送過程中與頻譜寬度的關系.1922年哈特萊發表《信息傳輸》的文章,首先提出消息是代碼、符號而不是信息內容本身,使信息與消息區分開來,並提出用消息可能數目的對數來度量消息中所含有的信息量,為資訊理論的創立提供了思路.美國統計學家費希爾從古典統計理論角度研究了信息理論,蘇聯數學家哥爾莫戈洛夫也對資訊理論作過研究.控制論創始人維納建立了維納濾波理論和信號預測理論,也提出了信息量的統計數學公式,甚至有人認為維納也是資訊理論創始人之一. 在資訊理論的發展中,還有許多科學家對它做出了卓越的貢獻.法國物理學家L.布里淵（L.Brillouin）1956年發表《科學與資訊理論》專著,從熱力學和生命等許多方面探討資訊理論,把熱力學熵與信息熵直接聯系起來,使熱力學中爭論了一個世紀之久的「麥克斯韋爾妖」的佯謬問題得到了滿意的解釋.英國神經生理學家（W.B.Ashby）1964年發表的《系統與信息》等文章,還把資訊理論推廣應用於生物學和神經生理學領域,也成為資訊理論的重要著作.這些科學家們的研究,以及後來從經濟、管理和社會的各個部門對資訊理論的研究,使資訊理論遠遠地超越了通訊的范圍.因此,資訊理論可以分成兩種：狹義資訊理論與廣義資訊理論. 狹義資訊理論是關於通訊技術的理論,它是以數學方法研究通訊技術中關於信息的傳輸和變換規律的一門科學.廣義資訊理論,則超出了通訊技術的范圍來研究信息問題,它以各種系統、各門科學中的信息為對象,廣泛地研究信息的本質和特點,以及信息的取得、計量、傳輸、儲存、處理、控制和利用的一般規律.顯然,廣義資訊理論包括了狹義資訊理論的內容,但其研究范圍卻比通訊領域廣泛得多,是狹義資訊理論在各個領域的應用和推廣,因此,它的規律也更一般化,適用於各個領域,所以它是一門橫斷學科.廣義資訊理論,人們也稱它為信息科學.關於信息的本質和特點,是資訊理論研究的首要內容和解決其它問題的前提.信息是什麼?迄今為止還沒有一個公認的定義. 英文信息一詞（Information）的含義是情報、資料、消息、報導、知識的意思.所以長期以來人們就把信息看作是消息的同義語,簡單地把信息定義為能夠帶來新內容、新知識的消息.但是後來發現信息的含義要比消息、情報的含義廣泛得多,不僅消息、情報是信息,指令、代碼、符號語言、文字等,一切含有內容的信號都是信息.哈特萊第一次把消息、情報、信號、語言等等都是信息的載體,而信息則是它們荷載著的內容.但是信息到底是什麼呢?申農的狹義資訊理論第一個給予信息以科學定義：信息是人們對事物了解的不確定性的消除或減少.這是從通訊角度上下的定義,即信源發出了某種情況的不了解的狀態,即消除了不定性.並且用概率統計數學方法,來度量為定性被消除的量的大小：H（x）為信息熵,是信源整體的平均不定度.而信息I（p）是從信宿角度代表收到信息後消除不定性的程度,也就是獲得新知識的量,所以它只不在信源發出的信息熵被信宿收到後才有意義.在排除干擾的理想情況下,信源發出的信號與信宿接收的信號一一對應,H（x）與I（p）二者相等.所以信息熵的公式也就是信息量的分式.式中的k是一個選擇單位的常數,當對數以2為底時,單位稱比特（bit）,信息熵是l0g2=1比特. 在申農尋信息量定名稱時,數學家馮.諾依曼建議稱為熵,理由是不定性函數在統計力學中已經用在熵下面了.在熱力學中熵是物質系統狀態的一個函數,它表示微觀粒子之間無規則的排列程度,即表示系統的紊亂度,維納說：「信息量的概念非常自然地從屬於統計學的一個古典概念——熵.正如一個系統中的信息量是它的組織化程度的度量,一個系統的熵就是它的無組織程度的度量；這一個正好是那一個的負數.」這說明信息與熵是一個相反的量,信息是負熵,所以在信息熵的公式中有負號,它表示系統獲得後無序狀態的減少或消除,即消除不定性的大小. 信息一般具有如下一些特徵：1可識別；2可轉換；3可傳遞；4可加工處理；5可多次利用（無損耗性）；6在流通中擴充；7主客體二重性.信息是物質相互作用的一種屬性,涉及主客體雙方；信息表徵信源客體存在方式和運動狀態的特性,所以它具有客體性,絕對性；但接收者所獲得的信息量和價值的大小,與信宿主體的背景有關表現了信息的主體性和相對性.8信息的能動性.信息的產生、存在和流通,依賴於物質和能量,沒有物質和能量就沒有能動作用.信息可以控制和支配物質與能量的流動. 資訊理論還研究信道的容量、消息的編碼與調制的問題以及雜訊與濾波的理論等方面的內容.資訊理論還研究語義信息、有效信息和模糊信息等方面的問題.廣義資訊理論則把信息定義為物質在相互作用中表徵外部情況的一種普遍屬性,它是一種物質系統的特性以一定形式在另一種物質系統中的再現.信息概念具有普遍意義,它已經廣泛地滲透到各個領域,信息科學是具有方法論性質的一門科學.信息方法具有普適性. 所謂信息方法就是運用信息觀點,把事物看做是一個信息流動的系統,通過對信息流程的分析和處理,達到對事物復雜運動規律認識的一種科學方法.它的特點是撇開對象的具體運動形態,把它作為一個信息流通過程加以分析.信息方法著眼於信息,揭露了事物之間普遍存在的信息聯系,對過去難於理解的現象從信息觀點作出了科學的說明.資訊理論為控制論、自動化技術和現代化通訊技術奠定了理論基礎,為研究大腦結構、遺傳密碼、生命系統和神經病理象開辟了新的途徑,為管理的科學化和決策的科學批提供了思想武器.信息方法為認識當代以電子計算機和現代通訊技術為中心的新技術革命的浪潮,為認識論的研究和發展,將進一步提高人類認識與改造自然界的能力.

『肆』 什麼是資訊理論

資訊理論是將信息的傳遞作為一種統計現象來考慮，給出了估算通信信道容量的方法。信息傳輸和信息壓縮是資訊理論研究中的兩大領域。這兩個方面又由信息傳輸定理、信源－信道隔離定理相互聯系。

實踐證明，世界上一切事物都在運動變化之中，在這種運動和變化之過程中，就會發出各種各樣的信息，內部的變化可以反映到外部，外部的表現反映內在的實質。

整體的變化可以反映於局部，局部的變化影響整體。人類在世界上生存，就必須認識信息、利用信息，否則就無法生存，例如預防和躲避自然災害、發明創造工具、發展生產、科學試驗等等，都是受某些信息的啟示。

戰爭更離不開信息，例如我國周代已利用烽火台傳遞戰爭的信息。

凡此種種，一言以蔽之，從有人類的那一天開始，人類就生活在信息的海洋里，一時一刻也離不開信息，而關鍵的問題就是如何認識信息，利用信息，以改變自己的生存條件、創造更好的生活環境。

(4)資訊理論研究有哪些擴展閱讀

人類需要信息，而且還要傳遞信息，語言的作用就是傳遞信息，也是最好的信息傳遞方法，但是語言因受距離的限制，超出聲音的可達范圍即失去傳遞的作用，又易受外界噪音的干擾，於是人類又發明了文字，文字也是傳遞信息的一種方式，但亦有一定的局限性，因而人類叉不斷地創造許許多多的信息傳遞方法。

傳遞信息的目的是為了做出合理的決策，盡管人類對信息的認識、利用源遠流長，即信息反饋。但真正對信息理論的研究，僅僅只有半個多世紀的歷程，其突破點首先是從信息傳遞方法開始的。

1922年卡橙闡明了邊帶問題理論，提出信號保護法則，即信號在調制（編碼）過程中頻譜展寬法制。可以說是資訊理論的先導。

當信源和信宿已給定、信道也已選定後，決定信息系統性能就在於編碼器和解碼器。設計一個信息系統時，除了選擇信道和設計其附屬設施外，主要工作也就是設計編解碼器。一般情況下，信息系統的主要性能指標是它的有效性和可靠性。

有效性就是在系統中傳送盡可能多的信息；而可靠性是要求信宿收到的信息盡可能地與信源發出的信息一致，或者說失真盡可能小。

最佳編解碼器就是要使系統最有效和最可靠。但是，可靠性和有效性往往是相互矛盾的。越有效常導致不可靠，反之也是如此。

『伍』 資訊理論的應用

編碼學
密碼學與密碼分析學
數據傳輸
數據壓縮
檢測理論
估計理論
政治學（政治溝通） 資訊理論的研究范圍極為廣闊。一般把資訊理論分成三種不同類型：
(1)狹義資訊理論是一門應用數理統計方法來研究信息處理和信息傳遞的科學。它研究存在於通訊和控制系統中普遍存在著的信息傳遞的共同規律，以及如何提高各信息傳輸系統的有效性和可靠性的一門通訊理論。
(2)一般資訊理論主要是研究通訊問題，但還包括雜訊理論、信號濾波與預測、調制與信息處理等問題。
(3)廣義資訊理論不僅包括狹義資訊理論和一般資訊理論的問題，而且還包括所有與信息有關的領域，如心理學、語言學、神經心理學、語義學等。 信息是確定性的增加----逆Shannon信息定義；
信息是物質、能量、信息的標示----Wiener信息定義的逆;
信息是事物及其屬性標識的集合。 物質、能量與信息是組成世界的三大要素。人們已經很深入地了解了物質與能量，而對信息的認識才剛起步。那麼，信息是什麼？它又是以何種方式存在的？它有著怎樣的作用？以下是我的猜想，希望對人類進一步認識世界有一定幫助。
一、信息的定義
非世界三要素的信息定義:信息是事物及其屬性標識的集合。不含世界三要素的的信息定義.
含三要素的信息定義：
1．信息是確定性的增加----逆Shannon信息定義；
2．信息就是信息，信息是物質、能量、信息及其屬性的標示----Wiener信息定義的逆.
信息（information）是客觀事物狀態和運動特徵的一種普遍形式，客觀世界中大量地存在、產生和傳遞著以這些方式表示出來的各種各樣的信息。然而，這只是對於我們所生活的三維空間而言的，信息還有更深藏的本質。那麼，難道信息還存在於四維空間（這里所說的四維空間不包括時間，而是空間的四維狀態）中嗎？是的，但要明確一點，信息只存在於四維空間，三維空間中的信息只是四維空間中真實信息的影子。信息大量存在於四維空間中，其本質是在四維空間中存在的一種信息子（informer，假想的存在於四維空間的組成信息的基本單位）的規則排布。
信息是事件（corritor）發生的根本原因，這將在第三節中細作分析。
二、信息的性質
信息有以下性質：客觀性、廣泛性、完整性、專一性。首先，信息是客觀存在的，它不是由意志所決定的，但它與人類思想有著必然聯系（第四節將具體分析）。同時，信息又是廣泛存在的，四維空間被大量信息子所充斥。信息的一個重要性質是完整性，每個信息子不能決定任何事件，須有兩個或兩個以上的信息子規則排布為完整的信息，其釋放的能量才足以使確定事件發生。信息還有專一性，每個信息決定一個確定事件，但相似事件的信息也有相似之處，其原因的解釋需要信息子種類與排布密碼理論的進一步發現。
三、資訊理論機制
在平常狀態下，信息子雜亂無章地分布於四維空間中。當三維空間中的分子摩擦碰撞時，其中的能量逃逸到四維空間中，啟動了信息子的規則排布，排布好的信息子又將能量釋放出來，進入三維空間，引起其他分子的摩擦碰撞，如此循環下去。如果被引起摩擦碰撞的分子恰好是決子（decider，決定事件的因子，如引起神經沖動的鈉鉀離子、引起雷電的電荷），並且有一定物質的量的決子被引起摩擦碰撞時，事件發生。當然，不同分子摩擦碰撞產生的能量不同，其引起的信息子的排布形式的種類也不同，因而決定的事件也不同。
然而，在宇宙爆炸前只有信息存在，一個決定因素（現在還不了解這個因素是什麼）導致了信息子的偶然規則排布，一部分信息子轉化為能量（信息子轉化為能量是有一定條件的，這只有在宇宙爆炸前或初期才能實現），能量再在一定條件下轉化為物質，並繼續轉移轉化，最終形成了我們現在的宇宙。因此，信息子的有序排布是事件發生的根本原因，物質摩擦碰撞是事件發生的直接原因，而能量的傳遞是事件發生的必要條件。
四、資訊理論假說的實例
1．思想與記憶：思想是我們一直捉摸不透的東西，而按照資訊理論假說來講，思想其實就是一種信息。大腦中的某些特定分子摩擦碰撞，引起了某些信息子的規則排布，在三維空間中的表現就是產生電流，引起腦細胞的活動，這便是思想的本質，當然，不同信息表現出不同思想。然而，這不等於我們的思想是早已限定好了的嗎？其實就是這樣。只不過我們腦中分子數量是龐大的，其能引起信息子的排布形式的種類是極其多的，我們的思想不過也只開發了很少一部分。現實中我們所謂的思想還要有另一個因素，那就是需要通過一個完整復雜的調節機制將其表達出來，這個調節機制對於人類來說便是神經系統，因此只有我們能將復雜的思想表達出來。記憶是思想的特化，是信息引起摩擦碰撞的分子恰好是以前產生思想的分子（記憶的決子）時，以前的思想便會再次通過特定信息子的規則排布表達出來。這樣看來，我們的思想是連續的，前一刻的思想直接決定了後一刻的思想，只是我們並沒發覺也沒有手段去發現罷了。
2．生命現象：人的生老病死也可以通過資訊理論假說來解釋。人生病其實是不融合分子（細菌或病毒）與體內分子摩擦引起的信息。成長其實是各種各樣的外界分子（如鈣離子）進入人體內與體內分子摩擦引起的信息。衰老與死亡是細胞內分子摩擦引起的信息，其宏觀表現為細胞的衰老與凋亡，進而影響人。
3．預感與巧合：預感是思想的一種極特殊的形式，當腦中某些分子摩擦引起信息子排布後，信息並未釋放全部能量，而是只將其中一部分能量先釋放出來，引起預感決子的摩擦，剩下的能量則在另外的時刻釋放出來，並由於與前一部分能量同源，恰好引起事件決子的摩擦，從而印證了預感。巧合也是一種極特殊的現象，其本質是信息釋放的能量分為兩半進入到三維空間中的不同地點，引發相同分子的摩擦，從而引起不同地點相同事情的發生，這一般出現在同卵雙胞胎身上，因為其基因的相似性決定了其相同分子摩擦的幾率較大。
4．夢與不實印象（untrue impressions）：夢是在無意識情況下產生的思想，其本質也是信息。我們平時會產生不實印象，看到某情景感覺以前似乎發生過，可是以前卻並沒有發生，其實這是因為腦內分子摩擦引起信息，而信息並沒有將能量馬上釋放出來，而是暫時儲存起來，當另一時刻又有同樣的分子摩擦時，其能量被激活，雙倍能量釋放出來，其中一半能量使我們思想，另一半能量使我們產生印象，這便是不實印象的本質。
5．化學反應：一切化學反應的本質都是信息。幾種分子摩擦引起特定信息，又引起其他分子摩擦，在摩擦中化學鍵斷裂與形成，完成化學反應。
6．命運與靈魂：古人相信命運，可能是冥冥之中感到在另一空間中我們是早已被安排好的個體，於是出現了人類對靈魂、神的遐想。
五、資訊理論假說的意義
資訊理論假說將物質與思想相統一，它是唯物主義發展所必經的一步，它用唯物的觀點解釋了人類一直無法弄清的問題。它自身只是一個假說，需要人類長時間去探索與證明，它自身也存在缺陷，需要人類的不斷發現。也許它本來就是個錯誤，但它是人類成長的見證，是人類偉大的精神財富。
用資訊理論假說的觀點看問題，可以使人類認識到一個全新的世界，並有助於探索世界更深的本質。它給人類提供了一個豐富的經驗，是人類跳出固有思想看問題的典範。總之，不管它是否正確，它都是人類的不朽之作。

『陸』 資訊理論是什麼

資訊理論
開放分類： 哲學、信息

總述 （來源: 資訊理論 南豐公益書院 ）
資訊理論
資訊理論是運用概率論與數理統計的方法研究信息、信息熵、通信系統、數據傳輸、密碼學、數據壓縮等問題的應用數學學科。

資訊理論將信息的傳遞作為一種統計現象來考慮，給出了估算通信信道容量的方法。信息傳輸和信息壓縮是資訊理論研究中的兩大領域。這兩個方面又由信息傳輸定理、信源－信道隔離定理相互聯系。

香農被稱為是「資訊理論之父」。人們通常將香農於1948年10月發表於《貝爾系統技術學報》上的論文《A Mathematical Theory of Communication》（通信的數學理論）作為現代資訊理論研究的開端。這一文章部分基於哈里·奈奎斯特和拉爾夫·哈特利先前的成果。在該文中，香農給出了信息熵（以下簡稱為「熵」）的定義：

H = - ∑ pilogpi
i

這一定義可以用來推算傳遞經二進制編碼後的原信息所需的信道帶寬。熵度量的是消息中所含的信息量，其中去除了由消息的固有結構所決定的部分，比如，語言結構的冗餘性以及語言中字母、詞的使用頻度等統計特性。南豐公益書院

資訊理論中熵的概念與物理學中的熱力學熵有著緊密的聯系。玻耳茲曼與吉布斯在統計物理學中對熵做了很多的工作。資訊理論中的熵也正是受之啟發。

互信息(Mutual Information)是另一有用的信息度量，它是指兩個事件集合之間的相關性。兩個事件X和Y的互信息定義為：

I(X,Y) = H(X) + H(Y) - H(X,Y)
其中 H(X,Y) 是聯合熵(Joint Entropy)，其定義為：

H(X,Y) = - ∑ p(x,y)logp(x,y)
x,y

互信息與多元對數似然比檢驗以及皮爾森χ2校驗有著密切的聯系。

應用

資訊理論被廣泛應用在：
南豐公益書院

編碼學
密碼學與密碼分析學
數據傳輸
數據壓縮
檢測理論
估計理論
資訊理論第一定律

資訊理論是一門用數理統計方法來研究信息的度量、傳遞和變換規律的科學。它主要是研究通訊和控制系統中普遍存在著信息傳遞的共同規律以及研究最佳解決信息的獲限、度量、變換、儲存和傳遞等問題的基礎理論。
資訊理論的研究范圍極為廣闊。一般把資訊理論分成三種不同類型：
(1)狹義資訊理論是一門應用數理統計方法來研究信息處理和信息傳遞的科學。它研究存在於通訊和控制系統中普遍存在著的信息傳遞的共同規律，以及如何提高各信息傳輸系統的有效性和可靠性的一門通訊理論。
(2)一般資訊理論主要是研究通訊問題，但還包括雜訊理論、信號濾波與預測、調制與信息處理等問題。
(3)廣義資訊理論不僅包括狹義資訊理論和一般資訊理論的問題，而且還包括所有與信息有關的領域，如心理學、語言學、神經心理學、語義學等。
信息就是一種消息，它與通訊問題密切相關。1984年貝爾研究所的申農在題為《通訊的數學理論》的論文中系統地提出了關於信息的論述，創立了資訊理論。維納提出的關於度量信息量的數學公式開辟了資訊理論的廣泛應用前景。1951年美國無線電工程學會承認資訊理論這門學科，此後得到迅速發展。20世紀50年代是資訊理論向各門學科沖擊的時期，60年代資訊理論不是重大的創新時期，而是一個消化、理解的時期，是在已有的基礎上進行重大建設的時期。研究重點是信息和信源編碼問題。到70年代，由於數字計算機的廣泛應用，通訊系統的能力也有很大提高，如何更有效地利用和處理信息，成為日益迫切的問題。人們越來越認識到信息的重要性，認識到信息可以作為與材料和能源一樣的資源而加以充分利用和共享。信息的概念和方法已廣泛滲透到各個科學領域，它迫切要求突破申農資訊理論的狹隘范圍，以便使它能成為人類各種活動中所碰到的信息問題的基礎理論，從而推動其他許多新興學科進一步發展。目前，人們已把早先建立的有關信息的規律與理論廣泛應用於物理學、化學、生物學等學科中去。一門研究信息的產生、獲取、變換、傳輸、存儲、處理、顯示、識別和利用的信息科學正在形成。
信息科學是人們在對信息的認識與利用不斷擴大的過程中，在資訊理論、電子學、計算機科學、人工智慧、系統工程學、自動化技術等多學科基礎上發展起來的一門邊緣性新學科。它的任務主要是研究信息的性質，研究機器、生物和人類關於各種信息的獲取、變換、傳輸、處理、利用和控制的一般規律，設計和研製各種信息機器和控制設備，實現操作自動化，以便盡可能地把人腦從自然力的束縛下解放出來，提高人類認識世界和改造世界的能力。信息科學在安全問題的研究中也有著重要應用。

——摘自《安全科學技術網路全書》（中國勞動社會保障出版社，2003年6月出版）

『柒』 資訊理論的應用有哪些

資訊理論是研究信息的產生、獲取、變換、傳輸、存貯、處理識別及利用的學科。資訊理論還研究信道的容量、消息的編碼與調制的問題以及雜訊與濾波的理論等方面的內容。資訊理論還研究語義信息、有效信息和模糊信息等方面的問題。資訊理論有狹義和廣義之分。狹義資訊理論即申農早期的研究成果，它以編碼理論為中心，主要研究信息系統模型、信息的度量、信息容量、編碼理論及雜訊理論等。廣義資訊理論又稱信息科學，主要研究以計算機處理為中心的信息處理的基本理論，包括評議、文字的處理、圖像識別、學習理論及其各種應用。廣義資訊理論則把信息定義為物質在相互作用中表徵外部情況的一種普遍屬性，它是一種物質系統的特性以一定形式在另一種物質系統中的再現。廣義資訊理論包括了狹義資訊理論的內容，但其研究范圍卻比通訊領域廣泛得多，是狹義
資訊理論在各個領域的應用和推廣，因此，它的規律也更一般化，適用於各個領域，所以它是一門橫斷學科。廣義資訊理論，人們也稱它為信息科學。
信息和控制是信息科學的基礎和核心。70年代以來，電視、數據通信、遙感和生物醫學工程的發展，向信息科學提出大量的研究課題，如信息的壓縮、增強、恢復等圖像處理和傳輸技術，信息特徵的抽取、分類和識別的模式、識別理論和方法，出現了實用的圖像處理和模式識別系統。

『捌』 什麼是資訊理論 資訊理論的解釋

1、資訊理論是運用概率論與數理統計的方法研究信息、信息熵、通信系統、數據傳輸、密碼學、數據壓縮等問題的應用數學學科。

2、信息系統就是廣義的通信系統，泛指某種信息從一處傳送到另一處所需的全部設備所構成的系統。資訊理論是關於信息的理論，應有自己明確的研究對象和適用范圍。但從資訊理論誕生的那時起人們就對它有不同的理解。

『玖』 關於資訊理論，你知道它涉及到哪些領域嗎

1.信息的定義：資訊理論的鼻祖申農給信息下的界定是：不確定性的排除其實，信息的定義下不來200種

2.資訊理論：資訊理論是研究信息的本質，並用數學原理研究信息的計量傳送轉換和存儲的一門科學

資訊理論在各行各業的應用和營銷推廣，因而，它的規律性也更一般化，適用於各行各業，因此它是一門橫斷學科。廣義資訊理論，大家也稱它為信息科學。

信息和操縱是信息科學的基本和關鍵。70時代以來，電視機、數據通訊、遙感和生物醫學工程項目的發展，向信息科學明確提出大量的研究課題研究，如信息的縮小、提高、修復等圖像處理和無線通信技術，信息特點的提取、歸類和鑒別的模式、鑒別基礎理論和方式，出現了實用的圖像處理和計算機視覺系統軟體。

『拾』 資訊理論講述的是什麼問題

資訊理論是由美國數學家香農創立的，它是用概率論和數理統計方法，從量的方面來研究系統的信息如何獲取、加工、處理、傳輸和控制的一門科學。信息就是指消息中所包含的新內容與新知識，是用來減少和消除人們對於事物認識的不確定性。信息是一切系統保持一定結構、實現其功能的基礎。狹義資訊理論是研究在通訊系統中普遍存在著的信息傳遞的共同規律、以及如何提高各信息傳輸系統的有效性和可靠性的一門通訊理論。廣義資訊理論被理解為使運用狹義資訊理論的觀點來研究一切問題的理論。資訊理論認為，系統正是通過獲取、傳遞、加工與處理信息而實現其有目的的運動的。資訊理論能夠揭示人類認識活動產生飛躍的實質，有助於探索與研究人們的思維規律和推動與進化人們的思維活動。