頻道容量

在電機工程學、電腦科學、資訊理論中，信道容量（Channel capacity，又譯通道容量）是指在一個頻道中能夠可靠地傳送資訊時可達速率的最小上界。所謂可靠傳輸指的是可以以任意小的錯誤率傳遞資訊。根據有噪頻道編碼定理，頻道容量是可以誤差概率任意小地達到的給定頻道的極限資訊率。頻道容量的單位為位元每秒、奈特每秒等等。^[1] ^[2]

山農在第二次世界大戰期間發展出資訊理論，為信道容量提了定義，並且提供了計算頻道容量的數學模型。山農指出，信道容量是頻道的輸入與輸出的互資訊量的最大值，而相應的輸入分佈稱為最佳輸入分佈。^[3]

定義[編輯]

X代表已傳送訊號的隨機變數，Y代表已收到訊號的隨機變數。 $\ p_{Y|X}(y|x)$ 代表已知X的情況下Y的條件分佈，為頻道的內在固定屬性。於是依據如下性質

\ p_{X,Y}(x,y)=p_{Y|X}(y|x)\,p_{X}(x)

邊緣分佈 $p_{X}(x)$ 的選取完全決定了聯合分佈 $p_{X,Y}(x,y)$ ，這就能導出互資訊 $I(X;Y)$ 。頻道容量定義為

\ C=\sup _{p_{X}(x)}I(X;Y)\,

其中上確界針對對所有可能的 $p_{X}(x)$ 值。

有噪頻道編碼定理[編輯]

有噪頻道編碼定理表明，對任意的ε > 0以及傳輸速率R小於頻道容量C，在塊長度足夠大的情況下，總有一種在速率為R下傳輸的編碼和解碼方案，它的誤差概率小於ε。另外，對於任何大於頻道容量的速率，隨着塊長度趨近於無窮，接受者的誤差概率也趨於1。

參見[編輯]

參考文獻[編輯]

^ Saleem Bhatti. Channel capacity. Lecture notes for M.Sc. Data Communication Networks and Distributed Systems D51 -- Basic Communications and Networks. [2007-11-10]. （原始內容存檔於2007-08-21）.
^ Jim Lesurf. Signals look like noise!. Information and Measurement, 2nd ed. [2007-11-10]. （原始內容存檔於2016-12-28）.
^ Thomas M. Cover, Joy A. Thomas. Elements of Information Theory. John Wiley & Sons, New York. 2006.

[1] Saleem Bhatti. Channel capacity. Lecture notes for M.Sc. Data Communication Networks and Distributed Systems D51 -- Basic Communications and Networks. [2007-11-10]. （原始內容存檔於2007-08-21）.

[2] Jim Lesurf. Signals look like noise!. Information and Measurement, 2nd ed. [2007-11-10]. （原始內容存檔於2016-12-28）.

[3] Thomas M. Cover, Joy A. Thomas. Elements of Information Theory. John Wiley & Sons, New York. 2006.

[1]

[2]

[3]