首页 > 编程知识 正文

计算机基础知识整理大全,计算机理论

时间:2023-05-04 13:59:32 阅读:107511 作者:2309

(信道容量知识总结)

信道容量是信道的参数,反映信道可传输的最大信息量,其大小与源无关。 根据输入概率分布,相互信息中一定存在最大值。 将该最大值定义为通道的容量。 然而,一旦转移概率矩阵确定,信道容量也完全确定。 信道容量的定义与输入概率分布有关,但信道容量的数值与输入概率分布无关。 我们把不同的输入概率分布称为试验源,不同的试验源有不同的相互信息。 其中需要用于最大化相互信息的试验源。 这个最大值是信道容量。

信道容量以单位时间内可传输的二进制比特的比特数(称为信道的数据传输速率、比特率)、比特/秒(b/s )的形式表示,有时也简称为bps。 通信的目的是获得信息,为了测量信息量(信息量)而使用了熵这个概念。 在信号通过信道传输的过程中,它涉及两个熵:发送端的信源不确定度的信源熵——,接收端的接收信号条件下的信源熵——,即接收信号条件下的信源不确定度。 如果接收到信号,不确定度变小,发送源的不确定性也会在一定程度上消除。 也就是说,在一定程度上可以得到发送源的信息。 该信息的获取是通过信道传输信号获得的。 如果在通信过程中熵不变小(不确定度变小),则没有必要进行通信。 理想地,在所接收到的信号条件下源熵是0 (没有完全确定性),此时完全获得信源信息。

通信信道、主叫方x、接收方y。 从信息传输的观点来看,通过信道输入I(x; y )=h(x )-h ) x|y ),)接收y前后相对于x的不确定度的变化)。 该值与两个概率有关,假设p(x ),p ) y|x ),特定信道转移概率恒定,则在所有p ) x )分布中,maxI ) x; y )是信道的信道容量c (相互信息的上凸性)。 比特每秒、夜晚每秒等。 [1] [2]在电机、计算机科学和信息论中,信道容量是指在一个通信信道上能够可靠地传输信息时所能达到的最大速率上限。

根据噪声信道编码定理,已知信道的信道容量意味着在有限的传输率下可以达到任何小的误码率。

香农在二战期间发展了信息论,对信道容量进行了定义,并给出了计算信道容量的数学模型。 香农指出,信道容量是信道输入和输出互信息量的最大值,这个最大值由输入信号的概率分布决定。 [3]

x表示发送信号的随机变量空间,y表示接收信号的随机变量空间。

表示知道x时y的条件概率。 首先已知通道的统计特性,py|x(y|x )是通道的统计特性。 以及x和y分布的性质:联合分布:

边缘分布:

信道容量-正文

信道可以正确传输的最大信息速率。 对于只有一个源和宿的单用户信道,它是每秒比特数或每符号比特数。 这表示每秒或每个通道的符号可以传输的最大信息量。 也就是说,如果信息速率小于这个数量,就可以在这个信道上无错误地进行传输。 对于多用户通道,如果源和宿都是,则平面上的闭合线,如图中的OC1ABC2O所示。 坐标R1和R2分别是两个源可传送的信息速率,即当R1和R2落入该封闭线内时可无错误地传送。 如果存在m个源和宿,则信道容量是m维空间的一个凸区域的外部“面”。

信道容量

单用户信道容量? 信道由输入集合a,输出集合b和条件概率p(yx ),yB,xA来规定。 如果b是离散集,则递推性的要求是

b为连续集时,p(yx )应理解为条件概率密度,上式为积分形式。 如果a和b都是离散组,则由信道传输的信息速率(每个码元)是输出符号和输入符号之间的相互信息

相互信息涉及p(yx ),也涉及输入编码的概率p ) x ),后者是通过改变编码器而变化的。 改p(x )为I ) x; 如果y )为最大,则可以充分利用在信道上传输信息的能力,将该最大值作为单用户信道容量c、即

式中的是所有允许输入符号概率分布的集合。 如果a或b是连续集合,则符合条件的概率应理解为概率密度,总编号应改为积分,其他类似。 多用户信道容量? 多用户信道容量问题要复杂一些。 以二级接入信道为例,该信道有两个输入X2A1和X2A2,分别连接到两个源,发射信息速率分别为R1和R2。 有输出y,用它提取这两个源的信息。 当信道的条件概率为p(yx1,x2 )时

式中I(x1; YX2 )是有条件的相互信息,是在判明X2时从y得到的关于X1的信息; I ) x2; YX1的意思相似; I ) x1、X2; y )是无条件的相互信息,是从y得到的关于X1和X2的信息。 E1和E2是所有允许的输入符号的概率分布p1(x1 )和p1(x1 )的集合。 如果X1和X2相互独立,由于这些条件相互信息比对应的无条件相互信息大,两个信息速率R1和R2的上限受以上三个公式的限制。 如果调整p1(x1 )和p1(x1 )以使这些相互信息成为最大,则得到式中的C1、C2、C0。

因此为R1和R2范围

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。