信息论与编码

概括：这道题是容每投同学的课后数学练习题，主要是关于信息论与编码，指导老师为盛老师。《信息论与编码》是由电子工业出版社于2006年7月1日出版的图书，主编陈运。

题目：信息论与编码

解：

概率论与数理统计 -> 离散数学 -> 信息论与编码

举一反三

例1： 信息论与编码有一个二进制对称信道,其信道在传输信息的过程中,正确传输的概率是0.98,错误传输的概率是0.02.设该信道以每秒1500个二元符号的速率传输输入的符号.现有一消息序列共有14000[数学练习题]

思路提示：

第一问见图片.

第二问：

二元对称信道的信道容量为 C=1-H(p)=1-(-0.98log0.98-0.02log0.02)=0.8586 bit/symbol.

信源（消息序列）的信息量为 14000 symbol * H(1/2) = 14000 bit ；若10秒内传输这个消息序列,则每秒需要传输的符号数为 14000bit / 10s =1400 bit/s ； 则输入信道的数据速率为 R=1400 bit/s / 1500 symbol/s =0.9333 bit/symbol,则 R>C,根据信道编码定理 （香农第二定理）,消息不能无失真的传输.

例2： 【信息论与编码学的是啥?】[物理练习题]

思路提示：

信息论与编码主要分两部分,前几章主要讲信息方面的,后几章讲编码方面的.由信源,信道到信宿,讲信息符号的传播.为了传播的安全性,对其进行编码加密等.我们刚学完这门课,不是很难.祝你天天好成绩.

例3： 信息论与编码检验矩阵的问题某(n,k)线性二元码的全部码字:000000000111011001011110101011101100110010110101求此码的生成矩阵G和此码的校验矩阵H?[数学练习题]

思路提示：

一共8个许用码字,显然信息位是3位,校验比特6-3=3位.

其实你给的是系统码,因为这8个码字中,后三位分别是：

000 111 001 110 011 100 010 101,正好是0到7的二进制数,那就简单了.

生成矩阵G只要把100 010 001的码字挑出来,放在一起组成的就是生成矩阵.

G=

101100

110010

011001

你可以试一下,比如信息位是[011],那编码出来就是：

[011]*G=101011,显然是对的.

校验矩阵么就是单位阵加上G的左半边的转置

H=

100110

010011

001101

相关思考练习题：

题1：信息论与编码的用途

点拨：信息论与编码研究的是整个通信的最基本的问题，可以说信息论是我们专业的大纲，从香农1948年发表《通信中的数学原理》到现在60余年的时间，信息论对整个行业的发展有着不可替代的指导意义。信息论中最著名的是香农的四大定理（国内一般称三大定...

题2：信息论与编码学的是啥？

点拨：信息论与编码主要分两部分，前几章主要讲信息方面的，后几章讲编码方面的。由信源，信道到信宿，讲信息符号的传播。为了传播的安全性，对其进行编码加密等。我们刚学完这门课，不是很难。祝你天天好成绩。

题3：通信工程专业《信息论与编码》是什么时候学的？

点拨：1.大概是在大二到大三学，我觉得还是好好学，很有用 2.我是工作了，我觉得你学好了以后也可以单独做信息编码方面的工作 3.考研的话，最好去北邮或者东南之类的学校 4.编码在通信中有信源编码，信道编码等 5.信息论是基础，可以好好看看，以后做...

题4：信息论与编码中 平均信息量 怎么求

点拨：楼主你好，考研已经结束，愿你有个好成绩！！ 其实题目是考查信息极其信息源。是通信原理方面的知识。 【例题】一信息源由4个符号a、b、c、d组成，他们出现的概率为3/8、1/4、1/4、1/8，且每个符号的出现都是独立的。试求信息源输出为cabacabdac...

题5：信息论与编码中"分组码"是什么意思?

点拨：分组码定义：将信源的信息序列按照独立的分组进行处理和编码，称为分组码。编码时将每k个信息位分为一组进行独立处理，变换成长度为n（n>k）的二进制码组。 简单实用编码包括奇偶监督码、二维奇偶监督码、恒比码、正反码，其中奇偶监督码和分组...