spContent=《信息论与编码》是信息类专业一门重要的专业基础课,利用概率论与数理统计方法,研究信息传输,处理与存储的一般规律,以提高信息系统的有效性、可靠性和安全性为目的。通过本课程学习,掌握信息论和编码的基本理论和方法,能够分析信息传输处理过程的信息变化规律,从信息角度识别信息系统的优化途径,为后继专业课程的学习奠定基础。在了解国内外信息论基础与发展趋势的同时,结合国家建设和民族复兴的新时代背景,增强学生的家国情怀,激发学生使命感和责任心。
《信息论与编码》是信息类专业一门重要的专业基础课,利用概率论与数理统计方法,研究信息传输,处理与存储的一般规律,以提高信息系统的有效性、可靠性和安全性为目的。通过本课程学习,掌握信息论和编码的基本理论和方法,能够分析信息传输处理过程的信息变化规律,从信息角度识别信息系统的优化途径,为后继专业课程的学习奠定基础。在了解国内外信息论基础与发展趋势的同时,结合国家建设和民族复兴的新时代背景,增强学生的家国情怀,激发学生使命感和责任心。
—— 课程团队
课程概述
本课程是通信工程、信息工程、信息对抗技术专业的一门专业基础课程,讨论信息的度量,信息传输处理中的有效性和可靠性问题,培养学生应用信息论的基本理论和方法,分析信息传输处理中有效性和可靠性的工程问题,并有能力获得相关结论和解释。
它是信息类专业基础课程的先修课。
本课提供视频、思维导图、案例等资料, 通过 线上线下混合授课进行。
授课目标
课程目标:
课程目标1:掌握信息熵、信道容量、信息率失真函数等专业基础知识,能够应用其概念、理论和方法解决信息传输、处理和存储中关于信息度量的工程问题。
课程目标2:能够应用信源编码和信道编码的基本信息原理,分析信息传输、处理和存储中关于有效性和可靠性的工程问题,弘扬创新传统文化。
课程目标3:能够应用信息论与编码的基本原理,通过文献研究,分析信息传输、处理和存储中的复杂工程问题,以获得有效结论和解释。
课程目标4:能够理解信息论学科建立与发展趋势,领悟专业技术带来变革,激发学生学习的兴趣,并建立不断学习、不断探索的精神。
成绩 要求
本课程的评价分为3个部分:
1、平时成绩(占40%)
平时成绩分为线上和线下两部分,线上部分包括课程资料学习情况、在线测验完成情况、讨论区讨论等;线下部分包括课堂讨论情况、作业完成情况等。其中,(1)单元测试共占25%,(2)每章节作业共占20%,(3)线上讨论占10%,(4)线下讨论和课前测试占30%。
2、大作业成绩(占10%)
3、期末考试成绩(占50%)
统一组织卷面考试。
讨论区:学生应积极参加讨论区讨论,至少要求讨论帖6次以上,回复或评价别人10次以上,需要特别注意的是,必须参与在“课堂交流区”由教师发起的主题讨论,系统才会统计得分,个人发帖不计入讨论区得分。
注意:本课程对水贴零容忍,一旦发现,按次数扣除分数,直至线上讨论分数部分扣完为止。
课程大纲
绪论(课程目标1)
课时目标:1. 主要内容 信息论与编码的历史和应用 基本的信息传输模型以及作用 2. 教学方法与要求 通过讲授与问答等教学方法,使学生能够掌握信息属性,信息传输模型。 3. 重点与难点 重点:信息传输模型 难点:信息的抽象性
1.1 信息论的形成与发展
1.2 信息理论研究的内容
1.3 通信系统的模型
1.4 信息论的应用
* 香农的生平
信源与信息熵(课程目标1)
课时目标:1. 主要内容 信源的分类 信源熵,条件熵,联合熵,互信息量等基本概念和性质 平稳序列信源的信息熵与性质 连续信源熵,条件熵,联合熵,互信息量基本概念和性质2. 教学方法与要求通过讲授、自学与讨论等教学方法,使学生能够掌握信息度量,信息在传输、处理和存储中信息量的变化关系(信息熵、条件熵,联合熵,互信息量),信息熵的属性,能够应用信息度量方法和属性对若干信息工程问题进行解释或得到有效结论,践行信息鉴别能力,弘扬正能量。3. 重点与难点重点:信息熵等基本概念和性质难点:平稳序列信源熵的性质
2.1 信源的分类及数学模型
2.2 离散信源熵和互信息
2.3 离散序列信源的熵
2.4 连续信源的熵和互信息
2.5 信源的冗余度
信道与信道容量(课程目标1,2)
课时目标:1. 主要内容 信道容量的基本概念和性质。 离散对称信道容量计算及特性。 典型连续信道容量计算及特性。2. 教学方法与要求通过讲授、自学与讨论等教学方法,使学生能够掌握信道的属性内涵与信道容量计算,能够应用信息容量属性和计算对若干信息工程问题进行解释或得到有效结论。3. 重点与难点重点:典型信道及信道容量难点:准对称信道、离散序列信道、限时限频限功率加性高斯白噪声波形信道及容量
3.1 信道与信道容量
3.2 离散单个符号信道及其容量
3.3 离散序列信道及其容量
3,4 连续信道及其容量
3.5 多输入多输出信道及其容量
信息率失真函数(课程目标1,2)
课时目标:1. 主要内容 平均失真,信息率失真函数的概念、性质及物理意义 信息率失真函数的计算方法2. 教学方法与要求通过讲授和问答等等教学方法,使学生能够掌握信息率失真函数的内涵与属性,能够应用信息率失真函数的内涵与属性对若干信息工程问题进行解释或得到有效结论。3. 重点与难点重点:信息率失真函数的概念和性质难点:信息率失真函数的计算方法
4.1 信息率失真函数的概念和性质
4.2 离散信源和连续信源的 R(D)计算
信源编码(课程目标2,3)
课时目标:1. 主要内容 信息论角度的信源编码内涵. 最佳信源编码的概念. 哈夫曼编码,费诺编码和香农编码的方法. 定长信源编码和变长信源编码的基本概念. 定长编码与变长编码定理.2. 教学方法与要求通过讲授和问答等教学方法,使学生能够掌握信源编码的内涵与概念,信源编码方法,信源编码定理,能够分析信息传输、处理和存储中关于有效性的工程问题。3. 重点与难点重点:信源编码的概念和常用信源编码方法.难点:定长编码与变长编码定理.
5.1 编码的概念
5.2 无失真信源编码定理
5.3 限失真信源编码定理
5.4 常用信源编码方法简介
信道编码(课程目标2,3)
课时目标:1. 主要内容 信息论角度的信道编码内涵 信道编码定理 最大后验概率译码准则和最大似然译码准则2. 教学方法与要求通过讲授和问答等教学方法,使学生能够掌握信道编码的内涵与概念,信道编码定理,能够分析信息传输、处理和存储中关于可靠性的工程问题。3. 重点与难点重点:信道编码内涵与基本方法难点:信道编码定理
6.1 有扰离散信道的编码定理
6.2 纠错编译码的基本原理与分析方法
6.3 线性分组码
加密编码(课程目标3)
课时目标:1. 主要内容 信息论角度的加密编码内涵2. 教学方法与要求通过讲授和问答等教学方法,使学生能够掌握加密编码的内涵与概念,能够分析信息传输、处理和存储中关于安全性的工程问题,提升信息安全意识。3. 重点与难点重点:加密编码内涵难点:无
展开全部
预备知识
参考资料
教材:
曹雪虹、张宗橙编著,《信息论与编码》,清华大学出版社。
参考书:
1. Thomas Cover, Elements of Information Theory, John Wiley & Sons, 1991。
2. 冯桂等著,信息论与编码技术(第2版),清华大学出版社。
3.[英] 马克·凯尔伯特(Mark Kelbert) 著;高晖,吕铁军译,信息论与编码理论:剑桥大学真题精解,机械工业出版社
常见问题
问题1:怎样找到自己的帖子?
向下拉动讨论区页面的滚动条,在讨论区首页的子版块下方有一个“我关注的主题” 列表,但那并不是全部;看右边有个绿色“我的论坛主页”链接,点开就是你所有参与过的主题列表了。目前中国大学MOOC平台只能跟踪到你发帖的主题,无法定位到你发的帖子。
经验:有的同学是这么做的:他将自己的每次发帖都记录下来,同时会记录发帖的日期,发帖时论坛中已经有几页了。事后就能找到自己的帖子了,也能看到别人的回复。