信息论
分享
课程详情
课程评价
spContent=信息论是信息时代的数学基础。这门诞生于香农时代的学科,不仅揭示了信息传递的本质规律,更为现代的计算机、通信、人工智能、密码学等领域奠定了理论基础。本门课程衔接了前面的数学分析、线性代数、概率论等基础数学课程,也为后续的通信、网络、机器学习、量子计算、信号处理等课程提供必要的理论基础。
—— 课程团队
课程概述

本课程将带您深入信息论的核心世界。课程采用以实际问题为引导,通过具体问题的分析与建模,导出具体的信息论概念与工具,理论与实践相结合,让抽象的理论变得直观可感。在这门课程中,我们将具体讲授信息论的基本概念和结论,其范围包括但不限于信息熵、互信息、信息不等式及其应用、无损编码与有损编码、类型理论、信道编码、微分熵,以及最大熵原理等等。从通过如何量化不确定性导出信息熵的概念出发,逐步揭示信息度量、信源编码、信道容量等关键技术原理。您将学习到如何量化信息,理解数据压缩的极限,掌握可靠通信的理论边界。


除了信息论的基础知识,本门课程还将着重介绍机器学习、信息安全中常用的信息论工具、问题和结论。通过学习这门课程,学生不仅能够掌握信息论的核心概念和技术,同时还能培养在未来的研究和工作中灵活运用这些知识,解决实际问题的能力。

授课目标

主要面向二年级本科生,讲解Shannon信息论的基本内容

课程大纲
预备知识

微积分、线性代数、概率论

证书要求

为积极响应国家低碳环保政策, 2021年秋季学期开始,中国大学MOOC平台将取消纸质版的认证证书,仅提供电子版的认证证书服务,证书申请方式和流程不变。

 

电子版认证证书支持查询验证,可通过扫描证书上的二维码进行有效性查询,或者访问 https://www.icourse163.org/verify,通过证书编号进行查询。学生可在“个人中心-证书-查看证书”页面自行下载、打印电子版认证证书。

 

完成课程教学内容学习和考核,成绩达到课程考核标准的学生(每门课程的考核标准不同,详见课程内的评分标准),具备申请认证证书资格,可在证书申请开放期间(以申请页面显示的时间为准),完成在线付费申请。

 

认证证书申请注意事项:

1. 根据国家相关法律法规要求,认证证书申请时要求进行实名认证,请保证所提交的实名认证信息真实完整有效。

2. 完成实名认证并支付后,系统将自动生成并发送电子版认证证书。电子版认证证书生成后不支持退费。


参考资料
  1. Thomas Cover, Elements of Information theory, 2nd
  2. Raymond W. Yeung, Information Theory and Network Coding