各章参考答案 2．1． （1）4.17比特 ；（2）5.17比特 ； （3）1.17比特 ；（4）3.17比特 2．2． 1.42比特 2．3． （1）225.6比特 ；（2）13.2比特 2．4． （1）24.07比特； （2）31.02比特 2．5． （1）根据熵的可加性，一个复合事件的平均不确定性可以通过多次实验逐步解除。如果我们使每次实验所获得的信息量最大。那么所需要的总实验次数就最少。用无砝码天平的一次称重实验结果所得到的信息量为log3,k 次称重所得的信息量为klog3。从12个硬币中鉴别其中的一个重量不同（不知是否轻或重）所需信息量为log24。因为3log3=log27>log24。所以在理论上用3次称重能够鉴别硬币并判断其轻或重。每次实验应使结果具有最大的熵。其中的一个方法如下：第一次称重：将天平左右两盘各放4枚硬币，观察其结果：①平衡 ②左倾 ③右倾。ⅰ）若结果为①，则假币在未放入的4枚币，第二次称重：将未放入的4枚中的3枚和已称过的3枚分别放到左右两盘，根据结果可判断出盘中没有假币；若有，还能判断出轻和重，第三次称重：将判断出含有假币的三枚硬币中的两枚放到左右两盘中，便可判断出假币。ⅱ）若结果为②或③即将左盘中的3枚取下，将右盘中的3枚放到左盘中，未称的3枚放到右盘中，观察称重砝码，若平衡，说明取下的3枚中含假币，只能判出轻重，若倾斜方向不变，说明在左、右盘中未动的两枚中其中有一枚为假币，若倾斜方向变反，说明从右盘取过的3枚中有假币，便可判出轻重。 （2）第三次称重 类似ⅰ）的情况，但当两个硬币知其中一个为假，不知为哪个时, 第三步用一个真币与其中一个称重比较即可。 对13个外形相同的硬币情况.第一次按4,4,5分别称重,如果假币在五个硬币的组里,则鉴 别所需信息量为log10>log9=2log3,所以剩下的2次称重不能获得所需的信息. 2．6． （1）215 log ＝15比特； （2） 1比特；（3）15个问题 2． 7. 证明： （略） 2．8． 证明： （略） 2．9． 31)(11= b a p ，121 )(21=b a p ， 121 )(31= b a p ， 61)()(1312= =b a b a p p ， 241)()()()(33233222= ===b a b a b a b a p p p p 。 2．10． 证明： （略） 2．11. 证明： （略）
《点集拓扑学》第一章集合论初步本章介绍有关集合论的一些基本知识．从未经定义的“集合”和“元素”两个概念出发，给出集合运算、关系、映射以及集合的基数等方面的知识．至于选择公理，只是稍稍提了一下，进一步的知识待到要用到时再阐述．旨在不会过早地陷入繁难的逻辑困惑之中。 这里所介绍的集合论通常称为“朴素的集合论”，如果对集合的理论有进一步的需求，例如打算研究集合论本身或者打算研究数理逻辑，可以去研读有关公理集合论的专著． 即令就朴素集合论本身而言，我们也无意使本章的内容构成一个完全自我封闭的体系，主要是我们没有打算重建数系，而假定读者了解有关正整数，整数，有理数，实数的基本知识，以及其中的四则运算，大小的比较(＜和≤)，和实数理论中关于实数的完备性的论断（任何由实数构成的集合有上界必有上确界）等，它们对于读者决不会是陌生的．此外，对于通常的（算术）归纳原则也按读者早已熟悉的方式去使用，而不另作逻辑上的处理． §1.1集合的基本概念 集合这一概念是容易被读者所理解的，它指的是由某些具有某种共同特点的个体构成的集体．例如我们常说“正在这里听课的全体学生的集合”，“所有整数的集合”等等．集合也常称为集，族，类． 1 / 23
集合（即通常所谓的“集体”）是由它的元素（即通常所谓的“个体”构成的．例如正在这里听课的全体学生的集合以正在听课的每一个学生为它的元素；所有整数的集合以每一个整数为它的元素．元素也常称为元，点，或成员． 集合也可以没有元素．例如平方等于2的有理数的集合，既大于1又小于2的整数的集合都没有任何元素．这种没有元素的集合我们称 之为空集，记作．此外，由一个元素构成的集合，我们常称为单点集． 集合的表示法： （1）用文句来描述一个集合由哪些元素构成（像前面所作的那样），是定义集合的一个重要方式． （2）描述法：我们还通过以下的方式来定义集合：记号 {x|关于x的一个命题P} 表示使花括号中竖线后面的那个命题P成立的所有元素x构成的集合．例如，集合{x|x为实数，并且0 第一章引论 1-1信息与信息科学 1-1-1信息的概念 ▲信息的定义：很难给出，信息的定义是信息论研究的一个基本内容。象物质，能量一样越基本的概念越难以给出明确的定义。 ▲信息的概念：信息是可以传递的，具有不确定性的消息（情报，指令，数据，信号）中所包含的表示事物特性的内容。 ▲几个要点： △信息不是事物的本身，信息是抽象的。而消息，情报，指令，数据等本身不是信息。 △Shannon认为：信息是关于环境事实的可以通信的知识。 △Winner认为：信息是人们在适应外部世界并且使这种适应反作用于外部世界的过程中，同外部世界进行交换的内容。 △近代人认为：信息是具有新内容的消息；是对于决策有价值的情报；是一切所感知的信号，信息就是知识等。 △Shannon信息论认为：信息的多少等于无知度的大小。人们已知的消息不是信息，而好象，大概，可能之类的不确切的内容包含着信息。（不能说信息冗余、信息压缩）1-1-2信息科学 ▲信息科学是研究信息的概念，相关理论和应用的科学，信息科学是一门新兴科学，边缘学科。 ▲信息科学的特点：（1）多学科--它与许多基础科学和应用技术有关，互相渗透，如数学，逻辑学，心理学，语言文字学，生物学，控制论，计算机科学，通信技术，仿生学，人工智能技术。（2）产业化--它应用服务于国民经济和社会生活的各个方面，从而形成一个新兴产业----信息产业。 ▲信息科学的研究范围： ☆信息源：自然信息源（物理，化学，天体，地理，生物）；社会信息源（管理，金融，商业）；知识信息源（古今中外） ☆信息载体：第一载体（语言）；第二载体（文字）；第三载体（电磁波）。 ☆信息的采集与转换：传感器，雷达，视，听，触，力，声光热点磁。 ☆信息的传输：光，电磁波，神经，意念。 ☆信息的存储与处理：计算机，视听系统。 1-1-3信息的性质 ⑴信息的可扩充性：相对物质和能量而言，信息资源没有限度，永远不会耗尽，而且回越来越多，信息爆炸，知识爆炸，能源危机。 ⑵信息的可压缩性：通过人脑的归纳和综合，信息可精炼和压缩，产生专家系统，知识库。 ⑶信息的可替代性：信息可替代有形物质，信息出口，情报出口。 ⑷信息的可传递性：人与人之间，人与物之间，细胞，天体之间。 ⑸信息的可扩散性：总是以各种方式向外部扩散，绝对保密是无法实现的。 ⑹信息的可共享性：信息无法垄断，不能做转手交易。 2015年数学社第一次测试 （适用教材:微积分、高等数学、数学分析） 命题人：钱佳威 基础部分 1.(微分方程解的特性考察)已知x x xe y e y ==21和是齐次二阶常系数线性微分方程的解，求该方程。 2.(对构造幂级数或者拆分法的考察)求∑=∞ →+n k n k k 1)! 1(lim . 3.(对计算积分进行考察)计算? ++1 14 3x dx x . 4.(对三角函数的周期与基本极限的考察)求极限( )2 lim 1sin 14n n n π→∞ ++. 5.(对极值与隐函数的考察)设函数()y y x =由323322x x y y +-=确定，求 ()y x 的极值。 6.(积分定义的概念考察)求极限如下： 提高部分 1.(全国大学生数学竞赛.数学类)设f(x)在[0,1]上黎曼可积，在x=1处 可导，f(1)=0,f ’(x)=a ，求证:a dx x f x n n n -=? ∞ →1 2 )(lim . 2.(全国大学生数学竞赛.数学类)设f(x)在[0,1]上黎曼可积，]1,0[∈f . 求证：},1,0{)(,0=?>?x g ε使得任意ε<-???|))()((|],1,0[],[b a dx x g x f b a . 3.(全国大学生数学竞赛.数学类)设∑+∞=1 n n na 收敛，证明：∑∞ =+∞ →1 lim k k n n ka =0. 参考答案 基础篇 1. 2. 3.C x x x +++++-+|11|ln 43143)1(83343432 4 4.解 因为() 222 sin 14sin 142sin 142n n n n n π π ππ+=+-=++ 原式22lim 1sin exp lim ln 1sin 142142n n n n n n n n ππππππ→∞ →∞??????=+=+?? ? ?++++???????? 1 422exp lim sin exp lim 142142n n n n e n n n n π π ππππ→∞ →∞ ???? === ? ?++++??? ? 5.解 方程两边对x 求导，得22236360x xy x y y y ''++-= .故()2222x x y y y x +'=-，令 0y '=，得()200x x y x +=?=或2x y =- 将2x y =-代入所给方程得2,1x y =-=， 模糊数学 第1节模糊聚类分析 第2节模糊模式识别 第3节模糊相似优先比方法 第4节模糊综合评判 第5节模糊关系方程求解 在自然科学或社会科学研究中,存在着许多定义不很严格或者说具有模糊性的概念。这里所谓的模糊性，主要是指客观事物的差异在中间过渡中的不分明性，如某一生态条件对某种害虫、某种作物的存活或适应性可以评价为“有利、比较有利、不那么有利、不利”；灾害性霜冻气候对农业产量的影响程度为“较重、严重、很严重”，等等。这些通常是本来就属于模糊的概念，为处理分析这些“模糊”概念的数据，便产生了模糊集合论。 根据集合论的要求，一个对象对应于一个集合，要么属于，要么不属于，二者必居其一，且仅居其一。这样的集合论本身并无法处理具体的模糊概念。为处理这些模糊概念而进行的种种努力，催生了模糊数学。模糊数学的理论基础是模糊集。模糊集的理论是1965年美国自动控制专家查德(L. A. Zadeh)教授首先提出来的，近10多年来发展很快。 模糊集合论的提出虽然较晚，但目前在各个领域的应用十分广泛。实践证明，模糊数学在农业中主要用于病虫测报、种植区划、品种选育等方面，在图像识别、天气预报、地质地震、交通运输、医疗诊断、信息控制、人工智能等诸多领域的应用也已初见成效。从该学科的发展趋势来看，它具有极其强大的生命力和渗透力。 在侧重于应用的模糊数学分析中，经常应用到聚类分析、模式识别和综合评判等方法。在DPS系统中，我们将模糊数学的分析方法与一般常规统计方法区别开来，列专章介绍其分析原理及系统设计的有关功能模块程序的操作要领，供用户参考和使用。 第1节模糊聚类分析 1. 模糊集的概念 对于一个普通的集合A，空间中任一元素x，要么x∈A，要么x?A，二者必居其一。这一特征可用一个函数表示为： A x x A x A ()= ∈ ?? ? ? 1 A(x)即为集合A的特征函数。将特征函数推广到模糊集，在普通集合中只取0、1两值推广到模糊集中为[0, 1]区间。 定义1 设X为全域，若A为X上取值[0, 1]的一个函数，则称A为模糊集。 如给5个同学的性格稳重程度打分，按百分制给分，再除以100，这样给定了一个从域X=｛x1 , x2 , x3 , x4, x5｝到[0, 1]闭区间的映射。 x1：85分，即A(x1)=0.85 x2：75分，A(x2)=0.75 x3：98分，A(x3)=0.98 x4：30分，A(x4)=0.30 x5：60分，A(x5)=0.60 第一章随机事件与概率 §1.1 随机事件 1.1.1 随机试验与样本空间 概率论约定为研究随机现象所作的随机试验应具备以下三个特征： （1）在相同条件下试验是可重复的； （2）试验的全部可能结果不只一个，且都是事先可以知道的； （3）每一次试验都会出现上述可能结果中的某一个结果，至于是哪一个结果则事前无法预知。 为简单计，今后凡是随机试验皆简称试验，并记之以英文字母E。称试验的每个可能结果为样本点，并称全体样本点的集合为试验的样本空间，分别用希腊字母ω和Ω表示样本点及样本空间。 必须指出的是这个样本空间并不完全由试验所决定，它部分地取决于实验的目的。假设抛掷一枚硬币两次，出于某些目的，也许只需要考虑三种可能的结果就足够了，两次都是正面，两次都是反面，一次是正面一次是反面。于是这三个结果就构成了样本空间Ω。但是，如果要知道硬币出现正反面的精确次序，那么样本空间Ω就必须由四个可能的结果组成，正面-正面、反面-反面、正面-反面、反面-正面。如果还考虑硬币降落的精确位置，它们在空中旋转的次数等事项，则可以获得其它可能的样本空间。 经常使用比绝对必要的样本空间较大的样本空间，因为它便于使用。比如，在前面的例子中，由四个可能结果组成的样本空间便于问题的讨论，因为对于一个“均匀”的硬币这四个结果是“等可能”的。尽管这在有3种结果的样本空间内是不对的。 例 1.1.1 1E ：从最简单的试验开始，这些试验只有两种结果。在抛掷硬币这一试验中出现“正面”或“反面”；在检查零件质量时，可能是“合格”或“不合格”；当用来模拟电子产品旋转的方向时，结果是“左边”或者“右边”；在这些情况下样本空间Ω简化为：Ω={正面,反面}。 2E ：更复杂一些，有的随机试验会产生多种可能的结果，比如掷一颗骰子， 观察出现的点数。样本空间为：{1,2,3,4,5,6}Ω=。 3E : 掷两枚硬币（或者观察两个零件或两个电子产品），可以得到 Ω={（正面，正面）、（反面，反面）、（正面，反面）、（反面，正面) } 读者可以将其推广到掷n 个硬币，样本空间里有多少样本点呢？ 4E ：再复杂一些，一名射手向某目标射击，直至命中目标为止，观察其命中目 标所进行的射击次数。从理论上讲，只要不能击中目标,射手就必须一直射下去，故样本空间为 {1,2,3,,,}n Ω=L L ， 其中含无穷多个样本点。这也适用于商品销售，假设商场可以无限量地销售某种商品，每天销售的该商品数的样本空间为},2,1,0{Λ=Ω。 5E ：在人类学研究中“随机抽取一个人”并测量他的身高和重量，电梯设计师能利用这些资料设计电梯的空间和载重，对于中国人，身高（单位：米）的样本空间取]}5.2,0[,{∈=Ωωω就足够了，体重（单位：公斤）的样本空间取]}200,0[,{∈=Ωωω也许就足够了。 在大部分实际的设计问题中，设计师有时会同时考虑电梯使用者的所有可能的身高和体重，更具体地说，设计者通常会对同时提供了可能使用者身高和体重的结果感兴趣。因此，样本空间是 12{(,)()[0,2.5][0200]}ωωωΩ===∈?高度,重量，。 □ 《信息论基础》答案 一、填空题（共15分，每空1分） 1、若一连续消息通过某放大器,该放大器输出的最大瞬时电压为b ，最小瞬时电压为a 。若消息从放大器中输出，则该信源的绝对熵是 无穷大 ；其能在每个自由度熵的最大熵是 ()log b-a . 2、高斯白噪声信道是指 信道噪声服从正态分布,且功率谱为常数 。 3、若连续信源的平均功率为5 W ，则最大熵为12log10π ? e ，达到最大值的条件是 高斯信道 . 4、离散信源存在剩余度的原因是 信源有记忆(或输出符号之间存在相关性） 和 不等概 。 5、离散无记忆信源在进行无失真变长信源编码时，编码效率最大可以达到 1 。 6、离散无记忆信源在进行无失真变长信源编码时，码字长度是变化的。根据信源符号的统计特性，对概率大的符号用 短 码，对概率小的符号用 长 码，这样平均码长就可以降低，从而提高编码效率。 7、八进制信源的最小熵为 0 ，最大熵为 3 bit 。 8、一个事件发生概率为0。125，则自信息量为 3 bit 。 9、在下面空格中选择填入数字符号“,,,=≥≤>”或“<" ()H XY = ()()+H Y H X Y ≤ ()()+H Y H X 二、判断题（正确打√,错误打×)（共5分，每小题1分） 1) 离散无记忆等概信源的剩余度为0。 ( √ ） 2) 离散无记忆信源N 次扩展源的熵是原信息熵的N 倍 ( √ ） 3) 互信息可正、可负、可为零。 （ √ ） 4) 信源的真正功率P 永远不会大于熵功率P ，即P P ≤ （ × ） 5) 信道容量与信源输出符号的概率分布有关。 ( × ） 三、（5分）已知信源的概率密度函数()p x 如下图所示，求信源的相对熵 0.5 数学史选讲 学习目标：了解数学发展的历史性﹑累积性特征(大厦)；了解数学科学的整体性﹑统一性(大树)；了解数学创造的过程(战舰)。 学习意义：不了解数学史，就不可能全面了解整个人类文明史?科学的皇后(为人类提供精密思维的模式) ；科学的女仆(科学的语言和工具)；推动人类物质生产,影响人类物质生活方式人类思想革命的武器 (逻辑说服力与计算精确性)；促进艺术发展的文化激素 (艺术特征, 数学概念与原理)。 教学教程： 一：情境引入： 中华民族是一个具有灿烂文化和悠久历史的民族，在灿烂的文化瑰宝中数学在世界也同样具有许多耀眼的光环。中国古代算术的许多研究成果里面就早已孕育了后来西方数学才涉及的思想方法，近代也有不少世界领先的数学研究成果就是以华人数学家命名的。 例如： 【李氏恒等式】数学家李善兰在级数求和方面的研究成果，在国际上被命名为“李氏恒等式”。 【华氏定理】数学家华罗庚关于完整三角和的研究成果被国际数学界称为“华氏定理”；另外他与数学家王元提出多重积分近似计算的方法被国际上誉为“华—王方法”。 【苏氏锥面】数学家苏步青在仿射微分几何学方面的研究成果在国际上被命名为“苏氏锥面”。 【熊氏无穷级】数学家熊庆来关于整函数与无穷级的亚纯函数的研究成果被国际数学界誉为“熊氏无穷级”。 【陈示性类】数学家陈省身关于示性类的研究成果被国际上称为“陈示性类”。 【周氏坐标】数学家周炜良在代数几何学方面的研究成果被国际数学界称为“周氏坐标；另外还有以他命名的“周氏定理”和“周氏环”。 【吴氏方法】数学家吴文俊关于几何定理机器证明的方法被国际上誉为“吴氏方法”；另外还有以他命 名的“吴氏公式”。 【王氏悖论】数学家王浩关于数理逻辑的一个命题被国际上定为“王氏悖论”。 【柯氏定理】数学家柯召关于卡特兰问题的研究成果被国际数学界称为“柯氏定理”；另外他与数学家孙琦在数论方面的研究成果被国际上称为“柯—孙猜测”。 【陈氏定理】数学家陈景润在哥德巴赫猜想研究中提出的命题被国际数学界誉为“陈氏定理”。 【杨—张定理】数学家杨乐和张广厚在函数论方面的研究成果被国际上称为“杨—张定理”。 【陆氏猜想】数学家陆启铿关于常曲率流形的研究成果被国际上称为“陆氏猜想”。 【夏氏不等式】数学家夏道行在泛函积分和不变测度论方面的研究成果被国际数学界称为“夏氏不等式”。 【姜氏空间】数学家姜伯驹关于尼尔森数计算的研究成果被国际上命名为“姜氏空间”；另外还有以他命名的“姜氏子群”。 【侯氏定理】数学家侯振挺关于马尔可夫过程的研究成果被国际上命名为“侯氏定理”。 【周氏猜测】数学家周海中关于梅森素数分布的研究成果被国际上命名为“周氏猜测”。 【王氏定理】数学家王戌堂关于点集拓扑学的研究成果被国际数学界誉为“王氏定理”。 【袁氏引理】数学家袁亚湘在非线性规划方面的研究成果被国际上命名为“袁氏引理”。 【景氏算子】数学家景乃桓在对称函数方面的研究成果被国际上命名为“景氏算子”。 【陈氏文法】数学家陈永川在组合数学方面的研究成果被国际上命名为“陈氏文法”。 二、简介数学三次危机： 提到数学，我有一种感觉，数学是自然中最基础的学科，它是所有科学之父，没有数学，就不可能有其他科学的产生。就人类发展史而言，数学在其中起的作用是巨大的，难怪有人说数学是人类科学中最美的科学。但在数学的发展史中，并不是那么一帆风顺的，其中历史上曾发生过三大危机，危机的发生促使了数学本质的发展，因此我们应该辨证地看待这三大危机。 第一次危机发生在公元前580～568年之间的古希腊，数学家毕达哥拉斯建立了毕达哥拉斯学派。这个学派集宗教、科学和哲学于一体，该学派人数固定，知识保密，所有发明创造都归于学派领袖。当时人们对有理数的认识还很有限，对于无理数的概念更是一无所知，毕达哥拉斯学派所说的数，原来是指整数，他们不把分数看成一种数，而仅看作两个整数之比，他们错误地认为，宇宙间的一切现象都归结为整数或整数之比。该学派的成员希伯索斯根据勾股定理（西方称为毕达哥拉斯定理）通过逻辑推理发现，边长为1的正方形的对角线长度既不是整数，也不是整数的比所能表示。希伯索斯的发现被认为是“荒谬”和违反常 数学专业参考书整理推荐 从数学分析开始讲起： 数学分析是数学系最重要的一门课，经常一个点就会引申出今后的一门课，并且是今后数学系大部分课程的基础。也是初学时比较难的一门课，这里的难主要是对数学分析思想和方法的不适应，其实随着课程的深入会一点点容易起来。当大四考研复习再看时会感觉轻松许多。数学系的数学分析讲三个学期共计15学分270学时。将《数学分析》中较难的一部分删去再加上常微分方程的一些最简单的内容就是中国非数学专业的《高等数学》，或者叫数学一的高数部分 数学分析书： 初学从中选一本教材，一本参考书就基本够了。我强烈推荐11，推荐1，2，7，8。另外建议看一下当不了教材的16，20。 中国人自己写的： 1《数学分析》陈传璋，金福临，朱学炎，欧阳光中著（新版作者顺序颠倒）应该是来自辛钦的《数学分析简明教程》，是数学系用的时间最长，用的最多的书，大部分学校考研分析的指定教材。我大一用第二版，现在出了第三版，但是里面仍有一些印刷错误，不过克可以一眼看出来。网络上可以找到课后习题的参考答案，不过建议自己做。不少经济类工科类学校也用这一本书。里面个别地方讲的比较难懂，而且比其他书少了一俩个知识点，比如好像没有讲斯托尔滋(stolz)定理，实数的定义也不清楚。不过仍然不失为一本好书。能广泛被使用一定有它自己的一些优势。 2《数学分析》华东师范大学数学系著 师范类使用最多的书，课后习题编排的不错，也是考研用的比较多的一本书。课本最后讲了一些流形上的微积分。虽然是师范类的书，难度比上一本有一些降低，不过还是值得一看的。3《数学分析》陈纪修等著 以上三本是考研用的最多的三本书。 4《数学分析》李成章，黄玉民 是南开大学一个系列里的数学分析分册，这套教材里的各本都经常被用到，总体还是不错的，是为教学改革后课时数减少后的数学系各门课编写的教材。 5《数学分析讲义》刘玉链 我的数学分析老师推荐的一本书，不过我没有看，最近应该出了新版，貌似是第五？版，最初是一本函授教材，写的应该比较详细易懂。不要因为是函授教材就看不起，事实上最初的函授工作都是由最好的教授做的。细说就远了，总之可以看看。 6《数学分析》曹之江等著 内蒙古大学数理基地的教材，偏重于物理的实现，会打一个很好的基础，不会盲目的向n维扩展。适合初学者。国家精品课程的课本。 7《数学分析新讲》张筑生 公认是一本新观点的书，课后没有习题。材料的处理相当新颖。作者已经去世。8《数学分析教程》常庚哲，史济怀著 中国科学技术大学教材，课后习题极难。 9《数学分析》徐森林著 与上面一本同出一门，清华大学教材。程度好的同学可以试着看一看。书很厚，看起来很慢。 10《数学分析简明教程》邓东翱著 也是一本可以经常看到的书，作者已经去世。国家精品课程的课本。 11许绍浦《数学分析教程》南京大学出版社 第一章 绪论 1、什么是信息？香农对于信息是如何定义的。 答：信息是事物运动状态或存在方式的不确定性的描述(Information is a measure of one's freedom of choice when one selects a message )。 2、简述通信系统模型的组成及各部分的含义。 答：（1）、信源：信源是产生消息的源。信源产生信息的速率---熵率。 （2）、编码器：编码器是将消息变成适合于信道传送的信号的设 备。包括信源编码器（提高传输效率）、信道编码器（提高传输可靠性）、调制器。 （3）、信道：信道是信息传输和存储的媒介。 （4）、译码器：译码是编码的逆变换，分为信道译码和信源译码。 （5）、信宿：信宿是消息的接收者（人或机器）。 3、简述香农信息论的核心及其特点。 答：（1）、香农信息论的核心：在通信系统中采用适当的编码后能够实现高效率和高可靠性的信息传输，并得出了信源编码定理和信道编码定理。 （2）、特点：①、以概率论、随机过程为基本研究工具。 ②、研究的是通信系统的整个过程，而不是单个环节，并以编、译码器为重点。 ③、关心的是最优系统的性能和怎样达到这个性能（并不具体设计系统）。 ④、要求信源为随机过程，不研究信宿。 第二章 信息的度量 2.1 自信息和互信息 1、自信息（量）： （1）、定义：一个事件（消息）本身所包含的信息量，它是由事件的不确定性决定的。某个消息i x 出现的不确定性 的大小定义为自信息，用这个消息出现的概率的对数的负值来表示： ()()() i i i x p x p x I 1 log log =-= 点集拓扑学教案 为聊城大学数学科学学院数学与应用数学专业三年级本科生开设《点集拓扑》课程。 按熊金城《点集拓扑讲义》(第三版, 北京: 高等教育出版社, 2003)第一至七章编写的教案。 本科生授课 64学时，教学内容与进度安排如下： ' 第一章 朴素集合论 点集拓扑学(Point-set Topology)现称一般拓扑学(General Topology), 它的起源与出发点都是 集合论. 作为基本的点集拓扑学知识, 所需的只是一些朴素集合论的预备知识. 本章介绍本书中 要用到的一些集合论内容, 主要涉及集合及集族的运算、等价关系、映射、可数集、选择公理等. 作为一教材, 讲义对各部分内容均有较系统的论述 , 作为授课, 我们只强调一些基本内容, 而对 已有过了解的知识不提或少提. 记号: Z, Z +, R, Q 分别表示整数集, 正整数集, 实数集和有理数集. 教学重点：集合的基本概念、运算，映射的概念；教学难点：选择公理 一. 集合的运算 幂集 P )(X , 交∩ 、并∪、差－(补, 余/ ,A A c ). 运算律: De Morgan 律: (1) C)-(A B)-(A C)(B -A ?=?. " (2) C)-(A B)-(A C) (B -A ?=?A-(B ∩ C)=(A-B)∪(A-C) 利用集合的包含关系证明(1). 类似可定义任意有限个集的交或并, 如记 n i n i i i n n n A A A A A A A A ≤=-==???=???11121)...(...A i . 规定 0 个集之并是φ, 不用 0 个集之交. 二. 关系 R 是集合X 的一个关系, 即R y x X X R ∈??),(,记为 xRy , 称 x 与 y 是 R 相关的. R 称为自反的, 若X x ∈?, xRx; R 称为对称的, 若 xRy, 则 yRx; ： R 称为传递的, 若 xRy, yRz, 则 xRz. 等价关系: 自反、对称、传递的关系. 如, Δ(X)={(x, x )|x ∈X}, 恒同关系, 它是等价关系; y} x R,y x,|y) {(x,<∈，小于关系, 它 是传递 的, 但不是对称的、不是自反的. 设 R 是 X 上等价关系, X x ∈?, x 的 R 等价类或等价类R [x ]或[x]为 xRy}| X {y ∈, R [x ] 的元称为R [x ] 的代表元; 商集 X} x | {[x]R X/R ∈=. 二十世纪最伟大的数学家百大排行榜马尔科夫没进前十 二十世纪最伟大的数学家百大排行，你认识几个呢？100.Witt——最早研究退休金和人寿保险问题的学者。99.Garding——写《数学概览》的瑞典人戈丁。他的《数学概览》是很好的数学读物。98.Brauer ——令人震惊的排名，别把代数学家不当人。 97.Teichmuller——复变中有Teichmuller单值化 96.Lindeloff——林德洛夫，应该是在实变函数课上听说过他。95.Birkhoff ——名声很大，具体的不太了解，94.Russell——罗素数学家?真够靠后的。小凡喜欢的一个智慧的哲学家。(唯一拿过若贝尔奖的数学家)93.佐腾干夫——看来日本的确很强悍。92.Geromov——苏联的数学家，辛几何等91.Petrovsky——90.华罗庚——中国华老，这个排名令人欣慰。89.Zeeman——88.中山正——87.Bochner ——美国的分析学大师 86.Deligne——搞代数几何的，解决了Weil提出的一个问题(最近也获了wolf奖了，现在似乎有个潮流，拿了feilds奖的人排好队，等着拿wolf?)85.Schannon ——莫非就是那个“仙农”，信息论的鼻祖84.Schwartz ——泛函分析， 概率，复变函数里的施瓦兹。83.Suslin——82.Fisher ——数理统计先驱81.Krull——80.Mumford——芒福德，代数几何学家，Fields奖得主(最近2008年获得wolf 奖，是55.Zariski的弟子)79.Calreman ——调和分析78.Leray ——概率论77.Skolem —— 76.Harish-Chandra——75.Borel——波莱尔的书，大学生必读。74.Bronwer ——布劳维尔不动点定理在一般均衡的应用所发挥着不小的作用。73.Ramanujan——莫非就是印度那位超天才数学家?初中生都知晓。72.Levy——学实变的时候听说过这个人。71.Darboux——实变函数，概率。(不知道这个Darboux是不是陈老老提起的Darboux，有四卷很有名气的群面论?)70.Perron----解析数论中的perron公式69.Minkowsky——爱因斯坦在瑞士的数学老师，可惜天忌英年，不然又是一位希尔伯特。68.Turing ——图灵奖没人不知道吧。67.Hormander——荷兰数学家?66.福原满洲雄——65.Rokhlin ——Vladimir Rokhlin64.Bernstein ——《与天为敌》的作者??不过有个Bernstein 曲线，好像很有用。63.Tihonov ——是苏联科学院院士、著名的学者、数学家和地球物理学家。62.van de Waerden——读过《代数学》吗?61.Fredholm——泛函分析60.Luzin ——鲁津，A.N.Kolmogorov 的博士生导师，(野葛洛夫的弟子)59.Schur——有限群理论上 《信息论基础》答案 一、填空题(共15分,每空1分) 1、若一连续消息通过某放大器,该放大器输出的最大瞬时电压为b,最小瞬时电压为a 。 若消息从放大器中输出,则该信源的绝对熵就是 无穷大 ;其能在每个自由度熵的最 大熵就是 ()log b-a 。 2、高斯白噪声信道就是指 信道噪声服从正态分布,且功率谱为常数 。 3、若连续信源的平均功率为 5 W,则最大熵为12log10π ? e ,达到最大值的条件就是 高斯信道 。 4、离散信源存在剩余度的原因就是 信源有记忆(或输出符号之间存在相关性) 与 不等概 。 5、离散无记忆信源在进行无失真变长信源编码时,编码效率最大可以达到 1 。 6、离散无记忆信源在进行无失真变长信源编码时,码字长度就是变化的。根据信源符号 的统计特性,对概率大的符号用 短 码,对概率小的符号用 长 码,这样平均码长就 可以降低,从而提高编码效率。 7、八进制信源的最小熵为 0 ,最大熵为 3 bit 。 8、一个事件发生概率为0、125,则自信息量为 3 bit 。 9、在下面空格中选择填入数字符号“,,,=≥≤>”或“<” ()H XY = ()()+H Y H X Y ≤ ()()+H Y H X 二、判断题(正确打√,错误打×)(共5分,每小题1分) 1) 离散无记忆等概信源的剩余度为0。 ( √ ) 2) 离散无记忆信源N 次扩展源的熵就是原信息熵的N 倍 ( √ ) 3) 互信息可正、可负、可为零。 ( √ ) 4) 信源的真正功率P 永远不会大于熵功率P ,即P P ≤ ( × ) 5) 信道容量与信源输出符号的概率分布有关。 ( × ) 三、(5分)已知信源的概率密度函数()p x 如下图所示,求信源的相对熵 0.5 模糊神经网络（备课笔记） 预备知识 复杂的东西是难以精确化的，这使得人们所需要的精确性和问题的复杂性间形成了尖锐的矛盾。 正如模糊数学的创始人L.A.Zadeh(查德)教授（美国加利福尼亚大学）所说：“当系统的复杂性增加时，我们使它精确化的能力将减小。直到达到一个阈值，一旦超越它，复杂性和精确性将相互排斥。”这就是著名的“互克性原理”。 该原理告诉我们，复杂性越高，有意义的精确化能力就越低；而复杂性意味着因素众多，以致人们往往不可能同时考察所有因素，只能把研究对象适当简化或抽象成模型，即抓住其中的主要部分而忽略掉次要部分。当在一个被压缩了的低维因素空间考虑问题时，即使本来是明确的概念，也会变得模糊起来。或者某些抽象简化模型本身就带有概念的不清晰，如“光滑铰链”这个力学模型，什么叫“光滑”、什么叫“粗糙”就没有一个明确的定义，客观上两者之间没有绝对分明的界限；主观上，决策者对此类非程序化决策做出判断时，主要是根据他的经验、能力和直观感觉等模糊概念进行决策的。 或者判断一个人的好坏，本来有很多因素，比如人品、性格、相貌等，现在简化改成一个综合评价：好、坏、一般等，都是根据个人爱好或者个人经验等模糊概念进行判断的。 在科学发展的今天，尤其在工程研究和设计领域中，这些模糊性问题就无法回避了，要求对数据进行定量分析，那如何对其进行定量分析呢？ 1965年，Zadeh教授发表一篇论文“模糊集合”（Fuzzy sets），所谓模糊集合就是指边界不清的集合。提出用“隶属函数”（menbership function）这一概念来描述现象差异中的中间过渡，突破了德国人Cantor创立的古典集合论中属于或不属于的绝对关系，标志着模糊数学的诞生。Zadeh认为应该重新把模糊性和精确性统一在一起，因为在现实生活中复杂事物要绝对精确是不可能的，实际上只是把所谓的不准确程度降低到了无关重要的程度。他这篇论文第一次引人注目地提出了模糊性问题，给出了模糊概念的定量表示法，标志着模糊数学的诞生。模糊数学是使模糊现象定量化的应用数学分支学科。由于它突破了传统数学绝不允许模棱两可的约束，使那些与数学毫不相关的学科都可能用定量化和数学化加以描述和处理，从而显示其强大的生命力。 在模糊评价中，最基本和使用最多的是隶属度和隶属函数。隶属度表示元素u属于模糊集合U的程度；也就是对模糊集合的判断是用元素对此集合的从属程度大小来表达的。 模糊系统 模糊逻辑控制系统，简称模糊控制系统或模糊系统，是一种基于模糊数学理论的新型控制方法。 模糊控制由于模仿人对复杂事物的抽象思维方式，利用模糊信息处理对被控对象执行控制。所以，它不需要知道系统的精确数学模型。对不确定的非线性的系统来说是一种有效的控制途径。但是，模糊控制对信息的简单模糊化导致系统的控制精度下降。为了提高精度，往往要在模糊化时增加模糊量的个数，或者，增大控制规则集。这样会使控制规则搜索范围的扩大、搜索时间增加、降低了决策的速度，则影响了动态过程的品质。因此，隶属函数和控制规则的优化是提高品质的关键，在本质上，是对模糊控制中的知识进行正确性校正。 集合论讲义 知识清单 一．集合的含义与表示 二．集合间的基本关系 三．集合的基本运算 知识网络 知识详解 一．集合的含义与表示 （一）集合的概念 1.集合理论创始人康托尔称集合为一些确定的、不同的东西的全体，人们 能意识到这些东西，并且能判断一个给定的东西是否属于这个总体。 2.一般地，我们把研究对象统称为元素（element），一些元素组成的总体叫集合（set），也简称集。 3.关于集合的元素的特征 （1）确定性：设A是一个给定的集合，x是某一个具体对象，则或者是A的元素，或者不是A的元素，两种情况必有一种且只有一种成立。 （2）互异性：一个给定集合中的元素，指属于这个集合的互不相同的个体（对象），因此，同一集合中不应重复出现同一元素。 （3）无序性：给定一个集合与集合里面元素的顺序无关。 （4）集合相等：构成两个集合的元素完全一样。 4.元素与集合的关系 （1）如果a是集合A的元素，就说a属于（belong to）A，记作：a∈A （2）如果a不是集合A的元素，就说a不属于（not belong to）A，记作：a?A 6．集合与元素的字母表示： 集合通常用大写的拉丁字母A，B，C…表示， 集合的元素用小写的拉丁字母a,b,c,…表示。 7.常用的数集及记法： 非负整数集（或自然数集），记作N； 正整数集，记作N*或N+； 整数集，记作Z； 有理数集，记作Q； 实数集，记作R； （二）集合表示 1.我们可以用自然语言和图形语言来描述一个集合，但这将给我们带来很多不便，除此之外还常用列举法和描述法来表示集合。 2.列举法：把集合中的元素一一列举出来，并用花括号“{}”括起来表示集合的方法叫列举法。如：{1，2，3，4，5}，{x2，3x+2，5y3-x，x2+y2}，…； 俄国的数学教育 第一节 19世纪俄国的数学教育 一．背景： 1﹚6世纪斯拉夫人迁到俄国，1147年建立莫斯科，1547年建立沙皇俄国。 2）15-16世纪，沙皇时期，封建社会。1721年彼得一世在位，称俄为沙皇。 3）1724-1725，俄罗斯帝国，教育从此时开始。 4）17、18世纪俄国的经济发展比西欧各国落后很多，农奴制 度直到19世纪才开始趋于解体。 5﹚1861年沙皇才颁布废除农奴制度的法令，19世纪80年代才完成工业革命。 因此，沙皇俄国的教育带有鲜明的军事的封建等级的和宗教神学的性质。 二．数学教育： ⑴初等教育： 双轨制 小学以神学为首，读、算并重 1865～1874年，在农村开办了大约1万所地方小学，这类小 学在初等学校是办得最好的。 ⑵中等教育：教会学校、文科学校、实科学校（开设数学课程）。 招收僧侣、贵族和资产阶级子女 ⑶高等教育：到19世纪初，只有6所高等学校，最早的是1755 年罗蒙诺索夫倡导下创立的莫斯科大学。（大学里 有数理学系） 中等、高等教育都是为贵族、资产阶级、军官、僧侣等特权阶 级服务的。 三．数学教材的特点 在中学数学教材中，吉西略夫的中学数学教科书是有名的。 19世纪末他编写的中学算术、代数、几何等数学教科书颇有特 色： ①理论联系实际，由实际事例提出实际问题。 ②强调函数概念，贯穿辩证思想。 ③数学教科书是一个完整的整体。 ④取材精简，配合适当，易于接受。 ⑤概念和定义精确，没有含混之处。 四． 19世纪苏联的数学教育家 吉西略夫（1852～1940），俄国著名数学教育家，曾受教于切比雪夫等著名数学家。 在吉西略夫的一生中，最重要、最有影响的工作是数学教科书的编写和修订。 ①1884年处女作《中学算术教程》数学教育家波普鲁任科给 予很高评价，并作了推荐。 ②1888年《初等代数》第一卷信息论讲义11
江西财经大学数学社2015年下学期第一次讲义
Fuzzy模糊数学-共5节-电子书---讲义
概率论与数理统计讲义稿
信息论基础 答案2
数学史讲义
数学专业参考书整理推荐
信息论基础复习提纲
点集拓扑讲义教案设计
二十世纪最伟大的数学家百大排行榜马尔科夫没进前十上课讲义
信息论基础 答案2
模糊神经网络讲义
集合论讲义
俄国的数学教育讲义
相关主题
文本预览