Cranmer-Rao不等式的教学案例设计

陶  红¹, 徐耀坤², 何章鸣¹, 侯臣平¹ 

¹国防科技大学文理学院  湖南 长沙，410073

²国防科技大学电子科学学院  湖南 长沙，410073

[摘  要]案例教学法能够有效提升数理统计课程的教学质量。案例教学法的推广需要丰富的案例资源作为支撑，然而，目前我国数理统计课程的案例资源还比较匮乏。针对数理统计课程案例资料数量有限的情况，结合Cramer-Rao不等式的教学目标和教学重点，通过查阅相关领域的前沿研究成果，从单分子定位超分辨成像和锂电池荷电状态估计两个实际应用中凝练了两个Cramer-Rao不等式的教学案例，加强课程内容与实际问题的结合，为案例教学法的有效实施提供案例支撑，从而增强学生对数理统计知识及其应用的理解，提高教学效果。

[关键词]数理统计；Cramer-Rao不等式；教学案例

[基金项目]2020年国家自然科学委青年基金项目，视图动态变化时的多视图学习方法与应用研究  【62006238】; 2020年国家自然科学委青年基金项目，计算时间域鬼成像目标信息获取能力研究  【62001484】;

[作者简介]陶 红（1990-），女 湖南浏阳，博士，国防科技大学文理学院讲师，研究方向为统计机器学习。

[中图分类号]E251.3；G642.0   [文献标识码] A   [文章编号]     

一、引言

数理统计是统计学的一个重要分支，在自然科学、工程技术、管理科学和人文社会科学等领域得到了越来越广泛和深入的应用。很多高校的本科和研究生数学类与统计类专业均有开设数理统计类课程。传统的数理统计教学着重于定义与公式的讲解与证明，这种讲授方法虽然能够准确传达知识，但在激发学生学习兴趣、培养数理统计思想、提升科研创新能力这些方面还存在不足。为了提升学生的学习兴趣，很多高校都在尝试采用案例教学法来提升数理统计课程的教学质量。已有的教学实践表明，在数理统计课程中引入案例教学模式，能够有效帮助学生加深对理论知识的理解和提升解决实际问题的能力^[1,2,3]。案例教学法的推广需要丰富的案例资源作为支撑。然而，目前我国高校数理统计课程的案例教学中，案例资源还比较匮乏。大多数案例内容比较陈旧，与当前社会的发展态势联系不够紧密，从而限制了案例教学法的作用。由此可见，数理统计教学案例建设的必要性与紧迫性。

本文针对数理统计课程中Cramer-Rao不等式的教学目标和教学重点，结合相关领域前沿研究成果，从单分子定位超分辨成像和锂电池荷电状态估计两个实际应用中凝练了两个Cramer-Rao不等式的教学案例，加强课程内容与实际问题的有效结合。

二、Cramer-Rao不等式的基本理论

在案例教学开始，首先对案例涉及的基本概念进行详细剖析。Cramer-Rao不等式的内涵是：对于Cramer-Rao正则族的可估参数，其无偏估计的协方差阵存在下界。这个下界被称为Cramer-Rao下界，由样本容量、Fisher信息和可估参数的导数确定。Cramer-Rao不等式的应用十分广泛，可应用于雷达运动目标检测、卫星定位系统、超精密测量和量子成像等科学研究和工程实践中的参数估计精度分析，对于提升实际应用中的参数估计性能具有重要作用。由于Cramer-Rao不等式在理论研究和工程实践中的重要地位，Cramer-Rao不等式一直是数理统计课程中的教学重点。

定义1^[4]  （Cramer-Rao正则族） 如果分布族满足：（1）是上开矩形；（2）对所有都存在；（3）支撑与无关；（4）对，积分与微分可交换；（5）对一切，则此分布族称为Cramer-Rao正则族。

定义2^[4]  （Fisher信息）设分布族为Cramer-Rao正则族，记随机向量为，称的协方差阵

为此分布族的Fisher信息矩阵，简称Fisher信息。当时，称标量为Fisher信息量。对于多维随机变量，其Fisher信息矩阵是基于其联合概率密度函数计算的。

定理1^[4]  （Cramer-Rao不等式）设为Cramer-Rao正则族，，其Fisher信息是非奇异矩阵，设可估参数为，且对一切都存在。假设是的模平方可积的无偏估计，记，则有

其中称为的无偏估计的Cramer-Rao下界。

现有教材通常直接给出Fisher信息的定义与存在条件然后再给出Cramer-Rao不等式的具体内容与证明。如果教师在教学的时候，仅仅局限于教材，不结合实际应用进行适当延伸与拓展，那么学生对此部分内容的学习将停留于“背公式”的层面，不能深入理解Cramer-Rao不等式的应用途径。因此，需要发挥数理统计作为一门应用性极强的学科的特点，积极进行案例建设，扩大案例式教学法在数理统计教学中的应用范围，从而提升教学质量。事实上，Cramer-Rao不等式作为参数估计中误差分析的有利工具，已经在相关学科中得到广泛应用，结合基本理论，让我们分析以下案例。

三、Cramer-Rao不等式的案例设计

实际的教学案例设计中，要考虑学生对案例背后知识背景的掌握程度。笔者结合学生的已学课程，通过查阅相关学科的前沿研究成果，分别从单分子定位超分辨成像和锂电池荷电状态估计两个实际应用中凝练了两个Cramer-Rao不等式的教学案例，学习过《大学物理》基本课程的学生均可理解案例中的基本背景。两个不同的案例中，既有诺贝尔奖工作中的科学问题，又有贴近实际生活的工程问题，现予以分享。

案例1  基于单分子定位的显微成像技术（Single-Molecule Localization Microscopy, SMLM）获得2014年获得诺贝尔化学奖。SMLM的工作原理可以概括为“闪烁”、“定位”与“重建”，即多次循环采集被稀疏激活的荧光分子，再利用单分子定位算法给出荧光分子精准的空间定位信息，最后将每一帧的定位点合成为一张超分辨图像^[5]。单分子定位算法的精度分析是成像分辨率分析中的一个基本且重要的问题^[6]。事实上，单分子定位就是对单分子的坐标进行估计。若获得了单分子坐标的无偏估计量，则此估计量的定位精度定义为其标准差。

图 1  单分子成像系统

考虑如图1所示的单分子成像系统，位于样本平面处的单个荧光分子，其在探测平面（像面）上所成的像的中心为，其中表示物镜的放大率。在探测平面处探测到其发射出的光子的概率密度函数为

其中，即为待估计的参数，，表示物镜的数值孔镜，表示发射光的波长，表示第一种类型的一阶Bessel函数。容易验证为Cramer-Rao正则族。

若采集到个光子，由此个光子的坐标构造出的的模平方可积的无偏估计为，且已知

, ,

试求的方差下界。

解：由Cramer-Rao不等式知，的方差下界为，其中为个光子的联合概率密度函数的Fisher信息。由Fisher信息的性质可知，，其中为分布族的Fisher信息。现计算如下。

第一步，计算。记，则

，

第二步，计算。

由与的轮换对称性知。

于是，，即。

由此可知，在采用点扩散函数时，的估计精度下限均为。

案例2  锂电池因其能量密度高、循环寿命长等优点迅速发展为新一代储能电源。准确估计电池当前工作状态，对于提高储能系统的安全性、可靠性和可用性具有重要作用。假设锂电池内部具有图2所示的RC等效电路模型。

图 2  锂电池内部RC等效电路图

此等效电路的工作原理为^[7]

其中表示电池的荷电状态（SOC），和分别表示电池的极化内阻和极化电容，表示平行电容器的电荷量，表示电池电量，表示电池欧姆内阻，表示输入电流，表示可直接测量的电池端口电压，表示开路电压与SOC间的非线性关系并且可以通过实验测量得到。

假设上述模型中的待估参数为，记时刻的电池端口电压为。在给定的额定值、电池的初始状态（和的初始状态）和输入电流信号时，可以通过锂电池工作原理仿真得到的理论值。然而，端口电压的实际测量值会存在误差。假设不同时刻的端口电压测量值的误差独立同分布，服从均值为0方差为的正态分布。记时刻的测量电压为，则此时的测量误差为，且的概率密度函数为。现在分别在时刻获得端口电压测量值，记。假设已知。设为未知参数的无偏估计量，请计算的协方差下界。

解：由Cramer-Rao不等式知，的方差下界为，其中为的联合概率密度函数的Fisher信息。的联合概率密度函数为

于是

则根据Fisher信息的定义知

于是

.

因此，由Cramer-Rao不等式知的方差下界为。

进一步，如果试验时输入的电流信号为两个正弦波之和，即。而且在满足，，的条件下可调制，那么可以通过优化来调制输入电流信号，使得“减小”或“增大”（考虑到是矩阵，“增大”可以转换为最大化其行列式），从而从理论上增大的无偏估计的协方差的下降空间，从而提升对的估计精度。

在此次教学案例设计中，我们选取了两个不同领域的例子，用来帮助学生理解不等式的深刻含义。通过以上两个案例的分析，让学生对枯燥的理论公式有了直观的理解和认识，让他们直观地感受到Cramer-Rao不等式在科学研究和工程实践中的应用。上述两个案例虽然看上去计算量比较大，但是根据Cramer-Rao不等式的内容及Fisher信息的定义均能很快得到无偏估计的Cramer-Rao下界。上述案例虽然来自不同的研究领域，但是其中涉及的参数估计的精度分析属于同一类型的统计问题。在案例运用时，一方面结合背景开阔学生视野，另一方面重点让学生领会统计原理、掌握统计方法，对于计算量可以根据情况进一步简化。案例2相比于案例1，拓展了试验设计的相关内容，能够让学生更加直观地感受Cramer-Rao不等式在实践中的重要作用，并在此过程中学会运用Cramer-Rao不等式。结合以上两个案例，可以在教学过程中，通过讨论互动的方法，让学生总结利用Cramer-Rao不等式解决具体问题的方法和步骤，更加深入地理Cramer-Rao不等式的基本理论，从而更好地发挥案例教学法的作用。

四、结论

Cramer-Rao不等式在数理统计中具有重要地位。虽然Cramer-Rao不等式的教学内容便于理解，但是学生对于Cramer-Rao不等式在实际应用中的能够解决什么问题、怎样解决问题缺乏直观认识。本文针对Cramer-Rao不等式案例资料有限的情况，通过查阅相关领域的前沿研究成果整理出两个案例，希望通过案例展示，帮助学生将Cramer-Rao不等式的理论与实践紧密结合起来，锻炼学生发现问题、分析问题和解决问题的能力。

[参考文献]

[1]崔玉杰,刘喜波.大数据时代统计课程的教学改革研究——以数理统计课程为例[J].教育教学论坛,2021(08):64-67.

[2]周少玲,王小胜,张振辉.应用统计专业硕士研究生课程案例库建设研究——以统计计算与软件课程为例[J].教育观察,2021,10(21):106-108.

[3]王德运,王林珠,徐德义.基于创新能力培养的非参数统计课程案例教学研究[J].大学教育,2020(01):98-100.

[4]茆诗松,王静龙,濮晓龙.高等数理统计[M].第2版.北京:高等教育出版社,2006.

[5]杨建宇,董浩,邢福临,等.单分子定位超分辨成像技术进展及应用[J].激光与光电子学进展,2021,58(12):9-43.

[6]Raimund J. Ober, Sripad Ram, E. Sally Ward. Localization Accuracy in Single-Molecule Microscopy[J]. Biophysical Journal, 2004, 86: 1185–1200.

[7]Michael J. Rothenberger, Donald J. Docimo, Mohammad Ghanaatpishe et al. Genetic optimization and experimental validation of a test cycle that maximizes parameter identifiability for a Li-ion equivalent-circuit battery model[J]. Journal of Energy Storage, 2015, 4:156–166.

Teaching case design of Cramer Rao inequality

Tao Hong 1, Xu Yaokun 2, he Zhangming 1, Hou Chenping 1

1 College of Liberal Arts and Sciences, National University of Defense Technology, Changsha, Hunan 410073

2College of Electronic Science and Technology , National University of Defense Technology, Changsha, Hunan 410073

Abstract: The case-based teaching method has the capability to improve the teaching quality of mathematical statistics. The promotion of case-based teaching method relies on abundant case resources. However, the case resources of mathematical statistics courses are still scarce at present. To alleviate this problem, with consideration of the teaching objectives and teaching priorities of the Cramer Rao inequality, two teaching cases of Cramer Rao inequality are provided. These two cases are condensed from the single-molecule localization super-resolution imaging and lithium-ion battery parameter identifiability respectively. With the above two cases, the combination of course content and practical problems is strengthened, students’ understanding of mathematical statistics knowledge and its application is enhanced, and teaching effect is raised.

Key words: mathematical statistics; Cramer Rao inequality; Teaching case