系统参数辨识的信息准则及算法
作者:陈霸东,朱煜,胡金春 著
出版时间:2011年版
内容简介
数辨识为系统参数 计算提供解决手段,进而为对象的表征、分析、优化、控制等应用提供模型基础。准则函数是系统参数辨识的要素,影响辨识的各个方面,包括参数可辨识性、辨识精度、算法复杂性及鲁棒性等。作为新型准则函数,信息准则为系统辨识开辟了崭新途径,成为信号处理与系统模型参数辨识相关领域的重要研究方向。《系统参数辨识的信息准则及算法》系统地介绍系统参数辨识的各种信息准则及相应辨识算法、算法特性分析,包括最小误差熵准则、最小信息距离准则、最大(小)互信息准则等,介绍了其基本概念和性质、实现算法及仿真算例。
《系统参数辨识的信息准则及算法》可供系统辨识与信号处理、系统控制、人工神经网络、模式识别、神经及认知科学等学科或领域的科技工作者阅读,也可供这些领域的研究生和本科生参考。
目录
第1章 绪论
1.1 系统辨识定义与要素
1.2 经典辨识准则
1.3 非均方辨识准则
1.4 信息论辨识准则
1.4.1 误差熵准则
1.4.2 信息距离准则
1.4.3 互信息准则
1.5 本书的构成
第2章 信息论测度及性质
2.1 熵
2.2 互信息
2.3 信息距离
2.4 fisher信息
2.5 信息率
附录a α稳定分布
附录b 式(2—15)的证明
附录c cramer-rao不等式的证明
第3章 参数估计的信息论方法
3.1 参数估计典型方法
3.1.1 经典参数估计
3.1.2 贝叶斯参数估计
3.2 经典参数估计的信息论方法
3.2.1 熵匹配参数估计
3.2.2 最大熵参数估计
3.2.3 最小信息距离参数估计
3.3 基于误差熵准则贝叶斯参数估计
3.3.1 误差熵准则基本性质
3.3.2 与均方误差准则的关系
3.3.3 与任意误差准则的关系
附录d em算法
附录e 估计量的评价
附录f 贝叶斯最小均方估计
第4章 基于误差熵准则的系统参数辨识
4.1 系统参数辨识框架
4.1.1 准则函数
4.1.2 模型描述
4.1.3 辨识算法
4.2 参数辨识中误差熵估计
4.2.1 熵估计常用方法
4.2.2 基于核密度估计的经验误差熵
4.3 基于误差熵准则的参数辨识算法
4.3.1 非参数信息梯度算法
4.3.2 参数化信息梯度算法
4.3.3 基于不动点原理迭代算法
4.3.4 仿真例子
4.4 基于误差熵准则参数辨识收敛性分析
4.4.1 基于近似线性化方法的收敛性分析
4.4.2 算法收敛中的能量守恒关系
4.4.3 基于能量守恒的收敛性分析
4.4.4 仿真例子
4.5 误差熵准则的优化
4.5.1 最优φ熵准则
4.5.2 仿真例子
4.6 离散数据情形下误差熵准则——△熵准则
4.6.1 △熵概念
4.6.2 △熵性质
4.6.3 △熵估计
4.6.4 应用于系统参数辨识的△熵准则
附录g 向量梯度与矩阵梯度
第5章 基于信息距离准则的系统参数辨识
5.1 基于klid准则的系统参数可辨识性
5.1.1 定义及假设
5.1.2 klid可辨识性与fisher信息
5.1.3 高斯过程的klid可辨识性
5.1.4 markov过程的klid可辨识性
5.1.5 渐近klid可辨识性
5.2 带参考pdf最小信息距离参数辨识
5.2.1 基本原理
5.2.2 准则性质
5.2.3 辨识算法
5.2.4 仿真例子
5.3 最小欧氏距离准则及参数辨识算法
5.3.1 准则函数
5.3.2 辨识算法
5.3.3 仿真例子
附录h aic准则及推导
第6章 基于互信息准则的系统参数辨识
6.1 基于最小互信息准则参数辨识
6.1.1 准则性质
6.1.2 与独立分量分析的关系
6.1.3 基于独立分量分析的随机梯度辨识算法
6.1.4 仿真例子
6.2 基于最大互信息准则参数辨识
6.2.1 互信息准则性质
6.2.2 随机互信息梯度辨识算法
6.2.3 双准则辨识及算法
附录i 最小互信息率准则
参考文献
索引