基于贝叶斯神经网络的非参数回归

留言板

尊敬的读者、作者、审稿人, 关于本刊的投稿、审稿、编辑和出版的任何问题, 您可以本页添加留言。我们将尽快给您答复。谢谢您的支持!

姓名
邮箱
手机号码
标题
留言内容
验证码

基于贝叶斯神经网络的非参数回归

杨斌, 聂在平, 夏耀先, 蒋荣生

文章导航 > 电子科技大学学报 > 2002 > 31(2): 159-162

杨斌, 聂在平, 夏耀先, 蒋荣生. 基于贝叶斯神经网络的非参数回归[J]. 电子科技大学学报, 2002, 31(2): 159-162.

引用本文:

杨斌, 聂在平, 夏耀先, 蒋荣生. 基于贝叶斯神经网络的非参数回归[J]. 电子科技大学学报, 2002, 31(2): 159-162.

Yang Bin, Nie Zaiping, Xia Yaoxian, Jiang Rongsheng. Bayesian Neural Network for Nonparametric Regression[J]. Journal of University of Electronic Science and Technology of China, 2002, 31(2): 159-162.

Citation:

Yang Bin, Nie Zaiping, Xia Yaoxian, Jiang Rongsheng. Bayesian Neural Network for Nonparametric Regression[J]. Journal of University of Electronic Science and Technology of China, 2002, 31(2): 159-162.

基于贝叶斯神经网络的非参数回归

1.
电子科技大学电子工程学院成都 610054;
2.
中海油田服务有限公司北京 101149

基金项目:

国家自然科学基金资助项目，编号：69871004;油气藏地质及开发工程国家重点实验室开放基金资助项目，编号：PLC9913

作者简介:
杨斌男 34岁博士副教授

中图分类号: TP183

Bayesian Neural Network for Nonparametric Regression

1.
College of Electronic Engineering,UEST of China Chengdu 610054;
2.
China National Offshore Oil Corporation Service Beijing 101149

摘要: 提高神经网络模型推广能力的关键是控制模型的复杂度。该文探索了贝叶斯神经网络的非参数回归的建模方法,通过融入模型参数的先验知识,在给定数据样本及模型假设下进行后验概率的贝叶斯推理,使用马尔可夫链蒙特卡罗算法来优化模型控制参数,实现了对神经网络模型中不同部分复杂度的控制,获得了模型参数的后验分布及预测分布。在5个含噪二维函数回归问题上的应用显示了模型的复杂度能根据数据的复杂度而自适应调整,并给出了较好的预测结果。
- 贝叶斯神经网络 /
- 非参数回归 /
- 正则化器 /
- 马尔可夫链蒙特卡罗模拟
Abstract: With neural networks, the main difficult in improving the model generalization capability is controlling the complexity of the model. This paper investigates a Bayesian neural network learning for nonparametric regression. Prior knowledge about the model parameters can be incorporated within Bayesian inference and combined with training data to control complexity of different parts of the model. A Markov chain Monte Carlo algorithm is used to optimize model control parameters and obtain the predictive distribution. We show that the complexity of the models adapts to the complexity of the data and produces good results on five noisy test functions in two dimension. The performance and advantage of this approach are compared with conventional neural network methods.
- neural networks /
- nonparametric regression /
- regularizer /
- Markov chain Monte Carlo

[1]	周江平, 周媛媛, 周学军, 李洁琼. 基于BP神经网络的测量设备无关协议参数预测 . 电子科技大学学报, 2024, 53(4): 611-616. doi: 10.12178/1001-0548.2023011
[2]	侯敏, 张仕斌, 黄曦. 量子模糊朴素贝叶斯分类算法 . 电子科技大学学报, 2024, 53(1): 149-154. doi: 10.12178/1001-0548.2022344
[3]	陈红霞, 张俊峰, 马爱博, 李宏悦, 李晨光. 基于改进贝叶斯的重型数控机床可靠性研究 . 电子科技大学学报, 2023, 52(1): 140-145. doi: 10.12178/1001-0548.2022153
[4]	李享, 黄洪钟, 黄鹏, 李彦锋. 基于动态贝叶斯网络的电源系统可靠性分析与故障诊断 . 电子科技大学学报, 2021, 50(4): 603-608. doi: 10.12178/1001-0548.2020416
[5]	唐贤伦, 刘庆, 张娜, 周家林. 混合PSO优化卷积神经网络结构和参数 . 电子科技大学学报, 2018, 47(2): 230-234. doi: 10.3969/j.issn.1001-0548.2018.02.011
[6]	谭龙飞, 童玲, 陈彦. 基于贝叶斯融合的土壤含水量估计 . 电子科技大学学报, 2018, 47(4): 539-544. doi: 10.3969/j.issn.1001-0548.2018.04.011
[7]	胡剑浩, 周将运, 何帅宁, 陈杰男. 基于Max-Log更新的马尔科夫链蒙特卡洛MIMO检测增强算法 . 电子科技大学学报, 2017, 46(1): 1-8. doi: 10.3969/j.issn.1001-0548.2017.01.001
[8]	许志良, 邓承志, 张运生. 非局域自相似约束的Shearlet稀疏正则化图像恢复 . 电子科技大学学报, 2016, 45(1): 43-47. doi: 10.3969/j.issn.1001-0548.2016.01.006
[9]	王聪, 张凤荔, 杨晓翔. 分布式环境下动态网络时延矩阵正则化重建 . 电子科技大学学报, 2014, 43(6): 923-928. doi: 10.3969/j.issn.1001-0548.2014.06.022
[10]	文乔农, 刘增力, 万遂人, 徐双. 稀疏正则化方法的超声信号反卷积 . 电子科技大学学报, 2013, 42(3): 475-480. doi: 10.3969/j.issn.1001-0548.2013.03.030
[11]	杨珺, 马秦生, 王敏, 曹阳. 网络取证隐马尔可夫模型证据融合方法 . 电子科技大学学报, 2013, 42(3): 350-354. doi: 10.3969/j.issn.1001-0548.2013.03.006
[12]	孙岩, 唐一源. 基于贝叶斯网络的轻度认知障碍诊断系统 . 电子科技大学学报, 2012, 41(3): 336-341. doi: 10.3969/j.issn.1001-0548.2012.03.002
[13]	鹿传国, 冯新喜, 张迪, 孔云波. 马尔可夫链蒙特卡罗容积粒子滤波器 . 电子科技大学学报, 2012, 41(6): 859-864. doi: 10.3969/j.issn.1001-0548.2012.06.008
[14]	杨春平, 贺秀兰, 吴健. 卷云散射的蒙特卡罗法模拟 . 电子科技大学学报, 2009, 38(1): 144-147.
[15]	钱艺, 王沁, 吴巍, 刘金龙. 神经网络并行MIMD处理器的研究及实现 . 电子科技大学学报, 2008, 37(6): 904-907.
[16]	刘贵松, 王晓彬. 采用自适应GHA神经网络的分类器设计 . 电子科技大学学报, 2007, 36(6): 1241-1244.
[17]	刘震, 周明天. 基于核方法的贝叶斯邮件分类网络研究 . 电子科技大学学报, 2007, 36(3): 587-589,593.
[18]	陈波, 于泠. 基于小波神经网络的服务器预警系统 . 电子科技大学学报, 2005, 34(3): 343-346.
[19]	陈翰林, 尚亚东, 刘希强. 正则化长波方程的显式精确解 . 电子科技大学学报, 2005, 34(5): 709-712.
[20]	唐普英, 陈永倩, 黄顺吉. 一种基于Lagrange神经网络的多用户检测器 . 电子科技大学学报, 2001, 30(1): 9-12.

WeChat

点击查看大图

计量

文章访问数: 4279
HTML全文浏览量: 135
PDF下载量: 422
被引次数: 0

基于贝叶斯神经网络的非参数回归

1. 电子科技大学电子工程学院成都 610054;

2. 中海油田服务有限公司北京 101149

基金项目:

国家自然科学基金资助项目，编号：69871004;油气藏地质及开发工程国家重点实验室开放基金资助项目，编号：PLC9913

作者简介:
杨斌男 34岁博士副教授

收稿日期: 2001-11-13
刊出日期: 2002-04-15

中图分类号: TP183

关键词:

摘要: 提高神经网络模型推广能力的关键是控制模型的复杂度。该文探索了贝叶斯神经网络的非参数回归的建模方法,通过融入模型参数的先验知识,在给定数据样本及模型假设下进行后验概率的贝叶斯推理,使用马尔可夫链蒙特卡罗算法来优化模型控制参数,实现了对神经网络模型中不同部分复杂度的控制,获得了模型参数的后验分布及预测分布。在5个含噪二维函数回归问题上的应用显示了模型的复杂度能根据数据的复杂度而自适应调整,并给出了较好的预测结果。

English Abstract

杨斌, 聂在平, 夏耀先, 蒋荣生. 基于贝叶斯神经网络的非参数回归[J]. 电子科技大学学报, 2002, 31(2): 159-162.

引用本文:

杨斌, 聂在平, 夏耀先, 蒋荣生. 基于贝叶斯神经网络的非参数回归[J]. 电子科技大学学报, 2002, 31(2): 159-162.

Yang Bin, Nie Zaiping, Xia Yaoxian, Jiang Rongsheng. Bayesian Neural Network for Nonparametric Regression[J]. Journal of University of Electronic Science and Technology of China, 2002, 31(2): 159-162.

Citation:

Yang Bin, Nie Zaiping, Xia Yaoxian, Jiang Rongsheng. Bayesian Neural Network for Nonparametric Regression[J]. Journal of University of Electronic Science and Technology of China, 2002, 31(2): 159-162.

全文HTML

/

下载: 全尺寸图片幻灯片

分享

用微信扫码二维码

分享至好友和朋友圈

返回

期刊在线

编辑办公

友情链接

电子科技大学

版权所有 © 《电子科技大学学报》编辑部

地址: 成都市建设北路二段四号电子科技大学主楼中350室电话: 028-83202308,83207559 Email: xuebao@uestc.edu.cn

本系统由北京仁和汇智信息技术有限公司开发