Обучение методом доверительных областей сетей радиальных базисных функций при решении краевых задач

 
Код статьиS000523100001489-1-1
DOI10.31857/S000523100001489-1
Тип публикации Статья
Статус публикации Опубликовано
Авторы
Аффилиация: Пензенский государственный университет
Адрес: Российская Федерация, Пенза
Аффилиация: Пензенский государственный университет
Адрес: Российская Федерация, Пенза
Аффилиация: Московский государственный технический университет гражданской авиации
Адрес: Российская Федерация, Москва
Название журналаАвтоматика и телемеханика
ВыпускВыпуск 9
Страницы95-105
Аннотация

Рассматривается решение краевых задач математической физики на нейронных сетях специального вида — сетях радиальных базисных функций. Рассматриваемый подход не требует построения разностной сетки и позволяет получить приближенное аналитическое решение в произвольной точке области решения. Проведен анализ алгоритмов обучения таких сетей. Предлагается алгоритм обучения сетей на основе метода доверительных областей. Алгоритм позволяет существенно сократить время обучения сети.

Ключевые словакраевые задачи математической физики, сети радиальных базисных функций, обучение нейронных сетей, метод доверительных областей
Источник финансированияРабота выполнена при финансовой поддержке Российского фонда фундаментальных исследований (проект № 16-08-00906)
Получено09.10.2018
Дата публикации11.10.2018
Кол-во символов478
Цитировать   Скачать pdf Для скачивания PDF необходимо авторизоваться
Размещенный ниже текст является ознакомительной версией и может не соответствовать печатной.

всего просмотров: 1744

Оценка читателей: голосов 0

1. Толстых А.И., Широбоков Д.А. Бессеточный метод на основе радиальных базисных функций // Журн. вычислит. матем. и матем. физики. 2005. Т. 45. № 8. С. 1498–1505.

2. Liu G.R. Mesh free methods: moving beyond the finite element method. CRC Press, 2003.

3. Kansa E.J. Motivation for Using Radial Basis Function to Solve PDEs // [Электронный ресурс]. http://www.cityu.edu.hk/rbf-pde/files/overview-pdf.pdf

4. Buhmann M.D. Radial Basis Functions: Theory and Implementations. Cambridge University Press, 2004.

5. Fasshauer G.E. Meshfree Approximation Methods with MATLAB. World Scientific Publishing Company, 2007.

6. Chen W., Fu Z.J. Recent Advances in Radial Basis Function Collocation Methods. Springer, 2014.

7. Fornberg B., Flyer N. Solving PDEs with Radial Basis Functions // Acta Numerica. 2015. V. 4. P. 215–258.

8. Jianyu L., Siwei L., Yingjian Q., Yaping H. Numerical Solution of Differential Equations by Radial Basis Function Neural Networks // Proc. Int. Joint Conf. on Neural Networks. 2002. V. 1. P. 773–777.

9. Mai-Duy N., Tran-Cong T. Solving High Order Ordinary Differential Equations with Radial Basis Function Networks // Int. J. Numerical Methods Engin. 2005. V. 62. P. 824–852.

10. Sarra S. Adaptive Radial Basis Function Methods for Time Dependent Partial Differential Equations // Appl. Numer. Math. 2005. V. 54. No. 1. P. 79–94.

11. Chen H., Kong L., Leng W. Numerical Solution of PDEs via Integrated Radial Basis Function Networks with Adaptive Training Algorithm // Appl. Soft Comput. 2011. V. 11. No. 1. P. 855–860.

12. Kumar M., Yadav N. Multilayer Perceptrons and Radial Basis Function Neural Network Methods for the Solution of Differential Equations: A Survey // Comput. Math. Appl. 2011. V. 62. P. 3796–3811.

13. Yadav N., Yadav A., Kumar M. An Introduction to Neural Network Methods for Differential Equations. Springer, 2015.

14. Тархов Д.А. Нейросетевые модели и алгоритмы. Справочник. М.: Радиотехника, 2014.

15. Горбаченко В.И., Артюхина Е.В. Бессеточные методы и их реализация на радиально-базисных нейронных сетях // Нейрокомпьютеры: разработка, применение. 2010. № 11. С. 4–10.

16. Горбаченко В.И., Жуков М.В. Решение краевых задач математической физики с помощью сетей радиальных базисных функций // Журн. вычислит. матем. и матем. физики. 2017. Т. 57. № 1. С. 115–126.

17. Гудфеллоу Я., Бенджио И., Курвилль А. Глубокое обучение. М.: ДМК Пресс, 2018.

18. Jia W., Zhao D., Shen T., Su C., Hu C., Zhao Y. A New Optimized GA-RBF Neural Network Algorithm // Comput. Intelligence Neurosci. 2014. Article ID 982045.

19. Гилл Ф., Мюррей У., Райт М. Практическая оптимизация. М.: Мир, 1985.

20. Sutskever I., Martens J., Dahl G., Hinton G. On the Importance of Initialization and Momentum in Deep Learning // Proc. 30th Int. Conf. on Machine Learning. 2013. V. 28. P. 1139–1147.

21. Алкезуини М.М., Горбаченко В.И. Обучение сетей радиальных базисных функций методом Нестерова при решении краевых задач математической физики // Матер. XII Междунар. науч.-техн. конф. Аналитические и численные методы моделирования естественнонаучных и социальных проблем. Пенза: Изд-во ПГУ, 2017. C. 171–175.

22. Fletcher R., Reeves C.M. Function Minimization by Conjugate Gradients // Comput. J. 1964. V. 7. P. 149–154.

23. Polak E., Ribi´ere G. Note sur la convergence de m´ethodes de directions conjugu´ees // Revue fran¸caise d’informatique et de recherche op´erationnelle, s´erie rouge. 1969. V. 3. No. 1. P. 35–43.

24. Zhang L., Li K., He H., Irwin G.W. A New Discrete-Continuous Algorithm for Radial Basis Function Networks Construction // IEEE Trans. Neural Networks Learning Syst. 2013. V. 24. No. 11. P. 1785–1798.

25. Xie T., Yu H., Hewlett J., Rozycki P., Wilamowski B. Fast and Efficient SecondOrder Method for Training Radial Basis Function Networks / // IEEE Trans. Neural Networks Learning Syst. 2012. V. 23. No. 4. P. 609–619.

26. Markopoulos A.P., Georgiopoulos S., Manolakos D.E. On the Use of Back Propagation and Radial Basis Function Neural Networks in Surface Roughness Prediction // J. Indust. Engin. Int. 2016. V. 12. No. 3. P. 389–400.

27. Zhang L., Li K., Wang W. An Improved Conjugate Gradient Algorithm for Radial Basis Function (RBF) Networks Modelling // Proc. 2012 UKACC Int. Conf. on Control. P. 19–23.

28. Sadeghi M., Pashaie M., Jafarian A. RBF Neural Networks Based on BFGS Optimization Method for Solving Integral Equations // Adv. Appl. Math. Biosci. 2016. V. 7. No. 1. P. 1–22.

29. Conn A.R., Gould N.I.M., Toint P.L. Trust-Region Methods. MPS-SIAM, 1987.

30. Wild S.M. Regis R.G., Shoemaker C.A. ORBIT: Optimization by Radial Basis Function Interpolation in Trust-Regions // SIAM J. Scientific Comput. 2008. V. 30. No. 6. P. 3197–3219.

31. Bernal F. Trust-Region Methods for Nonlinear Elliptic Equations with Radial Basis Functions // Comput. Math. Appl. 2016. V. 72. No. 7. P. 1743–1763.

32. Горбаченко В.И., Жуков М.В. Обучение сетей радиальных базисных функций методом доверительных областей для решения уравнения Пуассона // Информац. технологии. 2013. № 9. С. 65–70.

33. Бринк Х., Ричардс Дж., Феверолф М. Машинное обучение. СПб.: Питер, 2017.

34. Staihaug T. The Conjugate Gradient Method and Trust Region in Large Scale Optimization // SIAM J. Numerical Analysis. 1983. V. 20. No. 3. P. 626–637.

35. Уоткинс Д. Основы матричных вычислений. М.: Бином, 2012.

Система Orphus

Загрузка...
Вверх