DOI: https://doi.org/10.15802/stp2018/154443

OPTIMAL ROUTE DEFINITION IN THE NETWORK BASED ON THE MULTILAYER NEURAL MODEL

V. N. Pakhomova, I. D. Tsykalo

Abstract


Purpose. The classic algorithms for finding the shortest path on the graph that underlie existing routing protocols, which are now used in computer networks, in conditions of constant change in network traffic can not lead to the optimal solution in real time. Methodology. To determine the optimal route in the computer network, the program model «MLP 34-2-410-34» was developed in Python using the TensorFlow framework, which allows the following steps to be performed: sample generation (random or balanced ); the creation of a neural network, the input of which is an array of bandwidth channels of the computer network, as a resultant array of signs of the use of the appropriate communication channel in the formation of the route in the computer network; training and testing of the neural network in the appropriate samples. Findings. Neural network configuration 34-2-410-34 with activation functions of ReLU and Leaky-ReLU in a hidden layer and a linear activation function in the output layer learns from Adam algorithm, which is a combination of Adagrad, RMSprop algorithms and stochastic gradient descent with inertia, the fastest on of all volumes of the training sample, the rest of the others are overwhelmed by the conversion and reaches the value of the error at 0.0024 on the control voter and 86 % returns the optimal path. Originality. The study of the parameters of the neural network on the basis of the calculation of the average harmonic with different activation functions (Linear, Sigmoid, Tanh, Softplus, ReLU, L-ReLU) on training samples of different volumes (140, 1400, 14000, 49000 examples) and various training algorithms Neural Network (BGD, MB SGD, Adam, Adamax, Nadam). Practical value. The use of a neural model, the input of which gives the value of bandwidth channels, will allow in real time to determine the optimal route in the computer network.


Keywords


computer network; optimal route; neural network; sampling; average harmonic; activation function; ptimization algorithm

References


Bryndas, A. M., Rozhak, P. I., Semynyshyn, N. O., & Kurka, R. R. (2016). Realizatsiia zadachi vyboru optymalnoho marshrutu neironnoiu merezheiu Khopfilda. Naukovyi visnyk NLTU Ukrainy, 26(1), 357-363. (in Ukraіnian)

Kolesnikov, K. V., Karapetian, A. R., & Bahan, V. Y. (2016). Analiz rezultativ doslidzhennia realizatsii zadachi marshrutyzatsii na osnovi neironnykh merezh ta henetychnykh alhorytmiv. Visnyk Cherkaskoho derzhavnoho tekhnolohichnoho universytetu. Seriia: Tekhnichni nauky, 1, 28-34. (in Ukraіnian)

Kutyrkin, A. V., & Semin, A. V. (2007). Ispolzovanie neyronnoy seti Khopfilda dlya resheniya optimizatsionnykh zadach marshrutizatsii: Metodicheskie ukazaniya. Moscow: Izdatelstvo Moskovskogo gosudarstvennogo universiteta putey soobshcheniya. (in Russian)

Keras. Retrieved from https://keras.io (in English)

An open source machine learning framework for everyone. TensorFlow. Retrieved from https://www.tensorflow.org (in English)

IBM. IBM Knowledge Center. Retrieved from https://u.to/G-giFA (in Russian)

Security Lab.ru. Retrieved from https://www.securitylab.ru (in Russian)

CiscoTips. Retrieved from http://ciscotips.ru/ospf (in Russian)

Pavlenko M. A. (2011). Analysis opportunities of artificial neural networks for solving single-path routing in telecommunication network. Problemy telekomunikatsii, 2(4). Retrived from http://pt.journal.kh.ua/index/0-139 (in Russian)

Palmer, M., & Sinkler, R. B. (2004). Proektirovanie i vnedrenie kompyuternykh setey. St. Petersburg: BKhV-Peterburg. (in Russian)

Pakhomova, V. M., & Fedorenko, Y. O. (2012). Rishennia zadachi marshrutyzatsii v komp’iuternii merezhi Prydniprovskoi zaliznytsi na osnovi neironnoi modeli Khopfilda. Information and control systems at railway transport, 4, 76-84. (in Ukraіnian)

Pakhomova, V. M., & Lepekha, R. O. (2014). Analiz metodiv z pryrodnymy mekhanizmamy vyznachennia optymalnoho marshrutu v komp’iuternii merezhi Prydniprovskoi zaliznytsi. Information and control systems at railway transport, 4, 82-91. (in Ukraіnian)

Pakhomovа, V. M. (2016). Network Traffic Forcasting in Information-telecommunication System of Prydniprovsk Railways Based on Neuro-fuzzy Network. Science and Transport Progress, 6(66), 105-114. doi: 10.15802/stp2016/90485 (in English)

Khaykin, S. (2006). Neyronnye seti. Polnyy kurs.Moscow: Vilyams. (in Russian)

Chang Wook Ahn, Ramakrishna, R. S., In Chan Choi, & Chung Gu Kang. (n.d.). Neural network based near-optimal routing algorithm. Proceedings of the 9th International Conference on Neural Information Processing, 2002. ICONIP’02. doi: 10.1109/iconip.2002.1198978 (in English)

Hopfield, J. J. (1982). Neural networks and physical systems with emergent collective computational abilities. Proceedings of the National Academy of Sciences, 79(8), 2554-2558. doi: 10.1073/pnas.79.8.2554 (in English)

Kojic, N., Zajeganovic-Ivancic, M., Reljin, I., & Reljin, B. (2010). New algorithm for packet routing in mobile ad-hoc networks. Journal of Automatic Control, 20(1), 9-16. doi: 10.2298/jac1001009k (in English)

Yang, H., Li, T., Hu, X., Wang, F., & Zou, Y. (2014). A Survey of Artificial Immune System Based Intrusion Detection. The Scientific World Journal, 2014, 1-11. doi: 10.1155/2014/156790 (in English)

Schuler, W. H., Bastos-Filho, C. J. A., & Oliveira, A. L. I. (2009). A novel hybrid training method for hopfield neural networks applied to routing in communications networks1. International Journal of Hybrid Intelligent Systems, 6(1), 27-39. doi: 10.3233/his-2009-0074 (in English)

Zhukovyts’kyy, I., & Pakhomova, V. (2018). Research of Token Ring network options in automation system of marshalling yard. Transport Problems, 13(2), 145-154. doi: 10.20858/tp.2018.13.2.14 (in English)


GOST Style Citations


  1. Колесніков, К. В. Аналіз результатів дослідження реалізації задачі маршрутизації на основі нейронних мереж та генетичних алгоритмів / К. В. Колесніков, А. Р. Карапетян, В. Ю. Баган // Вісн. Черкас. держ. технол. ун-ту. Серія: Технічні науки. – 2016. – № 1. – C. 28–34.
  2. Кутыркин, А. В. Использование нейронной сети Хопфилда для решения оптимизационных задач маршрутизации : метод. указания / А. В. Кутиркин, А. В. Семин. – Москва : Изд-во Моск. гос. ун-та путей сообщения, 2007. – 15 с.
  3. Павленко, М. А. Анализ возможностей искусственных нейронных сетей для решения задач однопутевой маршрутизации в ТКС [Електронний ресурс] // Проблеми телекомунікацій. – 2011. – № 2 (4). – Режим доступу: http://pt.journal.kh.ua/index/0-139 – Назва з екрана. – Перевірено : 20.11.2018.
  4. Палмер, М. Проектирование и внедрение компьютерных сетей / М. Палмер, Р. Б. Синклер. – Санкт-Петербург : БХВ-Петербург, 2004. – 752 с.
  5. Пахомова, В. М. Аналіз методів з природними механізмами визначення оптимального маршруту в комп’ютерній мережі Придніпровської залізниці / В. М. Пахомова, Р. О. Лепеха // Інформ.-керуючі системи на залізн. трансп. – 2014. – № 4. – С. 82–91.
  6. Пахомова, В. М. Рішення задачі маршрутизації в комп’ютерній мережі Придніпровської залізниці на основі нейронної моделі Хопфілда / В. М. Пахомова, Ю. О. Федоренко // Інформ.-керуючі системи на залізн. трансп. – 2012. – № 4. – С. 76–84.
  7. Реалізація задачі вибору оптимального маршруту нейронною мережею Хопфілда / А. М. Бриндас, П. І. Рожак, Н. О. Семинишин, Р. Р. Курка // Наук. вісн. НЛТУ України : зб. наук.-техн. пр. – Львів, 2016. – Вип. 26.1. – C. 357–363.
  8. Хайкин, С. Нейронные сети. Полный курс : [пер. с англ.] / С. Хайкин. – 2-е изд., испр. – Москва : Вильямс, 2006. – 1104 с.
  9. An open source machine learning framework for everyone [Електронний ресурс] : [веб-сайт] / TensorFlow. – Електрон. текст. дані. – Режим доступу: https://www.tensorflow.org – Назва з екрана. – Перевірено : 05.06.2018.
  10. A Survey of Artificial Immune System Based Intrusion Detection / Hua Yang, Tao Li, Xinlei Hu, Feng Wang, Yang Zou // The Scientific World Journal. – 2014. – Vol. 2014. – Р. 1–11. doi: 10.1155/2014/156790
  11. CiscoTips [Електронний ресурс] : [веб-сайт]. – Електрон. текст. дані. – Режим доступу: http://ciscotips.ru/ospf – Назва з екрана. – Перевірено : 20.05.2018.
  12. Hopfield, J. J. Neural networks and physical systems with emergent collective computational abilities / John J. Hopfield // Proceedings of National Academy of Sciences. – 1982. – Vol. 79. – Іss. 8. – P. 2554-2558. doi: 10.1073/pnas.79.8.2554
  13. IBM [Електронний ресурс] : [веб-сайт] /IBMKnowledgeCenter. – Електрон. текст. дані. – Режим доступу: https://u.to/G-giFA – Назва з екрана. – Перевірено : 20.05.2018.
  14. Keras [Електронний ресурс] : [веб-сайт]. – Електрон. текст. дані. – Режим доступу: https://keras.io – Назва з екрана. – Перевірено : 05.06.2018.
  15. Neural Network Based Near-Optimal Routing Algorihm / Chang Wook Ahn, R. S. Ramakrishna, In Chan Choi, Chung Gu Kang // Neural Information Processing, 2002. ICONIP'02 : Proc. of the 9th Intern. Conf. (18–22 Nov. 2002). –Singapore, 2002. – Vol. 5. – P. 1771–1776.
  16. New algorithm for packet routing in mobile ad-hoc networks / N. S. Kojić, M. B. Zajeganović-Ivančić, I. S. Reljin, B. D. Reljin // Journal of Automatic Control. – 2010. – Vol. 20. – Іss. 1. – P. 9–16. doi: 10.2298/JAC1001009K
  17. Pakhomova, V. M. Network Traffic Forcasting in information-telecommunication System of Prydniprovsk Railways Based on Neuro-fuzzy Network // Наука та прогрес транспорту. – 2016. – № 6 (66). – C. 105–114. doi: 10.15802/stp2016/90485
  18. Schuler, W. H. A novel hybrid training method for hopfield neural networks applied to routing in communications networks / W. H. Schuler, C. J. A. Bastos-Filho, A. L. I. Oliveira // International Journal of Hybrid Intelligent Systems. – 2009. – Vol. 6. – Іss. 1. – P. 27–39. doi: 10.3233/his-2009-0074
  19. Security Lab.ru [Електронний ресурс] : [веб-сайт]. – Електрон. текст. дані. – Режим доступу: https://www.securitylab.ru – Назва з екрана. – Перевірено : 20.05.2018.
  20. Zhukovyts’kyy, I. Research of Token Ring network options in automation system of marshalling yard / I. Zhukovyts’kyy, V. Pakhomova // Transport Problems. – Vol. 13. – Iss. 2. – P. 145–154. doi: 10.20858/tp.2018.13.2.14


 

Cited-by:

1. INTELLIGENT ROUTING IN THE NETWORK OF INFORMATION AND TELECOMMUNICATION SYSTEM OF RAILWAY TRANSPORT
V. M. Pakhomova, T. I. Skaballanovich, V. S. Bondareva
Science and Transport Progress. Bulletin of Dnipropetrovsk National University of Railway Transport  Issue: 2(80)  First page: 77  Year: 2019  
doi: 10.15802/stp2019/166092



Creative Commons License
This work is licensed under a Creative Commons Attribution 4.0 International License.

 

ISSN 2307–3489 (Print)
ІSSN 2307–6666 (Online)