Дослідження методів балансування навантаження в розподілених сервісно-орієнтованих системах

Abstract

Випускна кваліфікаційна робота присвячена дослідженню методів балансування навантаження в розподілених сервісно-орієнтованих системах з акцентом на розробку та впровадження динамічного алгоритму Load Based, який адаптивно враховує поточне навантаження на серверах для рівномірного розподілу запитів. Зростання обсягу даних та кількості одночасних користувачів у розподілених системах вимагає гнучких підходів до балансування навантаження, що забезпечують продуктивність та стабільність у реальному часі. Дослідження методів балансування навантаження зумовлене необхідністю мінімізації затримок і забезпечення високої доступності сервісів для задоволення вимог користувачів і підвищення якості обслуговування. У роботі проведено аналіз теоретичних основ балансування навантаження, включаючи розгляд основних статичних та динамічних методів, таких як Round Robin, Weighted Round Robin, Least Connections, Least Response Time тощо. Особлива увага приділена параметрам QoS, що впливають на стабільність роботи систем, таким як затримка, пропускна здатність, надійність, доступність і масштабованість. Було визначено основні переваги та обмеження статичних методів балансування навантаження та обґрунтовано необхідність впровадження адаптивних алгоритмів, що можуть динамічно враховувати поточний стан серверів. Експериментальна частина роботи включала проектування та реалізацію алгоритму Load Based, що дозволяє вибирати сервери з найменшим навантаженням, що забезпечує оптимальний розподіл запитів та мінімізацію затримок. Описано архітектуру експериментальної системи, яка використовує технології оркестрації контейнерів для тестування алгоритму. Проведено порівняльний аналіз LB з іншими популярними методами, включаючи RR та WRR, для оцінки продуктивності, стабільності та відмовостійкості. Результати тестування підтвердили переваги LB у випадках пікових навантажень, де він демонстрував зниження середнього часу відгуку порівнянні з WRR. Окрему увагу в роботі приділено рекомендаціям щодо практичного застосування алгоритму Load Based у сервісно-орієнтованих архітектурах. Розроблено рекомендації з налаштування LB для забезпечення ефективного моніторингу навантаження та забезпечення адаптивного масштабування. Крім того, визначено перспективи подальшого розвитку методів балансування навантаження, які включають інтеграцію з методами машинного навчання та алгоритмами прогнозування навантаження для підвищення точності розподілу запитів і зниження ймовірності перевантаження. Результати цього дослідження створюють основу для розвитку методів балансування навантаження в розподілених сервіс-орієнтованих системах. Застосовуючи адаптивні алгоритми на основі навантаження, майбутні розробки можуть покращити використання ресурсів, зменшити затримки та підвищити продуктивність системи. Це дослідження також підтримує покращення якості обслуговування.

The master's thesis is devoted to the study of load balancing methods in distributed service-oriented systems with a focus on the development and implementation of a dynamic Load Based algorithm that adaptively takes into account the current load on servers to evenly distribute requests. The growth of data volume and the number of simultaneous users in distributed systems requires flexible approaches to load balancing that ensure real-time performance and stability. The study of load balancing methods is driven by the need to minimize delays and ensure high availability of services to meet user requirements and improve the quality of service. The paper analyzes the theoretical foundations of load balancing, including consideration of the main static and dynamic methods, such as Round Robin, Weighted Round Robin, Least Connections, Least Response Time, etc. Particular attention is paid to QoS parameters that affect the stability of systems, such as latency, throughput, reliability, availability, and scalability. The main advantages and limitations of static load balancing methods were identified and the need to implement adaptive algorithms that can dynamically take into account the current state of servers was substantiated. The experimental part of the work included the design and implementation of the load based algorithm, which allows selecting servers with the lowest load, which ensures optimal distribution of requests and minimizes delays. The architecture of the experimental system, which uses container orchestration technologies to test the algorithm, is described. A comparative analysis of load based with other popular methods, including round robin and weighted round robin, is performed to evaluate performance, stability, and fault tolerance. The test results confirmed the advantages of load based in cases of peak loads, where it demonstrated a reduction in average response time compared to weighted round robin. Special attention is paid to recommendations for the practical application of the load based algorithm in service-oriented architectures. Recommendations for configuring load based to ensure effective load monitoring and adaptive scaling are developed. In addition, the prospects for further development of load balancing methods are identified, including integration with machine learning methods and load forecasting algorithms to improve the accuracy of request distribution and reduce the likelihood of overload. The findings of this research provide a solid foundation for advancing load balancing methods in distributed service-oriented systems. By applying adaptive algorithms like load based, future developments can enhance resource utilization, reduce latency, and increase system performance. This research also supports improved quality of service.