Розробка платформи для дослідження автоматичного масштабування контейнерів та балансування навантаження у розподілених системах

Abstract

Забезпечення якості обслуговування (Quality of Service, QoS) визначено як ключове завдання для розподілених систем, оскільки задоволення потреб користувачів є важливим аспектом їх успішного функціонування. Більшість рішень для автомасштабування контейнерів зосереджені на оптимізації ресурсів та управлінні витратами. Проте ці рішення часто не враховують динамічні вимоги користувачів до якості обслуговування (QoS), що призводить до затримок у виділенні ресурсів та погіршення якості обслуговування. Наявні алгоритми автомасштабування та балансування навантаження неадекватно враховують динаміку навантаження, що є суттєвою проблемою. Крім того, традиційні платформи для тестування нових алгоритмів, такі як Azure та AWS, є комерційними та закритими, що обмежує можливості для перевірки інноваційних підходів. Тому потрібні відкриті та доступні платформи, які дадуть змогу дослідникам та розробникам ефективно тестувати та впро- ваджувати нові алгоритми балансування навантаження та автоматичного масштабування. Для вирішення цих проблем необхідний новий підхід, оснований на глибокому розумінні контексту використання ресурсів та потреб користувачів, що забезпечить належну якість обслуговування та підвищить ефективність розподілених систем. Новизна цієї роботи полягає у розробленні нової платформи для дослідження методів автоматичного масштабування контейнерів та алгоритмів балансування навантаження. Створена віртуалізована сервісна платформа дала змогу на практиці оцінити переваги та недоліки алгоритмів у реальних умовах. Наприклад, використання алгоритму “Round Robin” із затримкою запитів 50 мс призводило до завантаження серверів на 96,2 % і середнього часу затримки 679 мс. Упровадження алгоритму “Weighted Round Robin” та автоматичного масштабування контейнерів дало змогу зменшити завантаження серверів до 56,1 % та середню затримку до 11,8 мс. Отримані результати можуть стати основою для подальшого розроблення та впровадження алгоритмів у розподілених системах, що допоможе покращити якість обслуговування та підвищити загальну ефективність цих систем.Quality of Service (QoS) is identified as a key task for distributed systems because meeting user needs is an important aspect of their successful functioning. Most container autoscaling solutions focus on resource optimization and cost management. However, these solutions often do not consider the dynamic user requirements for Quality of Service (QoS), resulting in delays in resource allocation and a decrease in service quality. Existing autoscaling and load balancing algorithms inadequately account for load dynamics, which is a significant issue. Moreover, traditional platforms for testing new algorithms, such as Azure and AWS, are commercial and closed, limiting opportunities for validating innovative approaches. Consequently, there is a need for open and accessible platforms that allow researchers and developers to effectively test and implement new load balancing and autoscaling algorithms. To address these issues, a new approach based on a deep understanding of resource usage context and user needs is required to ensure high service quality and improve the efficiency of distributed systems. The novelty of this work lies in the development of a new platform for researching container autoscaling methods and load balancing algorithms. The created virtualized service platform enabled practical assessment of the advantages and disadvantages of algorithms under real conditions. For example, using the “Round Robin” algorithm with a 50 ms request delay resulted in server loads of 96.2 % and an average delay time of 679 ms. Implementing the “Weighted Round Robin” algorithm and container autoscaling reduced server loads to 56.1 % and the average delay to 11.8 ms. The results obtained can form the basis for further development and implementation of algorithms in distributed systems, which will improve service quality and overall efficiency of these systems.