Ефективність форматів інструкцій LLM для задач незбалансованості класів тренувальних даних у системах предиктивного моніторингу

Abstract

У статті розглянуто підходи до форматування табличних даних (HTML, XML, Markdown, CSV) з метою подальшого генерування синтетичних зразків за допомогою великих мовних моделей (LLM) у задачах предиктивного моніторингу. Оскільки реальні дані часто характеризуються незбалансованістю класів, генерування додаткових зразків дає змогу поліпшити навчальні вибірки, підвищуючи ефективність роботи моделей. Важливим стає питання швидкості обробки та вартості запитів, які істотно залежать від того, скільки вхідних токенів потребує вибраний формат для форматування табличних даних. У межах дослідження проаналізовано витрати обчислювальних ресурсів і тривалість опрацювання запитів LLM залежно від формату табличних даних. Хоча, згідно із дослідженнями [1], HTML забезпечує найвищий рівень точності, він водночас потребує істотно більшої кількості токенів через формат подання таб- лиць. Така особливість суттєво збільшує об’єм вхідних даних та загальний час опрацювання запиту. Натомість менш об’ємні формати (Markdown та CSV) потребують значно менше то- кенів, пришвидшуючи опрацювання та знижуючи вартість взаємодії з моделлю. Незначне зменшення точності, порівняно із HTML, може виявитися прийнятним компромісом, особливо коли постає завдання масштабного розширення набору тренувальних даних задля компенсації нестачі прикладів нештатних станів. Такий підхід ефективний у системах предиктивного моніторингу, де час реакції та обсяг оброблених даних безпосередньо впливають на швидкість виявлення аномалій та стійкості системи загалом. Результати дослідження підтверджують, що Markdown і CSV, завдяки меншому об’єму вхідних даних, дають змогу зменшити тривалість обробки запитів та витрати на генерування синтетичних зразків для навчання. Водночас HTML і XML потенційно залишаються корисними в завданнях, де максимально важливе збереження складної структури й додаткових метаданих, проте ці формати потребують більших ресурсів. Отже, вибір формату подання табличних даних повинен враховувати вимоги конкретної системи й особливості робочого середовища: від апаратних обмежень і тарифікації за токени до потрібної тривалості обробки запиту.

The article examines approaches to formatting tabular data (HTML, XML, Markdown, CSV) for the subsequent generation of synthetic samples using large language models (LLM) in predictive monitoring tasks. Since real-world data are often characterized by class imbalance, generating additional samples helps improve training datasets, thereby enhancing the effectiveness of models. At the same time, an important issue arises regarding processing speed and query costs, which largely depend on how many input tokens are required by the chosen format for tabular data representation. The study analyzes computational resource consumption and query processing time for LLMs depending on the tabular data format. Although, according to research [1], HTML provides the highest level of accuracy, it also requires a significantly larger number of tokens due to its table representation format. This characteristic considerably increases the volume of input data and the overall query processing time. In contrast, less bulky formats (Markdown and CSV) require significantly fewer tokens, speeding up processing and reducing the cost of interaction with the model. A slight reduction in accuracy compared to HTML may be an acceptable trade-off, especially when the goal is to significantly expand the training dataset to compensate for the lack of examples of non-standard conditions. This approach proves to be effective in predictive monitoring systems, where response time and the volume of processed data directly affect the speed of anomaly detection and overall system resilience. The study results confirm that Markdown and CSV, due to their smaller input data volume, help reduce query processing time and the costs associated with generating synthetic training samples. At the same time, HTML and XML remain potentially useful in tasks where preserving complex structures and additional metadata is of utmost importance, although these formats require significantly more resources. Thus, the choice of a tabular data representation format should take into account the specific system requirements and operational environment characteristics, ranging from hardware limitations and token-based pricing to the required query processing time.