Інтелектуальна інформаційна система генерування аудіо ефектів для медіа продуктів - Баб'як, Юрій Олегович; Babiak, Yurii Olehovych (Національний університет "Львівська політехніка", 2024)
Актуальність даної роботи зумовлена потребою в розробці ефективних засобів для генерації аудіоефектів без необхідності залучення спеціального обладнання звукозапису та навичок. Сучасні звукові технології, зокрема дифузійне моделювання, відкривають нові перспективи для створення складних, реалістичних звукових ефектів, які можуть бути інтегровані у різноманітні медіаформати. Проте більшість наявних рішень не забезпечують достатнього рівня адаптації звуків до індивідуальних потреб користувача, що знижує їхню ефективність у формуванні емоційного впливу чи враження від сприйняття контенту. Це питання стає особливо актуальним у сфері розваг, реклами та подібного медіа, де якісні звукові ефекти здатні суттєво впливати на сприйняття товарів або послуг. До того ж, сучасні інструменти для створення аудіоефектів часто ігнорують особливості вимог звучання для відповідної аудиторії слухачів. Для досягнення високої якості аудіоефектів важливо створити систему, що дозволяє моделювати звуки, які змінюються залежно від специфічних вимог користувача, які подаються на вхід системі. Об’єктом дослідження виступає процес створення аудіоефектів для медіапродукції з використанням сучасних дифузійних моделей. Предметом дослідження є методи й алгоритми генерації аудіоефектів на основі дифузійних моделей, орієнтовані на їх інтеграцію у медіаформати. Метою і задачею дослідження є створення інтелектуальної інформаційної системи для генерації аудіоефектів для медіапродуктів, що ґрунтується на моделях дифузії. Така система повинна забезпечувати високий ступінь реалістичності та адаптивності звукових ефектів до змінних умов функціонування медіаконтенту. Для реалізації поставленої мети необхідно вирішити такі завдання: Провести аналіз наявних методів генерації аудіоефектів у сфері медіа. Дослідити потенціал використання дифузійних моделей для створення звукових ефектів. Розробити алгоритми генерації аудіоефектів із врахуванням контексту застосування. Реалізувати систему генерації звуків, яка дозволяє змінювати ефекти відповідно до характеристик медіапродукту та очікувань аудиторії. Провести оцінювання ефективності створеної системи шляхом тестування якості згенерованого аудіоконтенту. Наукова новизна дослідження полягає у створенні нової системи генерації аудіоефектів, що ґрунтується на попередньо проаналізованих і відібраних ефективних дифузійних моделях звукової генерації. Це дозволяє формувати складні та реалістичні аудіоефекти, придатні для інтеграції в різноманітні медіапродукти. Запропонована система оптимізує процес створення аудіоефектів завдяки персоналізації та можливості врахування індивідуальних вимог до кожного медіапроєкту. Практичне значення отриманих результатів полягає у створенні системи у вигляді застосунку, що дозволяє користувачам вводити текстовий промпт через інтерфейс. Після введення даних, система обробляє їх за допомогою попередньо навченої моделі дифузії, яка аналізує вхідні параметри та видає генероване аудіо з можливістю взаємодії та збереження. Опис реалізації завдання Для реалізації проєкту було обрано найвідоміші дифузійні моделі генерування та із застосуванням відібраного набору аудіоданих та метрик оцінювання моделей - досліджено та визначено найкращу з них для застосування генерації у спроєктованій системі. Було застосовано кілька методів оцінювання моделей, зокрема KL дивергенція, CLAP подібність [1], косинусна подібність, відстань Фреше для аудіо [2]. У результаті найкращий показник якості та продуктивності за переважною більшістю метрик продемонструвала Stable Audio Open [3]. Було створено інтуїтивно зрозумілий інтерфейс для введення вхідних параметрів генерації та взаємодії з отриманими результатами. Користувачі можуть вводити дані через інтерфейс адаптований до різних платформ, після чого система обробляє їх за допомогою моделі оптимізованої квантуванням float16 та видає готове аудіо.

Relevance of this work is dependent by the need to develop effective tools for generating audio effects without the need for special recording equipment and skills. Modern sound technologies, in particular diffusion modeling, open up new prospects for creating complex, realistic sound effects that can be integrated into various media formats. However, most existing solutions do not provide a sufficient level of adaptation of sounds to the individual needs of the user, which reduces their effectiveness in shaping the emotional impact or impression of content perception. This issue becomes especially relevant in entertainment, advertising, and similar media, where high-quality sound effects can significantly affect the perception of goods or services. In addition, modern tools for creating audio effects often ignore the specifics of sound requirements for the respective audience. To achieve high quality audio effects, it is important to create a system that allows you to model sounds that change depending on the specific user requirements that are directed to the system. The object of research is the process of creating audio effects for media products using modern diffusion models. The subject of research is methods and algorithms for generating audio effects based on diffusion models, focused on their integration into media formats. The goal and task of research is to create an intelligent information system for generating audio effects for media products based on diffusion models. Such a system should provide a high degree of realism and adaptability of sound effects to the changing conditions of media content. To achieve this goal, we need to solve the following tasks: To analyze the existing methods of generating audio effects in the media. Investigate the potential of using diffusion models to create sound effects. To develop algorithms for generating audio effects taking into account the context of application. Implement a sound generation system that allows changing effects according to the characteristics of the media product and audience expectations. Evaluate the effectiveness of the created system by testing the quality of the generated audio content. The scientific novelty of research is the creation of a new system for generating audio effects based on pre-analyzed and selected effective diffusion models of sound generation. This makes it possible to generate complex and realistic audio effects suitable for integration into various media products. The proposed system optimizes the process of creating audio effects due to personalization and the ability to take into account individual requirements for each media project. The practical significance of the results is to build the system as an application that allows users to enter text input through the interface. Once the data is entered, the system processes it using a pre-trained diffusion model that analyzes the input parameters and produces interactable and saveable generated audio. Description of task implementation For the project, the most well-known diffusion generation models were selected and, using a selected set of audio data and model evaluation metrics, the best one was determined for the application of generation in the designed system. Several model evaluation methods were applied, including KL divergence, CLAP similarity [1], cosine similarity, and audio Frechette distance [2]. As a result, Stable Audio Open [3] demonstrated the best quality and performance by the vast majority of metrics. An intuitive interface was created for entering the input parameters of the generation and interacting with the results. Users can enter data through an interface adapted to different platforms, then the system processes it using a quantization-optimized float16 model and produces ready-made audio.
Intelligent Information System for Generating Audio Effects for Media Products
Keywords: 3.124.00.00; - дифузійні моделі; генерація звуку; зворотна дифузія; генерація тексту в аудіо; оцінка генеративного ШІ; - diffusion models; audio generation; reverse diffusion; text-to-audio generation; generative AI evaluation