Розроблення системи управління робота-маніпулятора з комп'ютерним зором - Івасько, Олег Ігорович; Ivasko, Oleh Ihorovych (Національний університет "Львівська політехніка", 2024)
У роботі представлено процес створення керованої системи для настільного робота-маніпулятора, що здатен самостійно виявляти об’єкти та виконувати дії з ними. Основна увага приділяється поєднанню віртуального середовища керування з реальним механічним пристроєм, що забезпечує взаємодію між програмною логікою, системою розпізнавання зображень та фізичним виконанням команд. Сконструйовано маніпулятор з 4-ма ступенями свободи, розроблено програмну частину для його керування та реалізовано обробку відеозображення з камери. Визначення положення об’єкта в просторі та розрахунок рухів виконуються автоматично, після чого команди передаються на виконавчі механізми. Завдяки модульній структурі система легко розширюється та адаптується до нових завдань. Проєкт спрямований на практичну демонстрацію можливості створення доступної та функціональної навчальної або експериментальної платформи у сфері робототехніки з використанням комп’ютерного аналізу зображень. Об’єктом дослідження є процес керування роботизованими маніпуляторами з використанням засобів автоматизації та комп’ютерного зору. Предметом дослідження є методи побудови апаратно-програмної системи, що забезпечує автоматичне розпізнавання об’єктів у просторі та керування рухами маніпулятора на основі отриманих даних. Метою даної роботи є створення системи керування настільним роботом маніпулятором, яка здатна самостійно виявляти та класифікувати об’єкти у полі зору, визначати їх положення та здійснювати точні маніпуляції відповідно до розрахованої траєкторії. Новизна дослідження полягає у створенні гнучкої, модульної системи, яка об’єднує різнорідні компоненти — механічний маніпулятор, засоби комп’ютерного зору, візуальне середовище моделювання та інтерфейси обміну даними — в єдину функціональну структуру, яку можна модифіковувати, розширювати, та використовувати для виконання різних задач. Практичне значення одержаних результатів полягає в тому, що розроблена система є доступною для повторення, масштабування та використання в навчальних цілях, лабораторних роботах і дослідницьких проєктах у сфері робототехніки та автоматизованих систем управління.

This work presents the development process of a controllable system for a desktop robotic manipulator capable of autonomously detecting and interacting with objects. The focus is placed on combining a virtual control environment with a physical mechanical device, enabling interaction between software logic, image recognition, and the physical execution of commands. A manipulator with four degrees of freedom was constructed, the software component for its control was developed, and real-time image processing from a camera was implemented. The system automatically detects object positions in space and calculates the required movements, which are then transmitted to the actuators. Due to its modular structure, the system can be easily expanded and adapted to new tasks. The project demonstrates the practical feasibility of creating an accessible and functional platform for educational or experimental purposes in the field of robotics using computer image analysis. The object of the study is the process of controlling robotic manipulators using automation tools and computer vision. The subject of the study is the methods for building a hardware-software system that performs automatic object recognition in space and controls the manipulator's movements based on the obtained data. The purpose of the work is to develop a control system for a desktop robotic manipulator capable of autonomously detecting and classifying objects within its field of view, determining their position, and performing precise manipulations according to the calculated trajectory. The novelty of the study lies in the creation of a flexible, modular system that integrates heterogeneous components — a mechanical manipulator, computer vision tools, a virtual simulation environment, and data exchange interfaces — into a single functional structure, which can be modified, extended, and applied to various tasks. The practical significance of the obtained results is that the developed system is reproducible, scalable, and suitable for use in educational applications, laboratory work, and research projects in the field of robotics and automated control systems.
Development of a robot manipulator control system with computer vision
Keywords: 6.122.00.00; робот-маніпулятор; комп’ютерний зір; керування рухом; інверсна кінематика; розпізнавання об’єктів; інтегрована система; апаратно програмний комплекс; модульна архітектура; автоматизація; Unity. Перелік використаних джерел: 1. Craig; J. J. Introduction to robotics: Mechanics and control. – 4th ed. – Pearson; 2017. – 448 p. 2. Bishop; C. M. Pattern Recognition and Machine Learning [Електронний ресурс]. – Springer; 2006. – 738 p. – Режим доступу: https://www.microsoft.com/en-us/research/wp content/uploads/2006/01/Bishop-Pattern-Recognition-and-Machine-Learning 2006.pdf; вільний. – Загал. з екрана. (04.06.2025). 3. Edge Impulse. Edge Impulse Documentation [Електронний ресурс]. – Режим доступу: https://docs.edgeimpulse.com/; вільний. – Загал. з екрана. (04.06.2025); robotic arm; computer vision; motion control; inverse kinematics; object detection; integrated system; hardware-software complex; modular architecture; automation; Unity. List of used sources: 1. Craig; J. J. Introduction to robotics: Mechanics and control. – 4th ed. – Pearson; 2017. – 448 p. 2. Bishop; C. M. Pattern Recognition and Machine Learning [Electronic Resource]. – Springer; 2006. – 738 p. – Access Mode: https://www.microsoft.com/en us/research/wp-content/uploads/2006/01/Bishop-Pattern-Recognition-and Machine-Learning-2006.pdf; free. – Viewed on screen. (04.06.2025). 3. Edge Impulse. Edge Impulse Documentation [Electronic Resource]. – Access Mode: https://docs.edgeimpulse.com/; free. – Viewed on screen. (04.06.2025)