This work describes the development of a Mixed Reality application for visualizing and controlling a 6-axis industrial manipulator robot using an advanced mixed reality headset (Meta Quest 3). The system integrates MATLAB (version R2025b), which handles application logic and kinematics, with Unity (version 6000.0.40f1), which manages rendering and headset interaction. Built upon a pre-existing project, the system implements a complete Mixed Reality pick-and-place cycle featuring trajectory visualization, collision detection based on Swept Sphere Volume versus box analysis (the latter being geometrically less complex), real-time visual feedback via obstacle color-coding, manual control in "pendant mode," and integration with the Omron ACE system (version 3.7.3.250) to simultaneously replicate movements on the actual robot. The TCP/IP protocol was extended with dedicated commands and made robust by resolving synchronization issues encountered during real-world system development, enabling continuous operation without the need for restarts between successive runs. Development followed an iterative approach, verifying each function directly on the complete physical system before proceeding to the next stage. The result is an extensible platform that serves as a solid foundation for supervising and programming robotic cells in real industrial environments.

Il presente lavoro descrive lo sviluppo di un’applicazione di Mixed Reality per la visualizzazione e il controllo di un robot manipolatore industriale a 6 assi attraverso un visore di realtà mista avanzata, modello Meta Quest 3. Il sistema integra MATLAB (versione R2025b), che gestisce la logica applicativa e la cinematica, con Unity (versione 6000.0.40f1), responsabile del rendering e dell’interazione con il visore. Il sistema, sviluppato a partire da un progetto preesistente, implementa un ciclo completo di pick and place in Mixed Reality con visualizzazione della traiettoria, collision detection basata sull’analisi tra Swept Sphere Volume e box (quest’ultime geometricamente meno complesse), feedback visivo in tempo reale tramite colorazione degli ostacoli, controllo manuale in pendant mode e integrazione con il sistema Omron ACE (versione 3.7.3.250) per la replica simultanea dei movimenti sul robot reale. Il protocollo TCP/IP è stato esteso con nuovi comandi dedicati e reso robusto anche attraverso la risoluzione di problematiche di sincronizzazione emerse durante lo sviluppo su sistema reale, rendendo il sistema utilizzabile in modo continuativo senza necessità di riavvio tra esecuzioni successive. Lo sviluppo ha seguito un approccio iterativo, verificando ogni funzionalità direttamente sul sistema fisico completo prima di procedere con lo step successivo. Il risultato è una piattaforma estendibile che costituisce una base concreta per applicazioni di supervisione e programmazione di celle robotizzate in contesti industriali reali.

Sistema di Mixed Reality per la teleoperazione di robot industriali

GASPARELLA, GHERARDO
2025/2026

Abstract

This work describes the development of a Mixed Reality application for visualizing and controlling a 6-axis industrial manipulator robot using an advanced mixed reality headset (Meta Quest 3). The system integrates MATLAB (version R2025b), which handles application logic and kinematics, with Unity (version 6000.0.40f1), which manages rendering and headset interaction. Built upon a pre-existing project, the system implements a complete Mixed Reality pick-and-place cycle featuring trajectory visualization, collision detection based on Swept Sphere Volume versus box analysis (the latter being geometrically less complex), real-time visual feedback via obstacle color-coding, manual control in "pendant mode," and integration with the Omron ACE system (version 3.7.3.250) to simultaneously replicate movements on the actual robot. The TCP/IP protocol was extended with dedicated commands and made robust by resolving synchronization issues encountered during real-world system development, enabling continuous operation without the need for restarts between successive runs. Development followed an iterative approach, verifying each function directly on the complete physical system before proceeding to the next stage. The result is an extensible platform that serves as a solid foundation for supervising and programming robotic cells in real industrial environments.
2025
Mixed Reality System for the teleoperation of industrial robots
Il presente lavoro descrive lo sviluppo di un’applicazione di Mixed Reality per la visualizzazione e il controllo di un robot manipolatore industriale a 6 assi attraverso un visore di realtà mista avanzata, modello Meta Quest 3. Il sistema integra MATLAB (versione R2025b), che gestisce la logica applicativa e la cinematica, con Unity (versione 6000.0.40f1), responsabile del rendering e dell’interazione con il visore. Il sistema, sviluppato a partire da un progetto preesistente, implementa un ciclo completo di pick and place in Mixed Reality con visualizzazione della traiettoria, collision detection basata sull’analisi tra Swept Sphere Volume e box (quest’ultime geometricamente meno complesse), feedback visivo in tempo reale tramite colorazione degli ostacoli, controllo manuale in pendant mode e integrazione con il sistema Omron ACE (versione 3.7.3.250) per la replica simultanea dei movimenti sul robot reale. Il protocollo TCP/IP è stato esteso con nuovi comandi dedicati e reso robusto anche attraverso la risoluzione di problematiche di sincronizzazione emerse durante lo sviluppo su sistema reale, rendendo il sistema utilizzabile in modo continuativo senza necessità di riavvio tra esecuzioni successive. Lo sviluppo ha seguito un approccio iterativo, verificando ogni funzionalità direttamente sul sistema fisico completo prima di procedere con lo step successivo. Il risultato è una piattaforma estendibile che costituisce una base concreta per applicazioni di supervisione e programmazione di celle robotizzate in contesti industriali reali.
Robot
Collisioni
Traiettoria
Teleoperazione
Mixed Reality
File in questo prodotto:
File Dimensione Formato  
Gasparella_Gherardo.pdf

accesso aperto

Dimensione 18.08 MB
Formato Adobe PDF
18.08 MB Adobe PDF Visualizza/Apri

The text of this website © Università degli studi di Padova. Full Text are published under a non-exclusive license. Metadata are under a CC0 License

Utilizza questo identificativo per citare o creare un link a questo documento: https://hdl.handle.net/20.500.12608/118682