Author: Elmar Rueckert

image_pdfimage_print

BSc. Thesis, Weiyi Lin – Image augmentation and its impacts on reinforcement learning models

Elmar Rueckert notes_vedant, teaching_currentthesestopics

Supervisor: Vedant Dave, M.Sc.
Univ.-Prof. Dr Elmar Rückert
Start date:  3rd April 2025

 

Theoretical difficulty: mid
Practical difficulty: low

Abstract

Due to the tendency of reinforcement learning models to overfit to training data, data augmentation has become a widely adopted technique for visual reinforcement learning tasks for its capability of enhancing the performance and generalization of agents by increasing the diversity of training data. Often, different tasks benefit from different types of augmentations, and selecting them requires prior knowledge of the environment. This thesis aims to explore how various augmentation strategies can impact the performance and generalization of agents in visual environments, including visual augmentations and context-aware augmentations.

Tentative Work Plan

  • Literature research.
  • Understanding of concepts of visual RL models (SVEA).
  • Implementing and testing different augmentations.
  • Observation and documentation of results.
  • Thesis writing.

Related Work

[1] N. Hansen and X. Wang, “Generalization in Reinforcement Learning by Soft Data Augmentation,” 2021 IEEE International Conference on Robotics and Automation (ICRA), Xi’an, China, 2021, pp. 13611-13617, doi: 10.1109/ICRA48506.2021.9561103

[2] Hansen, Nicklas, Hao Su, and Xiaolong Wang. “Stabilizing deep q-learning with convnets and vision transformers under data augmentation.” Advances in neural information processing systems 34 (2021): 3680-3693.

[3] Almuzairee, Abdulaziz, Nicklas Hansen, and Henrik I. Christensen. “A Recipe for Unbounded Data Augmentation in Visual Reinforcement Learning.” Reinforcement Learning Conference.

M.Sc Thesis: Fritze Clemens – A Dexterous Multi-Finger Robotic Manipulator Framework for Intuitive Teleoperation and Contact-Rich Imitation Learning

Elmar Rueckert teaching_pastthesestopics

Supervisor: M.Eng Fotios Lygerakis, Univ.-Prof. Dr. Elmar Rückert

Theoretical difficulty: mid
Practical difficulty: hard

 

Abstract

Robotic manipulation in dynamic environments requires systems that can adapt
to uncertainties and learn from limited human input. This thesis presents a dexterous
multi-finger robotic framework that integrates intuitive teleoperation with
self-supervised visuotactile representation learning to enable contact-rich imitation
learning. Central to the system is a Franka Emika Panda robotic arm paired with a
multi-fingered LEAP Hand equipped with high-resolution GelSight Mini tactile sensors.
A Meta Quest 3 teleoperation interface captures natural human demonstrations while
collecting multimodal data, including visual, tactile, and joint-state inputs, to train
the self-supervised encoders.

The study evaluates two representation learning methods, BYOL and MViTac, under
low-data conditions. Extensive experiments on complex manipulation tasks — such as
pick-and-place, battery insertion, and book opening—demonstrate that BYOL-trained
encoders consistently outperform both MViTac and a ResNet18 baseline, achieving
a 60% success rate on the challenging spiked cylinder task. Key findings highlight
the critical role of tactile feedback quality, with GelSight sensors delivering robust
tactile impressions compared to lower-resolution alternatives. Furthermore, parameter
studies reveal how system settings (e.g., reject buffers, movement thresholds) and
demonstration selection critically influence task performance.

Despite challenges in scenarios requiring precise visual-tactile coordination, the
results validate the potential of self-supervised learning to reduce human annotation
effort and facilitate a smooth transition from teleoperated control to autonomous
execution. This work provides valuable insights into the integration of hardware and
software components, as well as control strategies, demonstrating BYOL’s potential as
a promising approach for tactile representation learning in advancing autonomous
robotic manipulation.

Milestones

Teleoperation test of the LEAP Hand:

Visual encoder test:

First version of the FrankaArm-control test:

Dataset collection / teleoperation of the whole setup:

Fully autonomous task execution:

1 PhD Position – Manipulation & Perception in Recycling

Elmar Rueckert job

The Chair of Cyber-Physical Systems at Montanuniversität Leoben is offering a fully funded PhD position (100% employment) starting as soon as possible.

• Employment Type: Full-time doctoral student (40 hours/week)

• Salary: €3,714.80/month (14 times per year), Salary Group B1 according to Uni-KV

• Duration: The position includes the opportunity to complete a PhD

About the Position

We are at the forefront of developing cutting-edge machine learning algorithms for detecting, tracking, and classifying material flows using various advanced sensing technologies, including:

• RGB cameras
• 3D imaging
• LiDAR
• Hyperspectral cameras
• RAMAN devices
• Tactile sensors

The resulting model predictions are used for automated data labeling, real-time process monitoring, and autonomous object manipulation.

This PhD research will focus on multiple aspects of these topics, with a special emphasis on multimodal sensing and robotic grasping. The goal is to enhance robotic perception and interaction by integrating machine learning with tactile sensing technologies.

What we offer

•A dynamic and collaborative research environment in artificial intelligence and robotics

•The opportunity to develop your own research ideas and work on cutting-edge projects

• Access to state-of-the-art lab facilities

•International research collaborations and conference travel opportunities

•Targeted career guidance for a successful academic and research career

Plus a great lab space shown in this image.

 

Requirements

• Master’s degree in Computer Science, Physics, Telematics, Statistics, Mathematics, Electrical Engineering, Mechanics, Robotics, or a related field

• Strong motivation for scientific research and publications

• Ability to work independently and collaboratively in an interdisciplinary team

• Interest in writing a PhD dissertation

Desired additional qualifications

• Programming experience in C, C++, C#, Java, MATLAB, Python, or a similar language

• Familiarity with AI libraries and frameworks (e.g., TensorFlow, PyTorch)

• Strong English communication skills (written and spoken)

• Willingness to travel for research collaborations and technical presentations

Application & Materials

A complete application includes:

1. Curriculum Vitae (CV) (detailed)

2. Letter of Motivation

3. Master’s Thesis (PDF or link)

4. Academic Certificates (Bachelor’s and Master’s degrees)

Optional but beneficial:

5. Letter(s) of Recommendation

6. Contact Information for References (name, email, phone)

7. Previous Publications (PDFs or links)

Application deadline: Open until the position is filled.

Online Application via Email: Please send your application files to rueckert@unileoben.ac.at

The Montanuniversität Leoben intends to increase the number of women on its faculty and therefore specifically invites applications by women. Among equally qualified applicants women will receive preferential consideration.

Bundesministerium für Landesverteidigung

Elmar Rueckert projects_industrial

Forschungsprojekt Nr. 991 "#command21 - Joint Environmental Denied Interface (JEDI)"

Das Projekt ist im Januar 2025 gestartet und befasst sich mit der Erforschung von KI-Modellen zur Gestenerkennung und Steuerung von autonomen Systemen. 

Für die Mensch-Maschine-Interaktion kommen multiple Systeme, wie zum Beispiel VR/AR-Brillen, zum Einsatz.  

Laufende Projekte, Bachelor- und Masterarbeiten

  • Offene Bachelor- und Masterarbeiten zur “Sensorfusion für multimodale Gestenerkennung”
  • Offene Bachelor- und Masterarbeiten zur “Prozess- und Workflow-Modellierung für die Interaktion mit autonomen Systemen”

Business Trip – Insurance

Elmar Rueckert wiki_phds

Update (as of 5 Feb 2025)

The university has an insurance for all employees for business trips. Thus, whenever you officially applied for a business trip (via MUOnline) and after the trip is granted, you are insured. The insurance includes many aspects, including medical treatment, retrieval, lost bags, etc. 
 
Note: Thus, even for trips to the USA, you do not need a private insurance. 
 

Multi-modale, taktile-visuelle Robotergreifsystem für industrielle Anwendungen (MUTAVIA)

Elmar Rueckert projects_thirdparty

Schlüsseltechnologien im produktionsnahen Umfeld 2024

FFG Projekt 03/2025-02/2028

Unsere Forschung entwickelt intelligente Roboterhände, die fühlen können – ähnlich wie menschliche Hände. Mit innovativen Sensoren auf Basis von nachhaltigen Materialien wie Cellulose und Nanocellulose schaffen wir Lösungen, die nicht nur Druck und Temperatur spüren, sondern auch Schadstoffe und biologische Gefahren erkennen können.

Diese Technologie wird speziell für schwierige Aufgaben in der Industrie entwickelt, z. B. beim Sortieren von Abfällen oder empfindlichen Materialien, die bisher nur Menschen bewältigen konnten. Durch den Einsatz von Robotern in gefährlichen oder anstrengenden Arbeitsumfeldern schützen wir Menschen und verbessern die Arbeitsbedingungen.

Mit unseren nachhaltigen, langlebigen und präzisen Sensoren setzen wir neue Maßstäbe in der Automatisierung. Das stärkt nicht nur die heimische Wirtschaft, sondern bringt auch Innovation und Sicherheit für die Gesellschaft.

Projekt Consortium

  • Montanuniversität Leoben
    • Forschungs- und Innovationsservice Montanuniversität (Administrativer Koordinator)
    • Lehrstuhl für Automation und Messtechnik
    • Lehrstuhl für Cyber-Physical-Systems
  • FreyZein GmbH
  • Saubermacher Dienstleistungs AG

Fördergeber

  • Österreichische Forschungsförderungsgesellschaft mbH (FFG)

Project Summary

Our research is developing intelligent robotic hands that can feel – just like human hands. Using innovative sensors based on sustainable materials such as cellulose and nanocellulose, we are creating solutions that not only sense pressure and temperature, but can also detect pollutants and biological hazards.

This technology is being developed specifically for difficult tasks in industry, such as sorting waste or sensitive materials that previously only humans could handle. By using robots in hazardous or strenuous working environments, we protect people and improve working conditions.

With our sustainable, durable and precise sensors, we are setting new standards in automation. This not only strengthens the domestic economy, but also brings innovation and safety to society.

Poster

TBA

Other

TBA

Mag. Eva Anderson (Secretary)

Elmar Rueckert people_secretariat

Secretary

Short bio: Ms. Eva Anderson joined the CPS team in February 2025 and is in charge of organizational and administrative matters. She earned her degree in commerce at the Vienna university of economics and business.

Research Interests

  • Cyber-Physical-Systems 
  • Modern Technologies 
  • Learning Machines and Robotics

Contact

Mag. Eva Anderson
Sekretariat des Lehrstuhls für Cyber-Physical-Systems
Montanuniversität Leoben
Franz-Josef-Straße 18, 
8700 Leoben, Austria 

Phone:  +43 3842 402 – 1907
Email:   eva.anderson@unileoben.ac.at 
Web:  https://cps.unileoben.ac.at

1 Stelle im Sekretariat (m/w/d) – 12.Dezember 2024, RefID: 2411APC

Elmar Rueckert pastjob

Die Montanuniversität Leoben ist eine moderne Lehr- und Forschungsstätte und bietet sehr gute
Voraussetzungen für Karrieren in wissenschaftlichen und nichtwissenschaftlichen Berufsfeldern.
Am Department Product Engineering – Lehrstuhl für Cyber-Physical-Systems gelangt die Stelle im
Sekretariat (m/w/d) zur Besetzung.

Für diese Position ist gemäß dem Kollektivvertrag für Arbeitnehmer*innen (m/w/d) der Universitäten die
Verwendungsgruppe IIb (€ 2.460,10 brutto, 14x jährlich) vorgesehen, tatsächliche Einstufung erfolgt
lt. anrechenbarer tätigkeitsspezifischer Vorerfahrung.

Vorgesehener Dienstantritt: ehest möglich
Beschäftigungsdauer: unbefristet
Beschäftigungsausmaß in Wochenstunden: 20 h (mit der Option auf Erhöhung des Beschäftigungsausmaßes ab Jänner 2026)

Aufgabenbereich

  • Unterstützung der Lehrstuhlleitung bei der Verwaltung von Terminen und Korrespondenz in
    deutscher und englischer Sprache
  • Allgemeine Verwaltungstätigkeiten
  • Büroorganisation, Korrespondenz, Parteienverkehr
  • Mitarbeit bei Projektkoordination
  • Bestellung und Zahlungsabwicklung über SAP
  • Organisation der Lehre
  • Betreuung der Studierenden und Vortragenden
  • Parteienverkehr

Anstellungsvoraussetzungen

  • Abgeschlossene kaufmännische Ausbildung (Handelsschule oder ähnlich) mit mehrjähriger,
    einschlägiger Berufserfahrung
  • Kaufmännische, fachliche und organisatorische Kenntnisse
  • Sehr gute EDV-Kenntnisse (MS Office)
  • Sehr gute Deutsch und Englisch Kenntnisse (Wort und Schrift)
  • Männliche Bewerber nur nach abgeschlossenem Präsenz-/Zivildienst

Erwünschte Zusatzqualifikationen:

  • Selbständiges und genaues Arbeiten sowie Einsatzfreude und Bereitschaft zur Übernahme von
    Eigenverantwortung
  • Tragfähigkeit
  • Organisationsgeschick
  • Koordinationsfähigkeit und Flexibilität
  • Hands-on Mentalität
  • Gepflegtes und sicheres Auftreten

Wir bieten zahlreiche Benefits, unter anderem:

  • Gute öffentliche Erreichbarkeit mit Zug und Bus
  • Flexible Arbeitszeit
  • Arbeitsmedizinische Leistungen
  • Gesundheitstag/Gesundheitsförderung
  • Universitätssportprogramm
  • Einkaufsvergünstigungen
  • Sprachförderung

Bewerbung und Unterlagen

Referenznummer: 2411APC
Ende der Bewerbungsfrist: 12.12.2024

Personen mit Behinderung oder chronischen Erkrankungen, die, die geforderten Qualifikationskriterien
erfüllen, werden ausdrücklich zur Bewerbung aufgefordert.

Um eine geschlechtsneutrale Formulierung zu gewährleisten, werden geschlechterspezifische Artikel,
Pronomen und Adjektive im Text abgekürzt dargestellt.

Leider können die Reise- und Aufenthaltskosten, die aus Anlass des Aufnahmeverfahrens entstehen,
nicht vergütet werden. Die Aufnahmen erfolgen nach den Bestimmungen des Universitätsgesetzes
2002 (UG) und des Angestelltengesetzes.

Die Montanuniversität Leoben strebt eine Erhöhung des Frauenanteiles an und fordert deshalb
qualifizierte Frauen ausdrücklich zur Bewerbung auf. Frauen werden bei gleicher Qualifikation wie der
bestgeeignete Mitbewerber vorrangig aufgenommen.

Für Ihre Bewerbung verwenden Sie bitte unser Online Bewerbungsformular auf der Homepage:
https://www.unileoben.ac.at/jobs

Dr. Christian Rauch

Elmar Rueckert people_groupleader

Short Bio

Dr. Christian Rauch is a Research Scientist at Bosch Corporate Research in the Robot Learning group. He received his Ph.D. degree in 2020 in Robotics and Autonomous Systems at the University of Edinburgh. He has over 10 years of experience in applying machine learning techniques to robotic perception and manipulation tasks in unstructured environments. In his current research, he focuses on the application of Foundation Models to robotic manipulation tasks in industrial and domestic contexts.

Research Interests​

Machine learning, Robot Learning, Robot Vision, Perception and Manipulation.

Contact

Dr. Christian Rauch
Research Group Leader at the Chair of Cyber-Physical-Systems
Montanuniversität Leoben
Franz-Josef-Straße 18, 
8700 Leoben, Austria 

Phone:  +43 3842 402 – 1908
Email: Christian.Rauch@unileoben.ac.at
Chat: https://unileoben.webex.com/meet/christian.rauch

Selected Publications