Vision-based approaches for surgical activity recognition using laparoscopic and RBGD videos / Andru Putra Twinanda ; sous la direction de Michel De Mathelin

Date :

Type : Livre / Book

Type : Thèse / Thesis

Langue / Language : anglais / English

Coelioscopie

Imagerie interventionnelle

Traitement d'images -- Techniques numériques

Vision par ordinateur en médecine

Laparoscopie -- Dissertation universitaire

Classification Dewey : 006.4

Classification Dewey : 617.9

Mathelin, Michel de (1963-...) (Directeur de thèse / thesis advisor)

Troccaz, Jocelyne (1959-.... ; auteur ene robotique médicale) (Président du jury de soutenance / praeses)

Hager, Gregory D. (1961-) (Rapporteur de la thèse / thesis reporter)

Quellec, Gwenolé (1982-....) (Rapporteur de la thèse / thesis reporter)

Padoy, Nicolas (1981-....) (Membre du jury / opponent)

Université de Strasbourg (2009-....) (Organisme de soutenance / degree-grantor)

École doctorale Mathématiques, sciences de l'information et de l'ingénieur (Strasbourg ; 1997-....) (Ecole doctorale associée à la thèse / doctoral school)

Laboratoire des sciences de l'ingénieur, de l'informatique et de l'imagerie (Strasbourg ; 2013-....) (Laboratoire associé à la thèse / thesis associated laboratory)

Résumé / Abstract : Cette thèse a pour objectif la conception de méthodes pour la reconnaissance automatique des activités chirurgicales. Cette reconnaissance est un élément clé pour le développement de systèmes réactifs au contexte clinique et pour des applications comme l’assistance automatique lors de chirurgies complexes. Nous abordons ce problème en utilisant des méthodes de Vision puisque l’utilisation de caméras permet de percevoir l’environnement sans perturber la chirurgie. Deux types de vidéos sont utilisées : des vidéos laparoscopiques et des vidéos multi-vues RGBD. Nous avons d’abord étudié les résultats obtenus avec les méthodes de l’état de l’art, puis nous avons proposé des nouvelles approches basées sur le « Deep learning ». Nous avons aussi généré de larges jeux de données constitués d’enregistrements de chirurgies. Les résultats montrent que nos méthodes permettent d’obtenir des meilleures performances pour la reconnaissance automatique d’activités chirurgicales que l’état de l’art.

Résumé / Abstract : The main objective of this thesis is to address the problem of activity recognition in the operating room (OR). Activity recognition is an essential component in the development of context-aware systems, which will allow various applications, such as automated assistance during difficult procedures. Here, we focus on vision-based approaches since cameras are a common source of information to observe the OR without disrupting the surgical workflow. Specifically, we propose to use two complementary video types: laparoscopic and OR-scene RGBD videos. We investigate how state-of-the-art computer vision approaches perform on these videos and propose novel approaches, consisting of deep learning approaches, to carry out the tasks. To evaluate our proposed approaches, we generate large datasets of recordings of real surgeries. The results demonstrate that the proposed approaches outperform the state-of-the-art methods in performing surgical activity recognition on these new datasets.