Analysis of modern domain generalization methods in autonomous driving using data augmentation and contrastive learning

Abstract

Η ανάπτυξη νέων μοντέλων βαθιάς μάθησης έχει οδηγήσει σε σημαντική πρόοδο τον τομέα της Όρασης Υπολογιστών. Η χρήση Συνελικτικών Νευρωνικών Δικτύων σε εργασίες κατάτμησης εικόνων προσέφερε μοντέλα με πρωτοφανείς ικανότητες. Παρά την επιτυχία τους, τα μοντέλα αυτά αντιμετωπίζουν δυσκολία στη γενίκευση σε νέα δεδομένα. Κατά την εκπαίδευση, θεωρείται ότι τα δεδομένα εκπαίδευσης και ελέγχου ακολουθούν την ίδια κατανομή, κάτι που σπάνια ισχύει για πραγματικά δεδομένα. Ο τομέας της Γενίκευσης Πεδίου έχει διαμορφωθεί ως ένας νέος ερευνητικός τομέας με στόχο να βελτιωθούν οι ικανότητες γενίκευσης των μοντέλων βαθιάς μάθησης. Με την αξιοποίηση τεχνικών Γενίκευσης Πεδίου έχει επιτευχθεί η βελτίωση της απόδοσης κλασικών μοντέλων σε νέα δεδομένα, μειώνοντας την ανάγκη επανεκπαίδευσής τους. Οι τεχνικές αυτές έχουν εφαρμοστεί σε εργασίες κατάτμησης εικόνων με σημαντική επιτυχία. Η ικανότητα γενίκευσης έχει ιδιαίτερη σημασία σε περιπτώσεις που η επιβλεπόμενη μάθηση συναντά δυσκολίες, λόγω έλλειψης αξιόλογων συνόλων δεδομένων ή μεγάλων διαφορών μεταξύ των εξεταζόμενων δεδομένων, και οι περισσότερες ερευνητικές προτάσεις προσανατολίζονται στην επίλυση των προβλημάτων αυτών. Στην εργασία αυτή εξετάζουμε την ικανότητα γενίκευσης του CCSDG μοντέλου σε διαφορετικές συνθήκες, αξιοποιώντας μία FCN αρχιτεκτονική ως το βασικό μοντέλο. Επιλέχθηκε ως σύνολο δεδομένων το SYNTHIA, μία συλλογή συνθετικών εικόνων από αστικά περιβάλλοντα. Το μοντέλο εκπαιδεύτηκε και ελέγχθηκε στις περιβαλλοντολογικές και γεωγραφικές συνθήκες που παρέχονται από την έκδοση των ακολουθιών βίντεο του SYNTHIA. Το μοντέλο DiffuseMix χρησιμοποιήθηκε για να δημιουργήσει επαυξημένες εικόνες, με την εισαγωγή προτρεπτικών λέξεων. Παρατηρούμε ότι για κάποιους συνδυασμούς παραμέτρων και συνθηκών η μέθοδος γενίκευσης μπορεί να επιτύχει βελτίωση της απόδοσης. Ιδιαίτερα για το πεδίο ελέγχου που έχει την μεγαλύτερη σχέση με το πεδίο εκπαίδευσης, η μέθοδος φαίνεται να βελτιώνει την επίδοση του μοντέλου, για τις συνθήκες που διαφέρουν από την συνθήκη εκπαίδευσης. Παρόλα αυτά, δεν μπορεί να εξαχθεί κάποιο καθαρό συμπέρασμα για την καλύτερη αρχιτεκτονική, οπότε απαιτείται περαιτέρω διερεύνηση της συγκεκριμένης πρότασης.