Παρακαλώ χρησιμοποιήστε αυτό το αναγνωριστικό για να παραπέμψετε ή να δημιουργήσετε σύνδεσμο προς αυτό το τεκμήριο:
http://artemis.cslab.ece.ntua.gr:8080/jspui/handle/123456789/18202
Τίτλος: | Βελτιστοποίηση κατανεμημένης εκπαίδευσης νευρωνικών δικτύων μέσω υβριδικής αρχιτεκτονικής κατανεμημένης εκπαίδευσης σε περιβάλλον νέφους |
Συγγραφείς: | Χαλάς, Ιάσων Θεοχάρης Κοζύρης Νεκτάριος |
Λέξεις κλειδιά: | Βαθιά Μηχανική Μάθηση Κατανεμημένα Συστήματα Κατανεμημένη Εκπαίδευση Nευρωνικά Δίκτυα Παραλληλοποίηση Δεδομένων TensorFlow |
Ημερομηνία έκδοσης: | 23-Νοε-2021 |
Περίληψη: | Η βαθιά μηχανική μάθηση τα τελευταία χρόνια έχει αποτελέσει έναν πολύ σημαντικό παράγοντα στην δημιουργία μιας πληθώρας εφαρμογών με αποτέλεσμα να έχει συγκεντρώσει μεγάλο ερευνητικό ενδιαφέρον. Η αύξηση των δεδομένων καθώς και η δημιουργία μεγαλύτερων και πιο εκλεπτυσμένης αρχιτεκτονικής νευρωνικών δικτύων έχουν συντελέση στην αναγκαιότητα της εκπαίδευσης των δικτύων αυτών σε κατανεμημένο περιβάλλον. Υπάρχουν διάφορες προκλήσεις τόσο στην αρχιτεκτονική όσο και στον συγχρονισμό της κατανεμημένης εκπαίδευσης παραλληλοποίησης δεδομένων. Το TensorFlow της Google αποτελεί ένα σύστημα που προσφέρει την δυνατότητα κατανεμημένης εκπαίδευσης το οποίο χρησιμοποιήσαμε για να αξιολογήσουμε στρατηγικές κατανεμημένης εκπαίδευσης παραλληλισμού δεδομένων πάνω σε ένα cluster CPU. Στην εργασία αυτή αξιολογήθηκαν η all-reduce αρχιτεκτονική Multi Worker Mirrored Strategy και η Parameter Server Strategy και προτάθηκε μία υβριδική στρατηγική η Strategy Switch. Η Strategy Switch αποδείχθηκε η καλύτερη επιλογή στο trade-off ακρίβεια πρόβλεψης του μοντέλου και χρόνου εκπαίδευσης, προσεγγίζοντας την βέλτιστη απόδοση σε μικρό συγκριτικά χρόνο εκτέλεσης. |
URI: | http://artemis.cslab.ece.ntua.gr:8080/jspui/handle/123456789/18202 |
Εμφανίζεται στις συλλογές: | Διπλωματικές Εργασίες - Theses |
Αρχεία σε αυτό το τεκμήριο:
Αρχείο | Περιγραφή | Μέγεθος | Μορφότυπος | |
---|---|---|---|---|
Iason_Chalas_dissertation.pdf | 11.37 MB | Adobe PDF | Εμφάνιση/Άνοιγμα |
Όλα τα τεκμήρια του δικτυακού τόπου προστατεύονται από πνευματικά δικαιώματα.