Αυτοματοποίηση της Εκπαίδευσης Νευρωνικών Δικτύων μέσω Εξελικτικών Αλγορίθμων

Abstract

Στην παρούσα διπλωματική παρουσιάζεται το μοντέλο των νευρωνικών δικτύων, οι σχεδιαστικές του επιλογές, οι μέθοδοι εκπαίδευσης καθώς και οι ευριστικές μέθοδοι που προσεγγίζουν με αυτοματοποιημένο τρόπο τις βέλτιστες τοπολογίες νευρωνικών δικτύων. Η διπλωματική εργασία περιλαμβάνει θεωρητικό και πρακτικό μέρος. Στο θεωρητικό μέρος αναλύονται τα δομικά χαρακτηριστικά των νευρωνικών δικτύων, των συναρτήσεων και τον αλγορίθμων. Το πρακτικό μέρος περιλαμβάνει την υλοποίηση στην γλώσσα προγραμματισμού python3 και βιβλιοθήκες μηχανικής μάθησης και βαθιάς μάθησης. Μέρος του κώδικα βρίσκεται στο τέλος της διπλωματικής στo παράρτημα. Η παρούσα διπλωματική πραγματοποιήθηκε στα πλαίσια δραστηριοτήτων του ερευνητικού έργου Accordion που έχει λάβει χρηματοδότηση από το πρόγραμμα έρευνας και καινοτομίας «Ορίζοντας 2020» της Ευρωπαϊκής Ένωσης βάσει συμφωνίας επιχορήγησης No 871793”. Μέρος της διπλωματικής έχει δημοσιευθεί σε πέντε επιστημονικά συνέδρια με κριτές. Οι τίτλοι των καινοτόμων δημοσιεύσεων είναι (α) Πρόβλεψη κατανομής επισκεπτών για μεγάλες εκδηλώσεις σε έξυπνες πόλεις, (β) Πρόβλεψη επόμενης θέσης για πλοία που χρησιμοποιούν LSTM Νευρωνικά δίκτυα και δεδομένα τροχιάς, (γ) Χρησιμοποιώντας τα νευρωνικά δίκτυα LSTM ως προγνωστικούς παράγοντες αξιοποίησης πόρων: Η περίπτωση της εκπαίδευσης μοντέλων βαθιάς μάθησης σε υπολογιστική των άκρων, (δ) Πρόβλεψη χρήσης πόρων σε υπολογιστικές υποδομές των άκρων με CNN και ένα μοντέλο υβριδικής Μπευζιανής βελτιστοποίησης υπερπαραμέτρων με την μέθοδο σμήνους σωματιδίων και (ε) Υπερτονισμός GRU νευρωνικών δικτύων με την υβριδική Μπευζιανή-εξελικτική στρατηγική για πρόβλεψη χρήσης πόρων στην υπολογιστική των άκρων.