Βαθιά Μάθηση με Βελτιστοποίηση Υπερ-παραμέτρων με την Μέθοδο Σμήνους Σωματιδίων για Πρόβλεψη Χρήσης Πόρων σε Υπολογιστικές Υποδομές των Άκρων

Abstract

Τα τελευταία χρόνια, πολλά συστήματα βασίζονται σε τεχνικές και αλγόριθμους βαθιάς μάθησης και έχουν γίνει ιδιαιτέρως δημοφιλή τόσο στην επιστημονική κοινότητα όσο και σε πολλούς κλάδους της βιομηχανίας, λόγω των εξαιρετικών επιδόσεων των μεθόδων αυτών σε πληθώρα προβλημάτων μηχανικής μάθησης. Ένας μεταευρετικός αλγόριθμος που μπορεί να εφαρμοστεί σε μοντέλα βαθιάς μάθησης είναι ο αλγόριθμος βελτιστοποίησης σμήνους σωματιδίων (Particle Swarm Optimization, PSO) ο οποίος περιλαμβάνει ένα πληθυσμό αυτόνομων “πρακτόρων” που αλληλεπιδρούν μεταξύ τους αλλά και με το περιβάλλον τους με στόχο την εύρεση του ολικού ελάχιστου.

Η παρούσα εργασία διερευνά την πρόβλεψη της χρήσης πόρων σε υπολογιστικές δομές των άκρων με χρήση του αλγόριθμου βελτιστοποίησης σμήνους σωματιδίων που έχει σκοπό την αναζήτηση και εύρεση των βέλτιστων υπερπαραμέτρων που επιλύουν το πρόβλημα αυτό. Στο πλαίσιο αυτό, παρουσιάζονται και αναλύονται τα βασικά δομικά στοιχεία για την οικοδόμηση δικτύων βαθιάς μάθησης. Στη συνέχεια, για την εύρεση των βέλτιστων μη αριθμητικών υπερπαραμέτρων χρησιμοποιούμε Μπεϋζιανό Στατιστικό Μοντέλο. Τα δεδομένα που χρησιμοποιήσαμε αφορούν τη χρήση πόρων συσκευών ακμής Raspberry Pi.