Βελτιστοποίηση Νευρωνικών Δικτύων με χρήση Κβαντοποίησης

Abstract

Η κβαντοποίηση αποτελεί ένα ευρέως διαδεδομένο πεδίο έρευνας για την βελτιστοποίηση νευρωνικών δικτύων, με στόχο τη μείωση των υπολογιστικών απαιτήσεων και του αποτυπώματος μνήμης των μοντέλων βαθιάς μάθησης. Αυτή η διπλωματική εργασία εξετάζει την αποτελεσματικότητα της κβαντοποίησης μετά την εκπαίδευση (Post-Training Quantization - PTQ) ως μέθοδο βελτιστοποίησης σε αρχιτεκτονικές συνελικτικών νευρωνικών δικτύων (CNN) και μεγάλων γλωσσικών μοντέλων. Με τη χρήση της κβαντοποίησης, τα βάρη και οι ενεργοποιήσεις των μοντέλων μετατρέπονται σε αναπαραστάσεις χαμηλότερης ακρίβειας, μειώνοντας σημαντικά τον χρόνο εκτέλεσης και το αποτύπωμα σε μνήμη, χωρίς σημαντικές απώλειες ακρίβειας. Με την εξέταση διαφόρων μεθόδων κβαντοποίησης, αναδεικνύεται ο τρόπος με τον οποίο τα CNN και τα γλωσσικά μοντέλα ανταποκρίνονται στις μειώσεις ακρίβειας αναπαράστασης. Με πειράματα πάνω σε δημοφιλή σύνολα δεδομένων αξιολογούνται οι διαφορές στα μεγέθη των μοντέλων, την ταχύτητα εξαγωγής αποτελεσμάτων και την ακρίβεια. Τα ευρήματα αποκαλύπτουν ότι με την κβαντοποίηση μπορεί να επιτευχθεί σημαντική εξοικονόμηση πόρων διατηρώντας παράλληλα υψηλή ακρίβεια, ενισχύοντας έτσι την δυνατότητα ανάπτυξης προηγμένων μοντέλων σε συσκευές με περιορισμένους πόρους.