Προανάκληση Δεδομένων στην Κρυφή Μνήμη Αναζήτησης Μετάφρασης με Χρήση Μοντέλων Μηχανικής Μάθησης

Abstract

Η χρήση τεχνικών μηχανικής μάθησης, και συγκεκριμένα τα νευρωνικά δίκτυα, έχουν οδηγήσει σε πρόοδο σε διάφορους τομείς τα τελευταία χρόνια, ενώ έχουν ενθαρρύνει και τη χρήση ηλεκτρονικών υπολογιστών σε πολλά πεδία. ΄Ενας από τους τομείς αυτούς, είναι αυτός της αρχιτεκτονικής υπολογιστών, όπου έχουν υπάρξει ήδη με λέτες σχετικά με την αντικατάσταση ορισμένων μηχανισμών του επεξεργαστή με νευρωνικά δίκτυα, όπως είναι ο προβλεπτής διακλαδώσεων ή προανακλητές στην κρυφή μνήμη του επεξεργαστή. Συγχρόνως, πρόσφατες εργα σίες έχουν δείξει πως οι πολυάριθμες αστοχίες της Κρυφής Μνήμης Αναζήτησης Μετάφρασης(TLB) αποτελούν σημαντικό κώλυμα στην προσπάθεια μεγιστοποίησης της απόδοσης των επεξεργαστών. Καθώς η διαχείριση μνήμης σε πολλά συστήματα εκτελείται πλέον με χρήση Εικονικής Μνήμης, η ανάγκη έγκαιρης διάθεσης των απαραίτητων μεταφράσεων εικονικών διευθύνσεων σε φυσικές είναι υψίστης σημασίας για τη διατήρηση υψηλής απόδοσης. Καθώς οι απαιτήσεις και το πλήθος των προγραμμάτων αυξάνονται, με φυσικούς περιορισμούς να αποτρέπουν την αύξηση του μεγέθους της TLB, οι αστοχίες σε αυτή συνεχίζουν να πληθαίνουν οδηγώντας σε επιβάρυνση του συστήματος. Μια από τις σημαντικότερες τεχνικές αντιμετώπισης του προβλήματος αυτού απο τελεί η προανάκληση μεταφράσεων στην Κρυφή Μνήμη Αναζήτησης Μετάφρασης (TLB Prefetching), δηλαδή η φόρτωση δεδομένων σε αυτή από πιο αργά προσπελάσιμες μνήμες, προτού αυτά ζητηθούν. Παρόλα αυτά, έως τώρα δεν έχει υπάρξει κάποια καθολική λύση στο ζήτημα της προανάκλησης μεταφράσεων, με την απόδοση κάθε προανακλητή να κυμαίνεται αισθητά αναλόγως με το πρόγραμμα που χρησιμοποιείται. Στόχος της παρούσας διπλωματικής εργασίας είναι η αξιολόγηση της χρήσης νευρωνικών δικτύων για την ε κτέλεση προανακλήσεων στην Κρυφή Μνήμη Αναζήτησης ΜετάφρασηςTLB του επεξεργαστή. Για τον σκοπό αυτό χρησιμοποιείται μια τροποποιημένη έκδοση του νευρωνικού δικτύου TransFetch, το οποίο στην αρχική του μορφή εκτελεί προανάκληση στην τελευταίου επιπέδου κρυφή μνήμη του επεξεργαστή. Το δίκτυο βασίζεται στον μηχανισμό προσοχής (Attention) για την πρόβλεψη μελλοντικών προσβάσεων στη μνήμη, μέσω ταξινόμησης πολλαπλών ετικετών. Τα δεδομένα εισόδου αρχικά μορφοποιούνται στη μορφή πινάκων που περιλαμβάνουν το ιστορικό προσβάσεων για κάθε αίτημα, ώστε να τροφοδοτηθούν σε ένα Χωρικό Συνελικτικό Δίκτυο (TCN). Στη συνέχεια χρησιμοποιούνται στρώματα Transformer για την πρόβλεψη των πιθανότερων μελλοντικών προσβάσε ων. Αφού εκπαιδεύτηκαν μοντέλα για την εύρεση των υπερπαραμέτρων που οδηγούν στη βέλτιστη απόδοση, η δική μας ανάλυση βασίζεται στην αξιολόγηση της σημασίας της έννοιας του χρονισμού κατά την εκτέλεση προανακλήσεων στην TLB, στην αξιολόγηση διαφορετικών μεθόδων εκπαίδευσης για το μοντέλο, καθώς και την εκπαίδευση ενός δικτύου για προανάκληση σε σύνολο εφαρμογών. Τα δεδομένα εκπαίδευσης αποτελο ύνται από το πλήρες ιστορικό προσβάσεων εφαρμογών και αντλήθηκαν από ίχνη που ανήκουν στις σουίτες GAP, SPEC2006 και SPEC 2017, μέσω του προσομοιωτή ChampSim. Η αξιολόγηση της απόδοσης έγινε επίσης μέσω του προσομοιωτή, με σύγκριση με την εκτέλεση δίχως χρήση προανακλητή, καθώς και με τη χρήση ορισμένων ”κλασσικών” προανακλητών στην TLB. Με βάση τα αποτελέσματα της ανάλυσής μας, η χρήση τεχνητών νευρω νικών δικτύων φαίνεται να αποτελεί μια ελκυστική λύση στο ζήτημα της προανάκλησης μεταφράσεων. Βεβαίως, μελλοντικά θα ήταν θεμιτές ορισμένες αλλαγές στον τρόπο λειτουργίας του μοντέλου, ώστε να προσομοιω θεί η χρήση σε πραγματικό σύστημα, καθώς στην παρούσα εργασία έχουν γίνει ορισμένες παραδοχές που θα αναλυθούν παρακάτω.