Βελτίωση Ποιότητας Υπηρεσίας μέσω Εξελιγμένων Τεχνικών Κατάτμησης Κρυφής Μνήμης

Abstract

Στα συστήματα μεγάλης κλίμακας, όπως οι υπηρεσίες νέφους και τα data centers, η εξασφάλιση ικανοποιητικής Ποιότητας Υπηρεσίας (Quality of Service, QoS), αποτελεί το κυριότερο ζήτημα. Λόγω του μεγάλου αριθμού εφαρμογών που συνεκτελούνται σε αυτές τις περιπτώσεις, η εξασφάλιση του QoS του συστήματος δεν μπορεί να είναι πάντοτε εφικτή. Πρωταρχικό μέλημα λοιπόν σε αυτές τις περιπτώσεις καθίσταται η διατήρηση του Service Level Objective (SLO) σε εφαρμογές με υψηλή προτεραιότητα. Η παράλληλη εκτέλεση πολλών εφαρμογών, που επιτυγχάνεται λόγω των σύγχρονων πολυπύρηνων επεξεργαστικών συστημάτων, συχνά οδηγεί σε μείωση του QoS εξαιτίας του ανταγωνισμού για τους διαμοιραζόμενους πόρους του συστήματος. Ο ανταγωνισμός μπορεί να αντιμετωπιστεί με ποικίλους τρόπους. Ιδιαίτερο ενδιαφέρον παρουσιάζεται στον διαμερισμό των κοινόχρηστων πόρων μεταξύ των συνεκτελούμενων εφαρμογών και πιο συγκεκριμένα στον διαμερισμό της κρυφής μνήμης τελευταίου επιπέδου (Last Level Cache, LLC). Σκοπός της παρούσας διπλωματικής εργασίας είναι η ανάπτυξη ενός δυναμικού μηχανισμού για τον διαμοιρασμό της LLC μεταξύ των εφαρμογών, ανάλογα με τις ανάγκες της εφαρμογής με υψηλή προτεραιότητα, εξασφαλίζοντας έτσι το QoS και το SLO. Ο μηχανισμός υλοποιήθηκε σε επεξεργαστή Intel® Xeon® E5-2630 v4 με 20 πυρήνες και 25MB LLC (20-way associative) και εφαρμόσθηκε σε benchmarks από τη σουίτα SPEC CPU 2006. Για την επίβλεψη της επίδοσης των εφαρμογών και τον διαμερισμό της LLC χρησιμοποιήθηκαν οι τεχνολογίες του εργαλείου PQoS/Intel® RDT, Cache Monitoring Technology (CMT) και Cache Allocation Technology (CAT) αντίστοιχα. Οι εφαρμογές εκτελούνταν σε εικονικές μηχανές οι οποίες κατανέμονταν στους πυρήνες μέσω του διαχειριστή πόρων και ανιχνευτή ανταγωνισμού για υπηρεσίες νέφους, ACTiManager.