Επέκταση των τεχνικών δρομολόγησης του προγραμματιστικού μοντέλου OpenMP

Abstract

Στην εποχή της ανάλυσης ‘Μεγάλων Δεδομένων’ (Big Data) και των νευρωνικών δικτύων αναδεικνύεται όλο και πιο έντονα η ανάγκη ενίσχυσης της τοπικότητας των δεδομένων και της εύρεσης μεγαλύτερης παραλληλίας στα σύγχρονα προγράμματα. Παράλληλα, η συνε- χόμενη αύξηση των επεξεργαστικών μονάδων των υπολογιστών και η ένταση των φαινο- μένων μη ομοιόμορφης προσπέλασης της μνήμης (NUMA) καθιστούν τον άμεσο χειρισμό των νημάτων (threads) από τους ίδιους τους προγραμματιστές μία αρκετά δύσκολη και χρονοβόρα εργασία. Πάνω σε αυτήν τη βάση, προτείνεται το “hierarchical schedule” (ή ιεραρχική δρομολόγη- ση), μια μέθοδος αυτοματοποίησης της οργάνωση των νημάτων (threads) σε οριζόμενες από το χρήστη ομάδες (groups), αλλά και διαμοιρασμού της εργασίας σε αυτές. Είναι βασισμένο στην ευρέως διαδεδομένη πλατφόρμα ανάπτυξης παράλληλων προγραμμάτων OpenMP [1] και αποτελεί επέκταση της λειτουργικότητας της. Συγκεκριμένα, προσθέτει μία επιπλέον πολιτική δρομολόγησης (scheduling) δυναμικού διαμοιρασμού της εργασίας των παράλλη- λων for βρόχων του OpenMP (omp parallel for), η οποία λαμβάνει υπόψιν τα NUMA χαρακτηριστικά του μηχανήματος και διατηρεί την τοπικότητα του κώδικα, ενώ παράλλη- λα προσφέρει στο χρήστη περισσότερες δυνατότητες ελέγχου των threads. Η υλοποίηση έγινε επεκτείνοντας τον κώδικα του μεταγλωττιστή gcc (στην έκδοση 8.3.0). Στο τέλος μελετάται η συμπεριφορά του hierarchical schedule σε ένα σύνολο διαφόρων ειδών φόρτου εργασίας, και συγκρίνεται η επίδοσή του σε σχέση με τα άλλα schedules του OpenMP. Οι μετρήσεις έγιναν σε ένα intel μηχάνημα τεσσάρων Xeon E5-4620 επεξεργαστών, όπου κάθε ένας ανήκε σε έναν διαφορετικό NUMA κόμβο μνήμης των 64GB (ώστε συνολικά να έχουμε 256GB μνήμης).