Πρόβλεψη και προβολή επίδοσης παράλληλων εφαρμογών σε συστήματα μεγάλης κλίμακας

Abstract

Ο σχεδιασμός υπερυπολογιστών επόμενης γενιάς αποτελεί μια πρόκληση για τους αρχιτέκτονες αυτών των συστημάτων. Η μοντελοποίηση και η πρόβλεψη της επίδοσης των παράλληλων εφαρμογών συνιστά μια ουσιαστική βοήθεια σε αυτήν τους την προσπάθεια. Ένα από τα σημαντικότερα προβλήματα που καλούνται να επιλύσουν τα μοντέλα πρόβλεψης είναι η επίδοση των παράλληλων εφαρμογών σε συστήματα μεγαλύτερης κλίμακας από τα υπάρχοντα, δηλαδή η προβολή αυτής (performance extrapolation). Αυτό αποτελεί ένα επιτακτικό ερώτημα, αφού βρισκόμαστε σε μια περίοδο μετάβασης όπου η ισχύς των συστημάτων θα περάσει από επιδόσεις της τάξης των PetaFLOPS σε επιδόσεις της τάξης των ExaFLOPS. Επιχειρώντας να δώσουμε κάποιες απαντήσεις σε αυτά τα ερωτήματα, παρουσιάζουμε, σε αυτή την εργασία, τη μελέτη μας πάνω σε μια μέθοδο εμπειρικής μοντελοποίησης, η οποία έχει αναπτυχθεί στη βιβλιογραφία, με σκοπό να περιγράψει, μέσω απλών συναρτήσεων, τις ανάγκες μιας εφαρμογής σε πόρους ενός συστήματος, όπως η μνήμη, το πλήθος πράξεων κινητής υποδιαστολής, κ.ά. Αυτό μπορεί να βοηθήσει τόσο τους σχεδιαστές των συστημάτων νέας γενιάς, όσο και αυτούς που αναπτύσσουν παράλληλες εφαρμογές, να επικεντρωθούν σε καλύτερο σχεδιασμό πόρων των συστημάτων ή να ανακαλύψουν προβληματικούς κώδικες που δεν θα κλιμακώνουν ικανοποιητικά αντιστοίχως. Πέρα από την παρουσίαση αυτής της μεθοδολογίας, την εξετάζουμε σε τέσσερις μικρές εφαρμογές, οι οποίες υλοποιούν υπολογισμούς που απαντώνται συχνά σε παράλληλες εφαρμογές, ενώ προτείνουμε και μια εναλλακτική μέθοδο κατάταξης των προβλέψεων, συγκρίνοντάς τη με αυτή της βιβλιογραφίας. Στη συνέχεια επιχειρούμε, με πανομοιότυπο τρόπο, να μοντελοποιήσουμε τον χρόνο εκτέλεσης αυτών των εφαρμογών ως συνάρτηση των αναγκών αυτής. Προτείνουμε έναν τρόπο πρόβλεψης του χρόνου εκτέλεσης χρησιμοποιώντας τα εμπειρικά μοντέλα που παράγουμε για τις ανάγκες αυτών, δημιουργώντας έτσι μοντέλα που παράγονται από εμπειρικές προβλέψεις. Επίσης, διεκπεραιώνουμε αυτή τη διαδικασία σε δύο διαφορετικά συστήματα, παλαιού και πιο σύγχρονου τύπου, αναδεικνύοντας έτσι τη διαφορά στις δυνατότητες μοντελοποίησης μεταξύ νέων και παλαιών αρχιτεκτονικών. Επιχειρούμε ακόμη να αναδείξουμε πιθανά οφέλη των μικρών εφαρμογών από διαφορετικές μελλοντικές σχεδιαστικές προσεγγίσεις χρησιμοποιώντας τεχνικές συν-σχεδίασης. Τέλος, παρουσιάζουμε την ίδια προσπάθεια μοντελοποίησης αναγκών για μια πιο σύνθετη εφαρμογή, η οποία εκτελεί μια προσομοίωση πρακτόρων (agent-based modeling) σε γράφο. Μια τέτοια μοντελοποίηση αποτελεί πρόκληση καθώς οι αλγόριθμοι που δρουν σε γράφους εξαρτώνται σε μέγιστο βαθμό από τη φύση της εισόδου (γράφου) αλλά κι από τον τρόπο καταμερισμού της εργασίας, και διαφέρουν από την απλή παραμετροποίηση της εισόδου που απαντάται στις άλλες εφαρμογές που μελετούνται. Για αυτό τον λόγο, προτείνουμε δύο διαφορετικούς τρόπους αναπαράστασης των χαρακτηριστικών του γράφου ως είσοδο στα μοντέλα, συγκρίνοντάς τες μεταξύ τους.