Τεχνικές Βελτιστοποίησης Για Παράλληλες Εφαρμογές Μεγάλης Κλίμακας

Abstract

Μία από τις μεγαλύτερες προκλήσεις στα σύγχρονα συστήμα παράλληλης επεξεργασίας είναι η ανάπτυξη παράλληλου λογισμικού που κλιμακώνει αποδοτικά. Αρκετές εφαρμογές δεν κλιμακώνουν έπειτα από έναν αριθμό επεξεργαστών, εξαιτίας του αυξημένου κόστους επικοινωνίας, που κυριαρχεί στο συνολικό χρόνο εκτέλεσης. Ο στόχος της παρούσας διπλωματικής εργασίας είναι η μελέτη της επίδοσης της παράλληλης εξίσωσης διάδοσης θερμότητας στον τρισδιάστατο χώρο, ως αντιπροσωπευτικού παραδείγματος στην κατηγορία των προβλημάτων επίλυσης μερικών διαφορικών εξισώσεων, σε μια συστοιχία υπολογιστών διασυνδεδεμένη με Gbit Ethernet. Αρχικά, ερευνούμε την επίδοση των απλών παράλληλων υλοποιήσεων του προβλήματος με τη χρήση OpenMP, MPI και του υβριδικού τους μοντέλου, επισημαίνοντας τους παράγοντες που περιορίζουν την κλιμάκωση. Ακολούθως, υλοποιούμε και ελέγχουμε την επίδοση τριών τεχνικών βελτιστοποίησης που έχουν προταθεί στην βιβλιογραφία: i) tiling στους βρόχους του υπολογιστικού πυρήνα, ii) συμπίεση των μηνυμάτων του MPI και iii) επικάλυψη των υπολογισμών και της επικοινωνίας, τόσο με τη χρήση ασύγχρονων συναρτήσεων επικοινωνίας, όσο και με την ανάθεση της επικοινωνίας και των υπολογισμών σε διαφορετικά νήματα, με τη βοήθεια του OpenMP. Συνοψίζοντας, προτείνουμε τη συνδυαστική χρήση της συμπίεσης μηνυμάτων και της επικάλυψης της επικοινωνίας και των υπολογισμών με υβριδικό μοντέλο MPI/OpenMP και παρατηρούμε βελτίωση της επίδοσης έως και 28%, συγκριτικά με τις απλές παράλληλες υλοποιήσεις.