Βελτιστοποίηση του Υπολογιστικού Πυρήνα Πολλαπλασιασμού Αραιού Πίνακα με Πίνακα σε Επεξεργαστές Γραφικών

Abstract

Ο πολλαπλασιασμός Αραιού Πίνακα με Πίνακα αποτελεί σημαντικό μέρος του συνόλου των υπολογισμών που πραγματοποιούνται σε πολλές επιστημονικές εφαρμογές. Δύο από αυτές είναι τα βαθιά νευρωνικά δίκτυα και η επίλυση αραιών γραμμικών συστημάτων. Αραιός πίνακας ονομάζεται ένας πίνακας που περιέχει μεγάλο πλήθος μηδενικών στοιχείων. Η αποθήκευση ενός αραιού πίνακα, με την κλασική πυκνή αναπαράσταση, δεσμεύει περιττό χώρο στη μνήμη, καθώς τα μηδενικά στοιχεία δεν αποτελούν χρήσιμη πληροφορία. Η επίδοση ενός υπολογιστικού πυρήνα πολλαπλασιασμού Αραιού Πίνακα με Πίνακα είναι άρρηκτα συνδεδεμένη με τον τρόπο αναπαράστασης του αραιού πίνακα στη μνήμη. Για το λόγο αυτό κρίνεται επιτακτική η ανάγκη ανεύρεσης μιας δομής αποθήκευσης αραιών πινάκων, η οποία θα μειώνει τις μεταφορές των δεδομένων από/προς τη μνήμη που είναι απαραίτητα στον υπολογιστικό πυρήνα SpMM. Πολλές δομές αποθήκευσης αραιών πινάκων έχουν ήδη προταθεί, ωστόσο κρίνονται ανεπαρκείς κατά την εφαρμογή τους στον υπολογιστικό πυρήνα πολλαπλασιασμού Αραιού Πίνακα με Πίνακα. Στόχος της διπλωματικής εργασίας είναι η βελτιστοποίηση του υπολογιστικού πυρήνα πολλαπλασιασμού Αραιού Πίνακα με Πίνακα σε επεξεργαστές γραφικών. Αρχικά, προτείνεται μια νέα δομή αποθήκευσης αραιών πινάκων. Στη συνέχεια, παρουσιάζονται παράλληλες υλοποιήσεις του πυρήνα σε επεξεργαστές γραφικών, κάνοντας χρήση αυτής της δομής και τέλος συγκρίνεται η επίδοσή τους με αυτή της δημοφιλούς βιβλιοθήκης cuSPARSE της Nvidia.