FPGA-Acceleration of Machine Learning Algorithm, a case study using Gaussian Naive Bayes

Abstract

Ζούμε σε μια εποχή που η μηχανική μάθηση και γενικότερα η τεχνητή νοημοσύνη αποτελεί αναπόσπαστο κομμάτι της προσπάθειάς μας να επιλύσουμε προβλήματα με ευφυείς προσεγ- γίσεις εκμεταλλευόμενοι την δυνατότητά μας να εκπαιδεύσουμε ένα σύστημα. Η μηχανική μάθηση μπορεί να οριστεί ως το φαινόμενο κατά το οποίο ένα σύστημα βελτιώνει την απόδοσή του, κατά την εκτέλεση μιας συγκεκριμένης εργασίας, χωρίς να υπάρχει ανάγκη να προγραμ- ματιστεί εκ νέου. Μαζί όμως με την άνθιση της Μηχανικής Μάθησης και την εύρεση συνεχώς νέων και πιο αποδοτικών αλγορίθμων, η διαρκώς αυξανομένη ανάγκη για επεξεργασία όλο και μεγαλύτερου όγκου δεδομένων μας οδηγεί σιγά σιγά στα όρια των κλασικών λύσεων επεξερ- γασίας. Με τον διαφαινόμενο κορεσμό να πλησιάζει όλο και περισσότερο, μεγάλο κομμάτι της ερευνάς έχει στραφεί στην αναζήτηση εναλλακτικών λύσεων που εξαιτίας της διαφορετι- κής φύσης του προσφέρουν και διαφορετικά οφέλη. Μια από τις ποιοτικότερες εναλλακτικές έναντι ενός κλασικού επεξεργαστή, αποτελεί το FPGA, το οποίο σε συγκεκριμένες εργασίες, καταφέρνει τόσο καλύτερη χρονική επίδοσή λόγω της ικανότητάς του να πραγματοποιεί πα- ράλληλους υπολογισμούς όσο και καλύτερης ενεργειακή επίδοση λόγω της χαμηλής ισχύος που καταναλώνει. Στα πλαίσια αυτής της διπλωματικής δημιουργήσαμε έναν επιταχυντή υλικού για τον αλ- γοριθμό του Gaussian Naive Bayes με στόχο την καλύτερη δυνατή χρονική επίδοση. Προ- σπαθήσαμε μέσω αυτής της μελέτης να παρουσιάσουμε τα οφέλη της χρήσης ενός FPGA σε ενσωματωμένα συτήματα χαμηλής ενέργειας αλλά και να παρουσιάσουμε μια μεθοδολο- γία δημιουργίας ενός ετερογενούς κατανεμημένου συστήματος με χρήση πολλαπλών FPGA. Η διπλωματική αυτή αποτελεί παράλληλα κομμάτι μιας συνολικότερης προσπάθειας για την δημιουργία βιβλιοθηκών οι οποίες θα περιέχουν βασικές εργασίες ενός Data Center υλο- ποιημένες σε FPGA. Για τις παραπάνω ενέργειες εγίνε χρήση των πλακετών Zedboard και Pynq-Z1 και αξιολογήσαμε τα αποτελέσματα μας χρησιμοποιώντας τον αλγόριθμο του Gaus- sian Naive Bayes που αποτελεί μια ευρέως χρησιμοποιούμενη τεχνική Μηχανικής Μάθησης για στατιστική ταξινόμηση. Για τον προγραμματισμό των FPGA έγινε μελέτη και αξιοπο- ίηση των δυνατοτήτων της Σύνθεσης Υψηλού Επιπέδου προκειμένου να υλοποιήσουμε έναν αποδοτικό επιταχυντή υλικού.