Please use this identifier to cite or link to this item: http://artemis.cslab.ece.ntua.gr:8080/jspui/handle/123456789/17689
Title: FPGA Acceleration of Generative Adversarial Networks for Image Reconstruction
Authors: Αναγνωστόπουλος, Κωνσταντίνος
Σούντρης Δημήτριος
Keywords: Generative adversarial networks
FPGAs
Image reconstruction
High-level Synthesis
Issue Date: 23-Sep-2020
Abstract: Τα τελευταία χρόνια, οι εφαρμογές της μηχανικής μάθησης έρχονται ολοένα και περισσότερο στο προσκήνιο. Απο τις διάφορες τεχνικές που εφαρμόζονται, προκειμένου οι υπολογιστές να δύνανται να μαθαίνουν από εμπειρίες, τα νευρωνικά δίκτυα αποτελούν μία από τις σημαντικότερες. Εμπνευσμένα από τους βιολογικούς εγκεφάλους έμβιων όντων, τα νευρωνικά δίκτυα διαθέτουν μεγάλο βαθμό πολυπλοκότητας και, ακόμα και για μοντέρνους επεξεργαστές, η εκπαίδευση τους καθώς και ο υπολογισμός των εξόδων τους αποτελούν σημαντική πρόκληση. Για την επιτάχυνση αυτών των διαδικασιών χρησιμοποιείται ειδικό hardware (GPUs, TPUs, NPUs, FPGAs) που επιτρέπει την παραλληλοποίηση συγκεκριμένων υπολογισμών με στόχο την ταχύτερη περάτωση τους. Στο πρώτο μέρος της παρούσας εργασίας χρησιμοποιείται μία νέα αρχιτεκτονική νευρωνικών δικτύων, η οποία προτάθηκε από τον Ian Goodfellow και τους συνεργάτες του το 2015 και η οποία καλείται Generative Adversarial Networks για την ανακατασκευή ημιτελών εικόνων από το MNIST dataset. Τα Generative Adversarial Networks είναι δύο νευρωνικά δίκτυα τα οποία «παίζουν» μεταξύ τους ένα παιχνίδι όπου η βελτίωση του ενός στο ρόλο που έχει αναλάβει στο συγκεκριμένο παιχνίδι συνδράμει και στη βελτίωση του άλλου στο δικό του ρόλο. Με την τεχνική αυτή, γεννητικές διαδικασίες όπως αυτή της ανακατασκευής μίας εικόνας μπορούν να αντιμετωπιστούν ως διακριτικές διαδικασίες όπως αυτή της αναγνώρισης ενός ψηφίου. Πριν την ανάπτυξη του μοντέλου που επιτυγχάνει την ανακατασκευή, γίνεται πειραματισμός με την τεχνική των Generative Adversarial Networks με την ανάπτυξη μοντέλου ικανού να συνθέτει εκ νέου εικόνες σαν αυτές του MNIST dataset, ακολουθώντας τα βήματα που περιγράφονται στην εργασία του Goodfellow. Στο δεύτερο μέρος, επιχειρείται η επιτάχυνση του forward propagation του τελικού μοντέλου που φέρει τη δυνατότητα ανακατασκευής εικόνων με τη χρήση FPGA, του οποίου ο προγραμματισμός γίνεται με High-level Synthesis περιγραφή. Η εκπαιδευτική πλατφόρμα που χρησιμοποιείται φέρει το chip Z-7010 της Xilinx, και καθότι εκπαιδευτική, διαθέτει περιορισμένους υλικούς πόρους για την επίτευξη της επιτάχυνσης. Το γεγονός αυτό αποτέλεσε σημαντικότατη πρόκληση καθώς η χρήση των διαθέσιμων υλικών πόρων του FPGA ήταν απαραίτητο να γίνει με ευλάβεια. Επιπλέον, αφού το τελικό design ολοκληρωθεί, ακολουθείται σύγκριση της ταχύτητας περάτωσης των υπολογισμών με διάφορους επεξεργαστές πέρα από τον ARM cortex-A9 που διατίθεται στην εκπαιδευτική πλατφόρμα. Τέλος, παρουσιάζονται διεξοδικά οι επιπτώσεις της επιλογής διαφορετικού πλήθους bit για την αναπαράσταση των δεκαδικών αριθμών εντός του FPGA στην ακρίβεια των αποτελεσμάτων καθώς και στην χρήση των διαθέσιμων υλικών πόρων που διαθέτει το chip Z-7010.
URI: http://artemis.cslab.ece.ntua.gr:8080/jspui/handle/123456789/17689
Appears in Collections:Διπλωματικές Εργασίες - Theses

Files in This Item:
File Description SizeFormat 
FPGA Acceleration of GANs for Image Reconstruction.pdf11.46 MBAdobe PDFView/Open


Items in Artemis are protected by copyright, with all rights reserved, unless otherwise indicated.