Υλοποίηση Εντονων Υπολογιστικά Συνελικτικών Νευρωνικών Ικτύων Σε Ενσωματωμένες Αρχιτεκτονικές Με Περιορισμένους Πόρους

Abstract

Τα τελευταία χρόνια γίνονται συνεχώς έρευνες γύρω από την ανάπτυξη των Τεχνητών Νευρωνικώνικτύων (ΤΝ). Τα ΤΝ είναι εμπνευσμένα από βιολογικούς οργανισμούς κι έχουνε ξεπεράσει καταπολύ σε απόδοση τις πρηγούμενες μορφές τεχνητής νοημοσύνης. Ενα ΤΝ αποτελείται από απλούςυπολογιστικούς κόμβους διασυνδεδμέμους μεταξύ τους, οι οποίοι είναι εκπαιδευμένοι να αντιδρούνε σεερεθίσματα. Τα ΤΝ που παίρνουνε ως είσοδο εικόνες ονομάζονται Συνελικτικά Νευρωνικά ίκτυα(ΣΝ) και χρησιμοποιούνται για την επίλυση προβλημάτων όρασης υπολογιστών, όπως είναι η αναγω-νώριση αντικειμένων, η εύρεση θέσης των αντικειμένων κ.α.Τα τελευταία χρόνια τα ΤΝ έχουνε εισαχθεί στον κόσμο των ενσωματωμένων συσκευών, καθώς είναιιδιαίτερα σημαντικό τόσο για τους δημιουργούς λογισμικού όσο και εντυπωσιακό για τους χρήστες ναέχουνε τη δυνατότητα να αναγνωρίζουνε αντικείμενα με τις συσκευές τους π.χ. κινητά τηλέφωνα.Στόχος της παρούσας διπλωματικής είναι η εξέλιξη ενός συστήματος εκτέλεσης ΣΝ στο ενσωματωμένοσύστημα Myriad2. Η μηχανή υποστηρίζει βαθιά δίκτυα με μεγάλο πλήθος ομότιμων κόμβων, πουέχουνε εκπαιδευτεί σε τεράστια σύνολα δεδομένων. Αυτό σημαίνει ότι το σύνολο δεδομένων των δικτύωνείναι πολύ μεγάλο για τη μνήμη τη ενσωματωμένης συσκευής, η οποία όμως έχει το πλεονέκτημα χα-μηλής κατανάλωσης ενέργειας ανα μονάδα υπολογισμού. Η αρχιτεκτονική της Myriad 2 συνίσταταιαπο 12 VLIW επεξεργαστές, χτισμένους γύρω από μια μικρή και γρήγορη μνήμη και άλλους που έχουνεσυντονιστικό ρόλο. Από τη φύση τους τα ΣΝ απαιτούνε διαχείριση τεράστιου όγκου δεδομένων πουσημαίνει και μεταφορά δεδομένων μεταξύ των μνημών. Τα βαθιά ΣΝ περιέχουνε συνελικτικές στρώσειςμε αρκετές παραμέτρους, οι οποίες έχουνε ως σκοπό να μειώνουνε τις απαιτήσεις σε μνήμη του δικτύου.Αυτές υλοποιήθηκανε με αποδοτικό τρόπο, ακόμα και με τη χρήση συμβολικής γλώσσας, εμβαθύνονταςσε τεχνικές εκμετάλλευσης της αρχιτεκτονικής. Επιπλέον αναπτύχθηκε νέος τρόπος υλοποίησης τωνσυνελικτικών στρώσεων, προκειμένου να μειώσει τον χρόνο εκτέλεσης στρώσεων με συγκεκριμένεςπροδιαγραφές, αλλά και τη συνολική κατανάλωση ενέργειας. Τέλος, το γεγονός ότι το σύστημα είναιπολυεπεξεργαστικό, αυξάνει την πολυπλοκότητα ακόμα περισσότερο.Τα παραπάνω επεκτείνονται σε κάθε ενσωματωμένο επεξεργαστή, ο οποίος υποστηρίζει εκτέλεση νευρω-νικών δικτύων καθώς οι μεθοδολογίες που χρησιμοποιήθηκανε εφαρμόζωνται και έξω από τη Myriad2.Τέλος αναπτύχθηκε μια εφαρμογή πραγματικού χρόνου, η οποία κάνει ταξινόμηση σύμφωνα με τοImageNet.