Ανάπτυξη Αλγορίθμων Δομικής Μάθησης Και Εκτίμηση Εμπιστοσύνης Εξόδου Σε Νευρωνικά Δίκτυα Ακτινικής Βάσης

Abstract

Σκοπός αυτής της διπλωματικής εργασίας ήταν η μελέτη, ανάπτυξη, υλοποίηση και αξιολόγηση αλγορίθμων δομικής μάθησης σε νευρωνικά δίκτυα ακτινικής βάσης. Για να επιτευχθεί αυτό, αρχικά παρουσιάστηκαν και αναλύθηκαν κάποιες βασικές έννοιες που αφορούν τα τεχνητά νευρωνικά δίκτυα, αφού θεωρήθηκε ότι απαιτείται η γενικότερη κατανόηση των αρχών λειτουργίας των τεχνητών νευρωνικών δικτύων και των στοιχείων τους, δηλαδή των νευρώνων, πριν από την εισαγωγή προχωρημένων εννοιών. Στην συνέχεια, αναπτύχθηκαν κάποια μοντέλα αλγορίθμων δομικής μάθησης με επίβλεψη σε νευρωνικά δίκτυα ακτινικής βάσης, όπως το RAN και το ARAN, και δημιουργήθηκαν παραλλαγές των μοντέλων αυτών. Τρεις από τις παραλλαγές αυτές υλοποιήθηκαν. Έπειτα δημιουργήθηκαν και υλοποιήθηκαν κάποια μοντέλα αλγορίθμων δομικής μάθησης χωρίς επίβλεψη και μάθησης σε δύο στάδια σε νευρωνικά δίκτυα ακτινικής βάσης. Τα μοντέλα αυτά αξιολογήθηκαν ως προς την εξάρτηση της μάθησης από τις παραμέτρους της εκπαίδευσης , τον ρυθμό εκπαίδευσης και την αρχικοποίηση του RBF δικτύου με πληθώρα πειραμάτων.Επίσης, δημιουργήθηκαν δύο αλγόριθμοι εκτίμησης της εμπιστοσύνης των νευρωνικών δικτύων, οι οποίοι εκτιμούν την εμπιστοσύνη που αισθάνεται ένα RBF δίκτυο για την έξοδο στην οποία αντιστοιχεί ένα εφαρμοσμένο στην είσοδό του διάνυσμα βάση της εσωτερικής δομής του δικτύου. Ο αλγόριθμος των πλησιέστερων RBF κόμβων που υπολογίζει την εκτίμηση εμπιστοσύνης χρησιμοποιώντας τις αποκρίσεις των κοντινών στο διάνυσμα εισόδου RBF κόμβων και ο αλγόριθμος των νικητών RBF κόμβων που υπολογίζει την εκτίμηση εμπιστοσύνης υπολογίζοντας το πλήθος των κατά σειρά απόστασης από το διάνυσμα εισόδου RBF νευρώνων οι οποίοι ορίζουν περιοχές που ανήκουν στην ίδια κλάση εξόδου με την απόκριση του δικτύου. Οι αλγόριθμοι αυτοί υλοποιήθηκαν και εξετάστηκε η δυνατότητά τους να προβλέψουν την λανθασμένη απόκριση ενός RBF δικτύου.