Προσεγγίσεις Εξηγήσιμης Τεχνητής Νοημοσύνης για Μοντέλα Μηχανικής Μάθησης

Abstract

Η παρούσα διπλωματική εργασία διερευνά το πεδίο της Εξηγήσιμης Τεχνητής Νοημοσύνης (Explainable AI - XAI) και την πρακτική της εφαρμογή στην ερμηνεία πολύπλοκων μοντέλων βαθιάς μάθησης. Στο επίκεντρο της σύγχρονης Τεχνητής Νοημοσύνης βρίσκεται το «πρόβλημα του μαύρου κουτιού»: μοντέλα υψηλής απόδοσης, όπως τα βαθιά νευρωνικά δίκτυα, των οποίων η εσωτερική λογική λήψης αποφάσεων παραμένει αδιαφανής. Αυτή η έλλειψη διαφάνειας υπονομεύει την εμπιστοσύνη, τη λογοδοσία και την ασφαλή υιοθέτηση της ΤΝ σε τομείς υψηλού διακυβεύματος. Σκοπός της εργασίας είναι η γεφύρωση του χάσματος μεταξύ της θεωρίας της XAI και της πρακτικής της εφαρμογής, αναλύοντας θεωρητικά τις αρχές της και επιδεικνύοντας εμπράκτως την αξία της σε ένα κρίσιμο πραγματικό πρόβλημα. Το πρώτο μέρος της εργασίας θεμελιώνει το θεωρητικό υπόβαθρο της XAI. Αναλύεται το πρόβλημα του μαύρου κουτιού, αντιπαραβάλλοντάς το με τα εγγενώς ερμηνεύσιμα μοντέλα («λευκά κουτιά») και εξετάζοντας τον θεμελιώδη συμβιβασμό μεταξύ απόδοσης και ερμηνευσιμότητας. Αποσαφηνίζονται οι κεντρικές έννοιες Interpretability, Explainability και Transparency και παρουσιάζεται μια συστηματική ταξινόμηση των μεθόδων XAI βάσει τριών αξόνων: Intrinsic έναντι Post-Hoc, Model-Specific έναντι Model-Agnostic, και Local έναντι Global εξηγήσεων. Η θεωρητική επισκόπηση ολοκληρώνεται με την παρουσίαση βασικών τεχνικών, όπως οι μέθοδοι απόδοσης σημασίας χαρακτηριστικών (LIME, SHAP), οι αντιπαραδειγματικές εξηγήσεις και τα μοντέλα-υποκατάστατα, με ιδιαίτερη έμφαση στις μεθόδους οπτικοποίησης για μοντέλα εικόνας. Το δεύτερο και κύριο μέρος της εργασίας επικεντρώνεται σε μια πιλοτική εφαρμογή, όπου οι αρχές της XAI αξιοποιούνται για την ερμηνεία ενός μοντέλου ανίχνευσης ιατρικών αποβλήτων, ένα πρόβλημα υψηλού κινδύνου για τη δημόσια υγεία και την ασφάλεια. Για τον σκοπό αυτό, αναπτύχθηκε, εκπαιδεύτηκε και αξιολογήθηκε ένα μοντέλο ανίχνευσης αντικειμένων τεχνολογίας αιχμής, το YOLOv9c, το οποίο επέδειξε εξαιρετική απόδοση με μέση ακρίβεια (mAP) 0.984. Για την αντιμετώπιση της αδιαφάνειάς του, επιλέχθηκε η τεχνική XAI της Οπτικοποίησης Χαρτών Χαρακτηριστικών (Feature Map Visualization). Η επιλογή αυτή αιτιολογείται από την ικανότητά της να αποκαλύπτει την ιεραρχική λογική με την οποία το δίκτυο μαθαίνει να αναγνωρίζει οπτικά μοτίβα, από τις απλές ακμές μέχρι τις σύνθετες σημασιολογικές αναπαραστάσεις. Η υλοποίηση της μεθόδου περιελάμβανε την εξαγωγή των χαρτών χαρακτηριστικών από πρώιμα, μεσαία και βαθιά επίπεδα του δικτύου χωρίς να παρεμβαίνει στην αρχιτεκτονική του. Η ανάλυση των αποτελεσμάτων, επιβεβαίωσε την ιεραρχική φύση της μάθησης: τα πρώιμα επίπεδα εστίασαν σε θεμελιώδη χαρακτηριστικά όπως ακμές και υφές, τα μεσαία επίπεδα συνέθεσαν αυτά σε πιο σύνθετα μοτίβα, και τα βαθιά επίπεδα κατέδειξαν την ανάδυση της τελικής σημασιολογικής αναπαράστασης του αντικειμένου. Τα συμπεράσματα της πιλοτικής εφαρμογής επιβεβαιώνουν την αξία της επιλεγμένης μεθόδου XAI, παρέχοντας μια διαφανή και κατανοητή ερμηνεία της λειτουργίας του «μαύρου κουτιού» του YOLOv9c, ενισχύοντας έτσι την εμπιστοσύνη στην εφαρμογή του για μια κρίσιμη εργασία.