Counterfactual Explanations for Graph Neural Networks

Abstract

Οι Εξηγήσεις με Αντιπαραδείγματα έχουν προσελκύσει ιδιαίτερα μεγάλο ενδιαφέρον στο πεδίο της εξηγήσιμης τεχνητής νοημοσύνης, καθώς προσφέρουν εύστοχα παραδείγματα για το πως μικρές τροποποιήσεις σε μια είσοδο μπορούν να μεταβάλλουν την πρόβλεψη οποιουδήποτε μοντέλου. Σε αντίθεση με τις παραδοσιακές post-hoc μεθόδους επεξήγησης, οι οποίες φαίνεται απλώς να αναδεικνύουν τα κύρια χαρακτηριστικά που οδηγούν σε μια πρόβλεψη, οι αντιπαραδειγματικές εξηγήσεις εστιάζουν στις ελάχιστες απαραίτητες τροποποιήσεις που θα αλλάξουν το τελικό αποτέλεσμα, παρέχοντας έτσι ένα ισχυρό εργαλείο κατανόησης του μοντέλου και διευκόλυνσης των χρηστών. Η σημασία αυτών των χαρακτηριστικών γίνεται ακόμη πιο εμφανής σε δεδομένα με γράφους, όπου οι δομικές σχέσεις και οι προκαταλήψεις συχνά καθιστούν ακόμη πιο αδιαφανείς τις μεθόδους πρόβλεψης ενός μοντέλου. Στην παρούσα εργασία, επιδιώκουμε την διερεύνηση εξηγήσεων με αντιπαραδείγματα για Νευρωνικά Δίκτυα με Γράφους (GNNs) μέσω τροποποιήσεων στις ακμές. Προτείνουμε ένα πλαίσιο “explainer” που μαθαίνει μια “μάσκα ακμών”, καθοδηγούμενο από μια πολύ-παραγοντική συνάρτηση απωλειών. Αφαιρώντας επιλεκτικά συγκεκριμένες ακμές, η μέθοδός μας εντοπίζει τις ελάχιστες διαταραχές που απαιτούνται για να μεταβληθεί η πρόβλεψη οποιουδήποτε μοντέλου, οδηγώντας σε αντιπαραδειγματικές εξηγήσεις οι οποίες είναι ταυτόχρονα ακριβείς και ερμηνεύσιμες. Η συνάρτηση απωλειών περιλαμβάνει πολλαπλούς στόχους, επιτυγχάνοντας μια ισορροπία ανάμεσα στη διατήρηση της αρχικής πρόβλεψης, την ελαχιστοποίηση της διαταραχής και τη συνοχή της εξήγησης, τόσο σε επίπεδο γράφου όσο και κόμβου. Για κάθε διαφορετική περίπτωση, προσδιορίζουμε τα βασικά στοιχεία της δομής του γράφου και σχεδιάζουμε έναν κατάλληλο, ανεξάρτητο από το εκάστοτε μοντέλο, περιορισμό, επιτρέποντάς μας να δημιουργήσουμε ακόμη πιο συμπυκνωμένα και ακριβή αντιπαραδείγματα. Η αξιολόγηση και οι δοκιμές σε τυπικά σύνολα δεδομένων καταδεικνύουν ότι η προσέγγισή μας παράγει ουσιαστικές και εφαρμόσιμες αντιπαραδειγματικές εξηγήσεις, λαμβάνοντας υπόψη τόσο την ελαχιστοποίηση όσο και την ανθεκτικότητα. Επιπλέον, οι διαταραχές σε επίπεδο ακμής προσφέρουν σημαντική πληροφόρηση σχετικά με κρίσιμες δομικές σχέσεις του γράφου, παρέχοντας μια βαθύτερη κατανόηση για το πώς οι ανεπτυγμένες αναπαραστάσεις επηρεάζουν τις προβλέψεις ενός μοντέλου. Τα ενθαρρυντικά ευρήματα του προτεινόμενου “explainer” υπογραμμίζουν τη δυνατότητα βελτίωσης της ερμηνευσιμότητας, της αξιοπιστίας και της διαφάνειας σε εφαρμογές γραφημάτων, καλύπτοντας ένα ευρύ φάσμα εφαρμογών.