Επεξηγήσιμα Δένδρα Αποφάσεων: Πέρα από την Ενσωματωμένη Ερμηνευσιμότητα

Abstract

Η αυξανόμενη ενσωμάτωση της Τεχνητής Νοημοσύνης σε κρίσιμες περιοχές λήψης αποφάσεων, όπως η υγειονομική περίθαλψη, τα οικονομικά και η ποινική δικαιοσύνη, υπογραμμίζει την αναγκαιότητα αυτά τα συστή- ματα να είναι σαφή και κατανοητά. Πολλές αποφάσεις υψηλού κινδύνου λαμβάνονται επί του παρόντος με τη χρήση μοντέλων "μαύρου κουτιού", και οι προσπάθειες να εξηγηθούν αυτά τα μοντέλα, αντί να αναπτυχθούν μοντέλα που είναι εγγενώς διαφανή και ερμηνεύσιμα, μπορούν να διαιωνίσουν επιβλαβείς πρακτικές και να οδηγή- σουν σε σημαντική κοινωνική ζημία. Τα δέντρα αποφάσεων είναι γνωστά στον τομέα της μηχανικής μάθησης για την εγγενή τους διαφάνεια, αποτελώντας παράδειγμα του πώς οι πολύπλοκοι αλγόριθμοι μπορούν να καταστούν κατανοητοί. Ωστόσο, αυτή η εγγενής ερμηνευσιμότητα δεν ισοδυναμεί πάντα με εξηγησιμότητα στον πραγματικό κόσμο, όπου η σαφήνεια των αποφάσεων ενός μοντέλου πρέπει να είναι εφαρμόσιμη και να έχει νόημα για όλους τους χρήστες. Η παρούσα εργασία διερευνά τις υπάρχουσες προκλήσεις για να καταστούν τα δέντρα αποφάσεων πραγματικά ερμηνεύσιμα, με στόχο να γεφυρώσει το χάσμα μεταξύ της τεχνικής διαφάνειας και της πρακτικής κατανόησης. Εμβαθύνουμε στην κατανόηση της ανθρώπινης λήψης αποφάσεων και στους περιορισμούς της ανθρώπινης αντίλ- ηψης. Με γνώμονα αυτά, προτείνουμε τεχνικές αύξησης της ερμηνευσιμότητας στα δέντρα απόφασης, τις οποίες αξιολογούμαι μέσω μιας έρευνας χρηστών.