Ανάπτυξη πράκτορα συζήτησης για την υποβοήθηση επεξήγησης τεχνικών μηχανικής μάθησης

Abstract

Σκοπός της παρούσας διπλωματικής εργασίας αποτελεί η μελέτη ενός ανερχόμενου κλάδου της τεχνητής νοημοσύνης, της επεξηγήσιμης τεχνητής νοημοσύνης (Explainable Artificial Intelligence - XAI) καθώς και τον συνδυασμό της με έναν πράκτορα συζήτησης (conversational agent) ο οποίος θα παρέχει υποβοήθηση για την επεξήγηση των αποτελεσμάτων της μηχανικής μάθησης στο χρήστη. Συγκεκριμένα εστιάζουμε στην εφαρμογή της σε τεχνικές επεξεργασίας κειμένου για την ανίχνευση προσβλητικού λόγου και ρητορικής μίσους. Για την ανίχνευση του προσβλητικού λόγου χρησιμοποιήθηκε η τεχνολογία επεξεργασίας φυσικής γλώσσας αιχμής BERT (Bidirectional Encoder Representations from Transformers) με προεκπαιδευμένο μοντέλο ειδικά για ανίχνευση προσβλητικού κειμένου. Η ερμηνεία των αποτελεσμάτων που εξάγει το μοντέλο αυτό έγινε μέσω των τιμών Shapley χρησιμοποιώντας την αντίστοιχη βιβλιοθήκη SHAP . Στη συνέχεια χρησιμοποιήθηκε το λογισμικό ανοιχτού κώδικα Rasa για τη δημιουργία ενός πράκτορα συζήτησης, ο οποίος θα επικοινωνεί με το μοντέλο που έχει δημιουργηθεί έτσι ώστε να ανιχνεύει προσβλητικό λόγο στην είσοδο που λαμβάνει και να επεξηγεί την απόφαση του παραθέτοντας τις λέξεις που επηρέασαν περισσότερο αυτή την απόφαση.