Εκμάθηση σχέσεων από γράφους γνώσης με τεχνολογίες μηχανικής μάθησης

Abstract

Οι γράφοι γνώσης περιέχουν σημαντικές πληροφορίες για τον κόσμο με τη μορφή οντοτήτων και σχέσεων μεταξύ αυτών. Ωστόσο, όχι μόνο είναι δύσκολο να χρησιμοποιηθούν σε εφαρμογές Μηχανικής Μάθησης, αλλά έχουν και ελάττωμα σχετικά με την πληρότητα και την ορθότητα των δεδομένων τους. Το Link Prediction ασχολείται με την πρόβλεψη της ύπαρξης ή της πιθανότητας ορθότητας των πληροφοριών σε έναν Γράφο Γνώσης, καθώς το Statistical Relational Learning επικεντρώνεται στη δημιουργία στατιστικών μοντέλων για σχεσιακά δεδομένα. Τα Translational Distance Models είναι μια μέθοδος που χρησιμοποιείται ευρέως για την αντιμετώπιση αυτών των προβλημάτων, η οποία χρησιμοποιεί βασίζεται σε scoring functions με κριτήριο την απόσταση και υπολογίζει την αξιοπιστία ενός γεγονότος ως την απόσταση μεταξύ των embeddings των οντοτήτων.

Το TransE είναι ένα απλό και αποδοτικό μοντέλο, το οποίο λαμβάνει υπόψη μόνο τις άμεσες σχέσεις μεταξύ οντοτήτων. Από την άλλη πλευρά, το Path-based TransE (PTransE) δημιουργεί, επιπλέον, μονοπάτια σχέσεων πολλαπλών βημάτων στον Γράφο Γνώσης, αλλά υστερεί στην χρονική πολυπλοκότητα. Σε αυτή τη διπλωματική εργασία, προτείνουμε ένα συνδυασμό αυτών των δύο μοντέλων. Στόχος μας είναι να διατηρήσουμε την αποτελεσματικότητα του TransE και να επωφεληθούμε από τις πρόσθετες γνώσεις του PTransE. Ως εκ τούτου, προτού προχωρήσουμε στην εκπαίδευση, προσθέτουμε τις συνθέσεις σχέσεων και τις αντίστροφες σχέσεις στον Γράφο Γνώσης, υπολογίζουμε την αξιοπιστία κάθε διαδρομής και τροποποιούμε κατάλληλα το margin-based loss function του TransE.

Αξιολογούμε την προτεινόμενη μέθοδο σε δύο σύνολα δεδομένων, FB15K και SNOMED CT. Το δευτέρο βασίζεται σε αξιώματα Web Ontology Language που παρέχουν έναν τυπικό λογικό ορισμό των εννοιών. Η αξιολόγηση στο FB15K δεν επιτυγχάνει ιδιαίτερα καλά αποτελέσματα, αλλά στο SNOMED CT το μοντέλο μας παρουσιάζει σημαντική και συνεπή βελτίωση.