Εκμάθηση αναπαραστάσεων σε πολυσχεσιακούς γράφους με έμφαση σε θορυβώδεις γράφους

Abstract

Οι γράφοι είναι μια διαδεδομένη δομή δεδομένων για τη μοντελοποίηση πολύπλοκων συστημάτων του πραγματικού κόσμου. Συγκεκριμένα, τα περισσότερα συστήματα του πραγματικού κόσμου είναι ετερογενή, που σημαίνει ότι περιέχουν κόμβους και ακμές διαφορετικών τύπων. Για να χρησιμοποιηθούν μοντέλα μηχανικής σε τέτοιους γράφους χρειάζονται εκφραστικές αναπαραστάσεις γράφων που αποτυπώνουν τις δομικές τους πληροφορίες. Γιάυτό το λόγο, η εκμάθηση αναπαράστασης γράφου έχει τραβήξει την προσοχή τελευταία λόγω της επιτυχίας των νευρωνικών δικτύων γράφων (Graph Neural Networks) σε διάφορες απαιτητικές εργασίες μηχανικής μάθησης σε δεδομένα με τη μορφή γράφου. Επιπλέον, οι πολυσχεσιακοί γράφοι γνώσης που χρησιμοποιούνται περιέχουν συχνά θορυβώδεις πληροφορίες, είτε με τη μορφή ακμών που συνδέουν μη σχετικούς κόμβους είτε με σχέσεις χαμηλής πληροφορίας. Για να αντιμετωπίσουμε αυτό το πρόβλημα, προτείνουμε ένα μοντέλο για την ταξινόμηση κόμβων σε ετερογενείς γράφους που αξιοποιεί αναπαραστάσεις που προέρχονται από ένα συνελικτικό νευρωνικό δίκτυο γράφων (Graph Convolutional Neural Network) για να αναγνωρίσει τις τοπικές εξαρτήσεις μεταξύ κόμβων και να τις συνδυάσει με πληροφορίες σε επίπεδο σχέσης που προέρχονται από μια μέθοδο ενσωμάτωσης πολυσχεσιακών γράφων (Multi-relational graph embedding). Η μέθοδος, επονομαζόμενη Split Relation Graph Convolutional Networks (SRGCN), μοντελοποιεί ξεχωριστά τις αναπαραστάσεις του κάθε κόμβου με βάση τα διαφορετικά είδη ακμών στο γράφο, δίνοντας έτσι έμφαση στης σημαντικές σχέσεις. Συγκρίναμε την προτεινόμενη μεθοδολογία με άλλα ευρέως χρησιμοποιούμενα νευρωνικά δίκτυα γράφων σε μια πληθώρα πειραμάτων, δίνοντας έμφαση στη δυνατότητα αυτών να αξιοποιούν χρήσιμες σχέσεις στο γράφο και να αντιμετωπίζουν το θόρυβο που μπορεί να υπάρχει. Για τον σκοπό αυτό πραγματοποιήσαμε πολλά πειράματα σε γράφους που περιέχουν διάφορες μορφές θορύβου, παρατηρώντας τη συμπεριφορά του μοντέλου μας και των υπόλοιπων νευρωνικών. Το προτεινόμενο μοντέλο επιτυγχάνει βελτίωση της απόδοσης σε σύγκριση με τα GNN γενικής χρήσης, καθώς και ανθεκτικότητα έναντι του θορύβου σε διάφορα σενάρια.