Αξιοποίηση συστημάτων Blockchain για εκπαίδευση μοντέλων μηχανικής μάθησης

Abstract

Η παρούσα διπλωματική εργασία αποτελεί μια μελέτη των τεχνολογιών Blockchain και Μηχανικής Μάθησης και των τρόπων που αυτά τα δύο θα μπορούσαν να συνδυαστούν. Μέσα από την εργασία δημιουργήθηκε μια αποκεντρωμένη εφαρμογή (dApp) η οποία αξιοποιεί συστήματα Blockchain για την εκπαίδευση και βελτίωση μοντέλων Μηχανικής Μάθησης. Η αποκεντρωμένη εφαρμογή που προτείνεται ονομάζεται DEMOS (DistributedlyEnhancedMachine learning Optimization System) ή αλλιώς Κατανεμημένα Ενισχυμένο Σύστημα Βελτιστοποίησης Μηχανικής Μάθησης. Στόχος του DEMOS είναι η διαρκής βελτίωση της επίδοσης μοντέλων επιβλεπόμενης μάθησης. Αυτό επιτυγχάνεται χρησιμοποιώντας ένα Ethereum Blockchain δίκτυο ώστε να συλλέγονται συνεχώς δεδομένα για τον εμπλουτισμό του συνόλου δεδομένων εκπαίδευσης. Επίσης προσφέρεται η δυνατότητα επανεκπαίδευσης των μοντέλων αλλά και αξιολόγησής τους. Τα μοντέλα Νευρωνικών Δικτύων που εκπαιδεύει το DEMOS βασίζονται στη BERT αναπαράσταση φυσικής γλώσσας. Τα συγκεκριμένα μοντέλα επιλύουν προβλήματα Επεξεργασίας Φυσικής Γλώσσας (NLP) και πιο συγκεκριμένα προβλήματα ανάλυσης συναισθημάτων. Για τη σωστή λειτουργία του DEMOS έχει σχεδιαστεί ένας μηχανισμός κινήτρου που ενθαρρύνει την ορθή χρήση και τιμωρεί τη λανθασμένη χρήση από κακόβουλους χρήστες. Ο μηχανισμός κινήτρου υλοποιήθηκε μέσω των έξυπνων συμβολαίων της εφαρμογής. Ο πηγαίος κώδικας του DEMOS βρίσκεται στο https://gitlab.com/netmode/blockchain-ml

This diploma thesis is a piece of research on Blockchain and Machine Learning technologies and methods to combine them. Through this work, I propose a decentralized application (dApp) which exploits Blockchain systems for the training and enhancement of machine learning models. The proposed decentralized application is called DEMOS (DistributedlyEnhancedMachine learning Optimization System). The purpose of DEMOS is the persistent performance improvement of supervised learning models. This is achieved using an Ethereum Blockchain network which enriches the training datasets by constantly collecting new data. Furthermore, DEMOS can be used to train and evaluate models. Models used in DEMOS are based on BERT language model. These models are used for Natural Language Processing (NLP) tasks, specifically Sentiment Analysis problems. An incentive mechanism was developed to ensure the correct use of the application. The mechanism encourages benevolent use and punishes devious behaviour by malevolent users. The incentive mechanism is implemented through the application’s smart contracts. The source code of DEMOS can be found in https://gitlab.com/netmode/blockchain-ml