Ανασκόπηση της Ευρωστίας και της Ιδιωτικότητας συστημάτων Τεχνητής Νοημοσύνης με ανάλυση περιπτώσεων χρήσης σε κρίσιμα πεδία της έρευνας και των επιχειρήσεων

Abstract

Η ραγδαία ανάπτυξη των της τεχνητής νοημοσύνης (AI), ειδικότερα τεχνικών μηχανικής μάθησης (ML) και βαθιάς μάθησης, έχει δημιουργήσει μοντέλα με εξαιρετικές επιδόσεις σε πληθώρα εργασιών, και για αυτό χρησιμοποιούνται ευρέως σε καθημερινές εφαρμογές και σε εργασίες όπως αναγνώριση και κατηγοριοποίηση εικόνων, ανίχνευση αντικειμένων ή αναγνώριση ψηφίων. Ακόμη, η χρήση του AI έχει αυξηθεί και επεκταθεί πέρα από τις κλασσικές εφαρμογές της σε τομείς της πληροφορικής, διεισδύοντας σε πιο κλασσικές και βαριές βιομηχανίες, όπως στο πεδίο της αυτοκινητοβιομηχανίας, για ανάπτυξη αυτόνομων συστημάτων πλοήγησης, στο πεδίο της ενέργειας για πρόβλεψη ενεργειακής ζήτησης, αλλά και σε πεδία όπως η υγεία για παροχή ιατρικής διάγνωσης. Παρά την ευρεία χρήση, αναδύονται ζητήματα ασφάλειας και ρίσκου όταν γίνεται εφαρμογή τέτοιων τεχνικών ειδικά σε κρίσιμα πεδία κυρίως λόγω της ευπάθειας των ML μοντέλων σε προσεκτικά κατασκευασμένα δείγματα εισόδου που περιέχουν διαταραχές, τα οποία ονομάζονται ανταγωνιστικά παραδείγματα και έχουν τη δυνατότητα να προκαλέσουν δυσλειτουργία στο σύστημα και στην απόφαση αυτού. Αντίστοιχες ανησυχίες υπάρχουν και για την ιδιωτικότητα των δεδομένων με τα οποία εκπαιδεύονται τα ML μοντέλα, ειδικά όταν αυτά περιέχουν ευαίσθητα προσωπικά δεδομένα (π.χ. ιατρικό ιστορικό) και το κατά πόσο μπορεί να διατηρηθεί όταν τα μοντέλα έχουν αποδειχθεί ότι απομνημονεύουν πολλά δεδομένα και μπορούν να διαρρεύσουν πληροφορίες για αυτά. Στόχος της διπλωματικής εργασίας είναι η ανασκόπηση της ευρωστίας και της ιδιωτικότητας συστημάτων τεχνητής νοημοσύνης με ανάλυση περιπτώσεων χρήσης σε 3 κρίσιμα πεδία της έρευνας και των επιχειρήσεων: των οχημάτων και αυτόνομης οδήγησης, της υγείας και ιατρικής διάγνωσης, και της ηλεκτρικής ενέργειας και των έξυπνων δικτύων. Αυτό γίνεται με ταξινόμηση και ανάλυση των τρεχόντων και δημοφιλέστερων ανταγωνιστικών επιθέσεων και αμυνών με αξιολόγηση των κινδύνων, προστασιών και επιπτώσεων για το κάθε πεδίο. Αντίστοιχα, γίνεται ταξινόμηση και ανάλυση των επιθέσεων και προστασιών της ιδιωτικότητας των μοντέλων και δεδομένων με αξιολόγηση εφαρμογής των τρεχόντων τεχνικών στο κάθε πεδίο. Παρουσιάζονται επίσης τα προβλήματα και οι συμβιβασμοί που προκύπτουν με την προσπάθεια εφαρμογής τεχνικών για τη βελτίωση της ευρωστίας ή της προστασίας της ιδιωτικότητας σε ML μοντέλα, και γίνεται αναφορά σε μελλοντικές προεκτάσεις για την έρευνα και υλοποίηση μεθόδων ενίσχυσης ευρωστίας και ιδιωτικότητας σε κρίσιμα πεδία και μη.