Ημερομηνία: Δευτέρα 19/10 στις 12:00
Φοιτήτρια: Καλλιόπη-Χριστίνα Δεσποτίδου
Τίτλος: Ομοσπονδιακές Επεξηγήσεις SHAP με Διατήρηση της Ιδιωτικότητας για Κλινικά Μοντέλα Πρόβλεψης
Σύνδεσμος: Zoom link
Τριμελής Εξεταστική Επιτροπή:
Γιάννης Ιωαννίδης (επιβλέπων): Καθηγητής, Τμήμα Πληροφορικής και Τηλεπικοινωνιών, Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών
Αθανάσιος Αυγερινός: Επίκουρος Καθηγητής, Τμήμα Πληροφορικής και Τηλεπικοινωνιών, Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών
Μανόλης Κουμπαράκης: Καθηγητής, Τμήμα Πληροφορικής και Τηλεπικοινωνιών, Εθνικό και Καποδιστριακό Πανεπιστήμιο Αθηνών
Περίληψη:
Πολλά μοντέλα μηχανικής μάθησης σήμερα χρησιμοποιούνται από ολοένα και περισσότερους οργανισμούς που συνεργάζονται χωρίς να μοιράζονται τα δεδομένα τους, όπως νοσοκομεία, τράπεζες ή δημόσιοι φορείς. Οι χρήστες τους θέλουν να ξέρουν σε τι βασίζεται ένα τέτοιο μοντέλο, και οι τιμές SHAP το απαντούν δείχνοντας πόσο επηρεάζει κάθε χαρακτηριστικό τις προβλέψεις του. Η εργασία αυτή διαπιστώνει ότι αυτές οι επεξηγήσεις τεχνητής νοημοσύνης έχουν κόστος. Οι τιμές SHAP που μοιράζεται κάθε οργανισμός μπορούν να αποκαλύψουν χαρακτηριστικά των δεδομένων του, και η απόκρυψή τους με ασφαλή πολυμερή υπολογισμό (SMPC) δεν τα προστατεύει πλήρως. Προτείνουμε έναν τρόπο για ασφαλή κοινοποίηση επεξηγήσεων. Οι οργανισμοί συνδυάζουν τις τιμές SHAP τους μέσα στον SMPC και προσθέτουν θόρυβο διαφορικής ιδιωτικότητας (DP) πριν δημοσιευτεί οτιδήποτε, ώστε κάθε μεμονωμένη εγγραφή να προστατεύεται με τυπική εγγύηση. Επειδή οι χρήστες συχνά ενδιαφέρονται μόνο για τα λίγα χαρακτηριστικά που μετράνε περισσότερο, συγκρίνουμε δύο τρόπους ιδιωτικής δημοσίευσής τους και δείχνουμε ότι ο καλύτερος μπορεί να επιλεγεί εκ των προτέρων, μόνο από το δημόσιο μοντέλο και χωρίς επιπλέον κόστος ιδιωτικότητας. Πειράματα σε συνθετικά δεδομένα και σε περίπου 63.000 πραγματικούς ασθενείς από 130 νοσοκομεία των ΗΠΑ δείχνουν ότι μια επίθεση που πετυχαίνει χωρίς την προστασία που προτείνουμε, αποτυγχάνει μετά την εφαρμογή της, ενώ τα σημαντικότερα χαρακτηριστικά του μοντέλου εξακολουθούν να βρίσκονται σχεδόν τέλεια. Αν και τα πειράματά μας προέρχονται από τον τομέα της υγείας, η προσέγγιση ισχύει για κάθε γραμμικό μοντέλο που χρησιμοποιείται από τους οργανισμούς. Η κοινοποίηση των επεξηγήσεων και η προστασία της ιδιωτικότητας δεν χρειάζεται να συγκρούονται.
Η ομιλία αυτή αποτελεί τη δημόσια παρουσίαση της διπλωματικής εργασίας της ομιλήτριας.