Οι πολυδιάστατες ηθικές προκλήσεις που εγείρει η τεχνητή νοημοσύνη, από την διαφάνεια και τις προκαταλήψεις, την προστασία των προσωπικών δεδομένων, τις ανισότητες και την παραπληροφόρηση έως ακόμη και τον έλεγχο των μηχανών από τον άνθρωπο, αποτελούν το αντικείμενο του νέου μεταπτυχιακού προγράμματος σπουδών για την Ηθική στην Τεχνολογία της Πληροφορίας, το οποίο εγκαινιάζει το Τμήμα Πληροφορικής του Ιονίου Πανεπιστημίου. Μιλώντας στο ΑΠΕ-ΜΠΕ οι δημιουργοί του προγράμματος, ο ομότιμος Καθηγητή Χειρουργικής, πρώην Πρύτανης του Δημοκρίτειου Πανεπιστημίου Θράκης, Ακαδημαϊκός και Πρόεδρος της Ελληνική Εταιρεία Βιοηθικής Κωνσταντίνος Σιμόπουλος και ο Καθηγητής Βιοπληροφορικής του Τμήματος Πληροφορικής του Ιονίου Πανεπιστημίου, Μέλος του Συμβουλίου διοίκησης, Επιστημονικά Υπεύθυνος του Εργαστηρίου Βιοπληροφορικής και Ανθρώπινης Ηλεκτροφυσιολογίας και Διευθυντής του νέου μεταπτυχιακού προγράμματος Παναγιώτης Βλάμος, εξήγησαν ότι το μεταπτυχιακό «Ηθική στην Τεχνολογία της Πληροφορίας» προετοιμάζει επαγγελματίες από διάφορους κλάδους να διαχειριστούν τις προκλήσεις αυτές.
Ερώτηση: Εάν θέλαμε να δούμε το πανόραμα των προκλήσεων που παρουσιάζει η Τεχνητή Νοημοσύνη σήμερα, τι θα συμπεριλαμβάνατε;
Κωνσταντίνος Σιμόπουλος: Τα ηθικά ζητήματα που συνδέονται με την τεχνητή νοημοσύνη είναι πολυδιάστατα και σχετίζονται με την επίδραση της τεχνολογίας στις κοινωνίες, αλλά και τα άτομα. Ξεκινούν από τη διαφάνεια και την εξηγησιμότητα -τα συστήματα τεχνητής νοημοσύνης να μπορούν να εκφράζουν τις διαδικασίες λήψης αποφάσεων με τρόπο που να μπορούν να κατανοήσουν οι άνθρωποι- καθώς πολλά συστήματα ΤΝ, ιδιαίτερα εκείνα που βασίζονται σε βαθιά μηχανική μάθηση (deep learning), λειτουργούν ως «μαύρα κουτιά», δηλαδή χωρίς να είναι σαφής ο τρόπος με τον οποίο λαμβάνονται οι αποφάσεις. Η έλλειψη διαφάνειας μπορεί να οδηγήσει σε δυσπιστία και δυσκολία στον έλεγχο της δικαιοσύνης και της ακρίβειας των αποφάσεων.
Ένα δεύτερο μεγάλο ζήτημα είναι οι προκαταλήψεις και οι διακρίσεις. Τα συστήματα ΤΝ εκπαιδεύονται σε δεδομένα που ενδέχεται να περιέχουν κοινωνικές, φυλετικές, ή έμφυλες προκαταλήψεις. Αν τα δεδομένα είναι μεροληπτικά, τα αποτελέσματα της ΤΝ μπορεί να αναπαράγουν ή και να ενισχύσουν τις διακρίσεις, π.χ. αποφάσεις για προσλήψεις, δάνεια ή ποινική δικαιοσύνη.
Ένα δεύτερο μεγάλο ζήτημα είναι οι προκαταλήψεις και οι διακρίσεις. Τα συστήματα ΤΝ εκπαιδεύονται σε δεδομένα που ενδέχεται να περιέχουν κοινωνικές, φυλετικές, ή έμφυλες προκαταλήψεις. Αν τα δεδομένα είναι μεροληπτικά, τα αποτελέσματα της ΤΝ μπορεί να αναπαράγουν ή και να ενισχύσουν τις διακρίσεις, π.χ. αποφάσεις για προσλήψεις, δάνεια ή ποινική δικαιοσύνη.
