Ο καθηγητής Ιωαννίδης στο Dnews: «Δεν πρέπει να απαιτούμε από την τεχνολογία περισσότερα από ό,τι απαιτούμε από τους εαυτούς μας»

Η έκθεση «I am AI» για την τεχνητή νοημοσύνη στη Χαιδελβέργη στάθηκε η αφορμή να συζητήσουμε με τον πρώτο Έλληνα πρόεδρο του μεγαλύτερου και πιο επιδραστικού οργανισμού της επιστήμης των υπολογιστών παγκοσμίως (ACM), κ. Γιάννη Ιωαννίδη.

Το «Turing Game Table» είναι ένα μηχανικό παιχνίδι τεχνητής νοημοσύνης για δύο που μοιάζει με ντάμα, στο οποίο τα στρογγυλά πιόνια μαγνήτες πρέπει να αφαιρούνται από τη βάση τους σύμφωνα με ορισμένους κανόνες.

Ένας παίκτης που αντιπροσωπεύει την ανθρώπινη πλευρά έχει ως αντίπαλο έναν παίκτη που

αντιπροσωπεύει την πλευρά της τεχνητής νοημοσύνης, και ενώ η ανθρώπινη πλευρά γνωρίζει τους κανόνες, η πλευρά της τεχνητής νοημοσύνης ακολουθεί μόνο αυστηρές εντολές μέσω ενός βιβλίου βάσης δεδομένων. Παραδόξως, η τεχνητή νοημοσύνη συνήθως κερδίζει, παρόλο που δεν έχει ιδέα για τους κανόνες και για το τι σημαίνουν. Και εδώ προκύπτει το ερώτημα: μπορούμε να κάνουμε κάτι χωρίς να το καταλάβουμε;

Αυτό είναι όντως, ένα από τα πιο ενδιαφέροντα προβλήματα σχετικά με την τεχνητή νοημοσύνη. Κάνει πράγματα, αλλά δεν καταλαβαίνει πραγματικά τι κάνει και πολλές φορές, ακόμη και οι δημιουργοί της τεχνητής νοημοσύνης δεν ξέρουν πώς και γιατί κάνει αυτό που κάνει.. Ίσως το πρόβλημα είναι ότι εστιάζουμε υπερβολικά στο αποτέλεσμα αντί στη διαδικασία. «Η αιτιολόγηση της συμπεριφοράς μιας τεχνητής νοημοσύνης είναι μια επιστημονική περιοχή στην οποία διενεργείται πολλή έρευνα, δηλαδή, στο πώς θα μπορέσουμε να εξηγήσουμε τα αποτελέσματα που προκύπτουν από τα δίκτυα βαθιάς μάθησης (deep learning). Δυστυχώς η ΤΝ παραμένει σε ορισμένες περιπτώσεις ένα «κλειστό κουτί».

Υπάρχει η κλασική μηχανική μάθηση και η σύγχρονη που καθοδηγείται από τα δεδομένα. Στη δεύτερη ένας αλγόριθμος δεν δέχεται σαφείς οδηγίες, αλλά εξάγει μοτίβα από τα δεδομένα με τα οποία τροφοδοτείται και εκτελεί αυτό που του έχει ανατεθεί. Αυτή η σύγχρονη μορφή, που είναι πολύπλοκη και πολυεπίπεδη, συχνά καταλήγει σε μοντέλα που δεν είναι εξηγήσιμα και αυτό μας δημιουργεί μια ανασφάλεια», σχολιάζει ο Καθηγητής του Τμήματος Πληροφορικής και Τηλεπικοινωνιών του Εθνικού και Καποδιστριακού Πανεπιστημίου Αθηνών, κ. Γιάννης Ιωαννίδης , ο οποίος είναι και ο νεοεκλεγείς Πρόεδρος -και ο πρώτος Έλληνας-της Association for Computing Machinery (ACM), της μεγαλύτερης ένωσης επιστημόνων κι επαγγελματιών Πληροφορικής στον κόσμο.

Η συζήτηση με τον καθηγητή Ιωαννίδη γίνεται ένα μεσημέρι μέσα στον ισόγειο χώρο του παλιού πανεπιστημίου της Χαιδελβέργης όπου φιλοξενείται, στο πλαίσιο του Heidelberg Laureate Forum, μια περιοδεύουσα έκθεση για την Τεχνητή Νοημοσύνη με τίτλο: «I Am A.I». Η έκθεση άνοιξε για πρώτη φορά τις πύλες τις για το κοινό τον περασμένο Ιανουάριο στo Mathematik Informatik Station (MAINS) στη Γερμανική πόλη. Εκθέσεις όπως αυτή είναι εξαιρετικά σημαντικές γιατί ταξιδεύουν τον επισκέπτη στον πυρήνα της τεχνητής νοημοσύνης, δείχνοντάς του με προσιτό και κατανοητό τρόπο, μέσα από 14 διαδραστικές εφαρμογές, τι είναι και πώς μπορεί να χρησιμοποιηθεί.

Είναι απλά ένα «εργαλείο»

Περισσότερες συζητήσεις γίνονται για το αν η τεχνητή νοημοσύνη μπορεί να γίνει «συνειδητή» ή αν θα κυβερνήσει τελικά τον κόσμο, παρά για την πρακτική της εφαρμογή και χρησιμότητα ακόμη και σε περιοχές όπου δεν το περιμένουμε. Οι ειδικοί επισημαίνουν ότι η τεχνητή νοημοσύνη θα διαδραματίζει όλο και πιο σημαντικό ρόλο στη ζωή μας και ως εκ τούτου πρέπει όλοι να μάθουμε να την εκτιμούμε ή να την κριτικάρουμε χωρίς να γινόμαστε ειδικοί στην αρχιτεκτονική της.

«Δεν πρέπει να φοβόμαστε την τεχνητή νοημοσύνη. Είναι απλά ένα εργαλείο. Αυτό που πρέπει να μας φοβίζει είναι οι κακές χρήσεις του. Το γεγονός ότι είναι ένα πολύπλοκο εργαλείο με απίστευτες δυνατότητες που έχει να κάνει με τον εγκέφαλο, το καθιστά πολύ επιδραστικό προς το καλό η προς το κακό, περισσότερο από οποιοδήποτε άλλο. Όμως ο άνθρωπος το μοντελοποιεί, ο άνθρωπος το τροφοδοτεί με δεδομένα και αυτός το τοποθετεί στο σωστό γνωσιακό και θεσμικό πλαίσιο», επισημαίνει ο καθηγητής και συνεχίζει: «Θα αποκτήσει μεγαλύτερη νοημοσύνη το εργαλείο από μας; Και πως ορίζεται η νοημοσύνη; Ακόμη και ο γερανός που φτιάξαμε για να σηκώνει τόνους είναι
πολύ καλύτερος και "εξυπνότερος" από μας. Η τεχνητή νοημοσύνη δεν διαφέρει σε τίποτα από όλα τα άλλα εργαλεία που φτιάξαμε για να μας διευκολύνουν. Στο χέρι μας είναι η σωστή χρήση τους. Για μένα το σημαντικότερο είναι να αντιλαμβανόμαστε τον αντίκτυπο που έχουν οι τεχνολογίες στην κοινωνία».

Η έκθεση περιλαμβάνει πολλά εκθέματα, από την κατανόηση του πώς σκέφτεται μια τεχνητή νοημοσύνη και πώς μπορεί να μάθει να διαβάζει μέχρι το να φτιάξει κάποιος τη δική του τεχνητή νοημοσύνη. Μεταξύ άλλων, υπάρχουν δύο εκθέματα σχετικά με τη μουσική (πώς μια ΤΝ μπορεί να παίξει μαζί με τον χρήστη στο πιάνο και μια άλλη που κάνει τη μουσική έκφραση καλύτερη). Ένα από τα πιο όμορφα μέρη της έκθεσης είναι η κατανόηση της λειτουργίας των
νευρωνικών δικτύων μέσα από καλά μελετημένα παραδείγματα, ενώ το κυνήγι του θησαυρού που είναι και πολύ παιχνιδιάρικο δείχνει στους επισκέπτες μια βασική μέθοδο ελαχιστοποίησης του λάθους. Τέλος, το Talk to me είναι η αναγνώριση φωνής που σε ξεχωριστά βήματα δείχνει ένα πιο περίπλοκο νευρωνικό δίκτυο, ενώ παραδίπλα ένα ρομπότ προσπαθεί να βρει το δρόμο του μέσα σε έναν λαβύρινθο μέσω ενισχυτικής μάθησης.

Περισσότερο από αναγκαία η ηθική χρήση της τεχνητής νοημοσύνης

Η έκθεση, στην οποία μπορεί κάποιος να κάνει και μια διαδραστική εικονική περιήγηση, βουτάει επίσης σε ένα άλλο καυτό θέμα της τεχνητής νοημοσύνης, την ηθική. Υπάρχουν δύο διαδραστικά εκθέματα σχετικά με την ηθική της τεχνητής νοημοσύνης. Το ένα αφορά την ηθική των αυτόνομων οχημάτων, όπου οι επισκέπτες έρχονται αντιμέτωποι με διαφορετικές συνθήκες κυκλοφορίας και πρέπει να επιλέξουν ποια στρατηγική πρέπει να ακολουθήσει η τεχνητή νοημοσύνη (σώζοντας ανθρώπινες ζωές, ελαχιστοποιώντας το κόστους ασφάλισης ή προστατεύοντας τους ανθρώπους μέσα στο αυτοκίνητο).

«Υπάρχουν περιπτώσεις όπου και ο άνθρωπος δεν ξέρει πώς να αντιδράσει. Έχεις, για παράδειγμα, ένα παιδάκι που πετάγεται μπροστά σου και έναν πεζό που περιμένει στη στάση. Εσύ κινείσαι αντανακλαστικά για να αποφύγεις το παιδάκι, αλλά μπορεί να πέσεις πάνω στον πεζό. Αυτό που θέλω να πω είναι ότι δεν πρέπει να απαιτούμε από την τεχνολογία περισσότερα από ότι απαιτούμε από τους εαυτούς μας. Δεν μπορείς να απαιτείς από το μηχάνημα να αντιδράσει αντικειμενικά ορθά αφού ούτε κι εσύ ξέρεις, σε ορισμένες περιπτώσεις, καλά-καλά πώς να αντιδράσεις», εκτιμά ο κ. Ιωαννίδης.

Το άλλο έκθεμα αφορά την προγνωστική αστυνόμευση, όπου μια διαδραστική ιστορία εγείρει το ερώτημα εάν η τεχνητή νοημοσύνη μπορεί να χρησιμοποιηθεί για την πρόβλεψη του εγκλήματος. «Υπάρχουν πια πολλά εργαλεία ΑΙ για τη λήψη αποφάσεων ή συστάσεων. Σε κάποιες περιπτώσεις η ζημιά που προκαλείται αν κάνουν λάθος είναι μικρή. Δεν χάνεται ο κόσμος, για παράδειγμα, αν θα δω τη μια ή την άλλη ταινία. Υπάρχουν όμως και πολύ σημαντικές χρήσεις, όπως η υποστήριξη αποφάσεων σε ένα δικαστήριο όπου ο δικαστής θα πρέπει να δώσει αναστολή ή όχι σε ένα κατάδικο. Πολλές φορές δείχνουμε υπερβολική εμπιστοσύνη στο εργαλείο και δεν βάζουμε τη δική μας εμπειρία και γνώση
πάνω από αυτό το αποτέλεσμα που συνήθως επηρεάζει τη ζωή μας. Θέλω να πω πως το εύρος της δικής μας γνώσης και εμπειρίας σε συνδυασμό με το ηθικό μας υπόβαθρο μπορεί να μας οδηγήσει σε καλύτερες αποφάσεις από αυτές που παράγει η τεχνητή νοημοσύνη», υποστηρίζει ο κ. Ιωαννίδης.

Αναμφισβήτητα στη χρήση της τεχνητής νοημοσύνης υπάρχει μια ισχυρή ηθική διάσταση. Για παράδειγμα, οι κίνδυνοι της κατάχρησης από φορείς εξουσίας και, ιδιαίτερα από αυταρχικές κυβερνήσεις είναι ρεαλιστικοί. Η τεχνητή νοημοσύνη είναι ένα εργαλείο που μπορεί να χρησιμοποιηθεί από οποιονδήποτε που κατέχει μια εξουσία για να διατηρήσει αυτή την εξουσία και να την ενισχύσει. Ένα άλλο ζήτημα είναι ότι η τεχνητή νοημοσύνη μπορεί να ενισχύσει τις διακρίσεις (π.χ. μεταξύ φυλών ή φύλου) και τις προκαταλήψεις, καθώς αυτές είναι παρούσες στα δεδομένα με τα οποία εκπαιδεύεται η τεχνολογία, αντανακλώντας τη συμπεριφορά των ανθρώπων.

«Το μηχάνημα είναι απλώς ένα μηχάνημα. Στο χέρι μας είναι να αναπτύξουμε και να χρησιμοποιήσουμε την τεχνολογία στη βάση της ηθικής και της φιλοσοφίας και να βοηθήσουμε την κοινωνία να την τοποθετήσει στη σωστή της διάσταση. Παράλληλα χρειάζεται να διαμορφωθεί το σωστό θεσμικό και νομικό πλαίσιο σε συνεργασία με την Πολιτεία για να προστατευτούμε από τη μη ηθική χρήση και να επωφεληθούμε ως κοινωνία. Το αν θα διατηρήσουμε ή όχι την ανθρωπιά μας είναι άλλο ζήτημα, ανεξάρτητο από την τεχνολογία. Η τεχνολογία θα συνεχίσει να αναπτύσσεται. Όταν γεννήθηκε το διαδίκτυο χαρήκαμε γιατί θα επικοινωνούσαμε. Το ίδιο συνέβη και με τα κοινωνικά δίκτυα. Αργότερα συνειδητοποιήσαμε ότι παραφυλάει η εξάρτηση, ο εθισμός. Αυτό δεν είναι τεχνολογικό θέμα. Δεν το προβλέπει η τεχνολογία. Η τεχνολογία άγγιξε κάποιες ανθρώπινες πτυχές. Το πώς τη διαχειριζόμαστε είναι ατομικό και κοινωνικό θέμα», τονίζει ο διαπρεπής επιστήμονας.

Ο πρώτος Έλληνας πρόεδρος της ACM

Ο καθηγητής Γιάννης Ιωαννίδης ανέλαβε τα ηνία της Association for Computing Machinery (ACM) την 1η του περασμένου Ιουλίου και θα παραμείνει πρόεδρος έως τις 30 Ιουνίου του 2024. Η ACM, που αποτελεί τον μεγαλύτερο και πιο επιδραστικό οργανισμό της επιστήμης των υπολογιστών στον κόσμο, ιδρύθηκε το 1947 και γιορτάζει φέτος την 75η επέτειό της. Κάθε χρόνο η ένωση απονέμει το γνωστό βραβείο Turing (ACM A.M. Turing Award), το οποίο θεωρείται το Νόμπελ της επιστήμης των υπολογιστών. Ο καθηγητής ανάμεσα σε άλλα έχει διατελέσει πρόεδρος στο Κέντρο Έρευνας και Καινοτομίας «Αθηνά», ενώ είναι συντονιστής και επικεφαλής της νομικής οντότητας OpenAIRE και διευθυντής λογισμικού της Ευρωπαϊκής πρωτοβουλίας Human Brain Project.

Συμμετέχει επίσης στις δράσεις του Δικτύου Λύσεων Αειφόρου Ανάπτυξης των Ηνωμένων Εθνών (UNSDSN), είναι μέλος του διοικητικού συμβουλίου στρατηγικής διαχείρισης του περιφερειακού κόμβου SDSN Greece καθώς και
αντιπρόεδρος του νέου θεματικού SDSN Global Climate Hub. «Προτεραιότητά μου ως νέος πρόεδρος της ACM είναι να προσελκύσουμε όσο περισσότερους επαγγελματίες από τον χώρο της πληροφορικής, να τους βοηθήσουμε
να αντιληφθούν την αξία του οργανισμού, να ενώσουμε τις δυνάμεις μας και να εφαρμόσουμε τη γνώση μας στην αντιμετώπιση σύγχρονων αλλά και μελλοντικών προκλήσεων. Είναι σημαντικό να φροντίσουμε να μη δημιουργήσουμε επιπλέον κοινωνικές προκλήσεις, π.χ., θέματα ιδιωτικότητας των προσωπικών δεδομένων, αποδυνάμωσης των δημοκρατικών θεσμών, και άλλων κινδύνων που δημιουργούνται από τις τεχνολογίες πληροφορίας και επικοινωνίας, και να διαχειριστούμε τις ήδη υπάρχουσες ανά τον κόσμο. Να έρθουμε κοντά και να ενωθούμε σε δράσεις του Δικτύου Λύσεων Αειφόρου Ανάπτυξης των Ηνωμένων Εθνών. Δουλεύουμε πολύ σε αυτό το δίκτυο», εξηγεί ο ίδιος.

Ο καθηγητής λέει πως η ερευνητική του ομάδα του είναι πολυπληθής και πολυεπιστημονική και πως εργάζεται πάνω σε 4-5 ερευνητικές κατευθύνσεις. Το μεγαλύτερο μέρος της δουλειάς του αφορά δεδομένα, αλλά συχνά δουλεύει σε
διεπιστημονικές πτυχές: «Εμπνέομαι από προβλήματα δεδομένων που εμφανίζονται σε άλλους τομείς, π.χ., στη βιομηχανία, σε άλλες επιστήμες, ή σε δραστηριότητες της κοινωνίας, εργάζομαι πάνω σε αυτά και επιστρέφω με λύσεις που είναι εφαρμόσιμες και χρήσιμες».

Η εμβληματική δράση Human Brain Project στην οποία συμμετέχει, στοχεύει στην κατανόηση του εγκεφάλου και στην προσπάθεια προσομοίωσής του: «Στόχος μας είναι να δημιουργήσουμε ένα ψηφιακό δίδυμο του εγκεφάλου. Ο ρόλος μου εκεί είναι να προσφέρω τεχνολογικές αρχιτεκτονικές και να συντονίζω την τεχνολογική ανάπτυξη της υποδομής». Στις προτεραιότητες του καθηγητή είναι επίσης ο εκδημοκρατισμός, η διαφάνεια και η λογοδοσία στην επιστήμη για αυτό και συντονίζει τη διεθνή, μη κερδοσκοπική νομική οντότητα OpenAIRE, που αναπτύσσει και λειτουργεί την κύρια υποδομή στην Ευρώπη για την υποστήριξη των πολιτικών ανοιχτής πρόσβασης και ανοιχτής
επιστήμης σε όλα τα ερευνητικά αποτελέσματα που χρηματοδοτούνται από το δημόσιο, τις δημοσιεύσεις, αλλά και τα σύνολα δεδομένων, το λογισμικό κ.λπ.

Αξίζει να σημειωθεί ότι η υποδομή OpenAIRE είναι η μοναδική στην Ευρώπη που έχει έδρα στη χώρα μας. Ο διαπρεπής επιστήμονας επιδιώκει να «ακουμπά» την τεχνολογία κυριολεκτικά πάνω στην κοινωνία φέρνοντας εφαρμογές και ψηφιακές εμπειρίες σε χώρους ενδιαφέροντος, όπως αυτή που μού περιγράφει αποχωρώντας από τον χώρο της έκθεσης. Μού μιλάει για την ιστοριοκεντρική αντίληψη ενός μουσείου, την οποία έχει εφαρμόσει πιλοτικά σε πολλά μουσεία και χώρους πολιτισμούς στην Ευρώπη, όπως και στο μουσείο της Ακρόπολης: «Όταν επισκέπτεσαι ένα μουσείο στέκεσαι μπροστά σε ένα έκθεμα και διαβάζεις μια μικρή ιστορία σε μια ταμπέλα, ή κάποιος σου λέει μια ιστορία, ή έχεις τον ηχητικό οδηγό. Μετά πηγαίνεις στο επόμενο και διαβάζεις μια άλλη κάρτα, και ούτω καθεξής. Έτσι, η επίσκεψή σου είναι εκθεματοκεντρική, δηλαδή, βλέπεις τα εκθέματα και μαθαίνεις την ιστορία που αναδύεται από αυτά. Αν το αντιστρέψουμε αυτό, τότε έχεις μια ιστορία που είναι ο οδηγός της επίσκεψής σου. Ως μέρος της ιστορίας, τα εκθέματα που εμφανίζονται, συνδέονται με ένα κοινό νήμα που σου δίνει η ιστορία. Και φυσικά, αφού έχεις αυτή τη δυνατότητα, η ιστορία μπορεί να μην είναι απλώς μια αφήγηση, αν έχεις μαζί σου το κινητό ή το tablet σου, μπορεί να περιλαμβάνει τις επιλογές σου ώστε η επίσκεψη να είναι εξατομικευμένη με βάση τα ενδιαφέροντά σου. Έτσι, η ίδια ιστορία μπορεί να δοθεί στο κοινό με πολλούς τρόπους, περιλαμβάνοντας επίσης εικονική πραγματικότητα, επαυξημένη πραγματικότητα κλπ».

Σημείωση: Ο επόμενος σταθμός της έκθεσης «I am AI» θα είναι το Πανεπιστήμιο Friedrich Schiller στην πόλη Jena της Θουριγγίας, όπου θα παραμείνει από τον Δεκέμβριο του 2022 μέχρι τον Μάρτιο του 2023.

#ΚΑΘΗΓΗΤΗΣ #ΤΕΧΝΟΛΟΓΙΑ #ΤΕΧΝΗΤΗ_ΝΟΗΜΟΣΥΝΗ #ΕΚΘΕΣΗ