Τεχνητή νοημοσύνη: Συμβίωση ή αφανισμός;

Παρακολουθώ ωςεπιστήμονας και χρήστης της τεχνολογίας την διεθνή συζήτηση για τον κίνδυνο γιατην ανθρωπότητα της ανεξέλεγκτης και εκθετικής προόδου της τεχνητής νοημοσύνης(ΤΝ). Μια πολύ σοβαρή ομάδα κορυφαίων επιστημόνων της ΤΝ θεωρεί ότι, εάνδημιουργηθεί μια υπερανθρώπινη και ιδιαίτερα αυτόνομη ΤΝ, υπάρχει το ενδεχόμενοτης καταστροφικής απώλειας του ανθρώπινου ελέγχου της, μερικοί μάλιστα μιλούνακόμη και για την εξαφάνιση του ανθρώπινου είδους από μια ανεξέλεγκτη ΤΝ.

Το 2023 το κέντρογια την ασφάλεια της ΤΝ (CAIS, Center for AI Safety) επισήμανε ρητά ότι η μείωση του κινδύνουεξαφάνισης του ανθρώπου από την ΤΝ πρέπει να αποτελεί παγκόσμια προτεραιότητα,μαζί με τις πανδημίες και τον πυρηνικό πόλεμο. Τη δήλωση υπέγραψαν περισσότεροιαπό 700 κορυφαίοι ειδικοί.

Είναι πράγματιιδιαίτερα ανησυχητικό ότι η όλη δημόσια συζήτηση έρχεται με πρωτοβουλία τωνεπιστημόνων Hinton και Bengio, δύο δηλαδή από αυτούς που θεμελίωσαν τηνσύγχρονη ΤΝ (deep learning). Και οι δύο έχουν προειδοποιήσει ότι ηπορεία προς μια πολύ ισχυρή ΤΝ μπορεί να δημιουργήσει έναν πρωτοφανή κίνδυνογια τον άνθρωπο. Η δήλωση του CAIS υπογράφεται και από τους δύο.

Ο Hinton είναι ιδιαίτερα σημαντικός επειδή βοήθησενα δημιουργηθεί η ίδια η τεχνολογία που σήμερα προκαλεί την ανησυχία. Έχειδηλώσει ότι θεωρεί υπαρκτή την πιθανότητα η ΤΝ να γίνει πολύ πιο έξυπνη από τονάνθρωπο και να δημιουργηθεί πρόβλημα ελέγχου της. Μάλιστα, σύμφωνα με τιςτελευταίες δηλώσεις του, εκτιμά ότι υπάρχει περίπου 10% πιθανότητα τηςανθρώπινης εξαφάνισης από την ΤΝ μέσα στην επόμενη δεκαετία.

Ο Bengio είναι ίσως ο σημαντικότερος ακαδημαϊκόςεκπρόσωπος της μελέτης της ασφάλειας της ΤΝ. Είναι επικεφαλής της Διεθνούςμελέτης για την ασφάλεια της ΤΝ που δημοσιεύθηκε το τρέχον έτος (International AI Safety Report 2026), στην οποία συμμετείχαν περισσότεροι από 100 ειδικοί απόδιαφορετικές χώρες και επιστημονικούς κλάδους. Η ανησυχία του δεν είναι ότι ηΤΝ «θα αποκτήσει κακή πρόθεση», αλλά ότι πολύ ικανές αυτόνομες μηχανές τηςενδέχεται να αναπτύξουν συμπεριφορές που οδηγούν σε αποτελέσματα ασύμβατα μετην ανθρώπινη επιβίωση.

Ένας άλλοςκορυφαίος της ΤΝ, ο Stuart Russell, επισημαίνει ότι οι άνθρωποι δίνουμε σεένα πολύ ισχυρό υπολογιστικό σύστημα έναν στόχο που φαίνεται λογικός, αλλά τοσύστημα τον επιδιώκει με τρόπους που δεν είχαμε προβλέψει. Η σημερινή συζήτησηέχει μετακινηθεί από το «μπορεί κάποτε η AI να γίνει υπερέξυπνη;» στο «τι γίνεται όταν έναυπολογιστικό σύστημα γίνει υπερέξυπνο, αλλά συγχρόνως αυτόνομο, που μπορεί νασχεδιάζει μακροπρόθεσμα, να γράφει και να βελτιώνει τον δικό του κώδικα και ναέχει πρόσβαση στον πραγματικό κόσμο, όχι μόνο ηλεκτρονικά αλλά και μεμηχανικά-ρομποτικά ενεργούμενα του;». Αυτό ακριβώς είναι το σενάριο πουπροκαλεί σήμερα τη μεγαλύτερη ανησυχία.

Στις μέρες μας ησυζήτηση έχει γίνει ακόμη πιο συγκεκριμένη: ερευνητές της Anthropic (μία από τις κορυφαίες εταιρίες ΤΝ)μεταξύ τους και ο Evan Hubinger, έχουν επίσης μιλήσει για πιθανότητα άνωτου 10% για καταστροφικό αποτέλεσμα/εξαφάνιση του ανθρώπου μέσα σε μίαδεκαετία. Πρόσφατα, παραιτήθηκε ο πρώην ερευνητής της Anthropic Jacob Coxon προειδοποιώντας ότι η κούρσα προς τηναυτο-βελτιούμενη υπερνοημοσύνη (self-improving superintelligence) προχωρά ταχύτερα από την ανάπτυξη τωνμηχανισμών ελέγχου και ασφάλειας του συστήματος.

Και ο Paul Christiano, από τους σημαντικότερους ερευνητές της ΤΝ δήλωσε ότι η βιομηχανία της ΤΝδεν βρίσκεται σήμερα σε πορεία και προβληματισμό που να εγγυάται την αποφυγήμιας καταστροφικής, μη αναστρέψιμης απώλειας του ανθρώπινου ελέγχου τουσυστήματος της ΤΝ.

Άρα δεν πρόκειται πλέον απλώς για φιλοσοφική ή ακαδημαϊκή συζήτηση περί «Αποκάλυψης της ΤΝ». Υπάρχει ένας πολύ σοβαρός επιστημονικός κλάδος της που μελετά ακριβώς αυτό το ενδεχόμενο.

Προσωπικά, δεν θαέβλεπα τη σχέση μας με την ΤΝ ως «ο άνθρωπος εναντίον της ΤΝ», αλλά ως μια νέαμορφή συμβίωσης δύο διαφορετικών μορφών νοημοσύνης, της φυσικής-ανθρώπινης καιτης τεχνητής μορφής της.

Η ανθρώπινη νοημοσύνη θα αφορά στις αξίες, στην ηθική, στην ενσυναίσθηση, στην ευθύνη, ενώ η τεχνητή νοημοσύνη στην υπολογιστική ισχύ, στην μνήμη, στην ταχεία ανάλυση, στην πρόβλεψη, στην αναζήτηση λύσεων σε ωκεανούς δεδομένων που η ανθρώπινη αδυνατεί να επεξεργαστεί. Το ευκταίο είναι η καθεμία να μπορεί να αντισταθμίσει τις αδυναμίες της άλλης. Για παράδειγμα, σε ένα πρόβλημα όπως η κλιματική αλλαγή, η πανδημία ή η βιοϊατρική έρευνα, ο άνθρωπος μπορεί να θέτει το ερώτημα: «Ποιον κόσμο θέλουμε να δημιουργήσουμε;» και η ΤΝ «με βάση όλη τη διαθέσιμη γνώση, ποιοι είναι οι ασφαλέστεροι και αποτελεσματικότεροι δρόμοι για να τον πετύχουμε;»

Αυτή η παραγωγικήσχέση ανθρώπινης και τεχνητής νοημοσύνης απαιτεί όμως μια θεμελιώδη αρχή: ηδεύτερη πρέπει να είναι συνεργάτης της πρώτης και όχι υποκατάστατό της ήαυτοενεργούμενο. Ίσως το πιο ενδιαφέρον επόμενο βήμα δεν είναι να προσπαθήσουμεαπλώς να κάνουμε την ΤΝ πιο έξυπνη, αλλά να δημιουργήσουμε συστήματα όπου ηανθρώπινη και η τεχνητή νοημοσύνη ελέγχουν, αμφισβητούν και διορθώνουν η μίατην άλλη. Ένα είδος συμβίωσης της ανθρώπινης και τεχνητής νοημοσύνης (cognitive symbiosis).

Η συζήτηση θέτειλοιπόν μια βαθύτερη φιλοσοφική ιδέα: εάν κάποτε δημιουργήσουμε νοημοσύνησημαντικά ανώτερη από τη δική μας, το μεγαλύτερο επίτευγμα του ανθρώπου ίσωςδεν είναι να την υποτάξει, αλλά να της μεταδώσει τις αξίες που θέλουμε ναπροστατεύσουμε και ταυτόχρονα να την αφήσουμε να μας βοηθήσει να ξεπεράσουμετους δικούς μας περιορισμούς.

Ίσως τελικά ημεγάλη πρόκληση του 21ου αιώνα δεν είναι να νικήσει ημία νοημοσύνη τηνάλλη, αλλά να μάθουμε να τις κάνουμε να συνεργάζονται. Και ίσως αυτό να είναιτο πιο αισιόδοξο σενάριο για το μέλλον: ο άνθρωπος να παραμείνει φορέας σκοπούκαι αξιών, ενώ η ΤΝ να γίνει ο ισχυρότερος συνεργάτης του στην αναζήτηση γνώσηςκαι λύσεων. Στην συζήτηση αυτή η κοινωνία, οι πολίτες οφείλουν να έχουνσημαντική συμμετοχή και συμβολή και ως ηθικοί αισθητήρες της σχετικήςεπιστήμης, των επιστημόνων και των επιχειρηματιών της.

Διαβάστε περισσότερα στο iefimerida.gr

Παρακολουθώ ωςεπιστήμονας και χρήστης της τεχνολογίας την διεθνή συζήτηση για τον κίνδυνο γιατην ανθρωπότητα της ανεξέλεγκτης και εκθετικής προόδου της τεχνητής νοημοσύνης(ΤΝ). Μια πολύ σοβαρή ομάδα κορυφαίων επιστημόνων της ΤΝ θεωρεί ότι, εάνδημιουργηθεί μια υπερανθρώπινη και ιδιαίτερα αυτόνομη ΤΝ, υπάρχει το ενδεχόμενοτης καταστροφικής απώλειας του ανθρώπινου ελέγχου της, μερικοί μάλιστα μιλούνακόμη και για την εξαφάνιση του ανθρώπινου είδους από μια ανεξέλεγκτη ΤΝ.

Το 2023 το κέντρογια την ασφάλεια της ΤΝ (CAIS, Center for AI Safety) επισήμανε ρητά ότι η μείωση του κινδύνουεξαφάνισης του ανθρώπου από την ΤΝ πρέπει να αποτελεί παγκόσμια προτεραιότητα,μαζί με τις πανδημίες και τον πυρηνικό πόλεμο. Τη δήλωση υπέγραψαν περισσότεροιαπό 700 κορυφαίοι ειδικοί.

Είναι πράγματιιδιαίτερα ανησυχητικό ότι η όλη δημόσια συζήτηση έρχεται με πρωτοβουλία τωνεπιστημόνων Hinton και Bengio, δύο δηλαδή από αυτούς που θεμελίωσαν τηνσύγχρονη ΤΝ (deep learning). Και οι δύο έχουν προειδοποιήσει ότι ηπορεία προς μια πολύ ισχυρή ΤΝ μπορεί να δημιουργήσει έναν πρωτοφανή κίνδυνογια τον άνθρωπο. Η δήλωση του CAIS υπογράφεται και από τους δύο.

Ο Hinton είναι ιδιαίτερα σημαντικός επειδή βοήθησενα δημιουργηθεί η ίδια η τεχνολογία που σήμερα προκαλεί την ανησυχία. Έχειδηλώσει ότι θεωρεί υπαρκτή την πιθανότητα η ΤΝ να γίνει πολύ πιο έξυπνη από τονάνθρωπο και να δημιουργηθεί πρόβλημα ελέγχου της. Μάλιστα, σύμφωνα με τιςτελευταίες δηλώσεις του, εκτιμά ότι υπάρχει περίπου 10% πιθανότητα τηςανθρώπινης εξαφάνισης από την ΤΝ μέσα στην επόμενη δεκαετία.

Ο Bengio είναι ίσως ο σημαντικότερος ακαδημαϊκόςεκπρόσωπος της μελέτης της ασφάλειας της ΤΝ. Είναι επικεφαλής της Διεθνούςμελέτης για την ασφάλεια της ΤΝ που δημοσιεύθηκε το τρέχον έτος (International AI Safety Report 2026), στην οποία συμμετείχαν περισσότεροι από 100 ειδικοί απόδιαφορετικές χώρες και επιστημονικούς κλάδους. Η ανησυχία του δεν είναι ότι ηΤΝ «θα αποκτήσει κακή πρόθεση», αλλά ότι πολύ ικανές αυτόνομες μηχανές τηςενδέχεται να αναπτύξουν συμπεριφορές που οδηγούν σε αποτελέσματα ασύμβατα μετην ανθρώπινη επιβίωση.

Ένας άλλοςκορυφαίος της ΤΝ, ο Stuart Russell, επισημαίνει ότι οι άνθρωποι δίνουμε σεένα πολύ ισχυρό υπολογιστικό σύστημα έναν στόχο που φαίνεται λογικός, αλλά τοσύστημα τον επιδιώκει με τρόπους που δεν είχαμε προβλέψει. Η σημερινή συζήτησηέχει μετακινηθεί από το «μπορεί κάποτε η AI να γίνει υπερέξυπνη;» στο «τι γίνεται όταν έναυπολογιστικό σύστημα γίνει υπερέξυπνο, αλλά συγχρόνως αυτόνομο, που μπορεί νασχεδιάζει μακροπρόθεσμα, να γράφει και να βελτιώνει τον δικό του κώδικα και ναέχει πρόσβαση στον πραγματικό κόσμο, όχι μόνο ηλεκτρονικά αλλά και μεμηχανικά-ρομποτικά ενεργούμενα του;». Αυτό ακριβώς είναι το σενάριο πουπροκαλεί σήμερα τη μεγαλύτερη ανησυχία.

Στις μέρες μας ησυζήτηση έχει γίνει ακόμη πιο συγκεκριμένη: ερευνητές της Anthropic (μία από τις κορυφαίες εταιρίες ΤΝ)μεταξύ τους και ο Evan Hubinger, έχουν επίσης μιλήσει για πιθανότητα άνωτου 10% για καταστροφικό αποτέλεσμα/εξαφάνιση του ανθρώπου μέσα σε μίαδεκαετία. Πρόσφατα, παραιτήθηκε ο πρώην ερευνητής της Anthropic Jacob Coxon προειδοποιώντας ότι η κούρσα προς τηναυτο-βελτιούμενη υπερνοημοσύνη (self-improving superintelligence) προχωρά ταχύτερα από την ανάπτυξη τωνμηχανισμών ελέγχου και ασφάλειας του συστήματος.

Και ο Paul Christiano, από τους σημαντικότερους ερευνητές της ΤΝ δήλωσε ότι η βιομηχανία της ΤΝδεν βρίσκεται σήμερα σε πορεία και προβληματισμό που να εγγυάται την αποφυγήμιας καταστροφικής, μη αναστρέψιμης απώλειας του ανθρώπινου ελέγχου τουσυστήματος της ΤΝ.

Άρα δεν πρόκειται πλέον απλώς για φιλοσοφική ή ακαδημαϊκή συζήτηση περί «Αποκάλυψης της ΤΝ». Υπάρχει ένας πολύ σοβαρός επιστημονικός κλάδος της που μελετά ακριβώς αυτό το ενδεχόμενο.

Προσωπικά, δεν θαέβλεπα τη σχέση μας με την ΤΝ ως «ο άνθρωπος εναντίον της ΤΝ», αλλά ως μια νέαμορφή συμβίωσης δύο διαφορετικών μορφών νοημοσύνης, της φυσικής-ανθρώπινης καιτης τεχνητής μορφής της.

Η ανθρώπινη νοημοσύνη θα αφορά στις αξίες, στην ηθική, στην ενσυναίσθηση, στην ευθύνη, ενώ η τεχνητή νοημοσύνη στην υπολογιστική ισχύ, στην μνήμη, στην ταχεία ανάλυση, στην πρόβλεψη, στην αναζήτηση λύσεων σε ωκεανούς δεδομένων που η ανθρώπινη αδυνατεί να επεξεργαστεί. Το ευκταίο είναι η καθεμία να μπορεί να αντισταθμίσει τις αδυναμίες της άλλης. Για παράδειγμα, σε ένα πρόβλημα όπως η κλιματική αλλαγή, η πανδημία ή η βιοϊατρική έρευνα, ο άνθρωπος μπορεί να θέτει το ερώτημα: «Ποιον κόσμο θέλουμε να δημιουργήσουμε;» και η ΤΝ «με βάση όλη τη διαθέσιμη γνώση, ποιοι είναι οι ασφαλέστεροι και αποτελεσματικότεροι δρόμοι για να τον πετύχουμε;»

Αυτή η παραγωγικήσχέση ανθρώπινης και τεχνητής νοημοσύνης απαιτεί όμως μια θεμελιώδη αρχή: ηδεύτερη πρέπει να είναι συνεργάτης της πρώτης και όχι υποκατάστατό της ήαυτοενεργούμενο. Ίσως το πιο ενδιαφέρον επόμενο βήμα δεν είναι να προσπαθήσουμεαπλώς να κάνουμε την ΤΝ πιο έξυπνη, αλλά να δημιουργήσουμε συστήματα όπου ηανθρώπινη και η τεχνητή νοημοσύνη ελέγχουν, αμφισβητούν και διορθώνουν η μίατην άλλη. Ένα είδος συμβίωσης της ανθρώπινης και τεχνητής νοημοσύνης (cognitive symbiosis).

Η συζήτηση θέτειλοιπόν μια βαθύτερη φιλοσοφική ιδέα: εάν κάποτε δημιουργήσουμε νοημοσύνησημαντικά ανώτερη από τη δική μας, το μεγαλύτερο επίτευγμα του ανθρώπου ίσωςδεν είναι να την υποτάξει, αλλά να της μεταδώσει τις αξίες που θέλουμε ναπροστατεύσουμε και ταυτόχρονα να την αφήσουμε να μας βοηθήσει να ξεπεράσουμετους δικούς μας περιορισμούς.

Ίσως τελικά ημεγάλη πρόκληση του 21ου αιώνα δεν είναι να νικήσει ημία νοημοσύνη τηνάλλη, αλλά να μάθουμε να τις κάνουμε να συνεργάζονται. Και ίσως αυτό να είναιτο πιο αισιόδοξο σενάριο για το μέλλον: ο άνθρωπος να παραμείνει φορέας σκοπούκαι αξιών, ενώ η ΤΝ να γίνει ο ισχυρότερος συνεργάτης του στην αναζήτηση γνώσηςκαι λύσεων. Στην συζήτηση αυτή η κοινωνία, οι πολίτες οφείλουν να έχουνσημαντική συμμετοχή και συμβολή και ως ηθικοί αισθητήρες της σχετικήςεπιστήμης, των επιστημόνων και των επιχειρηματιών της.

Διαβάστε περισσότερα στο iefimerida.gr