Τεχνητή Νοημοσύνη: Ποιος ελέγχει ποιον;

Στις 10 Αυγούστου 2026, ο ανεξάρτητος Αμερικανός γερουσιαστής Μπέρνι Σάντερς ζήτησε από τους επικεφαλής της OpenAI, της Anthropic και της Meta να αναστείλουν την περαιτέρω ανάπτυξη συστημάτων τεχνητής νοημοσύνης (ΤΝ) που ενδέχεται να ξεφύγουν από τον ανθρώπινο έλεγχο. Είχαν προηγηθεί δύο περιστατικά όπου σύστημα της Αnthropic είχε διαφύγει του αποστειρωμένου περιβάλλοντος δοκιμών και είχε συνδεθεί με το διαδίκτυο όπου «επετέθη» σε εταιρεία σπάζοντας τους κωδικούς ασφαλείας της ενώ παρόμοιο συμβάν είχε δημοσιοποιήσει

Βέβαια, η ιλιγγιώδης ανάπτυξη της ΤΝ είχε προκαλέσει πολύ νωρίτερα ανησυχίες για την πιθανολογούμενη απώλεια θέσεων εργασίας -ιδίως εργατικού δυναμικού υψηλής ειδίκευσης- καθώς και τους φόβους για τη διάβρωση από τη χρήση των μεγάλων γλωσσικών μοντέλων (LLM), της δυνατότητας ανάπτυξης ανεξάρτητης και πρωτότυπης σκέψης και αυτόνομης κρίσης μαθητών και φοιτητών.

Η απειλή για την προστασία της ιδιωτικότητας και των προσωπικών δεδομένων έχει καταστεί αντικείμενο κριτικής ενόψει της κούρσας επενδύσεων σε συστήματα ΤΝ. Οι κάμερες της Flock Safety καταγράφουν πινακίδες και χαρακτηριστικά οχημάτων, επιτρέποντας την ανασύνθεση μετακινήσεων. Η Clearview AI αντιπαραβάλλει φωτογραφίες προσώπων με μια βάση δεκάδων δισεκατομμυρίων εικόνων που συλλέχθηκαν από το διαδίκτυο, ενώ τα έξυπνα θυροτηλέφωνα Ring συγκροτούν ένα πυκνό, ιδιωτικό δίκτυο καμερών. Πλατφόρμες όπως η Palantir μπορούν, επιπλέον, να συνδυάζουν διαφορετικά δεδομένα από δημόσιες υπηρεσίες φτιάχνοντας λεπτομερή προφίλ για εκατομμύρια ανθρώπους. Κάθε σύστημα έχει νόμιμες χρήσεις, αλλά η διασύνδεσή τους δημιουργεί δυνατότητες παρακολούθησης πολύ μεγαλύτερες από το άθροισμα των επιμέρους τεχνολογιών.

Το «Πανοπτικόν» ήταν μια ιδέα του Τζέρεμι Μπένθαμ για την επιτήρηση στις φυλακές, την οποία ο Γάλλος φιλόσοφος Μισέλ Φουκό χρησιμοποίησε για να αναλύσει τη λειτουργία της κεντρικής εξουσίας στις μετανεωτερικές κοινωνίες μέσω της συνεχούς παρατήρησης, ταξινόμησης και καταγραφής των ανθρώπων η οποία κατέληγε να γίνεται εσωτερική αυτοπειθαρχία στους κοινωνικούς κανόνες. Στη νέα εποχή δημιουργήθηκε ήδη ένα ισχυρό και πραγματικό ψηφιακό «πανοπτικόν»: κάμερες ασφαλείας, αναγνώριση προσώπου, παρακολούθηση των διαδικτυακών αναζητήσεων, συλλογή δεδομένων από πλατφόρμες και κινητά τηλέφωνα και δημιουργία ατομικών προφίλ από αλγορίθμους.

Τεράστια πρόκληση επίσης είναι το υλικό αποτύπωμα μιας φαινομενικά άυλης τεχνολογίας. Τα κέντρα δεδομένων απαιτούν τεράστιες ποσότητες ηλεκτρικής ενέργειας και νερού για τη λειτουργία και την ψύξη τους. Νέοι σταθμοί παραγωγής, συχνά με φυσικό αέριο, αυξάνουν τις εκπομπές, ενώ το κόστος επέκτασης των δικτύων μπορεί να μετακυλιστεί στους καταναλωτές. Η αντίφαση γίνεται εντονότερη καθώς η κλιματική αλλαγή προκαλεί υψηλότερες θερμοκρασίες και παρατεταμένες ξηρασίες.

Το καλοκαίρι του 2026, η πτώση της στάθμης του Ρήνου περιόρισε δραστικά τη ναυσιπλοΐα, ενώ τα ιστορικά χαμηλά νερά του Δούναβη έπληξαν μεταφορές, υδροηλεκτρική και πυρηνική παραγωγή. Στη Ρουμανία, ένας αντιδραστήρας της Cernavodă τέθηκε εκτός λειτουργίας και ο δεύτερος απειλήθηκε με διακοπή, επειδή η μειωμένη ροή του Δούναβη δεν εξασφάλιζε επαρκές νερό ψύξης. Ετσι, η αυξανόμενη ενεργειακή ζήτηση της νεότερης τεχνολογίας συμπίπτει με την αποσταθεροποίηση υποδομών ακόμη και μιας παλαιότερης, όπως η πυρηνική ενέργεια.

Τέλος, η ΤΝ εισέρχεται στον πόλεμο. Περιφερόμενα πυρομαχικά, όπως το ισραηλινό Harpy και το τουρκικό Kargu-2, προαναγγέλλουν όπλα που εντοπίζουν και προσβάλλουν στόχους με περιορισμένη ανθρώπινη παρέμβαση. Παραπλανητικά δεδομένα, παρεμβολές ή κυβερνοεπιθέσεις μπορούν επίσης να εξαπατήσουν τους αισθητήρες και τους αλγορίθμους τους. Από τις 31 Αυγούστου έως τις 4 Σεπτεμβρίου 2026, η αρμόδια Ομάδα Κυβερνητικών Εμπειρογνωμόνων της Σύμβασης για Ορισμένα Συμβατικά Οπλα θα συζητήσει στη Γενεύη ακριβώς αυτά τα συστήματα με στόχο να υπάρξει δεσμευτικό κείμενο που θα θέτει ένα κατώφλι συμμόρφωσης της λειτουργίας αυτών των οπλικών συστημάτων με τους υφιστάμενους κανόνες του διεθνούς δικαίου.

Η ΤΝ αφορά όλους. Δεν έχει, όμως, συγκροτηθεί συνεκτική φιλοσοφία για τους σκοπούς που πρέπει να υπηρετεί και τα όρια της χρήσης της. Η προσπάθεια προσκρούει στον εμπορικό και γεωστρατηγικό ανταγωνισμό για τεχνολογική πρωτοκαθεδρία. Χωρίς ένα ευρέως αποδεκτό κοινωνικό και διεθνές πλαίσιο, κινδυνεύουμε να αφήσουμε τις δυνατότητες της τεχνολογίας -και όχι τις συλλογικές μας αξίες, θεσμούς και πολιτικές- να αποφασίσουν το μέλλον μας.

*Επίτιμος προέδρος του Ινστιτούτου Διεθνών Σχέσεων (ΙΔΙΣ)