Η πρόκληση της ΤΝ

Το βασικό πρόβλημα δεν είναι απλώς «πώς θα φτιάξουμε καλύτερη ΤΝ», αλλά πώς θα διατηρήσουμε τον έλεγχο μιας τεχνολογίας που γίνεται ολοένα ισχυρότερη, φθηνότερη και ευκολότερα διαθέσιμη.  Αυτό ονομάζεται «the containment problem» (πρόβλημα περιορισμού η αναχαίτισης) και αποτελεί την ουσιώδη πρόκληση της εποχής μας.

Με τους σημερινούς θεσμούς και τις σημερινές δυνατότητες, η πλήρης συγκράτηση της τεχνολογίας είναι ουσιαστικά αδύνατη. Αλλά αν δεν βρούμε τρόπο να την περιορίσουμε, οι συνέπειες μπορεί να ξεφύγουν από τον ανθρώπινο έλεγχο.

Η ΤΝ είναι διαφορετική από παλαιότερες τεχνολογίες.

Ο Mustafa Suleyman, στο βιβλίο του «The Coming Wave» (2023), βλέπει τέσσερα χαρακτηριστικά που κάνουν το πρόβλημα ιδιαίτερα δύσκολο.

Πρώτον, Tαχύτητα – η εξέλιξη είναι εκθετική κι έχει μαζική διάδοση, η τεχνολογία μπορεί να αναπαραχθεί και να διαδοθεί γρήγορα.

Δεύτερον, Αυτονομία – τα συστήματα μπορούν να ενεργούν χωρίς συνεχή ανθρώπινη παρέμβαση.

Τρίτον, Ασύμμετρη ισχύς – ένας μικρός αριθμός ανθρώπων μπορεί να αποκτήσει τεράστια δυνατότητα πρόκλησης ζημιάς.

Εδώ βρίσκεται το πιο ενδιαφέρον σημείο. Ο φόβος δεν είναι μόνο μια «κακή υπερ-νοήμονα ΤΝ». Η ανησυχία είναι περισσότερο ότι η ΤΝ θα γίνει ένα εργαλείο τεράστιας ισχύος στα χέρια πάρα πολλών ανθρώπων – κυβερνήσεων, εταιρειών, στρατών αλλά και μικρών ομάδων ή μεμονωμένων κακόβουλων χρηστών. Υπάρχει και μια δεύτερη, πολύ βαθύτερη διάσταση. Αν η ΤΝ γίνει υποδομή της οικονομίας, της κυβέρνησης, της άμυνας και της καθημερινής ζωής, ποιος τελικά θα ελέγχει ποιον; Ο Suleyman φοβάται ότι, στην προσπάθειά μας να ελέγξουμε την ΤΝ, μπορεί να καταλήξουμε σε υπερβολική κρατική επιτήρηση και περιορισμό της ελευθερίας.

Ετσι η ανθρωπότητα βρίσκεται ανάμεσα σε δύο κινδύνους. Μια ΤΝ χωρίς επαρκή έλεγχο, που μπορεί να οδηγήσει στο χάος ή την καταστροφή ή ο υπερβολικός έλεγχος της ΤΝ, με αποτέλεσμα ένα κράτος επιτήρησης. Αυτό είναι πραγματικό δίλημμα.

Γι’ αυτό ο Suleyman δεν θεωρεί ότι η απάντηση είναι απλώς να νομοθετήσουμε. Προτείνει ένα πολύ ευρύτερο σύστημα ανάσχεσης, με τεχνική ασφάλεια, audits, σημεία ελέγχου στην υποδομή, ευθύνη των δημιουργών, αλλαγή των επιχειρηματικών κινήτρων και διεθνή συνεργασία. Κάτι δηλαδή εξαιρετικά δύσκολο και περίπλοκο. Μια πρόκληση όμως που βρίσκεται μπροστά μας.

Keywords
Τυχαία Θέματα