Ποιος ελέγχει τους αλγόριθμους;

Ο κανονισμός και οι έλεγχοι είναι ένα βήμα. Αλλά, όπως συμβαίνει στην ανθρώπινη ιστορία, οι «κακοί» θα ψάχνουν τρύπες στους αλγόριθμους και τρόπους να τους παρακάμψουν ή να τους εκμεταλλευτούν. Οι κυβερνήσεις και οι ελεγκτικοί μηχανισμού θα καθυστερούν. Και οι πολίτες θα ζητούν προστασία και θα απαιτούν λογοδοσία.

Ο κόσμος αλλάζει ταχύτητα. Οι αλγόριθμοι της τεχνητής νοημοσύνης (ΤΝ) χρησιμοποιούνται πλέον ευρύτατα στο δημόσιο και ιδιωτικό τομέα. Έλεγχοι και αποφάσεις -για δάνεια, για ιατρικές διαγνώσεις, ακόμα και για ποινικές υποθέσεις- καθορίζονται εν πολλοίς από την αλγοριθμική επεξεργασία

Πριν λίγες ημέρες, το Ελεγκτικό Συνέδριο της Ολλανδίας δημοσίευσε τα αποτελέσματα των ετήσιων ελέγχων διαφορετικών αλγορίθμων που χρησιμοποιούνται από την ολλανδική κυβέρνηση. Φέτος, εξέτασαν τρεις αλγόριθμους πρόβλεψης κινδύνου που χρησιμοποιούνται σε διάφορους οργανισμούς και βοηθούν στον εντοπισμό (α) γονέων που έχουν ανάγκη στήριξης, καθώς είναι πιθανό να πρέπει να επιστρέψουν σημαντικό ποσό των επιδομάτων παιδικής μέριμνας, (β) αιτούντων επιδόματα ανεργίας, που ενδέχεται να μην είναι επιλέξιμοι και (γ) της απάτης ΦΠΑ με τη μέθοδο καρουσέλ. Τα αποτελέσματα των ελέγχων ανέδειξαν και μια άλλη πλευρά: Πολυάριθμα ζητήματα σχετικά με το χειρισμό των προσωπικών δεδομένων και την ασφάλεια των πληροφοριών. Τα ευαίσθητα δεδομένα που χρησιμοποιούνται σε αυτούς τους αλγορίθμους ενδέχεται να μην προστατεύονται επαρκώς…

Τα ευρήματα αυτά εντείνουν τις ανησυχίες των πολιτών αλλά και των φορέων της Δημόσιας Διοίκησης για την σύννομη, διαφανή και ηθική χρήση των αλγορίθμων, που απαιτεί διαδικασίες και οργανισμούς με υψηλή τεχνογνωσία και επιχειρησιακή αποτελεσματικότητα, κάτι που δεν είναι δεδομένο, ωστόσο είναι απαραίτητο στοιχείο της Δημοκρατικής Ψηφιακής Διακυβέρνησης.

Ευτυχώς, αυτά προβλέπονται και στο νέο Ευρωπαϊκό Κανονιστικό Πλαίσιο για την Τεχνητή Νοημοσύνη, το EU AI Act, αλλά και στο ελληνικό, Νέο Εθνικό Νομοθετικό Πλαίσιο για τις Αναδυόμενες Τεχνολογίες Πληροφορικής και Επικοινωνιών που καθορίστηκε με τον N. 4961/2022. Το ζητούμενο βέβαια είναι η αποτελεσματική εφαρμογή αυτών των κανονισμών, που απαιτεί την καταγραφή, τον δοκιμαστικό έλεγχο και την αποτίμηση των πιθανών κινδύνων από την εφαρμογή κάθε αλγορίθμου.

Ο Ευρωπαϊκός Κανονισμός και ο ρόλος του στην ΤN

Ο Ευρωπαϊκός Κανονισμός - AI Act, χωρίζει τους αλγόριθμους ΤΝ σε τρία επίπεδα κινδύνου και απαγορεύει ορισμένες χρήσεις τους:

Χαμηλό ρίσκο: Παιχνίδια, φίλτρα. Χωρίς έλεγχο.

Περιορισμένο ρίσκο: Ψηφιακοί βοηθοί - Chatbots.

Υψηλό ρίσκο: Αξιολογήσεις πιστώσεων, αναγνώριση προσώπων, επεξεργασία Βιολογικών και Βιομετρικών δεδομένων: απαιτούνται αυστηρές προϋποθέσεις για την εφαρμογή τους

Απαγορευμένες χρήσεις: Κοινωνική βαθμολόγηση, εκμετάλλευση ευπαθών ομάδων.

Τι απαιτείται και ελέγχεται;

Διαφάνεια: Ο κώδικας πρέπει να είναι κατανοητός. Όχι μαύρα κουτιά.

Ανθρώπινος Εποπτικός Έλεγχος: Κανείς δεν αφήνει μια μηχανή να αποφασίσει μόνη της.

Ασφάλεια και Αρτιότητα Δεδομένων: Αν τα δεδομένα είναι σκουπίδι, τα αποτελέσματα θα είναι σκουπίδι.

Συνεχής Επαναξιολόγηση: Οι αλγόριθμοι πρέπει να μαθαίνουν, αλλά και να διορθώνονται.

Τί προβλέπεται στην Ελλάδα

Στη βάση του νέου Εθνικού Νομοθετικού Πλαισίου για τις Αναδυόμενες Τεχνολογίες Πληροφορικής και Επικοινωνιών που ψηφίστηκε με τον νόμο 4961/2022, προβλέπονται τα εξής:

Η χρήση συστημάτων ΤΝ επιτρέπεται μόνο εφόσον προβλέπεται από ειδική διάταξη νόμου, που περιλαμβάνει κατάλληλες εγγυήσεις για την προστασία των δικαιωμάτων των φυσικών και νομικών προσώπων, που επηρεάζονται από τα συστήματα αυτά (εξαιρούνται τα υπουργεία Εθνικής Άμυνας και Προστασίας του Πολίτη)

Πριν τη χρήση συστήματος ΤΝ, πέρα από την εκτέλεση εκτίμησης αντικτύπου του Κανονισμού (ΕΕ) 2016/679 («ΓΚΠΔ»), κάθε φορέας έχει την υποχρέωση να εκπονεί και αλγοριθμική εκτίμηση αντικτύπου για την αξιολόγηση των κινδύνων που ενδέχεται να προκύπτουν για τα δικαιώματα, τις ελευθερίες και τα έννομα συμφέροντα των προσώπων, που επηρεάζονται από το σύστημα αυτό.

Με Προεδρικό Διάταγμα εξειδικεύονται οι κατάλληλες εγγυήσεις για την προστασία των δικαιωμάτων των προσώπων, που επηρεάζονται από τη χρήση συστημάτων ΤΝ.

Μητρώο Συστημάτων ΤΝ: Κάθε δημόσιος φορέας τηρεί μητρώο με τα συστήματα ΤΝ που χρησιμοποιεί και παρέχει δημόσια πληροφορίες, μεταξύ άλλων, για τον χρόνο έναρξης και τις παραμέτρους λειτουργίας του συστήματος ΤΝ καθώς και για τις αποφάσεις που λαμβάνονται ή υποστηρίζονται μέσω αυτού. Τυχόν καταγγελίες για παραβιάσεις των υποχρεώσεων διαφάνειας εξετάζονται από την Εθνική Αρχή Διαφάνειας.

Θα σημάνουν αυτοί οι έλεγχοι το τέλος ανομίας και κακής χρήσης;

Όχι. Ο κανονισμός και οι έλεγχοι είναι ένα βήμα. Αλλά, όπως συμβαίνει στην ανθρώπινη ιστορία, οι «κακοί» θα ψάχνουν τρύπες στους αλγόριθμους και τρόπους να τους παρακάμψουν ή να τους εκμεταλλευτούν. Οι κυβερνήσεις και οι ελεγκτικοί μηχανισμού θα καθυστερούν. Και οι πολίτες θα ζητούν προστασία και θα απαιτούν λογοδοσία.

Για αυτό χρειάζεται γρήγορα να αξιοποιηθεί το ευρύτερο οικοσύστημα της καινοτομίας, τα ερευνητικά κέντρα, οι κόμβοι ψηφιακής καινοτομίας και η συνεχής επιμόρφωση και η ανταλλαγή γνώσης και εμπειρίας με τους αρμόδιους φορείς από τις άλλες χώρες.

(Ο Γιάννης Κωτσής-Γιανναράκης είναι Συντονιστής του κόμβου Ψηφιακής Καινοτομίας GR digiGOV-innoHUB, Έχει διατελέσει Γενικός Διευθυντής της Ιντερνετικής Πύλης in.gr του ΔΟΛ- Το άρθρο αποτελεί αναδημοσίευση από το K-Report)