«Εξυπνες» κάμερες και λογοδοσία

«Οι κάμερες ξεκίνησαν» ανακοίνωσε πρόσφατα ο αναπληρωτής υπουργός Μεταφορών Κ. Κυρανάκης. Πρόκειται, σύμφωνα με τις ανακοινώσεις της κυβέρνησης, για «έξυπνες κάμερες» ελέγχου κυκλοφορίας οι οποίες «εκπαιδεύονται» από αλγόριθμο και οι οποίες θα αναγνωρίζουν/καταλογίζουν με αυτοματοποιημένο τρόπο παραβάσεις του ΚΟΚ, χωρίς δηλαδή να «υπάρχει άνθρωπος από πίσω τους να τις ελέγχει». Δεν θα χρειάζεται, πληροφορούμαστε, φυσικός έλεγχος ή τροχονόμος επί τόπου, ενώ η επίσημη ειδοποίηση θα γίνεται μέσω του gov.gr.

Το νέο ψηφιακό μοντέλο που προτίθεται να εφαρμόσει η κυβέρνηση είναι αναγκαίο και έρχεται με αρκετή καθυστέρηση, λόγω και της ιδιότυπης «πολιτικής αλλεργίας» σε μέτρα αστυνόμευσης. Κάθε εκτελεστική εξουσία η οποία δεν κάνει χρήση των δυνατοτήτων της τεχνολογίας για την εφαρμογή των νόμων και την προστασία της ασφάλειας των πολιτών (άρθρο 5 ΕΣΔΑ) λειτουργεί πλημμελώς. Ωστόσο, η χρήση αλγοριθμικών μέσων χωρίς την άμεση εποπτεία και συμμετοχή ανθρώπων (human in the loop) στη λήψη αποφάσεων εγείρει σημαντικά ερωτήματα.

Δεν είναι σαφές σε ποιες βάσεις δεδομένων έχει «εκπαιδευθεί» ο αλγόριθμος, ούτε ποια είναι η υπολογιστική αρχιτεκτονική του. Αυτό αφορά τόσο την αποτελεσματικότητα σε συγκεκριμένες ομάδες πληθυσμού και κυρίως το ποσοστό λάθους το οποίο επέλεξαν οι προγραμματιστές (κανένα σύστημα δεν είναι αλάνθαστο). Επειτα, η μη συμμετοχή ανθρώπινου παράγοντα για την εποπτεία και επικύρωση του αλγοριθμικού output είναι εξόχως προβληματική. Δεν είναι επίσης γνωστό στον δημόσιο διάλογο αν ο αλγόριθμος υπόκειται σε εμπορική προστασία ή αν είναι προσβάσιμος τουλάχιστον στους υπερασπιστές των κατηγορουμένων. Τέλος, δεν είναι σαφές αν η κεντρική διοίκηση ενεργοποιεί στις τοπικές κοινωνίες π.χ. Επιτροπές Ηθικής Δεδομένων, γεγονός σύνηθες στις Αστυνομικές Διευθύνσεις του Ηνωμένου Βασιλείου αλλά και διεθνώς. Δεν είναι δηλαδή καθόλου σαφές τι μέτρα έχουν ληφθεί για να επιτευχθεί κατά το δυνατόν η λεγόμενη υπεύθυνη αστυνόμευση. Ο γράφων τυχαίνει να είναι μέλος σε Επιτροπές Ηθικής Δεδομένων της βρετανικής Αστυνομίας αλλά και ερευνητής στο πολυετές ερευνητικό πρόγραμμα της RAI UK για την υπεύθυνη χρήση της Τεχνητής Νοημοσύνης στην αστυνόμευση (2024-2028 – 4,5 εκατ. ευρώ). Και αυτά δείχνουν τη σημασία που δίνεται στο ζήτημα σε άλλες κοινωνίες.

Η ελληνική κυβέρνηση θα πρέπει να διδαχθεί από τη διεθνή εμπειρία και να υιοθετήσει παρόμοια μέτρα διαβούλευσης και ελέγχου κατά τη χρήση τεχνολογίας αιχμής. Αυτό αφορά την καρδιά της έννοιας της λογοδοσίας.Ηδη από τον Πλάτωνα, σύμφωνα με τον οποίο «λόγον διδόναι» σήμαινε ότι η λήψη αποφάσεων στον δημόσιο βίο οφείλει να συνοδεύεται από μια συστηματική επεξήγηση η οποία να είναι ανοιχτή σε έλεγχο, η λογοδοσία θεωρείται βασικός άξονας, ενίοτε δε το υπόβαθρο των φιλελεύθερων κοινωνιών. Π.χ. ο Τζον Φ. Κένεντι τόνισε ότι «ακόμη και ο όρος “μυστικότητα” είναι απεχθής σε μια ελεύθερη και ανοιχτή κοινωνία». Η διαφάνεια λοιπόν, εν προκειμένω η διαφάνεια σε ό,τι αφορά τη δομή και λειτουργία του αλγορίθμου, μας επιτρέπει να κατανοήσουμε με ποιον τρόπο λαμβάνονται αποφάσεις με δυσμενείς συνέπειες για τους πολίτες. Μια μαντική απόφαση, διατυπωμένη μόνο με μία ή δύο λέξεις από μια δυσνόητη τεχνολογία, δεν θα αποτελούσε παρηγοριά για τον διοικούμενο, αφού είναι αδύνατο να γνωρίζει τις διεργασίες που οδήγησαν στην απόφαση.

Η διαφάνεια και λογοδοσία μπορεί, αντιθέτως, να οικοδομήσει/καταδείξει την ορθότητα της διαδικασίας λήψης (αυτοματοποιημένων) αποφάσεων και να εξασφαλίσει τη δημόσια εμπιστοσύνη στην απόφαση. (Τεχνολογικές) λύσεις υπάρχουν.

Ο Κυριάκος Ν. Κώτσογλου είναι αναπληρωτής καθηγητής Ποινικού Δικαίου και Ποινικής Δικονομίας – Πανεπιστήμιο Northumbria (Ηνωμένο Βασίλειο), δικηγόρος Αθηνών