Μπορεί ένας αλγόριθμος να θεμελιώσει καταδίκη;

Είναι γεγονός ότι η αστυνομία και οι εισαγγελικές αρχές τα τελευταία χρόνια στρέφονται συχνότερα σε εργαλεία τεχνητής νοημοσύνης για να «διαβάσουν» φερόμενο ως αποδεικτικό υλικό, όπως θολές ή μη ευκρινείς φωτογραφίες και βίντεο και να ταυτοποιήσουν πρόσωπα που παραμένουν άγνωστα. Αυτό άλλωστε έγινε και με την επίκαιρη υπόθεση της MARFIN.

Το ερώτημα είναι κρίσιμο. Αρκεί μια αλγοριθμική ταυτοποίηση για να αποδειχθεί η τέλεση αδικήματος και να απωλέσει ένα τόσο σοβαρό έννομο αγαθό, όπως η προσωπική του ελευθερία, ένας κατηγορούμενος;

Η διεθνής εμπειρία απαντά αρνητικά. Τα συστήματα αναγνώρισης προσώπου δεν παράγουν βεβαιότητα, αλλά πιθανολόγηση, της οποίας η αξιοπιστία εξαρτάται από το σύστημα, τη βάση δεδομένων και την ποιότητα του ερευνώμενου υλικού. Οι πραγματικές επιδόσεις υπολείπονται κατά κανόνα εκείνων που καταγράφονται στις εργαστηριακές δοκιμές του Εθνικού Ινστιτούτου Προτύπων και Τεχνολογίας των ΗΠΑ, ιδίως όταν η αστυνομία χρησιμοποιεί εικόνες χαμηλής ποιότητας. Η «αναβάθμιση» μιας θολής λήψης συχνά δεν αποκαλύπτει, αλλά κατασκευάζει λεπτομέρειες, ενώ το αδιαφανές «μαύρο κουτί» του αλγορίθμου εμποδίζει τον ουσιαστικό έλεγχο των συμπερασμάτων του.

Οι κίνδυνοι δεν είναι θεωρητικοί. Στις ΗΠΑ, η γνωστή υπόθεση του Robert Williams το 2020 είναι χαρακτηριστική. Ο ανωτέρω συνελήφθη ύστερα από λανθασμένη «ταύτιση» λογισμικού και έμεινε 30 ώρες κρατούμενος χωρίς να έχει καμία απολύτως σχέση. Το αποτέλεσμα ήταν να αποζημιωθεί με 300.000 δολάρια! Στην ίδια χώρα έχουν καταγραφεί τουλάχιστον οκτώ εσφαλμένες συλλήψεις, με την τεχνολογία να αστοχεί συχνότερα σε έγχρωμους, γυναίκες, παιδιά και ηλικιωμένους!

Η διεθνής νομολογία κινείται προστατεύοντας τα δικαιώματα. Το ΕΔΔΑ, στην πρώτη απόφασή του, Glukhin κατά Ρωσίας της 4 Ιουλίου 2023, χαρακτήρισε την τεχνολογία «άκρως παρεμβατική» και διαπίστωσε παραβίαση των άρθρων 8 και 10 της ΕΣΔΑ, τονίζοντας την ανάγκη λεπτομερών κανόνων και ισχυρών εγγυήσεων κατά της αυθαιρεσίας.

Στο Ηνωμένο Βασίλειο, το Εφετείο στην υπόθεση Bridges (2020) έκρινε παράνομη τη χρήση αυτόματης αναγνώρισης προσώπου από την αστυνομία, επειδή οι Αρχές ουδέποτε βεβαιώθηκαν ότι το λογισμικό δεν εμφάνιζε φυλετική ή έμφυλη μεροληψία.

Ουσιώδης είναι και η διάσταση της δίκαιης δίκης. Στη State v. Arteaga το 2023, αναγνωρίστηκε ευρύ δικαίωμα της υπεράσπισης σε στοιχεία για το σύστημα και τη διαδικασία αναγνώρισης. Πρόσφατα (Ιούνιος 2026), το Ανώτατο Δικαστήριο του New Jersey, στη State v. Miles, επιβεβαίωσε ότι πρέπει να γνωστοποιούνται τα εργαλεία, τα υλικά και ο τρόπος χρήσης τους, διευκρινίζοντας όμως ότι ο πηγαίος κώδικας δεν παραδίδεται αυτομάτως χωρίς ειδικότερη τεκμηρίωση.

Ο ενωσιακός νομοθέτης κινείται στην ίδια κατεύθυνση. Ο Κανονισμός για την Τεχνητή Νοημοσύνη της ΕΕ (2024/1689) απαγορεύει, από τον Φεβρουάριο του 2025, την αναγνώριση προσώπου σε πραγματικό χρόνο σε δημόσιους χώρους, με ελάχιστες εξαιρέσεις, ενώ κατατάσσει στα συστήματα «υψηλού κινδύνου» τη χρήση ΤΝ για την αξιολόγηση της αξιοπιστίας των αποδεικτικών στοιχείων.

Το συμπέρασμα είναι σαφές. Η αλγοριθμική ταυτοποίηση αποτελεί, στην καλύτερη περίπτωση, ερευνητική ένδειξη, όχι απόδειξη ενοχής. Καμία καταδίκη δεν μπορεί να στηριχθεί αποκλειστικά σε αυτήν. Απαιτούνται ανεξάρτητη επιβεβαίωση, πλήρης διαφάνεια και απόδειξη και η δικαστική κρίση.

Το έγκλημα αναμφίβολα θέλει δραστική αντιμετώπιση. Η ΤΝ βοηθάει. Δεν είναι όμως πανάκεια και κάνει αρκετά λάθη. Ας είμαστε λοιπόν επιφυλακτικοί και προσεκτικοί.

Ο Βασίλης Χειρδάρης είναι ποινικολόγος