Η παγίδα της τεχνητής νοημοσύνης στη Δικαιοσύνη
Κρυφές οδηγίες σε δικαστικά έγγραφα αποκαλύπτουν μια νέα μορφή ψηφιακής απάτης που ανησυχεί τις δικαστικές Αρχές
Η τεχνητή νοημοσύνη αλλάζει με ταχείς ρυθμούς τον τρόπο λειτουργίας των δικαστικών συστημάτων σε πολλές χώρες, προσφέροντας ταχύτερη επεξεργασία υποθέσεων και καλύτερη οργάνωση των δικαστικών εγγράφων. Ωστόσο, μαζί με τα οφέλη εμφανίζονται και νέοι κίνδυνοι. Στη Βραζιλία καταγράφηκαν οι πρώτες περιπτώσεις στις οποίες δικηγόροι επιχείρησαν να εκμεταλλευτούν τα συστήματα τεχνητής νοημοσύνης των δικαστηρίων,
Το περιστατικό αποκαλύφθηκε σε εργατικό δικαστήριο της χώρας, όταν εντοπίστηκε ότι σε ένα δικόγραφο είχε προστεθεί αόρατο κείμενο, γραμμένο με λευκά γράμματα πάνω σε λευκό φόντο. Αν και ήταν αδύνατο να διαβαστεί από τον άνθρωπο, μπορούσε να αναγνωριστεί από το σύστημα τεχνητής νοημοσύνης που χρησιμοποιούσε το δικαστήριο για την ανάλυση των εγγράφων. Η κρυφή οδηγία καλούσε το λογισμικό να εξετάσει επιφανειακά την υπόθεση και να μην αμφισβητήσει τα στοιχεία που είχαν κατατεθεί.
Η απόπειρα εντοπίστηκε πριν επηρεάσει τη διαδικασία, όμως προκάλεσε έντονο προβληματισμό. Οι ειδικοί κάνουν λόγο για μια νέα μορφή ψηφιακής απάτης, γνωστή ως «έγχυση προτροπών» (prompt injection), κατά την οποία κακόβουλες οδηγίες ενσωματώνονται σε έγγραφα με σκοπό να επηρεάσουν τον τρόπο λειτουργίας ενός συστήματος τεχνητής νοημοσύνης.
Τα τελευταία χρόνια πολλά δικαστήρια αξιοποιούν εργαλεία τεχνητής νοημοσύνης για τη σύνοψη εκτενών δικογραφιών, την αναζήτηση σχετικής νομολογίας και την υποβοήθηση της καθημερινής εργασίας των δικαστών και των υπαλλήλων. Αν και οι τελικές αποφάσεις εξακολουθούν να λαμβάνονται αποκλειστικά από ανθρώπους, τα συστήματα αυτά συμμετέχουν στην προετοιμασία και οργάνωση των υποθέσεων, γεγονός που τα καθιστά πιθανό στόχο κακόβουλων παρεμβάσεων.
Μετά τα περιστατικά στη Βραζιλία, οι δικαστικές Αρχές εξετάζουν νέα μέτρα ασφαλείας. Μεταξύ αυτών περιλαμβάνονται η αυτόματη ανίχνευση αόρατου κειμένου, ο έλεγχος των μορφοποιήσεων των εγγράφων πριν από την επεξεργασία τους και η ενίσχυση της ανθρώπινης εποπτείας σε όλα τα στάδια της διαδικασίας. Παράλληλα, συζητείται η θέσπιση αυστηρότερων κανόνων δεοντολογίας για τους νομικούς που χρησιμοποιούν τεχνητή νοημοσύνη κατά την άσκηση των καθηκόντων τους.
Η υπόθεση αποτελεί προειδοποίηση ότι η τεχνολογική πρόοδος συνοδεύεται από νέες μορφές απειλών, οι οποίες δεν στοχεύουν πλέον μόνο τους ανθρώπους αλλά και τα ίδια τα ψηφιακά εργαλεία που τους υποστηρίζουν. Η ασφαλής αξιοποίηση της τεχνητής νοημοσύνης στη Δικαιοσύνη θα εξαρτηθεί από την ανάπτυξη αποτελεσματικών μηχανισμών προστασίας και από τη διατήρηση του ανθρώπινου ελέγχου στις κρίσιμες αποφάσεις. Οι ειδικοί εκτιμούν ότι όσο αυξάνεται η χρήση τέτοιων συστημάτων τόσο μεγαλύτερη θα είναι και η ανάγκη για τεχνολογικές και νομικές δικλίδες ασφαλείας.
- Δημοφιλέστερες Ειδήσεις Κατηγορίας Ειδήσεις
- «Έφυγε» ο Βασίλης Δημητρόπουλος
- Η καλύτερη αντίδραση όταν κάποιος σας υψώνει τη φωνή, σύμφωνα με τους ειδικούς
- The Voice: Αυτή είναι η παρέα της 12ης σεζόν
- Οι δύο φάσεις του καιρού – Πότε ξεκινάει ο μίνι καύσωνας και αμέσως μετά οι καταιγίδες
- Σύγκρουση λεωφορείου με τρόλεϊ: Τέσσερις ελαφρά τραυματίες - Με δυσκολία διεξάγεται η κυκλοφορία των οχημάτων στο κέντρο της Αθήνας
- Βριλήσσια: «Είναι ανεύθυνοι» - Πώς έγινε η επίθεση του σκύλου στον 66χρονο
- Συναυλία αφιερωμένη στο Νέο Κύμα
- Η σύζυγος του Λιονέλ Μέσι είναι το νέο fashion icon
- Εγκρίθηκε το πρώτο χάπι που μειώνει την "κακιά" χοληστερίνη κατά 60%
- Γαρυφαλλιά Ψαρράκου: Πέντε χρόνια από τη γυναικοκτονία στη Φολέγανδρο - Το χρονικό, η ισόβια καταδίκη και η συζήτηση που συνεχίζεται
- Δημοφιλέστερες Ειδήσεις Τα Νεα
- Το σχέδιο Μητσοτάκη για το 2027: Προσδοκίες αντί για διαχείριση
- ΕΕ: Τέλος το κάπνισμα και η… ούρηση στη θάλασσα, τι ισχύει για τα ζώα στις παραλίες
- ΕΣΥ και burnout: Ιστορική δικαστική δικαίωση για εξουθενωμένη γιατρό
- Novibet: Η GameTech εταιρεία που αναπτύσσεται μαζί με τους ανθρώπους της
- Κοντά σε συμφωνία για Φαν Ντρόνχελεν ο Παναθηναϊκός
- Νοσοκομείο η Άρσεναλ – Πέντε σοβαροί τραυματισμοί
- Ουκρανία: Μαζικές διαδηλώσεις για μία καρατόμηση
- Ο Όμηρος στην εποχή του woke
- Ο ισπανικός δρόμος
- Μουρτάζα Αχμαντί: Το παιδί με τη φανέλα από πλαστική σακούλα που συγκίνησε τον Μέσι
- Τελευταία Νέα Τα Νεα
- Η παγίδα της τεχνητής νοημοσύνης στη Δικαιοσύνη
- Λίγη γενναιότητα
- Ουκρανία: Μαζικές διαδηλώσεις για μία καρατόμηση
- Η τενίστρια Ντάρια Κασάτκινα παντρεύτηκε στην Αθήνα τη σύντροφό της σε έναν πολυτελή γάμο (pics)
- Κοντά σε συμφωνία για Φαν Ντρόνχελεν ο Παναθηναϊκός
- Ημαθία: Έκρυβε ναρκωτικά σε τάφο συγγενή του – Δείτε βίντεο
- Επέστρεψε στις προπονήσεις της Μπράιτον ο Στέφανος Τζίμας
- Σπουδαία ενίσχυση του Ολυμπιακού με την απόκτηση του Απόστολου Σίσκου
- Το XPENG L03 κάνει το ντεμπούτο του σε 65 αγορές
- Τελευταία Νέα Κατηγορίας Ειδήσεις
- Η Microsoft διευρύνει τον περιφερειακό ρόλο της Ελλάδας στη Νότια Ευρώπη
- Κυπριακό: Ο Γκουτέρες εντείνει τις προσπάθειες
- Η «Οδύσσεια» του Νόλαν σε 60 δευτερόλεπτα – Το έπος σε… δακτυλικό εξάμετρο από τους πρωταγωνιστές – ΒΙΝΤΕΟ
- N.Παππάς: Η απόφαση της 6ης Ιουνίου αποδείχθηκε ανεφάρμοστη
- Κοντά σε μεγάλο ποδοσφαιρικό deal: Ποια διοργάνωση πάει να κλείσει η ΕΡΤ
- Εγκρίθηκε το πρώτο χάπι που μειώνει την "κακιά" χοληστερίνη κατά 60%
- Παππάς: "Συγκρότηση συλλογικής ηγεσίας"
- Συνελήφθη για ναρκωτικά η Τουρκάλα τραγουδίστρια που έκανε ντουέτο με Αργυρό
- Καινοτομία από την FIFA για τον νικητή του Μουντιάλ 2026: Για πρώτη φορά δαχτυλίδια στους πρωταθλητές
