Η IBM καινοτομεί με το πρώτο λογισμικό για ενοποιημένη διακυβέρνηση και ασφάλεια πρακτόρων Τεχνητής Νοημοσύνης

Καθώς οι επιχειρήσεις επεκτείνουν τη χρήση πρακτόρων Τεχνητής Νοημοσύνης σε όλο τον οργανισμό τους, η IBM ανακοινώνει το πρώτο λογισμικό στον κλάδο που ενοποιεί τις ασφαλείς και διακυβέρνησης ΤΝ, προσφέροντας μια ενιαία. εικόνα του κινδύνου που αντιμετωπίζει μια επιχείρηση.

Οι νέες δυνατότητες ενισχύουν και ενοποιούν τις λύσεις watsonx.governance και Guardium AISecurity , βοηθώντας τους πελάτες να διατηρούν τα συστήματα Τεχνητής Νοημοσύνης τους – συμπεριλαμβανομένων των πρακτόρων

«Οι πράκτορες Τεχνητής Νοημοσύνης πρόκειται να φέρουν επανάσταση στις παραγωγές των προϊόντων, όμως τα ίδια τα προϊόντα που μπορούν να δημιουργήσουν προκλήσεις» , δήλωσε η Ritika Gunnar, General Manager, Data & AI, IBM. «Όταν αυτά τα αυτόματα συστήματα δεν διακυβερνούνται ή δεν θωρακίζονται σωστά, δεν μπορούν να επιφέρουν σοβαρές συνέπειες.»

Οι νέες λύσεις που ανακοινώθηκαν σήμερα περιλαμβάνουν:

Ενοποίηση και Αυτοματοποίηση της Ασφάλειας της Αυτόνομης Τεχνητής Νοημοσύνης

Η IBM ενισχύει την ενσωμάτωση των λύσεων IBM Guardium AI Security και watsonx.governance, προσφέροντας στις επιχειρήσεις την πρώτη ενιαία λύση για τη διαχείριση των κινδύνων ασφάλειας και διακυβέρνησης που συνδέονται με περιπτώσεις χρήσης της Τεχνητής Νοημοσύνης. Η ενσωμάτωση υποστηρίζει τις διαδικασίες των χρηστών για την επικύρωση της συμμόρφωσης με 12 διαφορετικά πρότυπα, συμπεριλαμβανομένου του Κανονισμού ΤΝ της ΕΕ (EU AI Act) και του ISO42001.

Η IBM παρουσιάζει επίσης νέες δυνατότητες στο Guardium AI Security, μέσω συνεργασίας με την AllTrue.ai , οι οποίες περιλαμβάνουν τη δυνατότητα ανίχνευσης νέων περιπτώσεων χρήσης Τεχνητής Νοημοσύνης σε περιβάλλοντα cloud, αποθετήρια κώδικα και ενσωματωμένα συστήματα, παρέχοντας ευρεία ορατότητα και προστασία σε ένα όλο και πιο αποκεντρωμένο οικοσύστημα ΤΝ. Μόλις εντοπιστεί, το IBM Guardium AI Security μπορεί να ενεργοποιήσει τις κατάλληλες ροές ελέγχου διακυβέρνησης από το watsonx.governance.

Οι πρόσφατες ενημερώσεις στο IBM Guardium AI Security περιλαμβάνουν επίσης αυτοματοποιημένες δοκιμές ασφάλειας (red teaming), που βοηθούν τις επιχειρήσεις να εντοπίζουν και να διορθώνουν ευπάθειες και λάθη ρυθμίσεων σε διάφορες περιπτώσεις χρήσης της Τεχνολογίας Νοημοσύνης. Για την αντιμετώπιση κινδύνων όπως η εισχώρηση κώδικα, η έκθεση ευαίσθητων δεδομένων και η διαρροή πληροφοριών, το εργαλείο δίνει τη δυνατότητα στους χρήστες να ορίζουν προσαρμοσμένες πολιτικές ασφάλειας, οι οποίες αναλύουν τόσο τα εισερχόμενα όσο και τα εξερχόμενα (prompts). Αυτές οι λειτουργίες είναι ήδη διαθέσιμες στο IBM Guardium AI Security, ενώ η ενσωμάτωσή τους με το watsonx.governance θα χρησιμοποιηθεί σταδιακά κατά τη διάρκεια του υπόλοιπου έτους.

«Το μέλλον της Τεχνητής Νοημοσύνης εξαρτάται από το πόσο καλά την θωρακίζουμε σήμερα. Η ενσωμάτωση της ασφάλειας από την αρχή είναι απαραίτητη για την προστασία των δεδομένων, την υποστήριξη των υποχρεώσεων συμμόρφωσης και τη δημιουργία διαρκών εμπιστοσύνης» , δήλωσε η Suja Viswesan, Vice President, Security and Runtime Products, IBM.

«Μία από τις μεγαλύτερες προκλήσεις για τις ασφάλειες είναι η μετατροπή των περιστατικών και των παραβάσεων συμμόρφωσης σε μετρητικό επιχειρηματικό κίνδυνο. Η ταχεία υιοθέτηση της Τεχνητής Νοημοσύνης και της Αυτόνομης ΤΝ (agentic AI) επιτείνει αυτό το ζήτημα» , δήλωσε η Jennifer Glenn, Research Director στην IDC Security and Trust Group. «Η ενοποίηση της διακυβέρνησης ΤΝ με την ασφάλεια ΤΝ προσφέρει στους οργανισμούς το απαραίτητο πλαίσιο για να εντοπίζονται και να ιεραρχούν τους κινδύνους, καθώς και τις πληροφορίες για να επικοινωνούν με τις συνέπειες της μη αντιμετώπισής τους.»

Ενισχυμένη Αξιολόγηση και Διαχείριση Κύκλου Ζωής της Αυτόνομης Τεχνητής Νοημοσύνης

Το IBM watsonx.governance μπορεί πλέον να παρακολουθεί και να διαχειρίζεται τους πράκτορες Τεχνητής Νοημοσύνης καθ’ όλη τη διάρκεια του κύκλου ζωής τους, από την ανάπτυξη έως την υλοποίηση. Σημεία αξιολόγησης (evaluation nodes) μπορεί να ενσωματωθεί απευθείας στους πράκτορες, δίνοντας τη δυνατότητα στους χρήστες να επιτηρούν προσεκτικά τα δεδομένα μέτρησης όπως η σχετική απάντηση, η σχετικότητα του πλαισίου και η πιστότητα – βοηθώντας παράλληλα στον εντοπισμό της βασικής αιτίας κακής αποδόσεις. Στις σχεδιαζόμενες μελλοντικές λειτουργίες περιλαμβάνονται η αξιολόγηση κινδύνου κατά την εισαγωγή πρακτόρων, τα αρχεία ελέγχου (διαδρομές ελέγχου) για τους πράκτορες και έναν κατάλογο εργαλείων πρακτόρων (agentic tool catalogue), που δεν θα είναι διαθέσιμα στις 27 Ιουνίου.

Έτοιμες λύσεις συμμόρφωσης 

Οι επιταχυντές συμμόρφωσης IBM watsonx.governance παρέχουν επιλεγμένους προεγκατεστημένους κανονισμούς, πρότυπα πλαίσια από όλο τον κόσμο, δίνοντας τη δυνατότητα στους χρήστες να εντοπίζουν τις σχετικές υπηρεσίες και να αντιστοιχούν στις δικές τους περιπτώσεις χρήσης Τεχνητής Νοημοσύνης. Το περιεχόμενο καλύπτει βασικούς κανόνες όπως ο Κανονισμός ΤΝ της ΕΕ (EU AI Act), το SR 11-7 της Ομοσπονδιακής Τράπεζας των ΗΠΑ (Federal Reserve), και τον Νόμο 144 της πόλης της Νέας Υόρκης, μαζί με διεθνή πρότυπα όπως το ISO/IEC 42001 και πλαίσια όπως το NIST AI RMF. Οι Compliance Accelerators του watsonx.governance είναι διαθέσιμοι τώρα ως πρόσθετο (add-on).

Για να προσφέρει αυξημένη αξία και ευκολία στους πελάτες της AWS, το watsonx.governance είναι πλέον διαθέσιμο και στο κέντρο δεδομένων της AWS στην Ινδία, με ενισχυμένες δυνατότητες παρακολούθησης μοντέλων.

Οι σημερινές νέες δυνατότητες και ενσωματώσεις παρέχουν στις επιχειρήσεις τη συνολική διακυβέρνηση και ασφάλεια που χρειάζονται για να ευημερήσουν στην εποχή της αυτόνομης (agentic) Τεχνητής Νοημοσύνης. Οι καινοτομίες αυτές εναρμονίζονται επίσης με το ευρύτερο σύνολο λύσεων IBM watsonx AI της IBM, που έχουν σχεδιαστεί για να βοηθήσουν τις εταιρείες να επιταχύνουν τις αντίστοιχες παραγωγικές ΤΝ με υπευθυνότητα και ασφάλεια.