Η NVIDIA διέθεσε ένα εργαλείο ανοικτού κώδικα για τη δημιουργία ασφαλέστερων μοντέλων AI
Από τον Μάρτιο, η NVIDIA προσφέρει το AI Foundations, μία υπηρεσία που επιτρέπει σε επιχειρήσεις, που δεν έχουν πολλά χρήματα ή τον χρόνο να αναπτύξουν τα δικά τους μεγάλα γλωσσικά μοντέλα (Large Language Models ή LLMs) από το μηδέν «να δημιουργήσουν, να βελτιώσουν και να λειτουργήσουν προσαρμοσμένα γλωσσικά μοντέλα και μοντέλα τεχνητής νοημοσύνης τα οποία μπορούν να εκπαιδεύσουν αξιοποιώντας τα ιδιόκτητα δεδομένα τους».
Πρόσφατα, η εταιρεία ανακοίνωσε το NeMo Guardrails, ένα εργαλείο που σχεδιάστηκε για να βοηθήσει τους προγραμματιστές να ορίσουν ένα πλαίσιο προστασίας, καταλληλόλητας και ασφάλειας για τις εφαρμογές τεχνητής νοημοσύνης που δημιουργούν. Το NeMo Guardrails επιτρέπει στους μηχανικούς λογισμικού να επιβάλλουν τρεις διαφορετικούς τύπους ορίων στα προσαρμοσμένα LLMs που δημιουργούν. Πιο συγκεκριμένα, οι εταιρείες μπορούν να ορίσουν «τοπικά προστατευτικά κιγκλιδώματα» που θα εμποδίζουν τις εφαρμογές από το να «ασχολούνται» με θέματα πάνω στα οποία δεν έχουν εκπαιδευτεί. Για παράδειγμα, η NVIDIA πρότεινε ένα συνομιλητικό bot εξυπηρέτησης πελατών, το οποίο με τη βοήθεια του λογισμικού, αρνείται να απαντήσει σε μια ερώτηση που σχετίζεται με τον καιρό. Οι εταιρείες μπορούν επίσης να ορίσουν όρια προστασίας και ασφάλειας, τα οποία σχεδιάστηκαν για να διασφαλίσουν ότι τα LLMs αντλούν ακριβείς πληροφορίες και συνδέονται με εφαρμογές που είναι γνωστό ότι είναι ασφαλείς.
Σύμφωνα με την NVIDIA, το NeMo Guardrails λειτουργεί με όλα τα μεγάλα γλωσσικά μοντέλα, συμπεριλαμβανομένου και του ChatGPT. Επιπλέον, η εταιρεία ισχυρίζεται ότι σχεδόν οποιοσδήποτε προγραμματιστής λογισμικού μπορεί να χρησιμοποιήσει το λογισμικό της καθώς «δεν είναι απαραίτητο να έχεις εξειδικευμένες γνώσεις στη μηχανική εκμάθηση ή επιστήμονας δεδομένων». Δεδομένου ότι το NeMo Guardrails είναι ανοικτού κώδικα, η NVIDIA επισημαίνει ότι μπορεί να λειτουργήσει σε συνδυασμό με όλα τα εργαλεία που χρησιμοποιούν ήδη οι developers εφαρμογών για επιχειρήσεις.
Η NVIDIA έχει ενσωματώσει το NeMo Guardrails στο υπάρχον πλαίσιο NeMo για τη δημιουργία μοντέλων τεχνητής νοημοσύνης. Οι εταιρικοί πελάτες της μπορούν να αποκτήσουν πρόσβαση στο NeMo μέσω της πλατφόρμας λογισμικού AI Enterprise της εταιρείας, η οποία προσφέρει επίσης το framework και μέσω της υπηρεσίας AI Foundations. Η διάθεση του NeMo Guardrails έρχεται λίγο αφότου ορισμένες από τις υψηλού προφίλ λύσεις παραγωγικής τεχνητής νοημοσύνης, συμπεριλαμβανομένων των Microsoft Bing και Google Bard μπήκαν στο μικροσκόπιο από τις ρυθμιστικές αρχές για την τάση που έχουν να προσφέρουν «παραισθησιογόνες» πληροφορίες (μην ξεχνάμε ότι το chatbot της Google, Bard, έκανε ένα σημαντικό λάθος στην πρώτη δημόσια επίδειξη του από την εταιρεία).
«Η NVIDIA έκανε το NeMo Guardrails –ένα προϊόν έρευνας πολλών ετών– ανοικτού κώδικα για να συνεισφέρει στην τεράστια ενέργεια και στο έργο της κοινότητας των προγραμματιστών για την ασφάλεια της τεχνητής νοημοσύνης» δήλωσε η NVIDIA. «Μαζί, οι προσπάθειες μας στα προστατευτικά κιγκλιδώματα θα βοηθήσουν τις εταιρείες να διατηρήσουν τις έξυπνες υπηρεσίες τους ευθυγραμμισμένες με τις απαιτήσεις προστασίας, απορρήτου και ασφάλειας ώστε οι μηχανές καινοτομίας τους να παραμείνουν εντός πορείας». Αν θέλετε να διαβάσετε περισσότερα για το πως λειτουργεί το NeMo Guardrails, μπορείτε να επισκεφτείτε την ανάρτηση της εταιρείας στο επίσημο blog της.
Διαβάστε ολόκληρο το άρθρο
- Δημοφιλέστερες Ειδήσεις Κατηγορίας Τεχνολογία
- Θέλετε η ηλεκτρική Mercedes σας να επιταχύνει γρηγορότερα; Απλά πληρώστε $90 το μήνα
- Ο πατέρας του AI αποχώρησε από τη Google και κρούει τον κώδωνα του κινδύνου
- Διαπραγματεύεστε μια συμφωνία προμηθευτή με τη Walmart; Μπορεί να μιλάτε με μια τεχνητή νοημοσύνη
- Samsung Galaxy Z Fold5 και Z Flip5 αποκαλύπτoνται σε επίσημα renders
- Δημοφιλέστερες Ειδήσεις Insomnia
- Τελευταία Νέα Insomnia
- Νέα ευπάθεια που επιτρέπει τις επιθέσεις πλευρικού καναλιού ανακαλύφθηκε σε επεξεργαστές της Intel
- Το Star Wars Jedi: Survivor για PC κατακλύζεται από αρνητικές κριτικές χρηστών
- Φωτογραφίες που διέρρευσαν αποκαλύπτουν το Google Pixel Fold
- Περισσότερες από 38,4 εκατομμύρια κονσόλες PS5 έχει πουλήσει η Sony μέχρι σήμερα
- Περισσότερα από 38,4 εκατομμύρια κονσόλες PS5 έχει πουλήσει η Sony μέχρι σήμερα
- Η Ιταλία αποκαθιστά την πρόσβαση στο ChatGPT μετά από την προσθήκη ρυθμίσεων ιδιωτικότητας
- Το νέο DJI Mavic 3 Pro είναι το πρώτο drone με σύστημα τριπλής κάμερας
- Η Samsung επιβεβαιώνει τη μεγάλη πτώση κατά 95% στα κέρδη της το 1ο τρίμηνο του 2023
- Microsoft: Τέλος οι μεγάλες ενημερώσεις για τα Windows 10
- Τελευταία Νέα Κατηγορίας Τεχνολογία
- Θέλετε η ηλεκτρική Mercedes σας να επιταχύνει γρηγορότερα; Απλά πληρώστε $90 το μήνα
- Samsung Galaxy Z Fold5 και Z Flip5 αποκαλύπτoνται σε επίσημα renders
- Διαπραγματεύεστε μια συμφωνία προμηθευτή με τη Walmart; Μπορεί να μιλάτε με μια τεχνητή νοημοσύνη
- Το Ingenuity και το Perseverance της NASA βγάζουν φωτογραφίες μεταξύ τους στον Άρη
- Ποιες είναι οι μεγαλύτερες ανησυχίες της NSA στον τομέα της κυβερνοασφάλειας;
- Ο πατέρας του AI αποχώρησε από τη Google και κρούει τον κώδωνα του κινδύνου
- Ο κατακερματισμός και η έλλειψη υιοθέτησης εμποδίζουν την επικράτηση των logins χωρίς κωδικό πρόσβασης
- PlayStation: Έσπασε ρεκόρ στις πωλήσεις κονσολών
- H Google απαγορεύει 38 δημοφιλείς εφαρμογές – Αφαιρέστε τις από την Android συσκευή σας