TRUST-IT Αναθεώρηση περιεχομένου
ΣΥΝΟΨΗ ΑΠΟΦΑΣΗΣ
Ποια απόφαση θα μπορείτε να πάρετε
Αφορά: Αρχιτέκτονες εταιρικού AI, ομάδες ασφάλειας και υπεύθυνοι εμπιστευτικών συλλογών γνώσης.
Εγκρίνετε έκδοση RAG όταν ανάκτηση, παραπομπές, cache και ιστορικό ακολουθούν ρητή πολιτική πρόσβασης.
- Επιβάλετε ταυτότητα και δικαιώματα εγγράφων έξω από το γλωσσικό μοντέλο.
- Δοκιμάστε αλλαγές πρόσβασης σε ευρετήρια, cache και διαδρομές παραπομπών.
- Χρησιμοποιήστε συνθετικούς δείκτες και επιτρεπόμενες και απαγορευμένες περιπτώσεις.
Αντιμετωπίστε την ανάκτηση με δικαιώματα ως ιδιότητα ολόκληρης της διαδρομής
Το RAG, δηλαδή η παραγωγή απάντησης με αξιοποίηση ανακτημένων πηγών, προσθέτει υλικό στο πλαίσιο του μοντέλου. Μπορεί να βελτιώσει τη χρησιμότητα μιας απάντησης, αλλά η φυσική διατύπωση δεν αποδεικνύει ότι ο χρήστης δικαιούται τα έγγραφα που χρησιμοποιήθηκαν. Ορίστε τα προστατευόμενα αντικείμενα: ολόκληρα έγγραφα, αποσπάσματα, μεταδεδομένα, παραπομπές, εικόνες, ιστορικό συνομιλίας και προσωρινά αποθηκευμένες απαντήσεις.
Σχεδιάστε τη διαδρομή από τον σύνδεσμο πηγής στο ευρετήριο, στην υπηρεσία ανάκτησης, στο μοντέλο, στην αποθήκευση απάντησης και στη διεπαφή. Σε κάθε όριο καταγράψτε ποια ταυτότητα ενεργεί και ποια πολιτική επιτρέπει τη λειτουργία. Ένας λογαριασμός εισαγωγής μπορεί να διαβάζει πολλές συλλογές· αυτή η εξουσία δεν πρέπει να μεταφέρεται αυτομάτως σε κάθε χρήστη που υποβάλλει ερώτηση.
Διατηρήστε τα δικαιώματα κατά την εισαγωγή και τον μετασχηματισμό
Ορίστε σταθερά αναγνωριστικά πηγής και εγγράφου, πλαίσιο οργανισμού ή πελάτη, διαβάθμιση, υπεύθυνο και δικαιώματα ανάκτησης. Καταγράψτε έκδοση πηγής και χρόνο αξιολόγησης δικαιωμάτων. Όταν τεμαχίζετε ένα έγγραφο σε αποσπάσματα, διατηρήστε τη σύνδεση κάθε αποσπάσματος με την πολιτική που το διέπει. Παράγωγες συνόψεις και εξαγόμενοι πίνακες χρειάζονται επίσης καθορισμένη πολιτική.
Προβλέψτε μετακινήσεις και διαγραφές εγγράφων, αλλαγές ομάδων, κοινόχρηστους συνδέσμους, λήξη εξωτερικής πρόσβασης και κληρονομημένα δικαιώματα. Ορίστε πώς ενημερώνεται το ευρετήριο και αφαιρούνται παρωχημένα αποσπάσματα. Ένα σωστό ευρετήριο τη Δευτέρα μπορεί να εκθέτει πληροφορίες την Τρίτη αν οι αλλαγές δικαιωμάτων δεν μεταφερθούν ή δεν ελεγχθούν ξανά κατά την ανάκτηση.
Σχετική πρωτογενής τεκμηρίωση: Microsoft — Πρόσβαση σε επίπεδο εγγράφου
Επιλύστε ταυτότητα και εξουσιοδότηση στην έμπιστη διαδρομή του διακομιστή
Προσδιορίστε ταυτότητα και οργανισμό από την αυθεντικοποιημένη συνεδρία και έμπιστη πηγή ταυτοτήτων. Μην αποδέχεστε αναγνωριστικό πελάτη, λίστα ομάδων ή δικαίωμα εγγράφου που προέρχεται μόνο από μήνυμα συνομιλίας ή επεξεργάσιμο πεδίο του browser. Δημιουργήστε υποχρεωτικά φίλτρα πρόσβασης στον διακομιστή και εφαρμόστε τα σε κάθε διαδρομή ανάκτησης.
Ελέγξτε σημασιολογική αναζήτηση, εναλλακτική αναζήτηση λέξεων, υβριδική ανάκτηση, επανακατάταξη, προεπισκοπήσεις και απευθείας λήψη παραπομπών. Ένα φίλτρο στο κύριο ερώτημα διανυσμάτων δεν προστατεύει δεύτερη διαδρομή που ανακτά το ίδιο έγγραφο από αναγνωριστικό χωρίς εξουσιοδότηση. Η κατάταξη επιλέγει χρήσιμο υλικό μέσα στο επιτρεπόμενο σύνολο· δεν καθορίζει ποιο υλικό δικαιούται ο χρήστης.
Ορίστε μετρήσιμο κανόνα ανάκλησης
Καθορίστε πόσο γρήγορα μια αλλαγή δικαιώματος στην πηγή πρέπει να αποτρέπει νέα αποκάλυψη και ποια συστήματα εφαρμόζουν τον κανόνα. Συγχρονισμός δικαιωμάτων, προσωρινή αποθήκευση ομάδων, tokens και cache εφαρμογής μπορούν να προκαλούν καθυστέρηση. Επιλέξτε αρχιτεκτονική που ικανοποιεί τη συμφωνημένη απαίτηση· ένας χρόνος λήξης cache μπορεί να μην αρκεί όταν η πρόσβαση πρέπει να τερματίζεται αμέσως.
Δοκιμάστε την ακολουθία: χορήγηση πρόσβασης, ανάκτηση συνθετικού δείκτη, ανάκληση και επανάληψη μέσω κανονικής αναζήτησης, παραφρασμένων ερωτήσεων, παραπομπών και ήδη γεμάτης cache. Καταγράψτε παρατηρούμενη καθυστέρηση και ρυθμίσεις. Η αφαίρεση δικαιώματος δεν ανακαλεί απάντηση που έχει ήδη παραδοθεί. Ορίστε χωριστά αν το διατηρούμενο ιστορικό μπορεί να εμφανίζει παλαιότερο εξουσιοδοτημένο υλικό και ποιος έχει πρόσβαση σε αυτό.
Όριο πρόσβασης σε ολόκληρη τη διαδρομή RAG
Εφαρμόστε τα ίδια πραγματικά δικαιώματα στην ανάκτηση, στους συνδέσμους πηγών και στις επαναχρησιμοποιούμενες απαντήσεις.
- ΤαυτοποίησηΈμπιστος χρήστης και οργανισμός
- ΕξουσιοδότησηΤρέχοντα δικαιώματα εγγράφου
- ΑνάκτησηΕπιτρεπτά αποσπάσματα, μεταδεδομένα
- ΠαραγωγήΜόνο εξουσιοδοτημένο πλαίσιο
- ΠαράδοσηΠροστασία παραπομπών, cache, ιστορικού
Αν ο έλεγχος δικαιωμάτων δεν είναι διαθέσιμος, το περιορισμένο υλικό ακολουθεί τη συμφωνημένη πολιτική προληπτικής απόρριψης. Το μοντέλο δεν μπορεί να χορηγήσει πρόσβαση.
Διατηρήστε προσωρινή αποθήκευση, μνήμη και εξαγωγές μέσα στο ίδιο όριο
Μια κοινή cache με κλειδί μόνο την ερώτηση μπορεί να παραδώσει προνομιακή απάντηση ενός χρήστη σε άλλον. Ορίστε κλειδί ή διαχωρισμό βάσει του σχετικού πλαισίου ασφάλειας, συμπεριλαμβανομένων οργανισμού και πραγματικών δικαιωμάτων, και ακυρώστε το αποθηκευμένο υλικό όταν αυτό αλλάζει. Εφαρμόστε σαφή πολιτική σε σημασιολογικές cache, μνήμη συνομιλίας, αποθηκευμένες συνόψεις, λήψεις και εργασίες παρασκηνίου.
Προστατέψτε και τα στοιχεία γύρω από την απάντηση. Τίτλος, απόσπασμα, όνομα αρχείου ή παραπομπή μπορεί να αποκαλύπτει ευαίσθητη πληροφορία ακόμη και όταν το κυρίως κείμενο αποκρύπτεται. Ένας υπογεγραμμένος σύνδεσμος λήψης χρειάζεται κατάλληλους περιορισμούς κοινού και διάρκειας. Επαληθεύστε ότι αρχεία καταγραφής, ίχνη εκτέλεσης και εργαλεία υποστήριξης δεν δημιουργούν ευρύτερα προσβάσιμα αντίγραφα προστατευμένων ερωτημάτων ή αποσπασμάτων.
Διαχωρίστε τις οδηγίες εγγράφων από την εξουσία εκτέλεσης
Ανακτημένα έγγραφα μπορεί να περιέχουν οδηγίες που επιχειρούν να χειραγωγήσουν τον βοηθό. Ελέγξτε αν τέτοιο περιεχόμενο μπορεί να διευρύνει την αναζήτηση, να αλλάξει προορισμό εξόδου ή να ενεργοποιήσει εργαλείο. Το μοντέλο πρέπει να λαμβάνει μόνο εξουσιοδοτημένο υλικό και τα εργαλεία να επιβάλλουν ανεξάρτητα τα δικά τους δικαιώματα.
Χρησιμοποιήστε συνθετικά έγγραφα και ακίνδυνους δείκτες για έλεγχο αποκάλυψης μεταξύ ορίων και ανεπιθύμητων ενεργειών. Αντιμετωπίστε οδηγίες εξωτερικής πηγής ως μη έμπιστο περιεχόμενο. Οι αρνήσεις του μοντέλου και η διατύπωση οδηγιών υποστηρίζουν τη χρήση, αλλά το επιβλητό όριο βρίσκεται στους ελέγχους ταυτότητας, ανάκτησης, πολιτικής και εκτέλεσης.
Σχετική πρωτογενής τεκμηρίωση: OWASP — Αδυναμίες διανυσμάτων και embeddings
Δημιουργήστε πίνακα επιτρεπόμενων και απαγορευμένων δοκιμών
Ορίστε δοκιμαστικούς χρήστες από διαφορετικά τμήματα, οργανισμούς, εξωτερικούς συνεργάτες και διαχειριστές. Δημιουργήστε ελεγχόμενα έγγραφα με μοναδικούς συνθετικούς δείκτες και γνωστούς κανόνες πρόσβασης. Για κάθε απαγορευμένη περίπτωση συμπεριλάβετε νόμιμη περίπτωση που πρέπει να επιτύχει· η καθολική επιστροφή κενών απαντήσεων δεν αποδεικνύει λειτουργική λύση.
Δοκιμάστε ακριβείς τίτλους, γενικά ερωτήματα, συναφείς έννοιες, ανύπαρκτα έγγραφα, διπλά αποσπάσματα, ανακλημένες ομάδες, ληγμένη πρόσβαση, αστοχίες συνδέσμων και ελλιπή μεταδεδομένα δικαιωμάτων. Επαναλάβετε τις σχετικές περιπτώσεις σε όλες τις διαδρομές ανάκτησης και λήψης. Καταγράψτε ταυτότητα, εφαρμοζόμενη πολιτική, αναγνωριστικά υποψήφιων και επιστρεφόμενων πηγών, έκδοση ρυθμίσεων και αποτέλεσμα. Ελαχιστοποιήστε το καταγραφόμενο περιεχόμενο διατηρώντας επαρκή δυνατότητα αναπαραγωγής.
Κάντε την απόφαση παραγωγικής λειτουργίας συγκεκριμένη και επαναλήψιμη
Πριν την κυκλοφορία συμφωνήστε μη αποδεκτές αστοχίες, επιτρεπόμενους περιορισμούς και απαιτούμενα στοιχεία από την ομάδα ανάπτυξης. Μία επιτυχής συνθετική αποκάλυψη μεταξύ πελατών αποτελεί αστοχία ορίου στη συγκεκριμένη διαδρομή· ένας μέσος βαθμός ποιότητας απαντήσεων δεν την αντισταθμίζει. Αν η υπηρεσία εξουσιοδότησης ή τα δικαιώματα δεν είναι διαθέσιμα, ορίστε ποια αιτήματα απορρίπτονται προληπτικά και πώς ενημερώνεται ο χρήστης.
Ο φάκελος αξιολόγησης πρέπει να περιλαμβάνει διάγραμμα ροής, χάρτη ταυτοτήτων και δικαιωμάτων, απαίτηση ανάκλησης, κατάλογο δοκιμών, αποτελέσματα, περιορισμούς και διαδικασία ανάκαμψης. Επαναλάβετε τους επηρεαζόμενους ελέγχους μετά από αλλαγές συνδέσμου, ευρετηρίου, μοντέλου, πολιτικής ή cache. Δηλώστε ετοιμότητα μόνο για τις εξετασθείσες ρυθμίσεις και το συγκεκριμένο πεδίο, με υπεύθυνο για τους ανοικτούς κινδύνους.
ΠΡΑΚΤΙΚΟ ΠΑΡΑΔΕΙΓΜΑ
Ανακλημένο δικαίωμα και ήδη αποθηκευμένη απάντηση
Ενδεικτικό σενάριο, όχι πραγματικό έργο πελάτη. Δοκιμαστικός χρήστης έχει αρχικά πρόσβαση σε συνθετικό έγγραφο εξαγοράς. Μετά την αφαίρεσή του από την ομάδα συναλλαγής, η κανονική αναζήτηση αρνείται πρόσβαση, αλλά παλαιότερη απάντηση από cache περιέχει ακόμη τον μοναδικό δοκιμαστικό δείκτη του εγγράφου.
- Στοιχεία και έλεγχοι
- Η αξιολόγηση καταγράφει αλλαγή ομάδας, έκδοση πολιτικής, απόφαση ανάκτησης και διαδρομή cache. Επαναλαμβάνει το ερώτημα με παράφραση, απευθείας παραπομπή και δεύτερο δοκιμαστικό χρήστη. Η ομάδα επιβεβαιώνει ότι οι αποθηκευμένες απαντήσεις διαμοιράζονταν χωρίς το σχετικό πλαίσιο δικαιωμάτων.
- Τεκμηριωμένο συμπέρασμα και επόμενη ενέργεια
- Το αποτέλεσμα αποδεικνύει αποκάλυψη στη συγκεκριμένη διαδρομή cache. Η ομάδα διαχωρίζει ή ακυρώνει το υλικό και επανελέγχει ανάκληση, παραπομπές και νόμιμη ανάκτηση. Η απόφαση παραγωγής καταγράφει το δοκιμασμένο διάστημα ανάκλησης και τη χωριστή πολιτική για ιστορικό απαντήσεων που είχαν ήδη παραδοθεί.
Τι να ζητήσετε από τον πάροχο
Χρησιμοποιήστε τα κριτήρια για να συγκρίνετε την προτεινόμενη εργασία και να ελέγξετε το αποτέλεσμα. Συμφωνήστε αντικείμενο και ελέγχους αποδοχής πριν από την παράδοση.
Σύρετε τον πίνακα οριζόντια για να δείτε όλες τις στήλες.
| Παραδοτέο | Τι περιλαμβάνει | Έλεγχος αποδοχής |
|---|---|---|
| Χάρτης ταυτότητας και ροών | Σύνδεσμοι, πολιτικές, αποσπάσματα, προσωρινή αποθήκευση και διαδρομές. | Κάθε πρόσβαση σε προστατευμένο υλικό έχει αναγνωρισμένο έλεγχο. |
| Κανόνας ανάκλησης | Απαιτούμενη καθυστέρηση, ενημέρωση και ακύρωση προσωρινής αποθήκευσης. | Το αφαιρεθέν δικαίωμα αποτρέπει νέα αποκάλυψη εντός του συμφωνημένου ορίου. |
| Κατάλογος δοκιμών | Χρήστες, συνθετικοί δείκτες, αναμενόμενη πρόσβαση και ρυθμίσεις. | Οι διατμηματικές και διαπελατειακές δοκιμές περιλαμβάνουν νόμιμες περιπτώσεις. |
| Στοιχεία έκδοσης | Αποτελέσματα, ίχνη, κενά, περιορισμοί και αφορμές επανελέγχου. | Ο υπεύθυνος αποδέχεται μόνο το καταγεγραμμένο πεδίο και τις ρυθμίσεις. |
ΓΙΑ ΤΗΝ ΕΠΟΜΕΝΗ ΣΥΝΑΝΤΗΣΗ ΣΑΣ
Η λίστα προετοιμασίας σας
- Χαρτογραφήστε έγγραφα, αποσπάσματα, μεταδεδομένα, παραπομπές, cache και ιστορικό.
- Προσδιορίστε χρήστες και οργανισμούς από έμπιστη αυθεντικοποίηση.
- Ορίστε ενημέρωση δικαιωμάτων και απαιτούμενο διάστημα ανάκλησης.
- Δοκιμάστε ακριβή ερωτήματα, παραφράσεις, συνδέσμους και έτοιμες απαντήσεις cache.
- Χρησιμοποιήστε συνθετικούς δείκτες με εξουσιοδοτημένους και μη χρήστες.
- Καταγράψτε εκδόσεις, αστοχίες, περιορισμούς και αφορμές επανελέγχου.
Χρησιμοποιήστε το δίγλωσσο τεύχος για σημειώσεις ή το επεξεργάσιμο CSV για υπευθύνους και αναφορές τεκμηρίων. Πρόκειται για υποδείγματα προετοιμασίας, όχι ολοκληρωμένη αξιολόγηση.
Περισσότερες πληροφορίες
- OWASP LLM08 — αδυναμίες διανυσμάτων και διανυσματικών αναπαραστάσεων
- Microsoft Learn — έλεγχος πρόσβασης σε επίπεδο εγγράφου
Από τη γνώση στην εφαρμογή
Βοηθοί γνώσης για πολιτικές, τεχνική τεκμηρίωση και εσωτερικές πληροφορίες, με έλεγχο πρόσβασης, πηγές και μετρήσιμη αξιολόγηση.
AI εταιρικής γνώσης