Δείγμα σχεδιασμού πράκτορα AI με ελεγχόμενες εγκρίσεις

Ένα γλωσσικό μοντέλο ερμηνεύει αίτημα, εντοπίζει σχετικό υλικό και παράγει υποψήφια πράξη. Η έξοδός του παραμένει μη έμπιστη είσοδος για το σύστημα που μπορεί να προκαλέσει επιχειρησιακό αποτέλεσμα. Εδώ προτείνει προσχέδιο ελέγχου προμηθευτή. Χωριστά υλοποιημένη πολιτική ελέγχει χρήστη, νομική οντότητα, όνομα πράξης, σχήμα εισόδου, επιτρεπόμενα πεδία και παραπομπές πριν εξεταστεί εγγραφή.

Το σχήμα εργαλείου με καθορισμένους τύπους μειώνει ασάφεια αλλά δεν παρέχει επιχειρησιακό δικαίωμα. Αίτημα αλλαγής δικαιούχου με απόλυτα έγκυρη σύνταξη παραμένει απαγορευμένο σε αυτή τη ροή. Ο εκτελεστής διαθέτει περιορισμένο κατάλογο εργαλείων και ταυτότητα διασύνδεσης μόνο για την επιτρεπόμενη πρόχειρη εγγραφή. Το μοντέλο δεν έχει ανεξάρτητη πρόσβαση σε διαδρομή πληρωμών, αυθαίρετο δικτυακό προορισμό ή χορήγηση νέου δικαιώματος.

Ο σχεδιασμός τοποθετεί την απόφαση εκεί όπου ελέγχεται ανεξάρτητα από τη διατύπωση του prompt. Αλλαγές μοντέλου ή οδηγιών μπορεί να μεταβάλλουν την ποιότητα πρότασης, αλλά δεν πρέπει να διευρύνουν την εξουσιοδότηση της διασύνδεσης. Ο διαχωρισμός ακολουθεί τις αρχές ανεξάρτητης επιβολής ελέγχων στα συστήματα εκτέλεσης και περιορισμένης αυτονομίας του OWASP.

Τεχνική βάση: OWASP — υπερβολική αυτονομία και έλεγχοι στα συστήματα εκτέλεσης

Η παραγωγή με ενισχυμένη ανάκτηση (RAG) παρέχει επιλεγμένο υλικό πηγών στο μοντέλο. Το όριο ασφάλειας προηγείται της εισαγωγής αυτού του υλικού στο prompt. Στο δείγμα, η υπηρεσία ανάκτησης προσδιορίζει τον ταυτοποιημένο αιτούντα και την οντότητα, εφαρμόζει δικαιώματα πηγών και επιστρέφει μόνο επιτρεπόμενα αποσπάσματα. Το φιλτράρισμα απαγορευμένων αποσπασμάτων από την τελική απάντηση είναι καθυστερημένο: το μοντέλο ή τα γύρω συστήματα μπορεί ήδη να τα έχουν επεξεργαστεί.

Κάθε απόσπασμα διατηρεί αναγνωρίσιμη πηγή, έκδοση και θέση. Ο ελεγκτής πρέπει να διακρίνει εγκεκριμένη συμβατική ρήτρα από νεότερη μη εγκεκριμένη υποβολή. Ο βαθμός διανυσματικής ομοιότητας περιγράφει την ανάκτηση· δεν είναι ποσοστό βεβαιότητας ότι ένα συμβατικό συμπέρασμα είναι αληθές. Αλλαγές δικαιωμάτων και διαγραφές πηγών χρειάζονται ρητή διάδοση σε ευρετήρια και caches.

Τεχνική βάση: OWASP — έλεγχος πρόσβασης RAG, εισαγωγή και ακεραιότητα πηγών

Στο παράδειγμα προμηθευτή, η ανάκτηση μπορεί να περιλαμβάνει εγκεκριμένη ρήτρα και αντικρουόμενο εισερχόμενο έγγραφο. Η πρόταση διατηρεί την αντίφαση και παραπέμπει και στις δύο θέσεις. Το σύστημα δεν συγχωνεύει σιωπηρά τα δύο σε επινοημένο έγκυρο πεδίο. Αν δεν επιβεβαιώνεται όριο οντότητας ή τρέχον δικαίωμα πηγής, η ροή σταματά την ανάκτηση του υλικού και επιστρέφει εξηγήσιμη εξαίρεση.

Μια γενική ένδειξη «Έγκριση» δεν ορίζει τι συμφώνησε ο ελεγκτής. Η προτεινόμενη προδιαγραφή δεσμεύει την απόφαση σε ταυτοποιημένο αιτούντα, ενεργούσα οντότητα, τύπο πράξης, ακριβείς αλλαγές πεδίων, σχετική έκδοση πόρου, πολιτική και λήξη. Η οθόνη ελέγχου εμφανίζει την επιχειρησιακή σημασία των πεδίων και τα χρησιμοποιημένα τεκμήρια. Αλλαγή αναφοράς εγγράφου ή προορισμού μετά την έγκριση ακυρώνει την απόφαση.

Ο εγκρίνων πρέπει να έχει χωριστά την αρμοδιότητα έγκρισης για την πράξη και την οντότητα. Ταυτότητα και απόφαση ανήκουν σε προστατευμένο αρχείο έγκρισης. Όπου απαιτείται διαχωρισμός καθηκόντων, αιτών και εγκρίνων δεν ικανοποιούν τον κανόνα απλώς με διαφορετικά εμφανιζόμενα ονόματα. Ο εκτελεστής ελέγχει τη σχέση ταυτοτήτων και την τρέχουσα αρμοδιότητα αμέσως πριν την πράξη.

Αν το JSON κατακερματίζεται ή υπογράφεται, και οι δύο πλευρές χρειάζονται ίδια κανονική αναπαράσταση bytes. Σειρά ιδιοτήτων, χειρισμός αριθμών και διαφορές σειριοποίησης μπορεί αλλιώς να αλλάζουν το hash χωρίς φαινομενική αλλαγή επιχειρησιακού περιεχομένου. Το RFC 8785 ορίζει μία μέθοδο κανονικοποίησης JSON· η υλοποίηση πρέπει να ταιριάζει στους τύπους δεδομένων και στους περιορισμούς χρήσης. Το hash δεσμεύει bytes, όχι δικαίωμα ή αυθεντικότητα από μόνο του.

Τεχνική βάση: RFC 8785 — μέθοδος κανονικοποίησης JSON

Η προδιαγραφή χρειάζεται και επικαιρότητα. Αν εγκριθεί προσχέδιο βάσει συμβολαίου έκδοσης 7, αλλά η έκδοση 8 αλλάξει τον σχετικό όρο πριν την εκτέλεση, το σύστημα πρέπει να εντοπίσει την αλλαγμένη προϋπόθεση και να ζητήσει νέα απόφαση. Όρια επικαιρότητας μεταξύ συστημάτων και επιτρεπόμενο διάστημα εκτέλεσης εντάσσονται στην τεκμηριωμένη λειτουργική πολιτική.

Η λήξη χρόνου μπορεί να συμβεί πριν παραληφθεί το αίτημα, κατά την επεξεργασία ή αφού δεσμευτεί εγγραφή αλλά πριν φτάσει η απάντηση. Η λήξη χρόνου από μόνη της δεν διακρίνει τις περιπτώσεις. Η υπηρεσία εκτέλεσης χρειάζεται σταθερή ταυτότητα πράξης και μόνιμο αρχείο κατάστασης, ώστε επαναλαμβανόμενη παράδοση να μη γίνεται αυτόματα νέα επιχειρησιακή ενέργεια.

Για το προσχέδιο προμηθευτή, το κλειδί idempotency προσδιορίζει μία εξουσιοδοτημένη πράξη, στη σχετική οντότητα και διασύνδεση. Επανάληψη της ίδιας πράξης με τα ίδια δεσμευμένα δεδομένα ανακτά ή συμφωνεί το αποτέλεσμά της. Επαναχρησιμοποίηση κλειδιού με διαφορετικό περιεχόμενο απορρίπτεται. Το κλειδί πρέπει να εφαρμόζεται από το σύστημα που δημιουργεί το αποτέλεσμα ή να υποστηρίζεται από αξιόπιστη αναζήτηση υπάρχοντος αποτελέσματος· η αποθήκευσή του μόνο στον agent δεν αρκεί.

Τεχνική βάση: AWS Builders’ Library — επαναλήψεις αιτημάτων και αποτροπή διπλής εκτέλεσης σε διεπαφές API

Το τοπικό αρχείο πράξης και η απομακρυσμένη εγγραφή συνήθως δεν ανήκουν σε μία συναλλαγή. Αστοχία ανάμεσά τους αφήνει πρόβλημα συμφωνίας κατάστασης. Αν το σύστημα προορισμού δεν υποστηρίζει idempotency ή αξιόπιστη αναζήτηση, οι αυτόματες επαναλήψεις δεν εγγυώνται μοναδικό αποτέλεσμα. Η ενδεικτική ροή τότε κρατά την πράξη για έλεγχο αντί να την επαναστέλνει τυφλά. Ο υπεύθυνος πρέπει να γνωρίζει τον περιορισμό πριν παραχωρήσει σημαντικότερες δυνατότητες.

Το σύνολο αξιολόγησης αντιπροσωπεύει τις πραγματικές ανάγκες: ερωτήματα με και χωρίς τεκμηρίωση, αντικρουόμενα έγγραφα, ανακληθείσα πρόσβαση, αιτήματα άλλης οντότητας, άκυρες εγκρίσεις, αστοχίες εργαλείων και παραπλανητικές οδηγίες μέσα σε ανακτημένο υλικό. Διαχωρίστε παραδείγματα ανάπτυξης από το σύνολο διάθεσης, καταγράψτε την επιλογή περιπτώσεων και εκδόσεις δεδομένων, μοντέλου, prompt, εργαλείου και πολιτικής που εξετάστηκαν.

Μετρήστε δικαίωμα και συνάφεια ανάκτησης, ακρίβεια κρίσιμων πεδίων, υποστήριξη ουσιωδών δηλώσεων, ορθότητα αποχής, ολοκλήρωση εργασίας, προσπάθεια ελεγκτή και επιβεβαιωμένα επιχειρησιακά αποτελέσματα. Δηλώστε παρονομαστή και κατηγορίες αστοχίας ανά μέτρηση. Υψηλός μέσος βαθμός μπορεί να κρύβει μία ανεπίτρεπτη αποκάλυψη ή διπλή εγγραφή· τα κριτήρια ασφάλειας εξετάζονται ανεξάρτητα από τους μέσους όρους χρησιμότητας.

Για μη ντετερμινιστική συμπεριφορά επαναλάβετε ευαίσθητες περιπτώσεις και περιγράψτε την παρατηρούμενη διακύμανση. Μηδέν αστοχίες σε πεπερασμένο σύνολο δεν αποδεικνύουν ότι αστοχία είναι αδύνατη. Μέγεθος δείγματος και όρια εξαρτώνται από εργασία, χρήση και συνέπεια. Στο δείγμα, κάθε παρατηρούμενη μη εξουσιοδοτημένη πράξη αποκλείει τη διάθεση μέχρι διερεύνησης, ενώ αστοχίες ποιότητας οδηγούν σε συγκεκριμένη απόφαση για τη χρησιμότητα της ροής.

Εξετάστε χωριστά γλώσσες και κατάσταση εγγράφων. Αποτέλεσμα σε καθαρά αγγλικά συμβόλαια δεν αποδεικνύει επίδοση σε ελληνικές σαρώσεις, πίνακες με ελλιπείς σελίδες ή χειρόγραφες σημειώσεις. Ένα ιδιωτικό γραφείο μπορεί να προτιμά μικρότερο κίνδυνο αποκάλυψης και σαφέστερες εξαιρέσεις από μέγιστη αυτοματοποίηση. Οι προτεραιότητες διαμορφώνουν εξαρχής την αξιολόγηση και δεν συνάγονται μετά τη βαθμολόγηση του πιλοτικού έργου.

Το αρχείο πράξης συνδέει ταυτοποιημένο χρήστη, εκδόσεις πηγών, προτεινόμενη προδιαγραφή, απόφαση έγκρισης, πολιτική, απόπειρες εκτέλεσης και επιβεβαιωμένο ή ανεπίλυτο αποτέλεσμα. Επιτρέπει στον χειριστή να απαντά τι εγκρίθηκε και τι συνέβη χωρίς διατήρηση κάθε εγγράφου ή απεριόριστου prompt στα συνήθη logs. Κανόνες πρόσβασης, απόκρυψης, διατήρησης και περιστατικών εφαρμόζονται και σε αυτά τα αρχεία.

Αλλαγές μοντέλων, prompts, συνδέσμων, δικαιωμάτων πηγών και επιχειρησιακών κανόνων ενεργοποιούν τις σχετικές δοκιμές επανελέγχου. Διακόπτης διακοπής σημαντικών εργαλείων σταματά νέες πράξεις, διατηρώντας στοιχεία για εκκρεμείς εργασίες. Η ανάκαμψη διαχωρίζει αναίρεση δεσμευμένης επιχειρησιακής πράξης από απλή επαναφορά κώδικα· μπορεί να απαιτούν διαφορετικούς υπευθύνους και προϋποθέσεις.

Η τελική παράδοση προσδιορίζει υπεύθυνο διαδικασίας, ρόλους έγκρισης, τεχνικό χειριστή και επαφή περιστατικών· τεκμηριώνει επιτρεπόμενες πράξεις και γνωστούς περιορισμούς διασύνδεσης· ορίζει συνθήκες επέκτασης αντικειμένου. Έτσι μεγάλος οργανισμός ή ιδιωτικό γραφείο διαθέτει συγκεκριμένη βάση απόφασης για το κατάλληλο επίπεδο αυτονομίας στα συστήματα και στις αρμοδιότητές του.