Ανάπτυξη Κλιμακούμενων Πρακτόρων με το Microsoft Foundry

Συνοδευτική δεξιότητα για το Μάθημα 16 – Ανάπτυξη Κλιμακούμενων Πρακτόρων. Χρησιμοποιήστε το για να βοηθήσετε έναν μαθητευόμενο να μεταφέρει έναν πράκτορα από πρωτότυπο σε κλιμακούμενη, παρατηρήσιμη παραγωγική ανάπτυξη. Βασίστε κάθε σύσταση στο περιεχόμενο του μαθήματος και το εκτελέσιμο τετράδιο· μην εφεύρετε APIs του Foundry.

Ενεργοποιητές

Ενεργοποιήστε αυτή τη δεξιότητα όταν ένας μαθητευόμενος θέλει να:

• Αναπτύξει έναν πράκτορα στο Microsoft Foundry ως hosted agent και να τον καταστήσει εκδόσιμο/παρατηρήσιμο.
• Επιλέξει ανάμεσα σε πρότυπα ανάπτυξης client-hosted, hosted-agent, και agent-workflow.
• Προσθέσει δρομολόγηση μοντέλου, αποθήκευση απαντήσεων στην cache ή περιορισμένη ταυτόχρονη εκτέλεση για τον έλεγχο της καθυστέρησης και του κόστους.
• Προσθέσει μια πύλη αξιολόγησης ώστε μια κακή έκδοση πράκτορα να μην αναπτυχθεί.
• Προσθέσει ένα βήμα έγκρισης ανθρώπου-στην-αλυσίδα για ενέργειες υψηλού ρίσκου.
• Εξοπλίσει έναν πράκτορα με εντοπισμό OpenTelemetry για παραγωγική παρατηρησιμότητα.
• Κάνει smoke-test σε έναν αναπτυγμένο πράκτορα ως γρήγορη πύλη μετά την ανάπτυξη.

Βασικό νοητικό μοντέλο

Ένας παραγωγικός πράκτορας είναι κυρίως ο λειτουργικός σκελετός γύρω από το μοντέλο (~80%), όχι το ίδιο το μοντέλο. Χαρτογραφήστε κάθε σύσταση σε ένα από αυτά τα ζητήματα:

Πρότυπα ανάπτυξης (επιλέξτε ένα ή συνδυάστε)

1. Client-hosted — ο βρόχος λογικής τρέχει στη διαδικασία σας. Μέγιστος έλεγχος· εσείς διαχειρίζεστε κλίμακα/κατάσταση.
2. Hosted agent (Foundry Agent Service) — το Foundry φιλοξενεί τον βρόχο, αποθηκεύει νήματα, επιβάλλει RBAC/ασφάλεια περιεχομένου, δείχνει τον πράκτορα στο portal. Λιγότερος έλεγχος, πολύ μικρότερη λειτουργική επιφάνεια.
3. Agent workflow — πολλαπλοί πράκτορες/εργαλεία συνδυασμένα σε γράφο με διακλαδώσεις, κόμβους έγκρισης και ανθεκτικά σημεία ελέγχου.

Κύκλος ζωής (ο βρόχος που στέλνει έναν πράκτορα)

create → version → evaluate (gate) → deploy hosted → observe online → collect failures → repeat. Η offline αξιολόγηση είναι πύλη, όχι μετά σκέψη — μια έκδοση δεν αναπτύσσεται εκτός αν περάσει το όριο. Η παρατηρησιμότητα σε σύνδεση μεταφέρει πραγματικές αποτυχίες πίσω στο offline σετ δοκιμών.

Μοχλοί κλιμάκωσης και κόστους (με σειρά προτεραιότητας)

1. Επιλέξτε κατάλληλο μέγεθος μοντέλου — χρησιμοποιήστε το μικρότερο μοντέλο που περνάει την πύλη αξιολόγησης.
2. Δρομολογήστε κατά πολυπλοκότητα — μικρό/γρήγορο μοντέλο για απλά αιτήματα, μεγάλο μοντέλο για πραγματική λογική (DIY ταξινομητής ή Foundry Model Router).
3. Cache — εξυπηρετήστε σχεδόν-πανομοιότυπα αιτήματα χωρίς κλήση μοντέλου.
4. Αμετάβλητος σχεδιασμός + περιορισμένη ταυτόχρονη εκτέλεση — εξωτερικεύστε την κατάσταση· επαναλάβετε με απόσυρση.

Κύρια πρότυπα για αναπαραγωγή

Δείξτε στον μαθητευόμενο αυτά από το τετράδιο 16-python-agent-framework.ipynb:

• Διαχειριστής αιτημάτων: cache → δρομολόγηση κατά πολυπλοκότητα → αποτύπωση ίχνους → εκτέλεση → cache.
• Πύλη αξιολόγησης: βαθμολογήστε ένα offline σετ δοκιμών· επιστρέψτε pass_rate >= threshold και αναπτύξτε μόνο αν είναι αληθές.
• Έγκριση ανθρώπου: @tool(approval_mode="always_require") για ενέργειες όπως μεγάλες επιστροφές χρημάτων.
• Αποτύπωση: περιτυλίξτε κάθε αίτημα σε tracer.start_as_current_span(...) και ορίστε χαρακτηριστικά όπως routed.model, customer.id.

Smoke-test ενός αναπτυγμένου πράκτορα

Μετά την ανάπτυξη, επαληθεύστε ότι το endpoint απαντά πραγματικά (μια πράσινη ανάπτυξη μπορεί ακόμα να είναι αθόρυβη). Χρησιμοποιήστε την ενέργεια AI Smoke Test μέσω .github/workflows/smoke-test.yml με τον κατάλογο στο tests/. Ο εκτελεστής στέλνει POST κάθε προτροπής στο POST {project_endpoint}/agents/{agent_name}/endpoint/protocols/openai/responses και ελέγχει το κείμενο της απάντησης. Η ταυτότητα χρειάζεται το ρόλο Azure AI User στο επίπεδο έργου Foundry· το ακροατήριο του token πρέπει να είναι https://ai.azure.com/.

Διαστρώστε τις πύλες: smoke test (προσβάσιμος/απαντώντας, κάθε ανάπτυξη) → offline αξιολόγηση (αρκετά καλό για αποστολή, πριν από την προώθηση) → online αξιολόγηση (πώς τα πάει σε πραγματικό περιβάλλον, συνεχής).

Επιχειρησιακοί έλεγχοι

• RBAC: δώστε σε κάθε hosted agent μια διαχειριζόμενη ταυτότητα με ελάχιστα προνόμια.
• MCP στην παραγωγή: μεταχειριστείτε κάθε διακομιστή MCP ως μη αξιόπιστο όριο — καθορίστε την έκδοση, περιορίστε την ταυτότητα, επαληθεύστε τις εξόδους, περιορίστε τον ρυθμό, μην αποκαλύπτετε ποτέ μυστικά.

Προστατευτικά για τον βοηθό

• Προτιμήστε το κανονικό πρότυπο FoundryChatClient(...) + provider.as_agent(...) που χρησιμοποιείται σε όλο το μάθημα.
• Μην υπόσχεστε αποτελέσματα ζωντανού Azure που δεν έχετε επαληθεύσει· προτείνετε τη ροή εργασίας smoke-test για επιβεβαίωση μιας ανάπτυξης.
• Κρατήστε ενωμένη την αξιολόγηση και τη συμβουλή κόστους: η αξιολόγηση καθορίζει το ελάχιστο επίπεδο ποιότητας, το δρομολόγηση/cache διατηρούν το κόστος κοντά σε αυτό το επίπεδο.

Αποποίηση ευθυνών: Αυτό το έγγραφο έχει μεταφραστεί χρησιμοποιώντας την υπηρεσία μετάφρασης με τεχνητή νοημοσύνη Co-op Translator. Ενώ επιδιώκουμε την ακρίβεια, παρακαλούμε να έχετε υπόψη ότι οι αυτοματοποιημένες μεταφράσεις ενδέχεται να περιέχουν λάθη ή ανακρίβειες. Το πρωτότυπο έγγραφο στη μητρική του γλώσσα πρέπει να θεωρείται η αυθεντική πηγή. Για κρίσιμες πληροφορίες, συνιστάται επαγγελματική ανθρώπινη μετάφραση. Δεν φέρουμε ευθύνη για τυχόν παρεξηγήσεις ή λανθασμένες ερμηνείες που προκύπτουν από τη χρήση αυτής της μετάφρασης.