פריסת סוכנים בקנה מידה עם Microsoft Foundry

מיומנות משלימה עבור שיעור 16 – פריסת סוכנים בקנה מידה. השתמש בה כדי לעזור ללומד להעביר סוכן מהPrototype לפריסה בקנה מידה, ניתנת לתצפית בייצור. יסס כל המלצה בתוכן השיעור ובמחברת המתפקדת; אל תמציא ממשקי API של Foundry.

טריגרים

הפעל מיומנות זו כאשר לומד רוצה:

• לפרוס סוכן ל-Microsoft Foundry כסוכן מתארח ולעשות אותו עם גרסאות/ניתן לצפייה.
• לבחור בין דפוסי פריסה: מתארח בלקוח, סוכן מתארח, ו-agent-workflow.
• להוסיף ניתוב מודלים, מטמון תגובה, או התמקדות מתוזמנת לשליטה באיחור ועלות.
• להוסיף שער הערכה כך שגרסה גרועה של סוכן לא תישלח.
• להוסיף שלב אישור אנושי בתהליך לפעולות בסיכון גבוה.
• להטמיע סוכן עם עקבות OpenTelemetry לצפייה בייצור.
• להריץ בדיקת עשן (Smoke-test) לסוכן פרוס כמסנן מהיר לאחר הפריסה.

מודל ראשי מרכזי

סוכן בייצור הוא בעיקר השלד התפעולי סביב המודל (~80%), לא המודל עצמו. התאם כל המלצה לאחד מהנושאים הללו:

דפוסי פריסה (בחר אחד, או שלב בין כמה)

1. מתארח בלקוח — לולאת השיקול רצה בתהליך שלך. שליטה מרבית; אתה בעל השליטה על קנה מידה/מצב.
2. סוכן מתארח (Foundry Agent Service) — Foundry מארח את הלולאה, מאחסן חוטים, מאכף RBAC/בטיחות תוכן, מציג את הסוכן בפורטל. שליטה פחותה, משטח תפעולי פחות משמעותי.
3. Agent workflow — מספר סוכנים/כלים מורכבים לגרף עם הסתעפויות, צמתים לאישור, ונקודות בדיקה עמידות.

מחזור חיים (הלולאה ששולחת סוכן)

create → version → evaluate (gate) → deploy hosted → observe online → collect failures → repeat. הערכה לא מקוונת היא שער, לא מחשבה לאחר מעשה — גרסה לא תישלח אלא אם כן היא עוברת את הסף. צפייה מקוונת חושפת כשלים אמיתיים חזרה לערכת הבדיקה הלא מקוונת.

מנופים של קנה מידה ועלות (בסדר עדיפות)

1. התאם את גודל המודל — השתמש במודל הקטן ביותר שעובר את שער ההערכה.
2. נתב לפי מורכבות — מודל קטן/מהיר לבקשות פשוטות, מודל גדול לשיקול אמיתי (מסווג DIY או Foundry Model Router).
3. מטמון — ספק תגובות דומות ללא קריאה למודל.
4. עיצוב ללא מדינה + התמקדות מתוזמנת — הפוך את המצב לחיצוני; נסה שוב עם גידול בהשהייה.

דפוסים עיקריים לשכפול

הפנה את הלומד לאלה מהמחברת 16-python-agent-framework.ipynb:

• מטפל בבקשה: מטמון → ניתוב לפי מורכבות → תחום עקבות → הפעלה → מטמון.
• שער הערכה: דרג ערכת מבחנים לא מקוון; החזר pass_rate >= threshold ופרוס רק אם אמת.
• אישור אנושי: @tool(approval_mode="always_require") לפעולות כמו החזרים גדולים.
• עקבות: עטוף כל בקשה ב-tracer.start_as_current_span(...) והגדר מאפיינים כמו routed.model, customer.id.

בדיקת עשן לסוכן פרוס

לאחר הפריסה, ווידא שהנקודת הקצה באמת עונה (פריסה ירוקה עדיין יכולה להיות שקטה). השתמש ב-בדיקת עשן של AI דרך .github/workflows/smoke-test.yml עם הקטלוג ב-tests/. הרץ השולח POST לכל הפעלה ל-POST {project_endpoint}/agents/{agent_name}/endpoint/protocols/openai/responses ומוודא את תגובת הטקסט. הזהות דורשת את תפקיד Azure AI User בהיקף הפרויקט של Foundry; קהל הטוקן חייב להיות https://ai.azure.com/.

בקרות ארגוניות

• RBAC: הענק לכל סוכן מתארח זהות מנוהלת עם ההרשאות המזעריות.
• MCP בייצור: התייחס לכל שרת MCP כגבול לא מהימן — נעץ את הגרסה, הגבל את הזהות שלו, אמת את הפלטים, הגבל קצב, אל תחשוף סודות.

ריילי הגנה לעוזר

• עדיף את דפוס FoundryChatClient(...) + provider.as_agent(...) הקנוני המשמש לכל הקורס.
• אל תבטיח תוצאות Azure חיות שלא אימתת; המלץ על זרימת העבודה של בדיקת העשן כדי לאשר פריסה.
• שמור על הערכת האיכות והעלויות מחוברים: ההערכה קובעת את רמת האיכות, ניתוב/מטמון שומרים על העלות קרובה לרמת הרצפה הזו.

כתב ויתור: מסמך זה תורגם באמצעות שירות תרגום אוטומטי Co-op Translator. למרות שאנו שואפים לדיוק, יש לקחת בחשבון שתרגומים אוטומטיים עלולים להכיל שגיאות או אי-דיוקים. יש להחשיב את המסמך המקורי בשפתו הטבעית כמקור הסמכות. למידע קריטי מומלץ להשתמש בתרגום מקצועי על ידי מתרגם אדם. אנו לא אחראים לכל אי-הבנה או פירוש שגוי הנובע מהשימוש בתרגום זה.