ការដាក់ឲ្យដំណើរការអ្នកប្រតិបត្តិការដែលអាចពង្រីកជាមួយ Microsoft Foundry

ជំនាញជារួមសម្រាប់ មេរៀនទី 16 – ការដាក់ឲ្យដំណើរការអ្នកប្រតិបត្តិការដែលអាចពហុមាត្រ។ ប្រើវាដើម្បីជួយអ្នករៀនបញ្ជូនអ្នកប្រតិបត្តិការពីគំរូដទៅជាការដាក់ឲ្យដំណើរការផលិតដែលអាចពង្រីក និងអាចមើលឃើញបាន។ ដាក់គ្រប់ការណែនាំក្នុងមេរៀន និងសៀវភៅសរសេរដែលអាចដំណើរការ បាន; កុំបង្កើត API របស់ Foundry។

ឧបករណ៍ចាប់ផ្តើម

ធ្វើឲ្យជំនាញនេះមានសកម្មពេលដែលអ្នករៀនចង់:

• ដាក់ឲ្យដំណើរការអ្នកប្រតិបត្តិការ​ទៅ Microsoft Foundry ដោយជាអ្នកប្រតិបត្តិការត្រូវបានរៀបចំ hosted agent និងធ្វើឲ្យវាជាកំណែ/អាចមើលឃើញបាន។
• ជ្រើសរើសរវាង​គំរូបាកការ client-hosted, hosted-agent, និង agent-workflow សម្រាប់ការដាក់ឲ្យដំណើរការ។
• បន្ថែម model routing, response caching, ឬ bounded concurrency ដើម្បីគ្រប់គ្រងពេលវេលា តម្លៃ និងការចំណាយ។
• បន្ថែម evaluation gate ដើម្បីមិនឲ្យកំណែអ្នកប្រតិបត្តិការមួយទៀតបញ្ចេញក្នុងករណីអាក្រក់។
• បន្ថែមជំហាន human-in-the-loop approval សម្រាប់សកម្មភាពដែលមានហានិភ័យខ្ពស់។
• តំឡើងអ្នកប្រតិបត្តិការជាមួយ OpenTelemetry សម្រាប់ការតាមដានផលិតកម្ម។
• សាកល្បងឆេះ អ្នកប្រតិបត្តិការដាក់ឲ្យដំណើរការ ដើម្បីជារបាំងលឿនបន្ទាប់ពីដាក់ឲ្យដំណើរការ។

គំនិតស្នូលផ្លូវចិត្ត

អ្នកប្រតិបត្តិការផលិតកម្មភាគច្រើនជាសាច់ដុំប្រតិបត្តិការ ជុំវិញ គំរូ (~80%), មិនមែនគំរូដោយខ្លួនវាទេ។ ផ្គូរផ្គងគ្រប់ការណែនាំទៅក្នុងបញ្ហារបស់ខាងក្រោម:

គំរូការដាក់ឲ្យដំណើរការ (ជ្រើសរើសមួយ ឬរួមបញ្ចូល)

1. Client-hosted — ការធ្វើគំនិតដំណើរការរត់នៅក្នុងដំណើរការរបស់អ្នក។ លោកអ្នកគ្រប់គ្រងក្រែង; រាប់បញ្ចូលការពង្រីក/ស្ថានភាព។
2. Hosted agent (Foundry Agent Service) — Foundry បង្ហោះគំនិត, ផ្ទុកខ្សែ, អនុវត្ត RBAC/សុវត្ថិភាពមាតិកា, បង្ហាញអ្នកប្រតិបត្តិការនៅក្នុងផតថល ។ ការគ្រប់គ្រងតិចជាង, ផ្ទៃបច្ចេកទេសតិចជាង។
3. Agent workflow — អ្នកប្រតិបត្តិការច្រើន/ឧបករណ៍បង្កើតជាក្រាហ្វដែលមានការបំបែក, កំណត់អនុម័ត, និងចំណុចត្រួតពិនិត្យទំនើប។

ជីវចលវដ្ត (រង្វិលដែលដាក់អ្នកប្រតិបត្តិការចេញ)

create → version → evaluate (gate) → deploy hosted → observe online → collect failures → repeat។ ការវាយតម្លៃក្រៅបណ្ដាញគឺជារបាំងបិទ មិនមែនគំនិតក្រោយ — កំណែមួយគ្មានដំណើរការចេញ លុះត្រៈពេលវាឆ្លងកាត់គម្លាត។ ការសង្កេតបណ្តាញបន្តផ្តល់មកវិញការបរាជ័យពិតប្រាកដ ទៅក្នុងការធ្វើតេស្តក្រៅបណ្ដាញ។

ក្រឡា និងឧបករណ៍ថ្លៃ (តាមលំដាប់អាទិភាព)

1. ជ្រើសរើសទំហំគំរូត្រឹមត្រូវ — ប្រើគំរូតូចបំផុតដែលឆ្លងកាត់របាំងវាយតម្លៃ។
2. បញ្ជូនផ្លូវដោយភាពស្មុគស្មាញ — គំរូតូចរហ័សសម្រាប់សំណើសាមញ្ញ គំរូធំសម្រាប់គំនិតពិតប្រាកដ (DIY classifier ឬ Foundry Model Router)។
3. រក្សាទុកក្នុងច្បាប់ — បម្រើសំណើដូចគ្នាឬឆ្ងាយជាងសម្រាប់មិនបានប្រើគំរូ។
4. រចនាសម្ព័ន្ធគ្មានស្ថានភាព + កំណត់ concurrency — ដាក់ទិន្នន័យខាងក្រៅ; ចម្លងជាថ្មីជាមួយការចង្អុលត្រឡប់។

គំរូសំខាន់ៗដែលត្រូវធ្វើម្ដងទៀត

បង្ហាញអ្នករៀនទៅនឹងនេះពីសៀវភៅសរសេរ 16-python-agent-framework.ipynb៖

• អ្នកដំណើរការសំណើ: រក្សាទុក → បញ្ជូនផ្លូវដោយភាពស្មុគស្មាញ → តាមដាន span → បើក → រក្សាទុក។
• របាំងវាយតម្លៃ: ពិន្ទុវាយតម្លៃសំណុំតេស្តក្រៅបណ្ដាញ; បង្រ្កាប pass_rate >= threshold ហើយមានតែនៅពេលវាជាចំណត់។
• អនុម័តដោយមនុស្ស: @tool(approval_mode="always_require") សម្រាប់សកម្មភាពដូចជាការសងប្រាក់ធំ។
• ការតាមដាន: បង្រួមសំណើនិមួយៗជាមួយ tracer.start_as_current_span(...) និងកំណត់លក្ខណៈដូចជា routed.model, customer.id។

ការសាកល្បងឆេះអ្នកប្រតិបត្តិការដាក់ឲ្យដំណើរការ

បន្ទាប់ពីដាក់ឲ្យដំណើរការ សូមផ្ទៀងផ្ទាត់ចុងបញ្ជូនការជាក់លាក់ ព្រោះការដាក់បៃតងអាចនៅតែ ស្ងាត់សម្លេង។ ប្រើសកម្មភាព AI Smoke Test តាមរយៈ .github/workflows/smoke-test.yml ជាមួយបញ្ជីក្នុង tests/ ។ កម្មវិធីរត់ធ្វើ POST សំណើរ ទៅ POST {project_endpoint}/agents/{agent_name}/endpoint/protocols/openai/responses ហើយបញ្ជាក់លើអត្ថបទឆ្លើយតប។ អត្តសញ្ញាណត្រូវការតួនាទី Azure AI User នៅក្នុងប្រចាំគម្រោង Foundry; ថ្នាក់សម្រាប់token ទៅប្រកបដោយ https://ai.azure.com/។

ការគ្រប់គ្រងសហគ្រាស

• MCP ក្នុងផលិតកម្ម: គិតថាសេវាកម្ម MCP មួយទាំងអស់ក្នុងការបង្ហោះ ជាប៉ារ៉ាម៉ែត្រឈប់ជួរមិនទុកចិត្ត — រំលេចកំណែ, កំណត់អត្តសញ្ញាណ, ផ្ទៀងផ្ទាត់លទ្ធផល, កំណត់អត្រា, មិនបង្ហាញសម្ងាត់។

ដែនកំណត់សម្រាប់ជំនួយការ

• កុំធ្វើការសន្យាលទ្ធផល Azure time real ដែលមិនបានបញ្ជាក់; បนะนำដំណើរការសាកល្បងឆេះដើម្បីបញ្ជាក់ការដាក់ប្រើ។
• ចូលចិត្តលំនាំ FoundryChatClient(...) + provider.as_agent(...) ដដែលដែលប្រើនៅក្នុងវគ្គសិក្សា។
• កុំសន្យាលទ្ធផល Azure នៅផ្ទាល់ចាប់ពីដែលអ្នកមិនបានផ្ទៀងផ្ទាត់ទេ; អនុញ្ញាតឱ្យមានដំណើរការធ្វើតេស្តជាថ្នាំបាញ់ដើម្បីបញ្ជាក់ការចេញផ្សាយ។
• រក្សាការវាស់វែងនិងការណែនាំថ្លៃក្នុងសភាពជាប់គ្នា៖ ការវាស់វែងកំណត់ជាន់ត្រីមាត្រគុណភាព ខណៈដែលការបញ្ជូន/ការផ្ទុករក្សាថ្លៃនៅជិតជាន់នោះ។

ការបដិសេធ: ឯកសារនេះត្រូវបានបម្លែងភាសា ដោយប្រើសេវាបម្លែងភាសា AI Co-op Translator។ ទោះយើងខ្ញុំមានក្តីប្រាថ្នាឱ្យបានច្បាស់លាស់ តែសូមយល់ដឹងថាការបម្លែងដោយស្វ័យប្រវត្តិក៏អាចមានកំហុសឬភាពមិនត្រឹមត្រូវ។ ឯកសារដើមជាភាសាទីតាំងគួរត្រូវបានគេប្រើជាប្រភពច្បាស់លាស់។ សម្រាប់ព័ត៌មានសំខាន់ៗ សូមណែនាំឱ្យប្រើប្រាស់ការប្រែដោយមនុស្សជំនាញ។ យើងខ្ញុំមិនទទួលខុសត្រូវចំពោះការយល់ច្រឡំ ឬការបកស្រាយខុសបន្ទាប់ពីការប្រើប្រាស់ការបម្លែងនេះនោះទេ។