معظم الناس الذين يتحدثون عن وكلاء الذكاء الاصطناعي لم يبنوا واحدًا منهم أبدًا

إليك الهيكلية الفعلية الآن
وكيل استدعاء الأدوات = دماغ LLM + سجل الوظائف + حلقة التنفيذ
تعرف الأدوات على أنها مخططات منظمة. يختار النموذج الأداة التي يجب استدعاؤها ويمرر المعطيات. ينفذ وقت التشغيل الخاص بك ذلك ويعيد تغذية النتيجة
هذه هي الحلقة كاملة. لا سحر
الأطر الحديثة مثل langchain أو استدعاء وظائف openai تتعامل مع التوجيه. منصات التعلم الآلي السحابية مثل vertex أو bedrock تتعامل مع توسيع الاستنتاج حتى لا تحرق النقود على وحدات معالجة الرسومات غير المستخدمة
نماذج qwen 3.5 الصغيرة - 0.8B إلى 9B معلمات - يمكنها تشغيل استدعاء الأدوات محليًا على عقدة واحدة. نفس الأساس مثل النماذج الكبيرة ولكن مع حساب أقل
الحدود ليست بمعرفة أن الذكاء الاصطناعي موجود. بل بمعرفة كيفية توصيل الأدوات في حلقة تخرج في النهاية المخرجات
إذا كنت تبني وكلاء الآن، توقف عن النظر في إطار العمل الذي تستخدمه.