لماذا تفشل وكلاء الذكاء الاصطناعي في الإنتاج (2026) — والضوابط التي تُبقيها تعمل

الجواب باختصار: تفشل وكلاء الذكاء الاصطناعي في الإنتاج لا لأنّ النموذج غبيّ، بل لأنّ العرض التجريبي يُخفي ما يُضاعفه الإنتاج. العرض تشغيلةٌ واحدة على المسار السعيد أتيحت لك إعادتها حتى بدت جميلة؛ أمّا الإنتاج فآلاف التشغيلات غير المراقَبة، حيث النموذج غير حتمي، وتتراكم الأخطاء عبر كل خطوة في الحلقة، وتصيب استدعاءات الأدوات أنظمةً حقيقية تسحب من البطاقات وتكتب في الجداول. الخطوة الموثوقة بنسبة 95% تصبح رمية عملة على مهمّة من عشرين خطوة. أنا أبني أنظمة ذكاء اصطناعي إنتاجية — وهذه ثماني طرقٍ ينهار بها الوكلاء فعلاً، والضوابط التي تُبقيها تعمل.

الفجوة بين العرض والإنتاج

تبدو الوكلاء رائعة في العرض لأنّ العرض منتقى: مسارٌ واحد، مُعادٌ حتى يلمع. الإنتاج يُزيل هاتين الرفاهيتين — التباين والحجم غير المراقَب. تقولها Anthropic بوضوح: «الطبيعة المستقلّة للوكلاء تعني تكاليف أعلى واحتمال تراكم الأخطاء». الفشل ليس في الذكاء؛ بل في أنّ اللاحتمية والآثار الجانبية الحقيقية — غير المؤذية في العرض — تصبح منهجيّة في الإنتاج. وإليك الحساب السريع الذي يُعيد تأطير كل شيء: إذا كانت كل خطوة موثوقة باستقلالية بنسبة 95%، فإنّ مهمّة من عشرين خطوة تنجح بنحو 36% فقط (0.95²⁰). ارفع كل خطوة إلى 99% وستبقى عند ~82%. الموثوقية ضريبةٌ تدفعها عند كل قفزة.

ثماني طرقٍ يفشل بها الوكلاء في الإنتاج

1. استدعاءات أدوات مُشوّهة أو مُهلوسة. يُصدر الوكيل استدعاءً بمخطّطٍ خاطئ أو وسائط مُختلَقة أو دالّةٍ غير موجودة — لأنّ التوليد الحرّ غير مقيَّد بشكل واجهتك ما لم تُجبره على ذلك.
2. تراكم الأخطاء عبر الحلقات الطويلة. تبدو موثوقية الخطوة جيّدة، لكنّ النجاح ينهار عبر مهمّة متعدّدة الخطوات. في τ-bench من Sierra، سجّل وكيلٌ قوي في 2024 أقلّ من 50% نجاحاً وسطياً — ونحو 25% فقط حين طُلب منه حلّ المهمّة نفسها في المحاولات الثماني كلّها.
3. تعفّن السياق في التشغيلات الطويلة. تتراجع الدقّة كلّما نما السجلّ، وغالباً قبل حدّ نافذة السياق بكثير. وجدت أبحاث Chroma أنّ أداء النموذج «يتراجع باطّراد مع زيادة طول الإدخال».
4. الشحن بالحدس. يُطلَق النظام مُقيَّماً بعروضٍ جيّدة قليلة، لا بنسبة نجاحٍ مقيسة. بلا مجموعة اختبارٍ ثابتة لا تُميّز بين تعديلٍ مفيد وتراجعٍ صامت.
5. الحلقات الجامحة وانفجار التكلفة. بلا توقّفٍ صارم، يدور الوكيل ويُعيد ويتوسّع حتى يحرق الوقت والمال. تُسمّيها OWASP صراحةً: الاستهلاك غير المحدود.
6. الأعطال الصامتة. يُبلّغ الوكيل عن نجاحٍ لكنّه فعل الخطأ — حدّث السجلّ الخطأ، أو لخّص مستنداً قديماً، أو «حلّ» لا شيء. ثقته غير مرتبطة بالصحّة.
7. حقن الأوامر والوكالة المفرطة. مُدخلٌ غير موثوق — صفحة ويب، مستند، رسالة عميل — يخطف الوكيل إلى أفعالٍ لا ينبغي له فعلها. حقن الأوامر هو الخطر الأول للنماذج اللغوية عند OWASP للإصدار الثاني على التوالي، مقروناً بالوكالة المفرطة. ولا الـRAG ولا الضبط الدقيق يعالجانه كليّاً.
8. أخطاء الحالة وعدم التكرار الآمن (idempotency). إعادةٌ أو إعادة تشغيلٍ أو استدعاءٌ مُكرَّر يُنشئ فاتورةً ثانية أو خصماً مزدوجاً — لأنّ خطوات الوكيل تُعاد بحكم التصميم، بينما الأثر الجانبي تحتها لم يُجعَل آمن التكرار.

اللاحتمية هي السبب الجذري الممتدّ عبرها جميعاً: الأمر نفسه، تشغيلٌ مختلف. إن افترض تصميمك قابلية التكرار، فإنّ الإعادة والتسوية ليستا اختياريتين.

الضوابط التي تُبقي الوكلاء يعملون

لكلّ فشلٍ أعلاه إصلاحٌ مملّ هندسيّ الطابع. وهذا كيف أربطها، مع ★ لما أُشغّله في الإنتاج.

• المخرجات المُهيكلة ★ — قيّد فكّ الترميز بمخطّط حتى لا يستطيع النموذج إصدار استدعاءٍ خارج المخطّط. يضمن هذا كلا المزوّدين الآن. (يعالج #1.)
• التفكيك والتحقّق وتحديد الحلقة. الخطوات الصغيرة المُتحقَّق منها تتفوّق على سلسلةٍ طويلةٍ مستقلّة؛ ابدأ بوكيلٍ واحد بأدوات قبل اللجوء إلى سرب، واضبط حدّاً أقصى صارماً للتكرار. (يعالج #2 و#5.)
• هندسة السياق ★ — RAG على pgvector + تضمينات Voyage يُغذّي المقاطع عالية الإشارة فقط، مع الضغط ونوافذ الوكلاء الفرعية النظيفة، بدل حشو السياق. (يعالج #3.)
• منظومة تقييم ★ — أُشغّل Ragas على مجموعة اختبارٍ ثابتة (الإخلاص، صلة الإجابة، دقّة السياق) فيكون التغيير مقيساً لا مُخمَّناً. (يعالج #4.)
• القابلية للمراقبة والتحقّق من المخرجات — تتبّع كل خطوة وتحقّق من النتيجة مقابل الواقع، لا مقابل تقرير الوكيل عن نفسه. (يعالج #6.)
• أدوات بأقلّ امتياز + بوّابات بشرية ★ — في LangGraph أتحكّم في الأدوات التي تراها كل عُقدة وأتوقّف لموافقة بشرية على الأفعال غير القابلة للتراجع (المدفوعات، الاستردادات، الحذف). قيّم خطورة كل أداة بحسب القراءة مقابل الكتابة وقابلية التراجع. (يعالج #7.)
• نقطة اختناقٍ واحدة آمنة التكرار ★ — مرّر كل الآثار الجانبية عبر مسارٍ واحد قابلٍ للتدقيق بمفاتيح idempotency، حتى لا تستطيع خطوةٌ مُعادة الكتابة مرّتين. (يعالج #8 — انظر أدناه.)

قصّة من الميدان: نقطة اختناقٍ واحدة آمنة التكرار

على منصّة مدفوعاتٍ حيّة متعدّدة المستأجرين، سمحت للأتمتة بإنشاء الفواتير. ما جعل ذلك آمناً لم يكن نموذجاً أذكى — بل البنية. كل فاتورة، من كل مسار، تمرّ عبر نقطة إصدارٍ واحدة قابلة للتدقيق بإتمامٍ آمن التكرار وتسويةٍ من طرف الخادم. فإذا أعاد الوكيل خطوة، أو أطلقها مرّتين، أو أعاد webhook تشغيله، يُصدر النظام فاتورةً واحدة بالضبط ولا يخصم مرّتين أبداً. تلك هي الحيلة كلّها مع الوكلاء التي تلمس المال: اجعل الأثر الجانبي آمن التكرار، فتتوقّف اللاحتمية أعلى المسار عن كونها مشكلة.

ما المبالَغ فيه في 2026

• «فقط زِد الاستقلالية». مزيدٌ من الاستقلالية يُضاعف تراكم الأخطاء والتكلفة. نصيحة Anthropic نفسها: أبسط حلٍّ ممكن، والتعقيد عند الحاجة فقط.
• وكيلٌ عملاق واحد يفعل كل شيء. عظّم وكيلاً واحداً بأدواتٍ محدّدة النطاق أولاً؛ معظم المهام لا تحتاج سرباً.
• الشحن بالحدس. العرض إعادةٌ احتفظت بها. الإنتاج يحتاج نسبة نجاحٍ مقيسة.
• معاملة النموذج كأنّه حتمي. الأمر نفسه، تشغيلاتٌ مختلفة — صمّم على هذا الأساس.
• وصولٌ مفرط للأدوات. منح الوكيل صلاحيات المدير وكالةٌ مفرطة وبابٌ مفتوح لحقن الأوامر. أقلّ امتيازٍ دائماً.

أسئلة شائعة

هل تفشل الوكلاء فعلاً أم أنّها ضجّة؟

كلاهما ممكن. تتوقّع Gartner أنّ أكثر من 40% من مشاريع الذكاء الاصطناعي الوكيلي ستُلغى بحلول 2027، ووجدت دراسة MIT NANDA أنّ نحو 95% من تجارب الذكاء التوليدي في الشركات لا تُحدث أثراً ماليّاً مقيساً. ومع ذلك تشحن الوكلاء المبنيّة بضوابط عملاً حقيقياً كل يوم. الفجوة بين هاتين الحقيقتين هي الانضباط الهندسي.

ما الضابط الأعلى أثراً؟

التقييم. حتى تقيس نسبة نجاحٍ على مجموعة ثابتة، يبقى كل إصلاحٍ آخر تخميناً. بعده: المخرجات المُهيكلة والآثار الجانبية الآمنة التكرار.

هل تُصلح النماذج الأكبر والأذكى هذا؟

ترفع موثوقية الخطوة، وهذا يساعد — لكنّ حساب التراكم واللاحتمية لا يختفيان. نموذجٌ أفضل على مهمّةٍ من عشرين خطوة لا يزال يحتاج شروط توقّفٍ وتقييماتٍ وأماناً للتكرار.

هل حقن الأوامر خطيرٌ حقّاً؟

إنّه الخطر الأول للنماذج اللغوية عند OWASP لإصدارين متتاليين. أيّ وكيلٍ يقرأ مُدخلاً غير موثوق ويستطيع الفعل معرّضٌ له. أدوات أقلّ امتيازٍ وبوّابات بشرية على الأفعال عالية الخطورة هي الدفاع العملي.

تبني وكيل ذكاء اصطناعي وتريده أن يصمد أمام حركةٍ حقيقية؟ لنتحدّث.