الحوسبة الطرفية: تشغيل النماذج على جهازك
لماذا يعود التشغيل المحلّي بقوّة، وما الذي يصلح له اليوم فعلاً.
قبل سنتين كان الجواب المعتاد: كل شيء عبر الواجهة البرمجية. اليوم صار سؤالاً حقيقياً — لأن النماذج الصغيرة تحسّنت، والأجهزة صارت تحمل وحدات تسريع، والأسباب غير التقنية (الخصوصية، الكلفة، الاستقلال) تراكمت.
الدوافع الأربعة
- الخصوصية: بيانات لا يجوز خروجها من الجهاز أو من الشبكة الداخلية
- الكلفة: حمل ثابت متوقّع يصير أرخص محلّياً بعد حدّ معيّن
- زمن الاستجابة: لا رحلة شبكة، وهو فارق حاسم في الواجهات التفاعلية
- الاستقلال: لا انقطاع خدمة ولا تغيّر سعر ولا سحب نموذج من الخدمة
ما الذي يصلح اليوم
المهامّ المحدّدة والمتكرّرة: التصنيف، استخراج الكيانات، التلخيص القصير، إعادة الترتيب، تحويل الكلام إلى نصّ، والتضمين لبناء بحث دلالي.
هذه المهامّ تجمعها صفة واحدة: المخرجات قصيرة والمعيار واضح. النموذج الصغير المضبوط عليها يقارب الكبير بفارق لا يُلاحظ في الاستعمال.
ما لا يصلح بعد
التوليد الطويل الحرّ، والاستدلال متعدّد الخطوات، والمهامّ التي تحتاج معرفة عامّة واسعة. هنا الفارق ما يزال واضحاً ومحسوساً للمستخدم لا للمقياس فقط.
وكذلك أي شيء يحتاج تحديث معرفة مستمرّاً — النموذج المحلّي ثابت حتى تحدّثه أنت.
النمط الهجين
العملي في معظم المنتجات ليس اختيار أحدهما، بل توزيع المهامّ: المحلّي يتولّى التصنيف والترشيح والاستخراج، والبعيد يتولّى ما تبقّى بعد أن قلّ حجمه كثيراً.
هذا التوزيع يخفض الكلفة والزمن معاً، ويحوّل انقطاع الخدمة البعيدة من تعطّل كامل إلى تدهور جزئي.
طلب المستخدم
├── تصنيف النيّة ← محلّي (سريع، رخيص، يعمل دائماً)
├── استخراج الكيانات ← محلّي
├── استرجاع من الفهرس ← محلّي
└── صياغة الجواب النهائي ← بعيد (فقط حين يلزم فعلاً)
ما تحتاج قياسه قبل القرار
ثلاثة أرقام: الذاكرة التي يشغلها النموذج أثناء العمل لا أثناء التحميل، زمن الاستجابة على أسوأ جهاز لدى مستخدميك لا على جهازك، وأثر التشغيل على البطارية إن كان الجهاز محمولاً.
الرقم الثالث يُنسى دائماً وهو الذي يقتل التجربة. ميزة ممتازة تستنزف البطارية تُطفَأ في أول يوم.
السؤال ليس «هل يعمل النموذج على الجهاز؟» بل «هل يبقى الجهاز صالحاً للاستعمال بينما يعمل؟».
كيف تختار النموذج المحلّي
الاختيار هنا مختلف عن اختيار نموذج بعيد: القيد الأول هو الذاكرة لا الجودة.
- احسب الذاكرة المتاحة فعلاً على أضعف جهاز مستهدف
- اطرح منها ما يحتاجه نظام التشغيل والتطبيق نفسه
- اختر أكبر نموذج يبقى تحت الباقي بهامش الثلث
- جرّب مستويات التكميم من الأعلى إلى الأدنى وتوقّف عند أول تدهور محسوس
هامش الثلث ليس ترفاً: الذاكرة تتقلّب مع طول المدخل، والنموذج الذي يعمل على مدخل قصير قد يتعطّل على مدخل طويل — وهو ما لا يظهر في اختبار سريع.
واختبر على مدخل بأقصى طول تتوقّعه لا بمتوسّطه. الأعطال في التشغيل المحلّي تقع دائماً عند الحافّة العليا.
جرّب على مهمّة واحدة صغيرة أولاً — تصنيف مثلاً — وقِس الأرقام الثلاثة. القرار يصير بعدها واضحاً بلا جدال.
التعليقات
كن أول من يعلّق على هذا المقال.