نشر الذكاء الاصطناعي محلياً وداخل المنشأة (On-Premise)
أديب ناصر · مهندس ذكاء اصطناعي ومستشار
لمن هذه الخدمة
- 01منشآت لا ينبغي أن تغادر عقودها أو ملفات موظفيها أو ملفات عملائها أو وثائقها الداخلية المبنى
- 02فرق تختار بين أجهزة محلية أو واجهة برمجية مستضافة أو مزيج بينهما
- 03منشآت تريد اختبار النموذج على وثائقها قبل أن يحلّ محل أي شيء
ما يشمله العمل
- 01تحديد أحمال العمل المناسبة للأجهزة المحلية، وتلك الأنسب للاستضافة
- 02اختيار النماذج للاستخدام المحلي: النماذج مفتوحة الأوزان، والتكميم وما يكلّفه من جودة
- 03تحديد حجم الأجهزة، من جهاز Mac mini أو Mac Studio واحد إلى خوادم GPU داخل منشأتكم
- 04تصاميم هجينة تعمل فيها الخطوات الحساسة محلياً، وما عداها على نموذج مستضاف
- 05النشر والمراقبة والتحديثات داخل شبكتكم
- 06تقييم النموذج المحلي على وثائقكم قبل أن يحلّ محل أي شيء
كيف أتعامل معها
الاستضافة المحلية ليست امتثالاً
تشغيل النموذج محلياً لا يجعل النظام متوافقاً مع نظام حماية البيانات الشخصية أو أي تنظيم آخر بمجرد ذلك، بل يتيح بنى معينة. أما كفايتها فسؤال يعود إليكم وإلى مستشاركم القانوني.
المسؤولية مقابل المرونة
المقارنة الحقيقية ليست سعر الجهاز مقابل سعر الخادم السحابي، بل المسؤولية الكاملة مقابل المرونة الكاملة، والجواب يختلف من عميل لآخر.
قِس النموذج الذي ستشغّله فعلاً
نتيجة الاختبار المعلنة لنموذج مضغوط هي متوسط مهام قصيرة، أما العمل الطويل متعدد الخطوات فهو حيث تظهر الفجوة. لذلك يجري التقييم على مهامكم، وبطول السياق الذي تستخدمونه، وعلى أجهزتكم.
أعمال ذات صلة
دراسات حالة ومشاريع، بالإنجليزية
قراءات إضافية
ملاحظات بالإنجليزية
أسئلة
تُطرح قبل بدء العمل
هل يجعلنا الذكاء الاصطناعي المحلي متوافقين مع نظام حماية البيانات الشخصية؟
ليس بمفرده. إبقاء البيانات على أجهزة تتحكمون بها عنصر واحد في تقييم الامتثال، لا خلاصته. والحكم القانوني والأمني يعود إليكم وإلى مستشاركم القانوني.
هل النموذج المحلي بجودة ChatGPT أو Claude؟
ليس في كل شيء. النماذج مفتوحة الأوزان قوية في الأعمال المحددة مثل الصياغة والتصنيف واستخراج البيانات، وما زالت متأخرة في المهام الطويلة متعددة الخطوات. والحل المعتاد مزيج: محلي للخطوات الحساسة، ومستضاف لما عداها.
ما الأجهزة التي نحتاجها؟
يعتمد ذلك على النموذج وعلى طول السياق الذي ستستخدمونه فعلاً، لا على الحجم المعلن للنموذج. فالأوزان جزء فقط من ميزانية الذاكرة، والباقي ذاكرة السياق وكل ما يعمل على الجهاز.
ابدأ محادثة
عادةً أرد خلال يوم
أرسلوا بضع جمل عن المشكلة: كيف تسير العملية اليوم، وأين توجد البيانات، وما الذي سيتغيّر لو نجح الحل.