لا حاجة إلى السحابة: Mesh LLM يجمع وحدات معالجة الرسومات للحوسبة الموزعة بالذكاء الاصطناعي

عادةً ما يعني تشغيل نماذج الذكاء الاصطناعي الكبيرة استئجار عتاد شخص آخر، وقبول تسعير طرف آخر، والأمل في ألا يتغير النموذج الذي تعتمد عليه بهدوء بين ليلة وضحاها. تم بناء Mesh LLM على فرضية مختلفة: أن الحوسبة الموزعة للذكاء الاصطناعي عبر الأجهزة التي تمتلكها بالفعل يمكن أن تحل محل هذا الترتيب بالكامل — وأن تتيح كل ذلك من خلال واجهة برمجة تطبيقات واحدة مألوفة.

أهم النقاط

• يقوم Mesh LLM بتجميع وحدات معالجة الرسوميات والذاكرة من عدة أجهزة في شبكة حوسبة ذكاء اصطناعي موزعة واحدة، يمكن الوصول إليها عبر واجهة برمجة تطبيقات واحدة متوافقة مع OpenAI على localhost:9337/v1.
• يمكن تشغيل النماذج محلياً، أو توجيهها إلى نظير آخر، أو تقسيمها عبر أجهزة متعددة باستخدام وضع خط أنابيب يسمى “Skippy” — دون أن يلاحظ العميل أي فرق.
• يعتمد الاتصال الشبكي على نقاط نهاية iroh، التي تنشئ اتصالات QUIC مصادَق عليها بمفاتيح عامة، وقابلة لاجتياز NAT، دون الحاجة إلى خادم مركزي.
• يتضمن كتالوج النماذج أكثر من 40 نموذجاً، تتراوح من نماذج بعدد معلمات أقل من مليار إلى بنى خليط الخبراء ذات 235 مليار معلمة.
• يتم دعم كل من المشاركة في شبكة عامة والنشر الخاص، مع تطوير تطبيق جوال يستخدم حزمة تطوير Swift الخاصة بـ iroh.

Mesh LLM يتيح حوسبة ذكاء اصطناعي موزعة مع تجميع وحدات معالجة الرسوميات

الفكرة الأساسية بسيطة بشكل خادع. يقوم Mesh LLM بتجميع وحدات معالجة الرسوميات والذاكرة الموجودة عبر أي عدد تريده من الأجهزة — محطة عمل في غرفة، وخادم في أخرى، وجهاز في الطرف الآخر من المكتب — ويعرض كل ذلك كسطح حوسبة متماسك واحد. ولا يلزم أي إعادة تهيئة لتطبيقات العميل التي تتصل به.

هذا مهم لأن العتاد موجود بالفعل. غالباً ما تمتلك الفرق التي تشغّل أعباء عمل الذكاء الاصطناعي وحدات معالجة رسوميات موزعة عبر المكاتب، وتحت المكاتب، وفي غرف خوادم صغيرة. ما كان مفقوداً هو طبقة تجعل تلك الأجهزة تتصرف كجهاز واحد.

تجريد واجهة برمجة تطبيقات متوافقة مع OpenAI

الواجهة التي يوفّرها Mesh LLM مألوفة عن قصد. يمكن لأي عميل متوافق مع OpenAI أن يشير إلى http://localhost:9337/v1 وأن يرسل الطلبات تماماً كما لو كان يتعامل مع خدمة سحابية مستضافة. من منظور العميل، لا يتغير شيء. أما مكان تنفيذ العمل فعلياً — محلياً، أو على جهاز نظير، أو موزعاً عبر عدة أجهزة — فيبقى غير مرئي بالكامل.

هذا اختيار تصميم ذو دلالة. فهو يعني أن الأدوات وسير العمل والتكاملات القائمة لا تحتاج إلى إعادة كتابة. الطبيعة الموزعة للشبكة هي تفصيل تنفيذي لا يحتاج العميل إلى التفكير فيه مطلقاً.

أوضاع تنفيذ مرنة، بما في ذلك خط الأنابيب “Skippy”

عندما يصل طلب ما، لدى Mesh LLM ثلاث طرق للتعامل معه. يمكنه تشغيل النموذج محلياً على وحدة معالجة الرسوميات في الجهاز المستقبِل، أو توجيه الطلب إلى نظير لديه النموذج الهدف محمّلاً بالفعل، أو — بالنسبة للنماذج الأكبر من أن يحتفظ بها جهاز واحد — تقسيم عبء العمل عبر عدة عقد متتالية. هذا المسار الثالث يسمى وضع “Skippy”.

كيف يقوم Skippy بتقسيم النماذج الكبيرة عبر الأجهزة

يقوم Skippy بتقسيم النموذج حسب نطاقات الطبقات إلى مراحل خط أنابيب: قد تعمل الطبقات من 0 إلى 15 على عقدة واحدة، ومن 16 إلى 31 على العقدة التالية، وهكذا على طول السلسلة. تتدفق التفعيلات من مرحلة إلى أخرى عبر الشبكة. النتيجة العملية هي أن عنقوداً من الأجهزة المتواضعة يمكنه بشكل جماعي تشغيل نموذج لا يستطيع أي منها احتواءه في الذاكرة بمفرده.

هنا يتضح الطموح المعماري لـ Mesh LLM. فـ نموذج خليط خبراء بعدد 235 مليار معلمة ليس شيئاً يمكن لمعظم الفرق تشغيله على وحدة معالجة رسوميات استهلاكية أو شبه احترافية واحدة. يجعل Skippy من الممكن محاولة ذلك بالضبط — باستخدام عتاد تم دفع ثمنه بالفعل ويجلس خاملاً. لم تُقاس خصائص الكمون ومعدل النقل في مثل هذا الإعداد هنا، لكن القدرة نفسها تمثل توسعاً ملموساً لما يمكن أن يبلغه الذكاء الاصطناعي المستضاف ذاتياً.

بنية شبكية آمنة من نظير إلى نظير باستخدام نقاط نهاية iroh

لا يوجد خادم مركزي ينسّق الشبكة. كل عقدة تشغّل نقطة نهاية iroh — مفتاحاً عاماً يعمل كهوية للعقدة وسطحها الشبكي الوحيد. انطلاقاً من هذا الأساس، يتولى iroh تنفيذ اختراق الجدران النارية، واجتياز NAT، والرجوع إلى الترحيل لإنشاء اتصالات QUIC مباشرة ومصادَق عليها بين أي عقدتين، أينما كانتا.

بروتوكولات QUIC ALPN لعزل حركة المرور

تم تقسيم مكدس البروتوكول عن قصد. ثلاثة معرّفات QUIC ALPN مميزة تفصل بين أنواع مختلفة من حركة المرور:

• mesh-llm/1 — القناة الرئيسية للشبكة، التي تحمل رسائل الشائعات، والتوجيه، وأنفاق HTTP، وأحداث الإضافات
• mesh-llm-control/1 — مستوى التحكم الخاص بالمالك، الذي يتعامل مع مزامنة الإعدادات وإثبات الملكية
• skippy-stage/2 — نقل مخصص وحساس للكمون لبيانات التفعيلات المتدفقة بين مراحل خط الأنابيب

داخل الاتصال الرئيسي، يتم وسم كل دفق ببداية بايت تحدد نوعه — رسائل الشائعات، والوساطة في الاستدلال، واستعلامات المسارات، وأحداث دورة حياة الأقران، وقنوات استدعاء إجراءات الإضافات عن بُعد، وغير ذلك — وكلها متعددة الإرسال عبر اتصال واحد. النتيجة هي عزل نظيف لحركة المرور دون عبء الاتصالات المنفصلة لكل غرض.

هوية العقدة واجتياز NAT

لدعم العقد التي لا يمكنها الوصول إلى بعضها البعض مباشرة عبر الإنترنت المفتوح، يشغّل Mesh LLM خادمي ترحيل iroh في منطقتين جغرافيتين مختلفتين. تنشئ العقد التي يمكنها إقامة مسارات مباشرة هذه المسارات؛ أما التي لا تستطيع فلديها دائماً نقطة رجوع قريبة. طبقة الشبكات، بعبارة أخرى، مصممة لتعمل ببساطة — بدلاً من أن تتطلب ضبطاً دقيقاً لجدران الحماية أو عناوين ثابتة.

ما توفره هذه البنية فعلياً هو نوع من توحيد الشبكات. سواء تم توجيه طلب إلى localhost أو تم بث التفعيلات عبر خط أنابيب Skippy إلى جهاز في قارة أخرى، فإن البدائية الأساسية هي نفسها: اتصال QUIC مصادَق عليه وموجّه بمفتاح عام. تختفي تعقيدات الطوبولوجيا الفيزيائية خلف تجريد متسق.

كتالوج نماذج من مستوى الحاسوب المحمول إلى عمالقة بـ 235 مليار معلمة

يأتي Mesh LLM مزوّداً بأكثر من 40 نموذجاً جاهزة للاستخدام. يتراوح النطاق من نماذج بعدد نصف مليار معلمة صغيرة بما يكفي لتعمل على حاسوب محمول إلى بنى خليط الخبراء ذات 235 مليار معلمة في الطرف الأعلى. البنية قابلة للإضافة: تعلن الإضافات عن قدراتها في ملف تعريف، ويقوم وقت التشغيل بتوجيه الاستدعاءات وكشف القدرات عبر MCP وHTTP والاستدلال وأحداث الشبكة.

النتيجة العملية هي أن المستخدمين لا يحتاجون إلى الحصول على النماذج وتهيئتها بشكل منفصل للبدء. يغطي الكتالوج كامل طيف حالات الاستخدام — من الاستدلال الخفيف والسريع على عتاد متواضع إلى أعباء العمل واسعة النطاق الموزعة عبر شبكة.

الحوسبة الموزعة كحركة مضادة

يقع تصميم Mesh LLM على خلفية واضحة: تواجه بنية الذكاء الاصطناعي التحتية المركزية احتكاكاً حقيقياً. فقد وجد استطلاع في مايو أن أكثر من 70 بالمئة من الأمريكيين يعارضون بناء مراكز بيانات جديدة بالقرب من مجتمعاتهم، مشيرين إلى مخاوف تتعلق بـالتلوث والضوضاء والطاقة واستهلاك المياه. أطلقت شركة الطاقة الشمسية والطاقة المنزلية Sunrun مؤخراً برنامجاً تجريبياً لوضع عقد حوسبة صغيرة في منازل العملاء، بهدف بيع تلك القدرة الحاسوبية الموزعة لمشترين من مؤسسات الذكاء الاصطناعي — في إشارة إلى أن الصناعة نفسها تبحث عن بدائل لمراكز البيانات الكبيرة الموحّدة.

يتعامل Mesh LLM مع الضغط نفسه من زاوية مختلفة. فبدلاً من بناء بنية تحتية موزعة جديدة من الصفر، يقوم بتنشيط القدرة الحاسوبية الموجودة بالفعل — وحدات معالجة الرسوميات التي تمتلكها الفرق ولكن لا يمكنها الاستفادة منها بالكامل لأنه لم تكن هناك طبقة متماسكة تربط بينها. التركيز على إزالة الارتباط بالمزوّدين المركزيين، وخفض التكاليف، والحفاظ على تحكم المستخدم في مكان تشغيل النماذج وأين تذهب البيانات يعكس فجوة حقيقية في ما يمكن أن تقدمه واجهات برمجة التطبيقات السحابية الحالية.

يجري تطوير تطبيق جوال مبني على حزمة تطوير Swift الخاصة بـ iroh، مع خطط لدعم معيار الوكلاء الناشئ ACP. سيسمح ذلك لعملاء آخرين بالانضمام مباشرة إلى الشبكة، مما يوسّع تأثيرات الشبكة لكل عقدة تنضم. الاتجاه طويل الأمد واضح: المزيد من التنفيذ من نظير إلى نظير، عدد أقل من الوسطاء، ومعيار مفتوح لتشغيل الوكلاء معاً لا يمر عبر خادم مركزي لأي طرف.

الأسئلة الشائعة

كيف يتيح Mesh LLM حوسبة ذكاء اصطناعي موزعة؟

يقوم Mesh LLM بتجميع وحدات معالجة الرسوميات والذاكرة من عدة أجهزة في شبكة متشابكة، ثم يعرِض الإعداد الموزع بالكامل كواجهة برمجة تطبيقات واحدة متوافقة مع OpenAI. يتصل العملاء بـ localhost:9337/v1 ويتفاعلون بشكل طبيعي، بينما تقرر الشبكة ما إذا كانت ستشغّل الطلبات محلياً، أو توجهها إلى نظير، أو تقسّمها عبر أجهزة متعددة.

ما أوضاع التنفيذ التي يدعمها Mesh LLM لنماذج الذكاء الاصطناعي؟

يمكن تشغيل النماذج محلياً على وحدة معالجة الرسوميات في الجهاز، أو توجيهها إلى نظير لديه النموذج محمّلاً بالفعل، أو تقسيمها عبر عدة أجهزة باستخدام وضع خط الأنابيب “Skippy”، حيث يتم تقسيم النموذج حسب نطاقات الطبقات وتتدفق التفعيلات من مرحلة إلى أخرى عبر الشبكة.

كيف يتم التعامل مع الاتصال الشبكي الآمن في Mesh LLM؟

تشغّل كل عقدة نقطة نهاية iroh تنشئ اتصالات QUIC مصادَق عليها بمفاتيح عامة مع اجتياز NAT والرجوع إلى الترحيل، دون الاعتماد على خادم مركزي. يوفّر مرحلان إقليميان لـ iroh مسارات بديلة للعقد التي لا يمكنها الاتصال مباشرة.

ما النماذج المتاحة عبر Mesh LLM؟

يأتي Mesh LLM مزوّداً بأكثر من 40 نموذجاً، تتراوح من نماذج صغيرة بعدد نصف مليار معلمة مناسبة لأجهزة الحاسوب المحمول إلى نماذج كبيرة جداً بعدد 235 مليار معلمة من نوع خليط الخبراء مخصصة لنشرها عبر عدة أجهزة في وضع Skippy.

{“@context”:”https://schema.org”,”@type”:”FAQPage”,”mainEntity”:[{“@type”:”Question”,”name”:”كيف يتيح Mesh LLM حوسبة ذكاء اصطناعي موزعة؟”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”يقوم Mesh LLM بتجميع وحدات معالجة الرسوميات والذاكرة من عدة أجهزة في شبكة متشابكة، ثم يعرِض الإعداد الموزع بالكامل كواجهة برمجة تطبيقات واحدة متوافقة مع OpenAI. يتصل العملاء بـ localhost:9337/v1 ويتفاعلون بشكل طبيعي، بينما تقرر الشبكة ما إذا كانت ستشغّل الطلبات محلياً، أو توجهها إلى نظير، أو تقسّمها عبر أجهزة متعددة.”}},{“@type”:”Question”,”name”:”ما أوضاع التنفيذ التي يدعمها Mesh LLM لنماذج الذكاء الاصطناعي؟”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”يمكن تشغيل النماذج محلياً على وحدة معالجة الرسوميات في الجهاز، أو توجيهها إلى نظير لديه النموذج محمّلاً بالفعل، أو تقسيمها عبر عدة أجهزة باستخدام وضع خط الأنابيب “Skippy”، حيث يتم تقسيم النموذج حسب نطاقات الطبقات وتتدفق التفعيلات من مرحلة إلى أخرى عبر الشبكة.”}},{“@type”:”Question”,”name”:”كيف يتم التعامل مع الاتصال الشبكي الآمن في Mesh LLM؟”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”تشغّل كل عقدة نقطة نهاية iroh تنشئ اتصالات QUIC مصادَق عليها بمفاتيح عامة مع اجتياز NAT والرجوع إلى الترحيل، دون الاعتماد على خادم مركزي. يوفّر مرحلان إقليميان لـ iroh مسارات بديلة للعقد التي لا يمكنها الاتصال مباشرة.”}},{“@type”:”Question”,”name”:”ما النماذج المتاحة عبر Mesh LLM؟”,”acceptedAnswer”:{“@type”:”Answer”,”text”:”يأتي Mesh LLM مزوّداً بأكثر من 40 نموذجاً، تتراوح من نماذج صغيرة بعدد نصف مليار معلمة مناسبة لأجهزة الحاسوب المحمول إلى نماذج كبيرة جداً بعدد 235 مليار معلمة من نوع خليط الخبراء مخصصة لنشرها عبر عدة أجهزة في وضع Skippy.”}}]}

تم إعداد هذه المقالة بمساعدة الذكاء الاصطناعي ومراجعتها من قبل الفريق التحريري.