أعلنت Meta عن سلسلة من الأدوات الأمنية الجديدة لنماذج الذكاء الاصطناعي الخاصة بها، بهدف جعل تطوير واستخدام الذكاء الاصطناعي أكثر أمانًا، سواء للمبدعين أو للمدافعين في مجال الأمن السيبراني.
تشمل المستجدات بشكل خاص عائلة النماذج Llama، التي تحتوي الآن على موارد محدثة وأكثر تطوراً لمواجهة التهديدات الناشئة.
المحتويات
Llama Guard 4: الأمان المتعدد الوسائط للنصوص والصور في برنامج AI الجديد من Meta
أحد التحديثات الرئيسية يتمثل في Llama Guard 4، تطور فلتر الأمان القابل للتخصيص من Meta.
الابتكار الكبير في هذه النسخة هو قدرتها متعددة الوسائط، أي إمكانية تحليل وتطبيق قواعد الأمان ليس فقط على النص، ولكن أيضًا على الصور. هذه الخطوة حاسمة، بالنظر إلى أن تطبيقات AI أصبحت أكثر بصرية بشكل متزايد.
تم دمج Llama Guard 4 بالفعل في API Llama الجديدة من Meta، والمتاحة حاليًا في معاينة محدودة. يمكن للمطورين الوصول إلى هذه الأداة من خلال الصفحة الرسمية لحمايات Llama، أو عبر منصات Hugging Face وGitHub.
هناك ابتكار آخر مهم وهو LlamaFirewall، وهو نظام مصمم ليعمل كـ مركز قيادة للأمان في أنظمة الذكاء الاصطناعي. تتيح هذه الأداة تنسيق نماذج حماية مختلفة وتتكامل مع الأدوات الأمنية الأخرى لـ Meta.
تم تصميم LlamaFirewall لمواجهة التهديدات المتطورة مثل iniezioni rapide (prompt injection)، وتوليد الشيفرات التي قد تكون خطيرة، والسلوكيات الخطرة للملحقات AI.
في الأساس، يمثل حصنًا ضد الهجمات الأكثر خبثًا التي يمكن أن تضر بسلامة الأنظمة القائمة على الذكاء الاصطناعي.
قامت Meta أيضًا بتحديث نظامها لاكتشاف محاولات jailbreak وحقن المطالبات باستخدام Prompt Guard 2 (86M) الجديد. تم تصميم هذا النموذج لتحديد محاولات التلاعب بالذكاء الاصطناعي بدقة أكبر.
بالإضافة إلى ذلك، تم تقديم Prompt Guard 2 22M، وهي نسخة أخف وأسرع. مع تقليل زمن الانتظار وتكاليف الحوسبة حتى 75%، هذه النسخة مثالية لأولئك الذين يعملون بموارد محدودة ولكن لا يريدون التنازل عن الأمان.
CyberSec Eval 4: معايير جديدة لأمان AI
لم تكتفِ Meta بتوفير الأدوات للمطورين، بل قامت أيضًا بتحديث مجموعة معاييرها CyberSec Eval 4، المصممة لتقييم قدرات أنظمة AI في مجال الأمن السيبراني.
تساعد هذه المجموعة المفتوحة المصدر المنظمات في قياس فعالية الذكاء الاصطناعي في اكتشاف التهديدات الرقمية والاستجابة لها.
أداتان جديدتان تُثريان هذه المجموعة:
- – تقييم CyberSOC: تم تطويره بالتعاون مع CrowdStrike، يقوم هذا الإطار بتقييم أداء الذكاء الاصطناعي في سياق حقيقي لمركز عمليات الأمن (SOC)، مما يوفر رؤية ملموسة لفعالية الذكاء الاصطناعي التشغيلية.
- – AutoPatchBench: معيار يختبر قدرة نماذج AI، بما في ذلك تلك من عائلة Llama، على تحديد وتصحيح الثغرات تلقائيًا في الشيفرة قبل أن يتم استغلالها من قبل جهات خبيثة.
لتسهيل اعتماد هذه الأدوات، أطلقت Meta برنامج Llama Defenders، الذي يوفر وصولاً مميزًا إلى مجموعة مختارة من حلول AI – بعضها مفتوح المصدر، والبعض الآخر في مرحلة المعاينة أو مملوك – مصممة لمواجهة تحديات محددة في مجال الأمان.
من بين الأدوات المشتركة يوجد أيضًا المصنف التلقائي للوثائق الحساسة الذي يُستخدم داخليًا من قبل Meta.
يقوم هذا النظام بتطبيق تسميات الأمان على المستندات داخل منظمة، مما يمنع تسرب المعلومات السرية عن طريق الخطأ إلى أنظمة AI حيث يمكن أن تكون مكشوفة.
واجهت Meta أيضًا المشكلة المتزايدة لـالصوت المزيف الذي يتم إنشاؤه بواسطة الذكاء الاصطناعي، والذي يُستخدم بشكل متزايد في عمليات الاحتيال ومحاولات التصيد الاحتيالي. تم توفير أداتين جديدتين للشركاء:
- – كاشف الصوت الذي تم إنشاؤه بواسطة Llama
- – كاشف العلامة المائية الصوتية Llama
تساعد هذه الأدوات في تحديد الأصوات الاصطناعية في المكالمات المشبوهة. شركات مثل ZenDesk، Bell Canada وAT&T تقوم بالفعل بتقييم دمج هذه التقنيات في أنظمة الأمان الخاصة بها.
المعالجة الخاصة: AI مفيدة دون المساس بالخصوصية
أخيرًا، قدمت Meta معاينة لتكنولوجيا قيد التطوير لـ WhatsApp، تُسمى elaborazione privata.
الهدف هو تمكين الذكاء الاصطناعي من تقديم وظائف مفيدة – مثل تلخيص الرسائل غير المقروءة أو اقتراح الردود – دون أن تتمكن لا Meta ولا WhatsApp من الوصول إلى محتوى الرسائل.
تمثل هذه التكنولوجيا خطوة مهمة نحو ذكاء اصطناعي يحترم الخصوصية. تتبنى Meta نهجًا شفافًا، حيث تنشر نموذج التهديد الخاص بها وتدعو مجتمع الباحثين لاختبار متانته قبل الإصدار الرسمي.
من خلال هذه السلسلة من الإعلانات، تُظهر Meta التزامًا ملموسًا بتعزيز أمان الذكاء الاصطناعي، سواء من حيث التطوير أو الدفاع.
الهدف مزدوج. أي حماية المستخدمين النهائيين وتزويد المطورين والمحترفين في مجال الأمن بأدوات متقدمة لمواجهة التهديدات الرقمية التي تتطور باستمرار.
في مشهد تكنولوجي سريع التحول، حيث تلعب AI دورًا متزايد الأهمية، فإن مبادرات مثل هذه تعتبر أساسية لضمان مستقبل رقمي أكثر أمانًا وشفافية ومسؤولية.




