وضعت شركة Anthropic على الطاولة تنظيمًا جديدًا للذكاء الاصطناعي من Anthropic يهدف إلى الحد من استخدام أنظمة الذكاء الاصطناعي عالية الخطورة، وفي الوقت نفسه إلى تهيئة الحكومات والاقتصاد لتأثير نماذج الجبهة المتقدمة. الرسالة واضحة: إذا كانت قدرات الذكاء الاصطناعي المتقدم تنمو بهذه السرعة، فلا بد من أدوات تنظيمية قادرة على إيقاف أو ردع التطبيقات الخطرة قبل أن تُحدث أضرارًا جسيمة.
Summary
تنظيم الذكاء الاصطناعي من Anthropic بين الأمان والتأثير الاقتصادي
قدمت Anthropic خطتين مدمجتين في مشروع Policy on the AI Exponential. الأولى تضع إطار عمل للذكاء الاصطناعي المتقدم، والثانية تنظر إلى العواقب الاقتصادية على العمال وتقاسم المنافع المالية التي يولدها الذكاء الاصطناعي. في المركز توجد مطالبة محددة: منح الحكومات صلاحيات للتدخل بشكل وقائي في النماذج التي تُعتبر عالية الخطورة.
نطاق المقترح واضح. يشمل تنظيم الذكاء الاصطناعي من Anthropic الأنظمة التي تم تدريبها بحجم من القدرة الحاسوبية يتجاوز 10²⁵ عملية فاصلة عائمة. كما يشمل مجال التطبيق الشركات التي تتجاوز إيراداتها السنوية من الذكاء الاصطناعي 500 مليون دولار. وتضم Anthropic أيضًا الشركات التي تنفق أكثر من مليار دولار سنويًا على البحث والتطوير في مجال الذكاء الاصطناعي.
تشريعات للذكاء الاصطناعي عالي الخطورة: شفافية، اختبارات وعقوبات
من بين التدابير الرئيسية هناك عمليات تحقق مستقلة من النماذج، وتوثيق مفصل حول الأمان وتقارير دورية عن المخاطر من جانب المطورين. تريد Anthropic أن يقوم مقيّمون مستقلون، يمتلكون موارد كافية وإمكانية الوصول إلى النماذج، بمرافقة المنتجين لمراجعة الاختبارات والتقارير. الهدف هو تعزيز الشفافية دون ترك كل شيء للتقييم الذاتي من قبل الشركات.
يتضمن المقترح أيضًا عقوبات مدنية مرتبطة بحجم الإيرادات العالمية السنوية للشركات، مع غرامات أشد في حال تكرار الانتهاكات. بهذه الطريقة، تسعى Anthropic إلى بناء رادع اقتصادي يتناسب مع النطاق العالمي للقطاع. كما تطالب الشركة ببرامج أمان قوية، موصوفة علنًا، وبمزيد من الشفافية تجاه الهيئات الحكومية المختصة.
أساليب الأمان للنماذج المتقدمة للذكاء الاصطناعي وإمكانية وصول المقيّمين
نقطة أخرى محورية في سياسة Anthropic للذكاء الاصطناعي هي حماية بيئة التطوير بأكملها. سيتعين على المطورين الحفاظ على معايير عالية من أجل الدفاع ضد الهجمات الخارجية والتهديدات الداخلية. بالإضافة إلى ذلك، يتطلب المقترح أن يتمكن المقيّمون المستقلون من الوصول إلى النماذج لإجراء عمليات تحقق فعلية وليس شكلية فقط.
المخاطر الأربعة التي تشير إليها Anthropic للذكاء الاصطناعي في الجبهة المتقدمة
تحدد Anthropic أربع مناطق حرجة للمخاطر: المخاطر البيولوجية، والمخاطر السيبرانية، وفقدان السيطرة على الأنظمة، والبحث الآلي الذي تجريه أنظمة الذكاء الاصطناعي. وتتراوح العواقب المحتملة من الاستخدام الخبيث لإنشاء فيروسات خطيرة إلى ثغرات في خدمات أساسية مثل المستشفيات والبنى التحتية للطاقة.
فيما يتعلق بالمخاطر البيولوجية، يصر المقترح على أدوات فحص لعمليات التخليق الجيني وأنظمة للمراقبة البيولوجية لاكتشاف الإشارات المبكرة. وعلى صعيد الأمن السيبراني، يطالب بمزيد من الحماية للبنى التحتية الحرجة، واستبدال الأنظمة القديمة الضعيفة، ووظائف حكومية مخصصة لمراقبة القدرات الهجومية الرقمية الناشئة.
تشير Anthropic أيضًا إلى ضرورة تطوير أفضل لآليات التحكم ضد فقدان السيطرة وضد البحث الآلي. في هذه الحالات، تطالب الشركة بقواعد قادرة على إيقاف أو حصر أنظمة الذكاء الاصطناعي الخطرة قبل أن تتسبب في أضرار.
المرونة المجتمعية والرقابة الحكومية على أنظمة الذكاء الاصطناعي الخطرة
لا يقتصر المقترح على الأمان التقني. تدرج Anthropic أيضًا تدابير لتعزيز مرونة المجتمع في مواجهة تأثيرات أنظمة الذكاء الاصطناعي المتقدمة، مع خطط وقائية للطوارئ البيولوجية والتكنولوجية واستراتيجيات لتحديث وحماية البنى التحتية الحرجة من الهجمات السيبرانية.
تدعو الشركة صانعي السياسات إلى تسريع الوتيرة التنظيمية، حتى لا تبقى حوكمة الذكاء الاصطناعي متخلفة عن سرعة تطور القدرات التكنولوجية. ويبرز في النص مبدأ ثابت: لا يمكن أن يعتمد الأمان فقط على الشفافية والتنظيم الذاتي، بل يتطلب التزامًا مشتركًا من الحكومات والمطورين والمجتمع المدني.
الأسئلة الشائعة حول تنظيم الذكاء الاصطناعي من Anthropic
ما الذي يفعّل سلطة الحكومات في إيقاف نظام ذكاء اصطناعي؟
وفقًا للمقترح، ينبغي أن تمتلك الحكومات صلاحيات للتدخل بشكل وقائي في النماذج التي تُعتبر عالية الخطورة. إلا أن النص لا يحدد عتبات تشغيلية أو إجراءات تفصيلية لتفعيل هذه الصلاحية.
كيف يتم اختيار المقيّمين المستقلين وتمويلهم؟
يذكر المقال أن المقيّمين المستقلين يجب أن تكون لديهم موارد كافية وإمكانية الوصول إلى النماذج، لكنه لا يخوض في التفاصيل المتعلقة بالاختيار أو التمويل أو حوكمة نظام الرقابة.
ما هي أبرز المخاطر البيولوجية المحددة؟
تشير Anthropic إلى خطر الاستخدام الخبيث للذكاء الاصطناعي في إنشاء فيروسات خطيرة. ولهذا تقترح عمليات فحص للتخليق الجيني وأنظمة للمراقبة البيولوجية.
كيف يتعامل المقترح مع مخاطر الأمن السيبراني؟
يهدف المقترح إلى تعزيز حماية البنى التحتية الحرجة، واستبدال الأنظمة القديمة الضعيفة، وإنشاء وظائف حكومية مخصصة لمراقبة القدرات الهجومية الرقمية الناشئة.
ما العقوبات المتوقعة في حال تكرار الانتهاكات؟
تقترح Anthropic عقوبات مدنية تُحتسب على أساس الإيرادات العالمية السنوية، مع غرامات أعلى في حال تكرار المخالفات.
