سحب نماذج ذكاء اصطناعي وسط مزاعم حكومية بوجود «كسر حماية»

علّقت شركة Anthropic إتاحة الوصول إلى نماذجها المتقدمة للذكاء الاصطناعي، Fable 5 وMythos 5، عقب توجيه صادر عن الحكومة الأميركية. وأشارت الحكومة إلى مخاوف تتعلق باكتشاف ثغرة «كسر حماية» يمكن أن تتيح إساءة استخدام هذين النموذجين، ما أدى إلى فرض ضوابط تصدير واسعة استلزمت إيقافهما.

أبرز النقاط

أهم التطورات في لمحة

الإيقاف

Fable 5·تعطّل Mythos 5

أوقفت Anthropic النموذجين المتقدمين عن العمل خلال عطلة نهاية الأسبوع.

إجراء حكومي

ضوابط التصدير·ذُكرت ثغرة كسر الحماية

قال المسؤولون الأميركيون إن ثغرة كسر حماية مكتشفة برّرت تقييد الوصول.

موقف Anthropic

تعترض·تداعيات أوسع

ترى الشركة أن الرد مبالغ فيه وقد يثبط تطوير الذكاء الاصطناعي المتقدم.

القضية الأكبر

التنظيم·توتر داخل القطاع

تُبرز هذه الواقعة استمرار الاحتكاك بين مطوري الذكاء الاصطناعي والرقابة الحكومية.

التدخل الحكومي وضوابط التصدير

أبلغت الحكومة الأميركية شركة Anthropic بعد ظهر الجمعة بوجود طريقة لـ«كسر حماية» Fable 5، بما يتيح تجاوز الضمانات المدمجة فيه ضد إساءة الاستخدام. كما خضعت Mythos 5، التي طُرحت في البداية لمجموعة مختارة من المهنيين الحكوميين والتقنيين بسبب قدراتها على اكتشاف ثغرات الأمن السيبراني، لهذه القيود أيضاً. وفرضت الحكومة ضوابط تصدير قالت Anthropic إنها تعني الاضطرار إلى تعليق الوصول أمام جميع الرعايا الأجانب، داخل الولايات المتحدة وخارجها على السواء. وكانت الطريقة الوحيدة للامتثال هي إيقاف النموذجين بالكامل.

كيف يقدّم الطرفان روايتهما لإيقاف التشغيل

وجهة نظر الحكومة

استلزمت ثغرة كسر الحماية فرض ضوابط تصدير صارمة لمنع إساءة استخدام النماذج المتقدمة.

وجهة نظر Anthropic

تقول الشركة إن ثغرة كسر الحماية لم تكن تبرر إجراءً بهذه السعة، وتحذر من أن تطبيق هذا المعيار على نطاق واسع قد «يوقف فعلياً» تطوير نماذج الذكاء الاصطناعي المتقدمة الجديدة.

وأعربت Anthropic عن عدم اتفاقها مع تقييم الحكومة، معتبرة أن ثغرة كسر الحماية المكتشفة لا تستدعي مثل هذه التدابير الجذرية. وترى الشركة أن تطبيق هذا المعيار على نطاق واسع قد «يوقف فعلياً» تطوير نماذج الذكاء الاصطناعي المتقدمة الجديدة. وقالت Anthropic إنها تفضّل مساراً قانونياً واضحاً وعادلاً ومستنداً إلى أسس تقنية لحظر عمليات النشر غير الآمنة.

مخاوف سلامة الذكاء الاصطناعي والتنظيم

وليست هذه أول مرة ينشب فيها خلاف بين Anthropic والحكومة الأميركية بشأن نماذج الذكاء الاصطناعي. ففي وقت سابق من هذا العام، صنّفت وزارة الدفاع الأميركية Anthropic على أنها «مخاطر على سلسلة التوريد» بعدما عارضت الشركة استخدام نماذج Claude الخاصة بها في الأسلحة الذاتية التشغيل بالكامل أو في المراقبة الداخلية واسعة النطاق، وهو ما كانت وزارة الدفاع تسعى إليه «لجميع الأغراض المشروعة».

وأشار ديفيد ساكس، الرئيس المشارك لمجلس الرئيس للمستشارين في العلوم والتكنولوجيا، إلى أن المسألة خطيرة، لكنه رأى أنه يمكن حلها، ملقياً بالمسؤولية على Anthropic. وبيّن أن الإدارة لم تقبل زعم Anthropic بأن ثغرة كسر الحماية كانت طفيفة، مشيراً إلى أن الشركة أعطت الأولوية للعروض الموجهة للمستهلكين على حساب السلامة في هذه الحالة.

أبرز نقاط الضغط التنظيمي والمتعلقة بالسلامة

القضية	الجهة الرئيسية	سبب الأهمية
ثغرة كسر الحماية	الحكومة الأميركية	تعامل المسؤولون معها باعتبارها فجوة خطيرة في السلامة تبرر فرض قيود فورية.
استخدام الذكاء الاصطناعي في الأسلحة أو المراقبة	وزارة الدفاع الأميركية	تُظهر الخلافات السابقة صداماً أوسع بشأن الكيفية التي تريد بها الحكومة نشر النماذج المتقدمة.
سياسة الاحتفاظ بالبيانات لمدة 30 يوماً	Anthropic	كان الهدف من هذا الإجراء اكتشاف ثغرات كسر الحماية ومعالجتها، لكنه ربما نفّر بعض مستخدمي الأعمال.

ويشير الخبراء إلى أن وجود ثغرات كسر الحماية ليس أمراً مفاجئاً، إذ إن «جميع النماذج يمكن كسر حمايتها». وتتيح ثغرة كسر الحماية للمستخدمين التحايل على التدابير الأمنية الخاصة بالنموذج. وبينما يواصل المطورون تحسين وسائل الدفاع، يبقى ذلك تحدياً مستمراً. وكانت Anthropic قد طبقت سياسة للاحتفاظ ببيانات تفاعلات Fable 5 لمدة 30 يوماً من أجل تحديد ثغرات كسر الحماية المحتملة ومعالجتها، وهو إجراء ربما ردع بعض الشركات.

الأثر في تطوير الذكاء الاصطناعي والمنافسة

قد يؤثر إيقاف Fable وMythos تأثيراً كبيراً في القدرة التنافسية لمختبرات الذكاء الاصطناعي الأميركية. فضوابط التصدير لا تمنع الرعايا الأجانب من استخدام النموذجين كعملاء فحسب، بل تقيّد أيضاً وصول الرعايا الأجانب العاملين في Anthropic، وهم عنصر أساسي في تطوير النماذج المستقبلية. وقد يؤدي هذا الوضع إلى إبطاء تطوير النماذج عموماً.

وتشير هذه الواقعة إلى تحول في واشنطن نحو زيادة تنظيم نماذج الذكاء الاصطناعي المتقدمة، رغم التركيز السابق على الحد الأدنى من التنظيم لضمان «الهيمنة العالمية في الذكاء الاصطناعي». ويبدو أن الإيقاف المفاجئ لـFable وMythos قد دفع الإدارة إلى اتخاذ موقف أكثر تشدداً. وبينما طلب أمر تنفيذي حديث مراجعة حكومية طوعية للنماذج المتقدمة التي تشكل مخاطر أمنية، يبدو أن الإجراء الحالي قد تجاوز التدابير الطوعية.

وأُثيرت أيضاً مخاوف بشأن الآلية المتبعة، إذ وصفها منتقدون بأنها تعسفية ومبهمة وتفتقر إلى تبرير واضح أو إلى الإجراءات الأصولية. ولا تزال هناك تساؤلات بشأن الصلاحية المحددة التي استُخدمت لسحب النموذجين من السوق، مع ورود تقارير تفيد بأن المناقشات كانت تُجرى خلف أبواب مغلقة. وعلاوة على ذلك، يجري النظر في التداعيات المحتملة على التعديل الأول فيما يتعلق بالكلام الذي تولده أنظمة الذكاء الاصطناعي والخيارات التحريرية.