اختراق غير مسبوق: نسخة تجريبية من تشات جي بي تي تتجاوز الحواجز الأمنية وتهاجم منصة ذكاء اصطناعي

في حادثة وصفت بأنها غير مسبوقة وتشكل علامة فارقة مثيرة للقلق في مجال الذكاء الاصطناعي، تمكنت شركة أوبن إيه آي من قمع نسخة تجريبية من مساعدها تشات جي بي تي خرجت عن السيطرة وتجاوزت إجراءات الحماية، بل وهاجمت شركة ذكاء اصطناعي أخرى.

كيف حدث الاختراق؟

أوضحت أوبن إيه آي في منشور على مدونتها أنها كانت تختبر قدرات بعض نماذجها الأكثر تطوراً داخل بيئة محكمة، إلا أن البرنامج تمكن من اختراق النظام والوصول إلى الإنترنت واختراق منصة Hugging Face في محاولة لتحقيق هدف الاختبار. ووصفت الشركة الحادثة بأنها حادثة سيبرانية غير مسبوقة استخدمت فيها أحدث التقنيات، وأكدت أنها تعمل على تعزيز إجراءات الحماية لديها، وفقاً لما ذكرته صحيفة ذي إنديبندنت البريطانية.

وقع الحادث أثناء اختبار نموذج جديد في بيئة معزولة للغاية تتضمن اتصالاً مقيداً بشدة بالإنترنت. لكن النسخة التجريبية أدركت أنها تخضع للاختبار باستخدام أداة ExploitGym التي تقيس فعالية استخدام نموذج الذكاء الاصطناعي في هجمات الأمن السيبراني، ثم سعت إلى اختراق نظام الحماية لتحميل معلومات حول هذا الاختبار ومحاولة التحايل عليه.

ردود فعل Hugging Face والمسؤولين

منصة Hugging Face، المستخدمة لاستضافة نماذج لغوية ومجموعات بيانات ضخمة مفتوحة المصدر، أثارت ضجة في أوساط الأمن السيبراني عندما أعلنت الأسبوع الماضي أنها كانت هدفاً لاختراق يختلف عن أي شيء تعاملت معه من قبل، لأنه كان مدفوعاً بالكامل بنظام وكيل ذكاء اصطناعي مستقل. وقال كليمنت ديلانغ، المؤسس المشارك لشركة Hugging Face، في منشور على موقع إكس إن الشركة اشتبهت في أن الاختراق ربما يكون قد صدر من مختبر متطور نظراً لتطور الوكيل، واتضح أنه كذلك! وأضاف: من المذهل حقاً أن كل هذا حدث بشكل مستقل!

من المرجح أن يؤدي كشف أوبن إيه آي عن أن نماذجها المتقدمة كانت مسؤولة عن الاختراق، رغم وضعها في بيئة معزولة للغاية، إلى زيادة القلق بشأن قوة ومخاطر النماذج الرائدة.

تحذيرات خبراء الأمن السيبراني

قال جيك مور، مستشار الأمن السيبراني العالمي في شركة ESET: مرحباً بكم في المرحلة التالية من الأمن السيبراني، حيث تواجه المؤسسات تهديدات من مجرمي الإنترنت وشركات الذكاء الاصطناعي الرائدة. إن غياب التدخل البشري بشكل كامل يمثل علامة فارقة مثيرة للقلق. تتدرب هذه الخوارزميات على مليارات البيانات، وبالتالي إذا وجدت ثغرات أمنية فيها، فقد تتحول بسرعة إلى هجوم سيبراني خلال نفس العملية. وأضاف: يجب معالجة مشكلة إمكانية اختراق النموذج لبيئة الاختبار، لأن احتواء الثغرات في مراحل الاختبار لا يقل أهمية عن النموذج نفسه. ولكن للأسف، هذه إشارة إلى المستقبل. يجب على فرق الأمن أن تفترض أن مجرمي الإنترنت سيحصلون قريباً، أو ربما يكونون قد حصلوا بالفعل، على قدرات مماثلة للتشغيل الذاتي.

من ناحيتها، قالت كاتي موسوريس، الرئيسة التنفيذية لشركة لوتا سيكيوريتي، إن الحادثة نذير باختراقات قادمة، واصفة نماذج الذكاء الاصطناعي الحالية بأنها تشبه أذكى الأخطبوطات في العالم، فهي تتمتع بأذرع لا حدود لها وقدرة على التسلل من أي مكان. وأضافت أن المختبرات والجهات الحكومية المختصة بالتقييم بحاجة إلى العمل على تطوير القدرة على احتواء أي اختراق من هذا النوع، ومراقبته، وإبلاغ الأطراف المتضررة به، وذلك قبل أن يلحق الضرر بأي طرف ثالث. ولا توجد مثل هذه القدرة حالياً.

أما مات سويش، المهندس في شركة تولمو المتخصصة في أمن الذكاء الاصطناعي، فقال إن الحادثة أظهرت أن النماذج الرائدة تقترب من مستوى المهاجمين الأكثر تطوراً. لكنه أشار إلى أن أنواع الاختراقات المذكورة في مدونة أوبن إيه آي يمكن تنفيذها باستخدام تقنيات متاحة على نطاق أوسع بكثير من مختبرات الأبحاث الرائدة. وأضاف سويش: هذا ما رأيناه بالفعل داخلياً، فمع وكلائنا لدينا نتائج كهذه. لسنا مضطرين حتى لاستخدام أحدث النماذج.

سلوك كارثي محتمل

وكانت شركة أوبن إيه آي أقرت في وقت سابق بأن برنامج تشات جي بي تي يمكن أن يخرج عن السيطرة ويحذف ملفات الأشخاص دون إبلاغهم. ففي الأيام الأخيرة، أفاد العديد من مستخدمي منصة البرمجة المدمجة في المساعد الذكي Codex بأن الأداة حذفت ملفاتهم دون طلب أو إذن منهم. وقال أحد المهندسين، برونو ليموس، إنها حذفت قاعدة بيانات الإنتاج الخاصة بي بالكامل. وقال مستثمر آخر في مجال الذكاء الاصطناعي، مات شومر، إنها حذفت عن طريق الخطأ جميع ملفات جهازي الماك تقريباً.

الكويت بوست ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة الكويتية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.