اختراق حسابات أوبن إيه آي عبر كلود يكشف عن ثغرات متسلسلة

التفاصيل التقنية للاختراق

بدأت العملية من خلال فحص منتدى مجتمع أوبن إيه آي المستضاف على منصة ديسكورس. اكتشف الباحثون ثغرة في معالجة الصور بصيغتي HEIC وHEIF تستغل مكتبة libheif القديمة، ما سمح بتنفيذ أوامر عن بعد. باستخدام نماذج كلود من أنثروبيك صمموا صورة ضارة تستغل هذه الثغرة.

بعد الوصول إلى المنتدى، استغل الفريق ثغرة ثانية في إعدادات تسجيل الدخول الموحد، مما أتاح الانتقال من حساب المنتدى إلى حسابات تشات جي بي تي وكودكس المرتبطة بموظفي أوبن إيه آي.

الوصول إلى المستودع الداخلي وإثبات الأثر

من خلال حساب موظف في كودكس المتصل بمنظمة أوبن إيه آي على غيت هب، تمكن الباحثون من إرسال طلب تعديل غير ضار داخل مستودع برمجي داخلي، دون الاطلاع على الكود أو تنزيله. ثم أوقفوا الاختبار وأبلغوا الشركة.

أوضحت هاكترون أن الفترة من اكتشاف الثغرات إلى إثبات إمكانية الوصول إلى المستودع الداخلي استغرقت أقل من ثلاثة أيام، وأكدت أن العملية لم تكن ذاتية بالكامل بل استطلعت توجيه الباحثين ذوي الخبرة.

استجابة أوبن إيه آي والجائزة والآثار

شكرت أوبن إيه آي فريق هاكترون على الإبلاغ، وقصرت صلاحيات رموز تسجيل الدخول الخاصة بالمنتدى، وألغت الرموز والجلسات المتأثرة، وفقًا لتصريح نقلته بيزنس إنسايدر. منحت هاكترون مكافأة قدرها 6500 دولار لاكتساب الثغرة المتعلقة بأنظمة تسجيل الدخول، بينما أوضحت الشركة أن اختبار منصة ديسكورس نفسه كان خارج نطاق برنامج المكافآت.

أشارت أوبن إيه آي إلى أن التكلفة الإجمالية لمشروع HEIF Heist الأوسع، الذي استمر شهرين وشمل اختبار الثغرة على منصات متعددة، تقل عن 3000 دولار، ولا تمثل هذه التكلفة فقط اختراقها.

سباق الأمن والذكاء الاصطناعي

قال مدير مؤسسة فير لنزاهة الذكاء الاصطناعي أحمد الشيخ، في حديثه إلى سكاي نيوز عربية، إن النظام لم يتعامل مع الصورة كتهديد بل كصورة عادية، ما أتاح استغلال الثغرة. وأضاف أن الذكاء الاصطناعي أصبح متاحًا للطرفين المهاجمين والدافعين، ومن يسبق أولا يربح سواء في الاختراق أو في الحماية.

حذر الشيخ من أن اعتماد الشركات على مكونات تطورها جهات أخرى يوسع مساحة الخطر، مؤكدًا أن أوبن إيه آي ليست مالكة لكل الأنظمة داخل بيئتها، وبالتالي قد تؤثر الثغرة في طرف آخر على الجميع.

رأى الشيخ أن مواجهة هذا التحول تستلزم رقابة مستقلة وقواعد واضحة، لتجنب ترك تقييم مخاطر الذكاء الاصطناعي للشركات المطورة وحدها، مما يجعلها الخصم والحكم في الوقت نفسه.

الكويت بوست ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة الكويتية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.