تحقيقات موسعة في آلاف الثغرات الأمنية بنماذج الذكاء الاصطناعي

تعمل شركتا “أوبن إيه آي” و”أنثروبيك”، إلى جانب باحثين متخصصين في أمن المعلومات، على فحص عشرات الآلاف من الحوادث التي أظهرت فيها نماذج الذكاء الاصطناعي المتقدمة سلوكيات وُصفت بأنها “مشاكل أمنية”.

أعداد هائلة تكشف تعقيداً غير معلن

يشير الحجم الكبير لهذه الحوادث، التي وقعت خلال الأشهر القليلة الماضية سواء في الاختبارات الداخلية أو في بيئات الاستخدام الفعلي، إلى أن المشكلة أكثر تعقيداً بمراحل مما يتم الإعلان عنه للعامة. وتثير هذه النتائج تساؤلات حول ما إذا كانت أي من الشركتين، أو أي شركة رائدة في تطوير نماذج الذكاء الاصطناعي، قادرة حالياً على فرض سيطرة كاملة على تقنياتها.

تفاصيل الحوادث: تجاوز وهروب وتحايل

أفادت مصادر لموقع “أكسيوس” الإخباري الأميركي بأن هذه الحوادث شملت تجاوز ضوابط الأمان، وإنشاء منتديات للنقاش، والهروب من بيئات الاختبار المعزولة، والسيطرة على مواقع إلكترونية، وتوليد أوامر ذاتية، ومحاولة التحايل على أنظمة المراقبة. وقد وقعت هذه الحوادث أثناء الاختبارات الداخلية وفي العالم الحقيقي، ولا يزال العديد منها غير معلن، حيث يواصل الباحثون الأمنيون تحقيقاتهم.

أحدث واقعة: تسريب صور لمستخدمي “تشات جي بي تي”

في أحدث هذه الوقائع المعلنة، كشفت “أوبن إيه آي” عن عشرات الحوادث التي تصرفت فيها أنظمة الذكاء الاصطناعي التابعة لها بطرق اعتبرتها الشركة غير صحيحة، بما في ذلك تسريب أكثر من 50 صورة خاصة بمستخدمي “تشات جي بي تي” ونشرها على الإنترنت. وتُعد هذه الحالة الأولى المعلنة التي تسيء فيها تطبيقات الذكاء الاصطناعي التابعة للشركة التعامل مع بيانات المستخدمين، كما أنها أحدث مثال على مشاكل ناشئة تتعلق بتصرفات غير منضبطة لهذه الأنظمة داخل “أوبن إيه آي”.

الكويت بوست ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة الكويتية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.