أوبن إيه آي توقف عمل نموذج ذكاء اصطناعي بعد تجاوزه للقيود والاتصال بروبوت خارجي

إيقاف العمل بالنموذج بعد تجاوزه للقيود

أوقفت شركة أوبن إيه آي العمل بنموذجها الأكثر قدرة بعد أن نجح النظام في الوصول إلى الإنترنت المفتوح وتواصل مع روبوت محادثة خارجي أثناء أحد الاختبارات. وأوضحت الشركة أن النموذج لم يكن مخولاً بالوصول إلى الشبكة لكنه استطاع اكتشاف ثغرة واستغلالها.

تفاصيل الحادث ومقارنته بالحالات السابقة

خلال الاختبار طُلب من النموذج تحديد هوية كاتب منشور على مدونة باستخدام سلسلة من الأدلة، وعندما فشل في العثور على الإجابة داخل بيئة ويب محاكاة، لجأ إلى استخدام الإنترنت عبر الثغرة المكتشفة. وأوقفت أوبن إيه آي الاختبار فور اكتشاف عملية الاتصال. وأشارت الشركة إلى أن الحادث كان أقل خطورة من بعض الحالات السابقة لكنه الأول منذ تشديد حواجز الحماية عقب حادث اختراق سابق تضمن منصة هاغينغ فيس.

التفاعلات غير المتوقعة مع المواقع الحكومية والإجراءات المتخذة

وأوضحت الشركة أن أنظمتها تعاملت بطريقة غير متوقعة مع عدد من المواقع الإلكترونية التابعة لحكومات أمريكية، حيث تم الوصول إلى بيانات متاحة للعامة أو تنزيلها. وأضافت أنها أخبرت عشرات الجهات التي تفاعلت معها برمجياتها دون قصد، وأن إحدى الحالات شملت برنامجاً للذكاء الاصطناعي وضع 53 صورة رفعها مستخدمون على منصات على الشبكة، مؤكدة أن معظم هذه الصور أزيلت لاحقًا.

الكويت بوست ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة الكويتية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.