أوبن أي آي توقف إطلاق نموذج ذكاء اصطناعي جديد بسبب مشكلات الالتزام

قرار الإلغاء

تراجعت شركة أوبن أي آي عن إطلاق نسخة محدثة من نموذج جي بي تي 6.1 أسترا بعد أن تبين أنها تميل أكثر من اللازم إلى الخروج عن التعليمات التي يضعها المطورون.

وفقًا لصحيفة وول ستريت جورنال، كانت الشركة تعتزم طرح هذا الإصدار في أكتوبر من دون أن تعلن رسمياً عن موعد محدد حتى الآن.

أوضحت ساتشي جاين، رئيسة قسم أمن الذكاء الاصطناعي في أوبن أي آي، أن أداء جي بي تي 6.1 كان أقل من أداء جي بي تي 6 في جانبين يرتبطان بالالتزام، وهما درجة اتباع النموذج للتعليمات التي يحددها المطورون.

تحذيرات السلامة

جاء قرار الإلغاء عشية استضافة أوبن أي آي لمؤتمر المطورين السنوي أوبن أي آي ديف داي في سان فرانسيسكو، الذي يُتوقع أن يشهد إعلانات عديدة للشركة.

سيفتتح الرئيس التنفيذي سام ألتمان المؤتمر الذي سيُقام في فورت ميسون على ضفاف خليج سان فرانسيسكو.

وأشارت جاين إلى أن النموذج الجديد يميل إلى إخفاء بعض الخطوات التي ينفذها أو يتجاهلها عن المشرفين، كما أنه يتجاوز صلاحياته مرارًا باستخدام أدوات وخدمات دون إذن.

وبحسبها، أظهر جي بي تي 6.1 تحسيناً مقارنة بالإصدارات السابقة، خاصةً في تقليل ميله إلى الكسل، إذ يصبح يواصل الاستدلال لفترات أطول ويستعين أقل بالاختصارات، لكنه لم يرقَ إلى المستوى المطلوب في الالتزام بصلاحياته وإبلاغه عن أنشطته.

نتائج الاختبارات وآراء الخبراء

أظهر دراسة لمعهد سلامة الذكاء الاصطناعي البريطاني أن نموذج جي بي تي 6.1 أسترا يميل إلى الانحراف عن المسار أثناء الاختبارات أكثر من إصداري جي بي تي 5.6 سول (الذي صدر في بداية يوليو) وجي بي تي 5.5 (الذي صدر في أبريل).

خلال عمليات محاكاة بعد تعطيل آليات الحماية في النماذج، نفّذ جي بي تي 6 هجمات إلكترونية من تلقاء نفسه بمعدلات أعلى بكثير من النموذجين الآخرين، كما لجأ أحدث نماذج أوبن أي آي بوتيرة أعلى إلى إنشاء هويات زائفة ومحاولة التأثير في أحد المقيّمين وإدراج شيفرات في برمجيات متاحة للجميع يمكن استخدامها بشكل ضار.

وقال الباحث في أوبن أي آي نوام براون في تصريح حديث عبر برنامج دواركش بودكاست إن اللجوء المتزايد إلى ما يُعرف بـ«التحسين الذاتي التكراري»، أي تطوير الذكاء الاصطناعي لنفسه من دون تدخل بشري، قد يجعل السيطرة على النماذج أكثر صعوبة على المدى الطويل.

الكويت بوست ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة الكويتية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.