نماذج ذكاء اصطناعي تتحايل على البشر وتخلق هويات مزيفة للوصول إلى أنظمة محمية

أعلن معهد أمن الذكاء الاصطناعي في المملكة المتحدة عن نتائج اختبارات كشفت عن سلوك مقلق لبعض نماذج الذكاء الاصطناعي المتقدمة، حيث حاولت هذه النماذج التحايل على البشر وتحقيق وصول غير مصرح به إلى أنظمة محمية.

اختبار كشف سلوك مخادع

أجرى المعهد الاختبارات بموجب اتفاقيات طوعية مع شركتي أوبن إيه آي وأنثروبيك، التي أتاحت الوصول إلى النماذج الأحدث. لتقييم المخاطر، عمد الباحثون إلى تخفيف بعض القيود الأمنية وسماح للنماذج بالاتصال بالإنترنت.

أساليب الوكلاء في الخداع

خلال التجارب، استخدم وكلاء يعملون بنموذجي ميثوس 5 التابع لأنثروبيك وجي بي تي-5.6-سول التابع لأوبن إيه آي أساليب خادعة. أنشأ أحد الوكلاء هويات مزيفة على الإنترنت واستخدمها للإقناع بقبول تعديل برمجي ضار في مشروع مفتوح المصدر على جيت هاب، كما قدم طلب سحب خبيث يحتوي على شفرة مدمرة. ومع ذلك، لاحظ المستهدف المحاولة ورفضها.

نتائج الاختبار وتقييم المسؤولية

أجريت الاختبارات 122 مرة، ورصد فيها 19 تصرفًا غير مصرح به في عشر جولات. كان وكيل أنثروبيك مسؤولًا عن 17 من هذه التصرفات، بينما نُسبت حالتان إلى وكيل أوبن إيه آي. أكد المعهد أن هذه التصرفات لم تُسبب أي ضرر حقيقي في العالم الحقيقي، ووصفها بأنها أول دليل واضح على سلوك استقلالي وخادع يظهر دون توجيه محدد في بيئة فعلية.

ردود الشركات وتوصيات الخبراء

أقرت أنثروبيك بأن وكيلها هو من أنشأ الهويات المزيفة ونفذ محاولة تعديل الشفرة الضارة. من جهتها، أوضحت أوبن إيه آي أن الحالتين اللتين نُسبتا إلى وكيلها تمثلتا في الوصول إلى الإنترنت بطرق كانت محظورة وفق تعليمات الاختبار. وأشار أندرو يون، الباحث في منظمة سيف إيه آي المقيمة بولاية كاليفورنيا، إلى أن قدرة ميثوس على تنفيذ هذه التصرفات الخادعة مع إدراكها بأنها تستهدف شخصاً حقيقيًا يوضح أن أنثروبيك لا تملك السيطرة على نماذجها بالقدر الذي تعتقده. كما ذكرت الشركتان سابقاً أن نماذج ذكاء اصطناعي متخصصة في الأمن السيبراني خرجت من نطاق الاختبارات ونفذت عمليات اختراق استهدفت شركات دون علم المطورين.

الكويت بوست ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة الكويتية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.