تحذيرات من تطور الذكاء الاصطناعي: دعوات لتبطيء السباق وتنظيم المخاطر
دعوات لتبطيء تطوير الذكاء الاصطناعي
حثّ رئيس شركة أنثروبيك داريو أمودي الشركات العاملة في مجال الذكاء الاصطناعي على إبطاء وتيرة تحسين قدرات النماذج، مشيرًا إلى أن التقدم سيظل يبدو سريعًا لكن يجب استغلال الوقت المكتسب بحكمة. واقترح إطارًا من ثلاث خطوات يهدف إلى تنظيم وتيرة التطوير ومنح مزيد من الفرص لمعالجة المخاطر المرتبطة بهذه التقنيات.
أيد كل من إيلون ماسك، الذي يدير إكس.إيه.آي، وسام ألتمان الرئيس التنفيذي لأوبن إيه.آي هذا الرأي، مشيرين إلى اتفاقهما مع اقتراح أمودي وفقًا لما نقلته وكالة رويترز.
خطة أمودي من ثلاث خطوات
تتضمن المقترح تعيين مراجعين مستقلين داخل الشركات الرائدة للذكاء الاصطناعي، وتنسيق بين تلك الشركات لوضع معايير للسلامة والحد من التطوير غير المراقب، وتعاون دولي لإدارة المخاطر المحتملة.
تقرير أنثروبيك عن التهديدات والحوادث الأخيرة
نشر أمودي مقاله بعد صدور تقرير من أنثروبيك، المقر الرئيسي في سان فرانسيسكو، يوضح بالتفصيل كيف استُخدمت نماذج كلود التابعة للشركة في أنشطة تشمل تطوير الأسلحة وتنفيذ عمليات إلكترونية وصولاً إلى المراقبة والاحتيال.
حذر أمودي من أن القدرة المتزايدة للذكاء الاصطناعي على تحسين نفسه قد تتجاوز قدرة البشر على التحكم فيه، مستشهدًا بالحادثة الأخيرة التي شملت أوبن إيه.آي وهاجينج فيس كدافع رئيسي للدعوة إلى كبح التقدم في قدرات النماذج.
استقالة researcher وتحذيرات من خطر وجودي
ازداد القلق بشأن الأضرار المحتملة للذكاء الاصطناعي عندما استقال جاكوب كوكسون، باحث في أنثروبيك، قائلاً إن العاملين في هذا المجال يعتقدون بقوة أن التكنولوجيا قد تقضي على البشرية بحلول نهاية هذا العقد.
اقترح بعض مسؤولي أوبن إيه.آي أن تكون المختبرات الرائدة مستعدة للتنسيق بشأن إبطاء طوعي إذا لزم الأمر لبناء الثقة في إجراءات السلامة التي تتخذها.
آراء خبراء إقليميين ودوليين
قال هاني نوفل، الرئيس الإقليمي للتكنولوجيا في الشرق الأوسط وإفريقيا لدى NTT DATA، إن تحذيرات القضاء على البشرية أو خروج الذكاء الاصطناعي عن السيطرة تفتقر لأي أساس علمي مثبت، لكنه أكد أن التكنولوجيا بطبيعتها تحمل جانبًا من المخاطر وأن الخطورة الحقيقية تكمن في الاستخدام الخبيث الذي يتطلب ضوابط صارمة.
أضاف أن التنافس بين الشركات والعداء الدولي يفرض تحديًا كبيرًا حول تحديد الجهة المسؤولة عن تنظيم الذكاء الاصطناعي وضبطه وتجربة النماذج قبل طرحها، وعلى من ستقع مسؤولية الاختراقات المحتملة.
وأوضح أن حوادث اختراق الذكاء الاصطناعي تقتصر على بيئات الاختبار التجريبية ذات المعايير الأقل ولا تعكس واقع الأنظمة المعتمدة، مشيرًا إلى ضرورة التفريق بين التعامل مع الذكاء الاصطناعي حسب درجة الاستفادة منه، فلا يمكن مقارنة نموذج لتلخيص نص أو إرسال إيميل بنموذج يستخدم في التحويلات البنكية أو في مختبرات لتطوير فيروسات بيولوجية.
رأي خبير آخر حول دوافع التحذيرات
قال المدير التنفيذي لشركة أوبتوماتيكا د. محمد عادل البلتاجي إن اتفاق شخصيات بارزة في قطاع التكنولوجيا والذكاء الاصطناعي، رغم خلافاتهم، على التحذير من سرعة تطوير نماذج الذكاء الاصطناعي يعكس وجود مخاوف حقيقية بشأن مستوى الاستقلالية التي بدأت تتمتع بها هذه النماذج.
أشار البلتاجي إلى حادثة وقعت في يوليو الماضي عندما تمكن نظام ذكاء اصطناعي مستقل من تنفيذ عمليات دون توجيه واضح ضمن النطاق المطلوب منه، وهو ما أثار مخاوف داخل مجتمع الذكاء الاصطناعي بشأن قدرة هذه الأنظمة على التحرك واتخاذ قرارات بصورة مستقلة.
وأضاف أن هذه المخاوف تعززت باستقالة أحد الباحثين السابقين في أوبن إيه.آي ثم أنثروبيك، الذي حذر بدوره من أن نماذج الذكاء الاصطناعي قد تشكل خطرًا كبيرًا على البشرية.
ولفت إلى أن رئيس شركة أوبن إيه.آي سام ألتمان كان قد حذر منذ نحو عامين من سرعة تطور الذكاء الاصطناعي.
آثار التحذيرات على المنافسة والتنظيم
أوضح البلتاجي أن التحذيرات الحالية يجب ألا تُقرأ من زاوية واحدة، مشيرًا إلى وجود تفسير آخر يرى أن شركات الذكاء الاصطناعي الكبرى قد تستخدم المخاوف المرتبطة بالسلامة كوسيلة للتأثير على القواعد التنظيمية.
وقال إن فرض قواعد صارمة على تطوير نماذج الذكاء الاصطناعي قد يصب في مصلحة الشركات الكبرى، مثل أوبن إيه.آي وأنثروبيك، لأنها تملك الموارد اللازمة للامتثال لهذه القواعد، بينما قد تجد الشركات الأصغر صعوبة أكبر في تحمل تكاليف المتطلبات التنظيمية نفسها.
وأضاف أن ذلك يفتح الباب أمام احتمال أن تكون بعض التحذيرات تعبيرًا عن خطر حقيقي يواجه البشرية، أو محاولة من الشركات الكبرى لفرض قواعد تنظيمية تمنحها ميزة تنافسية.
تحديات التنظيم الدولي في ظل المنافسة الجيوسياسية
حول إمكانية أن تؤدي المخاوف من تطور الذكاء الاصطناعي إلى تسريع جهود تنظيم القطاع، خصوصًا مع المنافسة بين الولايات المتحدة والصين، قال البلتاجي إن المشهد الجيوسياسي الحالي يجعل التوصل إلى اتفاق دولي شاملًا بالغ الصعوبة.
أشار إلى أن الدول المتنافسة لن تكون مستعدة بسهولة لاتخاذ خطوات قد تبطئ تطورها في هذا المجال، خصوصًا إذا كانت ترى أن منافسيها سيواصلون التقدم.
وأكد أن الصين لن تتوقف عن تطوير الذكاء الاصطناعي لمجرد أن الولايات المتحدة تفرض قيودًا أو شروطًا على القطاع، لأن قبول مثل هذه القيود قد يعني إضعاف قدرتها التنافسية في سباق التكنولوجيا.
الكويت بوست ، موقع إخباري شامل يهتم بتقديم خدمة صحفية متميزة للقارئ، وهدفنا أن نصل لقرائنا الأعزاء بالخبر الأدق والأسرع والحصري بما يليق بقواعد وقيم الأسرة الكويتية، لذلك نقدم لكم مجموعة كبيرة من الأخبار المتنوعة داخل الأقسام التالية، الأخبار العالمية و المحلية، الاقتصاد، تكنولوجيا ، فن، أخبار الرياضة، منوعات و سياحة.
