"استقالة" تدق ناقوس الخطر.. تحذير من ذكاء اصطناعي فائق

دفعت استقالة الباحث في الذكاء الاصطناعي جايكوب كوكسون من شركة "أنثروبيك" المخاوف من سرعة تطوير الأنظمة المتقدمة إلى الواجهة، بعدما حذر من سباق قد يقود إلى ذكاء فائق يصعب إبقاؤه تحت السيطرة البشرية.

وبحسب موقع "أكسيوس"، اتهم كوكسون شركتي "أنثروبيك" و"أوبن إيه آي" بالمخاطرة بالسلامة تحت ضغط المنافسة، معتبرا أنهما تتجهان نحو أنظمة قادرة على تحسين قدراتها بصورة متكررة، وداعيا إلى تدخل حكومي وتنسيق دولي لإبطاء التطوير.

وتكشف الاستقالة مفارقة تواجه كبرى شركات القطاع: كل شركة تدرك المخاطر المحتملة، لكنها تخشى أن يؤدي إبطاء عملها منفردة إلى منح منافسيها فرصة التقدم عليها.

سباق لا تستطيع شركة إيقافه

ويقول المستشار في أمن وتكنولوجيا المعلومات والتحول الرقمي، رولاند أبي نجم، في حديث إلى سكاي نيوز عربية، إن المخاوف تتزايد مع ارتفاع سرعة تطوير الأنظمة ومنحها صلاحيات أوسع.

وأضاف: "بصراحة، نحن ذاهبون في هذا الاتجاه، ومع الوقت تصبح السرعة أكبر بكثير".

وأوضح أبي نجم أن الدعوات إلى إبطاء تطوير الذكاء الاصطناعي ليست جديدة، مشيرا إلى أن شخصيات وشركات سبق أن طالبت بمنح التشريعات وضوابط السلامة وقتا للحاق بالتقدم التقني، قبل أن تواصل هي نفسها السباق تحت ضغط المنافسة.

وقال إن المشكلة لا تتعلق بشركة أو دولة واحدة، لأن إبطاء الشركات الأميركية، على سبيل المثال، لن يحقق هدفه إذا واصلت شركات أخرى داخل الولايات المتحدة أو خارجها تطوير أنظمتها بالسرعة نفسها.

وتظهر هذه المعضلة في "إطار الاستعداد" الخاص بشركة "أوبن إيه آي"، الذي يتيح لها تعديل بعض متطلبات السلامة إذا طرح مطور منافس نظاما عالي المخاطر من دون ضمانات مماثلة، وفق شروط تشمل الإعلان عن التعديل وعدم زيادة مخاطر وقوع أضرار جسيمة.

الوكلاء يوسعون دائرة الخطر

يرى أبي نجم أن انتقال الذكاء الاصطناعي من أنظمة تجيب عن أسئلة المستخدمين إلى "وكلاء" قادرين على تنفيذ مهام واتخاذ قرارات واستخدام أدوات رقمية زاد مستوى المخاطر.

وأوضح أن وكلاء الذكاء الاصطناعي قد يعملون بأعداد كبيرة، ويتولون سلسلة من المهام من دون حاجة إلى تدخل بشري في كل خطوة، ما يجعل ضبط الصلاحيات ومراقبة القرارات أكثر تعقيدا.

وتحولت بعض المخاوف النظرية إلى واقعة ملموسة خلال اختبار داخلي أجرته "أوبن إيه آي" لقدرات نماذجها السيبرانية.

وتمكنت نماذج خضعت للاختبار، مع تعطيل بعض وسائل الحماية المستخدمة في المنتجات العامة، من استغلال ثغرة غير معروفة والخروج من البيئة المعزولة إلى الإنترنت، ثم اختراق بنية منصة "هاغينغ فيس" للحصول على حلول اختبار.

وأكدت "أوبن إيه آي" أن النماذج المعنية لم تكن مخصصة للإطلاق العام، وأن فرق الأمن اكتشفت النشاط، قبل أن تتعاون الشركتان لاحتوائه. كما أوقفت الشركة مؤقتا بعض عمليات التدريب وشددت إجراءات العزل والمراقبة.

خطر يصعب تفسيره

قال أبي نجم إن مطوري أنظمة الذكاء الاصطناعي لا يعرفون بالضرورة كيف توصل النموذج إلى كل نتيجة أو قرار، بسبب حجم البيانات وتعقيد الخوارزميات المستخدمة في التدريب.

وأضاف أن الخطر يرتفع عندما تقترن هذه القدرة بصلاحيات لتنفيذ عمليات مالية أو الوصول إلى أنظمة حساسة أو اكتشاف ثغرات سيبرانية غير معروفة، خصوصا في القطاعات الحكومية والصحية والعسكرية.

وصنفت "أوبن إيه آي" نموذجها "أسترا" عند مستوى "حرج" في القدرات السيبرانية، موضحة أنه يستطيع، عند تزويده بالأدوات والصلاحيات اللازمة، اكتشاف ثغرات غير معروفة وتطوير وسائل لاستغلالها في أنظمة شديدة الحماية من دون توجيه بشري لكل خطوة.

وترى الشركة أن إجراءات الحماية التي وضعتها تقلل مخاطر الضرر الجسيم، بينما تدعو إلى معايير مشتركة تشرف عليها جهات مستقلة وحكومات ومؤسسات دولية.

ويعتقد أبي نجم أن إنشاء هيئة دولية لتنظيم الذكاء الاصطناعي بات ضروريا، لكنه أقر بصعوبة مراقبة جميع عمليات التطوير في الدول والشركات والجهات غير المعروفة. وقال إن اعتبار الذكاء الاصطناعي جزءا من الأمن القومي يعقد فرص الاتفاق على إبطائه، خصوصا في ظل المنافسة بين الولايات المتحدة والصين.

وفي استطلاع عبر منصات سكاي نيوز عربية الرقمية، رأى 58 بالمئة من المشاركين أن الذكاء الاصطناعي خرج عن السيطرة، مقابل 42 بالمئة لم يوافقوا على ذلك.