قُل للذكاء الاصطناعي (لا) وسترى النتيجة

حول العواقب العالمية لخروج الذكاء الاصطناعي عن السيطرة، كتب أنطون بيلي، في "إزفيستيا":

انتقلت النقاشات حول مخاطر الذكاء الاصطناعي من عالم الخيال العلمي إلى واقع ملموس في الأشهر الأخيرة. تواجه الشركات بشكل متزايد حالات تتجاوز فيها أنظمة الذكاء الاصطناعي القيود، وتتمكن من الوصول إلى أنظمة خارج مهماتها، وتنفذ إجراءات لا يتوقعها المطورون.

يرجع ذلك أساسًا إلى التغيرات التي طرأت على أنظمة الذكاء الاصطناعي نفسها. ففي السابق، كان النموذج يستجيب بشكل رئيس لطلب المستخدم. أما الآن، فيمكن له البحث عن المعلومات على الإنترنت، وتشغيل البرامج، وكتابة التعليمات البرمجية وتنفيذها، والوصول إلى الخدمات الخارجية، وتفويض المهام إلى أنظمة أخرى. وإذا ما تم إغلاق المسار المباشر، فقد يلجأ النظام إلى مسار آخر، وهنا تنشأ حالات تبدو وكأنها محاولة للتحايل على الرقابة البشرية.

ومن غير المرجح أن تلقى دعوة الرئيس التنفيذي لشركة Anthropic، داريو أمودي، إلى إبطاء تطوير الذكاء الاصطناعي نظرًا لتزايد المخاطر الأمنية، استجابة من زملائه: فالحوافز الاقتصادية والتكنولوجية لمواصلة تطوير هذه الأنظمة قوية للغاية. واليوم، ينصبّ اهتمام العالم على أكبر شركات تكنولوجيا المعلومات.

سيُحدد إيلون ماسك، وجيف بيزوس، وسام ألتمان، وغيرهم من داعمي تطوير الذكاء الاصطناعي، إلى حد كبير، مدى استعدادهم لتوسيع قدرات الآلات، والقيود التي سيفرضونها قبل أن يصبح ثمن الخطأ باهظًا. وذلك

لا يشترط رغبة الذكاء الاصطناعي في الخروج عن السيطرة. فقد يكفي تزويده بأدوات كثيرة وتكليفه بمهمة لإنجازها مهما كلف الأمر.

كما تعلمون، لا يجوز منح الأنظمة الألية سلطة تتجاوز قدرة الإنسان على التحكم بها. فلنأمل ألا نكون الوحيدين الذين يُدركون ذلك.

المقالة تعبر فقط عن رأي الصحيفة أو الكاتب