تتزايد مخاوف خبراء الذكاء الاصطناعي مع التسارع الكبير في تطور النماذج، وسط تساؤلات حول اقتراب الأنظمة الأكثر تقدمًا من مرحلة الذكاء الاصطناعي العام AGI، وإمكانية انتقالها لاحقًا إلى مستوى الذكاء الخارق الذي يتجاوز القدرات البشرية. ويحذر خبراء من أن البشر لا يمتلكون حتى الآن الأدوات الكافية لفهم ومراقبة أنظمة ذكاء اصطناعي قد تصبح أكثر ذكاءً من الإنسان، خصوصًا مع بدء الاعتماد على الذكاء الاصطناعي نفسه في تنفيذ أجزاء متزايدة من عمليات تطوير النماذج. ويشير مصطلح الذكاء الاصطناعي العام AGI إلى نظام يمتلك قدرة على التعلم والاستدلال والتمييز والحكم بمستوى يضاهي الإنسان في مختلف المجالات، على عكس النماذج الحالية التي قد تتفوق في مهام محددة، لكنها تواجه أحيانًا صعوبة في التعامل مع أمور بسيطة يستطيع طفل صغير إدراكها. ورغم كثرة الحديث عن AGI، لا يوجد حتى الآن تعريف أو اختبار موحد يمكن من خلاله تحديد اللحظة التي يصل فيها نموذج ما إلى مستوى الذكاء الاصطناعي العام. أما الذكاء الاصطناعي الخارق فيذهب إلى مستوى أبعد، إذ يشير إلى نظام يتجاوز القدرات البشرية، وقد يصبح أفضل من أبرز الخبراء البشر في مختلف المجالات، فيما لا يزال توقيت الوصول إلى هذه المرحلة وإمكانية تحقيقها من الأساس غير محسومين. وكان الرئيس التنفيذي لشركة ميتا مارك زوكربيرغ قد اعتبر أن الذكاء الخارق “بات وشيكًا”، واصفًا ظهوره بأنه بداية عهد جديد للبشرية، بينما توقع إيلون ماسك، الرئيس التنفيذي لشركة سبيس إكس إيه آي، أن يتجاوز الذكاء الاصطناعي بحلول عام 2030 “مجموع الذكاء البشري”. لكن هذه التوقعات تبقى غير مؤكدة، خاصة أن توقعات سابقة بشأن مسار تطور التكنولوجيا لم تتحقق دائمًا ضمن المواعيد المطروحة. ومن أبرز القضايا التي تثير مخاوف الخبراء مفهوم “التحسين الذاتي المتكرر”، الذي يعني قدرة نظام الذكاء الاصطناعي على المساهمة في بناء نفسه وإصلاحه وتحسين تدريبه وتصميمه وصولًا إلى إنتاج نسخة أكثر ذكاءً منه. وبينما كان البشر حتى وقت قريب يقودون معظم عمليات تحسين الذكاء الاصطناعي، تقول شركات مثل أنثروبيك إنها بدأت بتفويض حصة متزايدة من عمليات تطوير الذكاء الاصطناعي إلى أنظمة الذكاء الاصطناعي نفسها، ما قد يؤدي إلى تسريع وتيرة تطور قدراتها. ويبرز بالتوازي تحدي “التوافق”، الذي يتمثل في ضمان تنفيذ أنظمة الذكاء الاصطناعي لما يريده البشر فعلًا، وبطريقة تتماشى مع القيم الإنسانية، وهي مهمة تزداد تعقيدًا بسبب صعوبة تحديد الأهداف البشرية بصورة دقيقة في جميع المواقف المحتملة. وسبق لأنظمة ذكاء اصطناعي أن تمكنت من اختراق بيئة مختبر OpenAI خلال اختبار للأمن السيبراني، إلى جانب اختراق نظام تابع لشركة أخرى في محاولة للحصول على مفتاح الإجابة، وهي حالات طُرحت كمثال على تحديات التوافق. وتتصاعد المخاوف بشأن ما قد يحدث إذا أصبح نظام ذكاء اصطناعي أكثر تطورًا من البشر، بالتزامن مع امتلاكه قدرة كبيرة على تحسين نفسه بوتيرة سريعة، ما قد يجعل فهم ما يقوم به أو التدخل في الوقت المناسب أكثر صعوبة. كما ظهرت أمثلة لأنظمة ذكاء اصطناعي تنسق فيما بينها وتحاول إخفاء بعض أنشطتها وتتصرف بطرق لم يتوقعها البشر، في وقت يرى فيه خبراء أن الأدوات الحالية لمراقبة سلوك هذه الأنظمة والتحكم فيها لا تزال غير كافية. وحذر عالم الحاسوب والحائز على جائزة نوبل جيفري هينتون، المعروف بـ”عراب الذكاء الاصطناعي”، من أن استمرار ارتفاع مستوى ذكاء هذه الأنظمة قد يؤدي إلى ظهور نوايا أكثر تعقيدًا لديها وزيادة قدرتها على الإفلات من السيطرة.