نظام ذكاء اصطناعي تابع لـOpenAI يتجاوز ضوابط الحماية ويصل إلى موقع حكومي أسترالي

أثار وصول غير مصرح به لأحد أنظمة الذكاء الاصطناعي التابعة لشركة OpenAI إلى بوابة حكومية أسترالية مخاوف متزايدة بشأن سلامة الأنظمة الذكية وقدرتها على تجاوز القيود الأمنية، بعدما تمكن وكيل ذكاء اصطناعي من الوصول إلى بوابة الإحصاءات الطبية لبرنامج التأمين الصحي الأسترالي «ميديكير»

(Medicare)، أثناء تنفيذه مهمة بحثية تتعلق بالإنفاق الطبي العام.

أستراليا تحتج على تأخر الإبلاغ عن الحادثة

ووفقاً لرئيس الوزراء الأسترالي أنتوني ألبانيزي، فإن الوكيل الذكي تمكن من الوصول إلى البوابة دون تصريح، رغم وجود قيود واضحة تمنعه من ذلك.

ووصف ألبانيزي الحادثة بأنها «غير مقبولة»، مؤكداً أن بلاده أبلغت شركة OpenAI بقلقها الشديد إزاء ما حدث، ولا سيما أن الواقعة تعود إلى حزيران الماضي، في حين لم تُخطر الشركة السلطات الأسترالية بها إلا في أيلول الجاري.

وكيل ذكي يتجاوز تعليمات التوقف

وأوضح رئيس الوزراء الأسترالي أن الجانب الأكثر إثارة للقلق يتمثل في تجاوز النظام تعليمات صريحة تطالبه بالتوقف عن محاولة الوصول إلى الموقع.

وقال للصحفيين إن الوكيل واجه عمليات حجب واضحة تخبره بعدم السماح له بالمتابعة، لكنه تمكن من إيجاد طريقة للالتفاف على تلك الحواجز، ولم يقبل الرفض جواباً.

واعتبر ألبانيزي أن الحادثة تكشف حدود الضوابط الأمنية التي تروج لها شركات الذكاء الاصطناعي بوصفها وسيلة لحماية منتجاتها وضمان استخدامها بصورة آمنة.

OpenAI توضح ملابسات الحادثة

من جانبها، أوضحت شركة OpenAI أن المشكلة نشأت أثناء محاولة أحد نماذجها تحديد الطريقة الأنسب لإنجاز المهمة المطلوبة منه.

وقالت الشركة في بيان إنها رصدت نشاطاً يتعلق بعدة مواقع وخدمات حكومية أسترالية، خلال محاولة نماذجها البحث عن إجابات، مشيرة إلى أن تلك النماذج اتخذت إجراءات لم تكن الشركة تقصد حدوثها.

حادثة سابقة على منصة Hugging Face

ولا تُعد هذه الواقعة الأولى من نوعها، إذ سبق أن أظهر نظام تجريبي تابع لشركة OpenAI سلوكاً مماثلاً خلال خضوعه للاختبار.

فقد توصل النظام إلى أن الطريقة الأنسب للحصول على الإجابات المطلوبة تتمثل في اختراق موقع تستضيفه منصة Hugging Face، ما أتاح له الاطلاع على الإجابات بصورة مباشرة.

وتكمن خطورة هذا النوع من الحوادث، بحسب الخبراء، في أن الأنظمة المعنية لم تُصمم أساساً لتنفيذ هجمات سيبرانية، لكنها قد تلجأ إلى إجراءات غير مصرح بها باعتبارها وسيلة لتحقيق أهداف أخرى.

خبراء يحذرون من مخاطر استقلالية الذكاء الاصطناعي

وفي هذا السياق، وصف موريس شيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، الحادثة بأنها تمثل تصعيداً كبيراً في مستوى الخطورة مقارنة بحوادث مماثلة شهدتها الأشهر الأخيرة.

بدوره، أوضح جيك مور، مستشار الأمن السيبراني في شركة «إسيت» (ESET)، أن وكلاء الذكاء الاصطناعي قد يستغلون الثغرات التي يعثرون عليها إذا كانت تساعدهم على إنجاز المهام المطلوبة منهم.

وأشار إلى أن المشكلة الأساسية تتمثل في عدم دمج الضوابط التي تمنع الوكلاء من اختراق المؤسسات داخل الخوارزميات نفسها.

ودعا مور إلى إخضاع نماذج الذكاء الاصطناعي لاختبارات أكثر صرامة قبل طرحها للاستخدام، محذراً من أن المنافسة المتسارعة بين الشركات لتطوير نماذج أكثر قوة قد تدفعها إلى إهمال بعض الاحتياطات الأمنية.

وأكد أن مراحل الاختبار في معظم المجالات التكنولوجية الأخرى تخضع لمعايير أكثر صرامة، في حين يبدو أن بعض وكلاء الذكاء الاصطناعي يتمتعون بحرية واسعة في تنفيذ المهام، على الأرجح نتيجة المنافسة الشديدة بين الشركات المطورة.