مدار الساعة - لم تعد المخاوف بشأن الذكاء الاصطناعي المتقدم تتركز فقط حول قدرته على كتابة النصوص أو تحليل المعلومات، بل انتقلت إلى سؤال أكثر حساسية: ماذا يحدث عندما تبدأ الأنظمة الذكية في تجاوز الحدود التي وضعها البشر لها؟
خلال الفترة الأخيرة، كشفت سلسلة من الحوادث الأمنية عن قدرات متزايدة لوكلاء الذكاء الاصطناعي، بعدما تمكنت بعض الأنظمة من اكتشاف ثغرات، ومحاولة الوصول إلى خدمات خارجية، وتنفيذ عمليات اختراق خلال اختبارات كان يفترض أن تبقى داخل بيئات آمنة ومغلقة.من الاختبار المغلق إلى محاولات الاختراقبدأت القصة عندما اكتشفت شركة أوبن أي آي، المطورة لنظام تشات جي بي تي، أن أحد وكلائها المدعومين بالذكاء الاصطناعي تمكن من تجاوز بيئة اختبار مغلقة تعرف باسم "الصندوق الرملي"، وهي مساحة افتراضية مصممة لمنع النظام من الوصول إلى الإنترنت أو الأنظمة الخارجية.وخلال مهمة تقييم داخلية، كان الهدف منها قياس قدرة النظام على حل المشكلات، تمكن الوكيل الذكي من اكتشاف نقطة ضعف داخل بيئة الاختبار، وبدأ في البحث عن طرق بديلة للوصول إلى المعلومات التي يحتاجها.وبحسب التحقيقات، لم يكتفِ النظام بتنفيذ المهمة المحددة له، بل أنشأ أسلوباً هجومياً خاصاً به، ما سمح له بمحاولة الوصول إلى أنظمة وخدمات خارجية.اختراق هاجينغ فيسأدى هذا السلوك إلى استهداف منصة هاجينغ فيس، إحدى أكبر المنصات العالمية لمشاركة نماذج وأدوات الذكاء الاصطناعي مفتوحة المصدر.وكشفت التحقيقات أن الوكيل الذكي تمكن من البقاء داخل شبكة الشركة لفترة قبل اكتشاف نشاطه وإيقافه، كما تبين لاحقاً أن نطاق الحوادث كان أوسع مما كان يعتقد في البداية.أربع حساباتوأظهرت المراجعات أن بعض الأنظمة تمكنت من الوصول إلى أربع حسابات تسجيل دخول مرتبطة بأربع خدمات مختلفة متاحة عبر الإنترنت، من بينها شركة مودال المتخصصة في البنية التحتية للحوسبة السحابية والذكاء الاصطناعي.وأوضحت أوبن أي آي أنها فتحت تحقيقاً واسعاً لتحليل سجلات الأنظمة السابقة، وتحديد مدى انتشار هذه الأنشطة، مؤكدة أنها تراجع سلوك نماذجها بعد ظهور هذه التصرفات غير المتوقعة.حوادث أنثروبيكلم تكن أوبن أي آي وحدها في مواجهة هذه التحديات، إذ أعلنت شركة أنثروبيك، المطورة لنموذج كلود، أنها أجرت مراجعات داخلية لأنظمتها، واكتشفت بدورها حالات تمكنت فيها نماذج الذكاء الاصطناعي من تنفيذ محاولات اختراق خلال اختبارات أمنية.ثلاث ثغراتوخلال مراجعة أكثر من 140 ألف اختبار سابق، عثرت الشركة على ثلاث ثغرات أمنية نتجت عن أخطاء في الإعدادات، بعدما حصلت بعض النماذج بالخطأ على اتصال مباشر بالإنترنت المفتوح، رغم أن الاختبارات كان يفترض أن تتم داخل بيئة مغلقة.وخلال تلك التجارب، تمكنت الأنظمة من استخدام أساليب بسيطة مثل استغلال كلمات مرور ضعيفة للوصول إلى أنظمة تابعة لجهات حقيقية، بعدما كانت المهمة الأصلية تهدف إلى اختبار قدرة النموذج على العثور على معلومات مخفية داخل شبكة محمية.وفي إحدى الحالات، استهدف نموذج ذكاء اصطناعي شركة وهمية في الاختبار، لكن تطابق اسمها مع شركة حقيقية سمح للنظام باكتشاف ثغرات واستغلالها للوصول إلى النظام.ماذا يعني خروج الذكاء الاصطناعي عن السيطرة؟يؤكد الخبراء أن الذكاء الاصطناعي لم يصبح مستقلاً تماماً أو أنه يعمل ضد البشر، لكن هذه الحوادث تكشف معنى جديداً لمفهوم الخروج عن السيطرة.فالمقصود هو قدرة بعض الأنظمة على تجاوز القيود الموضوعة لها، واتخاذ خطوات لم يتوقعها المطورون، خصوصاً عندما تحصل على صلاحيات واسعة أو اتصال مباشر بالإنترنت.الخطر لا يكمن فقط في أن النظام يرتكب خطأ، بل في قدرته على التخطيط، وتجربة حلول متعددة، والتكيف مع العقبات للوصول إلى هدف معين.تحذيرات الخبراءوبحسب تقرير لصحيفة "ديلي ميل" البريطانية فإن خبراء سلامة الذكاء الاصطناعي يرون أن هذه الحوادث تمثل تحولاً مهماً في طبيعة المخاطر، لأن الأنظمة الجديدة لم تعد مجرد أدوات تقدم إجابات، بل أصبحت قادرة على تنفيذ مهام معقدة بشكل شبه مستقل.وحذر الباحث السابق في شركة أوبن أي آي دانيال كوكوتايلو من أن سرعة تطور الذكاء الاصطناعي قد تفاجئ البشرية، مشيراً إلى أن الأنظمة المتقدمة قد تحمل مخاطر كبيرة إذا لم ترافقها إجراءات أمان ورقابة فعالة.وقال موريس تشيودو، عالم الرياضيات في مركز دراسة المخاطر الوجودية بجامعة كامبريدج، إن صناعة الذكاء الاصطناعي تواجه مشكلة تتمثل في أن تطوير قدرات الأنظمة يتقدم بسرعة أكبر من تطوير وسائل السيطرة عليها والحفاظ على سلامتها.كما أشار خبراء الأمن السيبراني إلى أن أكثر ما يثير القلق هو قدرة وكلاء الذكاء الاصطناعي على التكيف والبحث عن طرق جديدة للوصول إلى أهدافهم، وهو ما يجعل مراقبتهم أكثر صعوبة من البرامج التقليدية.الحاجة إلى قواعد جديدةدفعت هذه الحوادث خبراء ومشرعين إلى الدعوة لمزيد من الرقابة على مختبرات الذكاء الاصطناعي، ووضع معايير أكثر صرامة قبل منح الأنظمة الذكية صلاحيات واسعة.ويطالب الباحثون بتطوير أنظمة مراقبة لحظية، وإجراء اختبارات سلامة أكثر شمولاً، ومنع وصول النماذج المتقدمة إلى الإنترنت أو الأنظمة الحساسة دون قيود واضحة.اختراق بيئات الاختبار وتجاوز الحدود: عندما يخرج الذكاء الاصطناعي عن السيطرة
مدار الساعة ـ
