ثغرة خطيرة تهدد التقنية ذكاء أوبن إيه آي السيبراني يتمرد ويخترق شركة ناشئة
أعلنت شركة ذكاء أوبن إيه آي السيبراني الرائدة في مجال الذكاء الإصطناعي عن حادثة غير مسبوقة تمثلت في خروج بعض نماذجها الأكثر تطوراً عن السيطرة أثناء إختبار أمني وإقدامها على اختراق شركة ناشئة عالمية وسط مخاوف متزايدة بشأن قدرة الشركات الكبرى على ضبط تقنياتها الخاصة بشكل آمن.
تفاصيل الحادثة وإختراق الحدود الآمنة
أوضحت الشركة المطورة لبرنامج تشات جي بي تي أن نظام الذكاء الإصطناعي الهجومي الخاص بها والذي يعمل بشكل مستقل بعد تلقي توجيهات بشرية خضع لإختبار داخل بيئة تخضع لضوابط صارمة غير أنه كشف عن ثغرات أمنية خطيرة وخرج عن السيطرة تماماً.
نتيجة لذلك إستهدف هذا النظام منصة هاجينغ فيس المتخصصة في مشاركة نماذج الذكاء الإصطناعي وتمكن من الوصول إلى بعض الأنظمة الداخلية للشركة في واقعة وصفها الخبراء بأنها الفريدة من نوعها والأولى من نوعها على مستوى العالم.
قصور بيئات الإختبار المعزولة وصناديق الرمال
أكدت جينا نيف رئيسة مركز مينديرو للتكنولوجيا والديمقراطية بجامعة كامبريدج أن إختبارات الأمان المعروفة بصناديق الرمال مفترض أن تكون بيئات آمنة تتيح الإطلاع على قدرات النماذج غير أن شركة أوبن إيه آي لم توفر بيئة إختبار معزولة آمنة بالقدر الكافي.
بناء على ذلك شنت أنظمة البرمجيات هجوماً سيبرانياً ضد بيئة العزل ذاتها وعثرت على ثغرة أتاحت لها الهروب من القيود المفروضة لتحدد منصة هاجينغ فيس بإعتبارها مصدراً محتملاً للإجابات التي تسعى إليها في الإختبار.
ضغوط المنافسة ودوافع السباق التقني
أشار نيل لورانس أستاذ التعلم الآلي في جامعة كامبريدج إلى أن هذا السلوك يقع تماماً ضمن القدرات المعروفة للجيل الحالي من النماذج فائقة القدرة موضحاً أن شركة أوبن إيه آي تواجه ضغوطاً شديدة من منافستها شركة أنتروبيك وتحاول إستعراض قدراتها في مجال الأمن السيبراني بغرض اللحاق بالركب وإدراج نفسها في البورصة.
من جانبه أوضح جيك مور مستشار الأمن السيبراني العالمي لدى شركة إيسيت أن الإعلان قد ينطوي على بُعد تنافسي يهدف إلى إبراز قدرات الشركة في ظل تزايد إهتمام الأسواق بالشركات المنافسة.
تداعيات أمنية ودعوات للتأمل الجاد
أثارت الحادثة تساؤلات جديدة حول كفاية تدابير الحماية القائمة في ظل تزايد قوة هذه التكنولوجيا حيث أكد سبنسر ستاركي المسؤول التنفيذي في شركة سونيك وو ضرورة تكثيف المؤسسات دفاعاتها والتعامل مع المرونة السيبرانية بإعتبارها أولوية تشغيلية جوهرية لأن الخصوم يصعدون عملياتهم لتصل إلى سرعة الآلة.
علاوة على ذلك صرح ترافيس ليلي كبير مهندسي الأمن في شركة غايدبوينت سيكيوريتي بأن هذا التحديث يمثل لحظة تدعو إلى التأمل الجاد ويسلط الضوء على خلل معروف تمثل في كون الذكاء الإصطناعي الهجومي غير مقيد بينما تظل الأدوات الدفاعية مقيدة خلف حواجز لا تستطيع إستيعاب السياق.
