تسريع اكتشاف الثغرات بواسطة الذكاء الاصطناعي يبطئ الإصلاح: معضلة الأمن في جامعة موناش وسبل الخروج

عندما يُسرِّع الذكاء الاصطناعي اكتشاف الثغرات، ويتعطل الإصلاح في "عقلية الأمس"

تواجه فرق أمن التطبيقات تناقضًا حادًا متزايدًا: فقد وصلت سرعة اكتشاف الثغرات إلى مستويات تاريخية بفضل أدوات الذكاء الاصطناعي، لكن كفاءة الإصلاح لم تواكب هذا التقدم. صرّح لوك بامبتون، المسؤول عن أمن التطبيقات في جامعة موناش، في مقابلة حديثة قائلاً: "لم يحدث أبدًا أن تم اكتشاف الثغرات بهذه السرعة، لكن التأخر في الإصلاح لا يزال قائمًا". يكشف هذا الرصد عن مشكلة هيكلية عميقة في أمن التطبيقات في عصر الذكاء الاصطناعي.

تضم جامعة موناش اليوم أكثر من 98 ألف طالب و20 ألف موظف، وتدير 500 ألف عنوان IP. وباعتبارها مؤسسة تعليم وبحوث عالمية، فهي تدعم أكثر من 40 فريق تطوير، يضم أعضاؤهم من مهندسين مخضرمين إلى طلاب جامعيين. لا تعتمد استراتيجية بامبتون على فرض أدوات موحدة، بل ضمان نتائج أمنية متسقة. ومع ذلك، فإن التغلغل السريع للذكاء الاصطناعي يخل بالتوازن القائم.

يشير بامبتون إلى أن طرق العمل الحالية لا تزال عالقة في "عصر ما قبل الذكاء الاصطناعي"، فهي لم تُصمم لـ"إصلاح مشكلات الإنتاج التي كانت يجب إصلاحها بالأمس". لقد أصبح الذكاء الاصطناعي بمثابة "مضاعف قوة" للمنتجات الرقمية بشكل شامل، لكن الجانب الأمني ما زال يلحق بالركب. يذكر بامبتون على وجه الخصوص التطورات الحديثة مثل نموذج Mythos من شركة Anthropic، مما يُظهر أن الذكاء الاصطناعي التوليدي يتغلغل في مجالات أمن التطبيقات المتقدمة. في رأيه، ستكون الخطوة التالية هي الإصلاحات المدعومة بالذكاء الاصطناعي الموثوق، لكن "ما زلنا في مرحلة تسريع الذكاء الاصطناعي للتسليم، بينما يتخلف الأمن في اللحاق".

تهديدات سلسلة التوريد ومخاطر "التفريغ المعرفي"

بالإضافة إلى الفجوة الزمنية بين الاكتشاف والإصلاح، أشار بامبتون إلى بُعدين جديدين للخطر: هجمات سلسلة توريد البرمجيات و"التفريغ المعرفي" لدى المطورين.

"لقد وصلت هجمات سلسلة التوريد إلى ذروتها، كما أن بيانات اعتماد المطورين تواجه تهديدًا كبيرًا." يُذكّر بأنه في عصر الذكاء الاصطناعي، لا تزال آليات فحص الثغرات في المكتبات التابعة لجهات خارجية ضرورية. لكن الخطر الأكثر خفاءً يكمن في أن المطورين، عندما يعتمدون بشكل مفرط على أدوات توليد الكود بالذكاء الاصطناعي، قد تتراجع مهاراتهم الأمنية تدريجيًا. وقد تم إثبات تأثير "التفريغ المعرفي" هذا في دراسات متعددة، وقد صنفه بامبتون كأولوية تعليمية.

لهذا السبب، تجعل جامعة موناش التعليم بعدًا محوريًا في استراتيجيتها الأمنية. يرى بامبتون أن موظفي الأمن بحاجة إلى بناء قنوات اتصال مع المطورين بنشاط، "إذا كنت لا تعرفني، أو تشعر بأنني غير متاح، فلن أتمكن من مساعدتك حقًا". وهو يتعامل مع حل المشكلات الأمنية كـ"تحدي تسويق ووعي"، وليس مجرد مشكلة تقنية بحتة.

قدوم الحواسيب الفائقة: ساحة معركة جديدة للفرق الأمنية في عصر الذكاء الاصطناعي

مع نشر جامعة موناش للحاسوب الفائق MAVERIC AI ومجموعة من أجهزة تطوير الذكاء الاصطناعي المخصصة، يتحول محور عمل الفرق الأمنية نحو الذكاء الاصطناعي وأساليب العمل غير الحتمية. يقول بامبتون، بصفته ممارسًا في أمن التطبيقات، إنه يهتم بشكل متزايد بكيفية توجيه المطورين لاستخدام هذه التقنية بشكل مسؤول."ما نسعى إليه في النهاية هو كود آمن، وكود وظيفي، وحلول قوية قابلة للتوسع." ويشير إلى أنه على الرغم من تغير حزم التقنيات، إلا أن المبادئ الأساسية لأمن التطبيقات - التواصل والتعاون البشري - لا تزال سارية. في عالم تتزايد فيه أدوات الذكاء الاصطناعي أتمتةً، أصبحت الثقة والتواصل بين البشر "الرقعة الأمنية" الأكثر أهمية.

الاتجاه طويل المدى: أمن الذكاء الاصطناعي يحتاج إلى منطق تنظيمي جديد

حالة موناش ليست حالة منفردة. من منظور عالمي، يتطور تطبيق الذكاء الاصطناعي في مجال الأمن من "المساعدة في الاكتشاف" إلى "الإصلاح الذاتي"، لكن العمليات والثقافات التنظيمية غالبًا ما تتخلف عن الركب. تحتاج الشركات إلى إعادة النظر في دورة حياة إدارة الثغرات: عندما يتمكن الذكاء الاصطناعي من اكتشاف ثغرة في غضون دقائق، لا ينبغي أن تعمل عملية الإصلاح بوحدات أسابيع أو أشهر.

التحدي الأعمق هو أن الذكاء الاصطناعي نفسه قد يصبح سطح هجوم. مع اعتماد المطورين على كود يولده الذكاء الاصطناعي، ينمو "التبعيات الخفية" في سلسلة التوريد بشكل هائل. يجب على فرق الأمن تطوير قدرات جديدة لتدقيق الكود المولد بواسطة الذكاء الاصطناعي مع تجنب انهيار الديون التقنية.

بامبتون متفائل بالمستقبل، لكنه يؤكد أن العمل الأساسي لا يمكن إهماله. في موجة الذكاء الاصطناعي، تحاول جامعة موناش تقديم نموذج للحوكمة الأمنية في مجال التعليم العالي من خلال مزيج من "الاتصال البشري + التعليم المستمر + الحوسبة الخاضعة للرقابة". قد يشير هذا الاستكشاف إلى الاتجاه العام لتطور أمن التطبيقات في عصر ما بعد الذكاء الاصطناعي: كلما زادت أتمتة التكنولوجيا، زاد أهمية دور الإنسان.