«نصف قطر الانفجار» في البرمجة بمساعدة الذكاء الاصطناعي: كيف أعاد حادث انقطاع أمازون كتابة قواعد الموافقة على الكود؟

نصف قطر الانفجار في البرمجة بمساعدة الذكاء الاصطناعي: كيف تعيد حادثة انقطاع أمازون كتابة قواعد مراجعة الكود

في الوقت الذي يتغلغل فيه الذكاء الاصطناعي التوليدي بسرعة في هندسة البرمجيات اليوم، أثارت رسالة تبدو داخلية اهتمام قطاع التكنولوجيا العالمي. وفقًا لتقرير صحيفة "فاينانشال تايمز"، عقدت أمازون اجتماعًا لكبار المهندسين بعد تعرضها لانقطاعات متعددة في الخدمة، لمناقشة سلسلة من الحوادث ذات "نصف قطر انفجار مرتفع". وأظهرت محاضر الاجتماع أن هذه الحوادث تُعزى إلى "التغييرات المساعدة بذكاء اصطناعي توليدي (Gen-AI)" — أي استخدام أدوات الذكاء الاصطناعي التوليدي لكتابة التعليمات البرمجية، في حين أن أفضل الممارسات والضمانات لهذه الأدوات "لم يتم وضعها بالكامل بعد". وردت أمازون رسميًا بأن هذا كان مجرد اجتماع روتيني، لكن الكلمة المفتاحية "نصف قطر انفجار مرتفع" كشفت خطورة المشكلة.

من "أداة الكفاءة العجيبة" إلى "مصدر المخاطر"

على مدى العامين الماضيين، انتشرت مساعدات البرمجة بالذكاء الاصطناعي بسرعة داخل شركات التكنولوجيا الكبرى. يستخدمها المطورون لتوليد الدوال، وإعادة هيكلة الواجهات، واستكمال الاختبارات، وحتى تقديم كود إنتاج مباشرة. تحت ضغط المنافسة التي تعلي قيمة الكفاءة، يُستخدم الكود المولّد بالذكاء الاصطناعي كـ"قوى عاملة رقمية". ومع ذلك، كشفت حادثة أمازون هذه إشارة خطيرة: المشكلة الأكبر في الكود المولّد بالذكاء الاصطناعي ليست كثرة أخطائه، بل أنه في الغالبية العظمى من الحالات يبدو *صحيحًا*، بينما يتسبب في أعطال متسلسلة في الحالات الحدّية أو في التفاعلات بين الأنظمة.

"نصف قطر الانفجار" هو مصطلح هندسي يشير إلى نطاق النظام الذي قد يتأثر بمكوّن معطوب. في بيئة الحوسبة السحابية، قد يؤدي خطأ إعداد واحد إلى انقطاعات متعددة في الخدمة حول العالم. عندما يُكتب الكود بمساعدة الذكاء الاصطناعي بسرعة عالية جدًا في الأنظمة الأساسية، قد يتم تضخيم حالة حدّية واحدة تم تجاهلها بسرعة عبر استدعاءات الخدمات المصغّرة، وتبعيات البيانات، وآليات التوسع التلقائي. "نصف قطر الانفجار المرتفع" يعني أن هذه الأعطال لم تعد محلية ويمكن السيطرة عليها، بل تلامس أدنى مستويات البنية التحتية.

لماذا يصعب مراقبة مخاطر كود الذكاء الاصطناعي؟

تعتمد مراجعة الكود التقليدية على مهندسين ذوي خبرة لتحديد المشكلات المحتملة. لكن الكود المولّد بالذكاء الاصطناعي غالبًا ما يحمل "معقولية إحصائية" — فهو يحاكي الأنماط الشائعة في بيانات التدريب، لكنه يفتقر إلى فهم عميق لمنطق العمل الحالي، واتساق البيانات، وآليات تحمّل الأخطاء في النظام. والأكثر إثارة للقلق، عندما يعتاد المهندسون على قبول اقتراحات الذكاء الاصطناعي، يتراجع انتباههم في المراجعة تدريجيًا. قد لا يقرأ المطور الكود سطرًا بسطر، بل يلقي نظرة سريعة ويقول "يبدو لا بأس به" ثم يعتمده.

مطالبة أمازون لكبار المهندسين بالتدخل هي في الواقع تصحيح لهذا "تشتت الانتباه". إن عبارة "أفضل الممارسات والضمانات لم يتم وضعها بعد" الواردة في الاجتماع توحي بأن عملاق التكنولوجيا يعيد تعريف حدود التطوير بمساعدة الذكاء الاصطناعي: أي أنواع الكود يمكن كتابتها بالذكاء الاصطناعي، وأيها يجب أن يخضع لتحقق بشري سطرًا بسطر؟ وهل ينبغي أن تتبنى عملية المراجعة مستويات مختلفة من التدقيق بناءً على درجة خطورة التغيير؟

من التشجيع إلى الحوكمة: التحول الاستراتيجي لعمالقة التكنولوجيا على مدى السنوات القليلة الماضية، كان عمالقة الحوسبة السحابية بما في ذلك أمازون ومايكروسوفت وجوجل، إلى جانب شركات صناعة الرقائق، يروّجون بقوة لأدوات البرمجة بالذكاء الاصطناعي، معتبرين إياها مفتاحًا لزيادة إنتاجية المطورين. ومع ذلك، يوضح هذا الحادث أنه عندما ينتقل الذكاء الاصطناعي من دعم الأعمال الطرفية إلى الأنظمة الأساسية، يتعين على الشركات إنشاء إطار حوكمة هندسية جديد.

هذه ليست مسألة «منع الذكاء الاصطناعي من كتابة الكود» فحسب، بل «استخدام الذكاء الاصطناعي على المستوى الصحيح». على سبيل المثال، يمكن أن يستمر الذكاء الاصطناعي في توليد السكربتات الأداتية منخفضة المخاطر، والتعليقات التوثيقية، والكود النموذجي؛ لكن الوحدات عالية التأثير مثل المصادقة ومسارات الدفع وترحيل البيانات يجب أن تحتفظ بتدخل بشري أقوى. باستدعاء المهندسين الكبار، تخلق أمازون فعليًا نموذج «موافقة تصنيف المخاطر» — حيث يُعهد بفحص مخرجات الذكاء الاصطناعي إلى من لديهم الفهم الأعمق للنظام ككل.

هذا التحول يشابه بشكل لافت المسار الذي اتخذه التبني المبكر للحوسبة السحابية. كانت الخدمات السحابية تُعامل في البداية على أنها «خطة لتوفير النفقات»، ثم أدركت الشركات لاحقًا أنها بحاجة إلى نموذج جديد لتقاسم المسؤولية الأمنية. والأمر نفسه ينطبق على البرمجة بالذكاء الاصطناعي: في البداية كان المطلوب «الكتابة بشكل أسرع»، أما الآن فيجب التفكير في «مدى اتساع الانفجار عند حدوث خطأ».

جرس إنذار للصناعة

حادثة أمازون ليست ظاهرة معزولة. على مستوى العالم، بدأ عدد متزايد من الشركات في دمج الذكاء الاصطناعي في خط أنابيب تسليم البرمجيات. أدوات مثل GitHub Copilot وAmazon CodeWhisperer وGoogle Code Assist تخدم ملايين المطورين. في الوقت نفسه، تتزايد الأبحاث حول أمان الكود المولّد بالذكاء الاصطناعي: فبعض الدراسات وجدت أن احتمال احتواء الكود المولّد بالذكاء الاصطناعي على ثغرات معروفة ليس منخفضًا، وبعضها الآخر يشير إلى أن أداء الذكاء الاصطناعي في السياقات المعقدة لا يزال غير مستقر.

غير أن هذه الأبحاث لم تمنع الشركات من السعي وراء الكفاءة. إن كشف النقاب عن اجتماع داخلي لأمازون هو بمثابة تحذير للصناعة: لا يكفي مجرد تقييم النماذج، بل يجب أن تتطور العملية الهندسية ذاتها. مراجعة الكود، وتغطية الاختبارات، والنشر التدريجي، وآليات التراجع — هذه الأدوات التقليدية تحتاج إلى إعادة تصميم للتكيف مع «المحتوى المولّد بالذكاء الاصطناعي» كمصدر إدخال جديد.

المستقبل: إدارة كود الذكاء الاصطناعي بعقلية «غلاف الأمان»

تحتاج المفاعلات النووية إلى غلاف أمان سميك للسيطرة على طاقة الانشطار. وكذلك تحتاج البرمجة المدعومة بالذكاء الاصطناعي إلى آليات أمان مماثلة: تقييد نطاق تأثير التغييرات التي يجريها الذكاء الاصطناعي (مثل تقليل الصلاحيات، أو السماح بتعديل وحدات محددة فقط)، وفرض طبقة تحقق تلقائية إضافية للكود الناتج عن الذكاء الاصطناعي، وإنشاء نظام أكثر حساسية لكشف الحالات الشاذة، والاحتفاظ بحق النقض النهائي للمهندسين البشر.

ما تمر به أمازون هو قضية مشتركة لقطاع التكنولوجيا: كيف نُسرّع الابتكار وفي الوقت نفسه لا نسمح للذكاء الاصطناعي بأن يتحول إلى قنبلة ذات نصف قطر انفجار واسع لا يمكن السيطرة عليها. لن تتراجع الثورة التكنولوجية أبدًا بسبب حادث واحد، لكنها ستجبر الناس على تغيير طريقة استخدامهم للأدوات. لن يحل الذكاء الاصطناعي محل المهندسين، لكن نمط التعاون بين المهندسين والذكاء الاصطناعي سيعاد تشكيله من جديد بفعل أزمة «نصف قطر الانفجار» هذه.في المستقبل المنظور، لن يكون اعتماد الكود مسألة "هل هناك من اطّلع عليه؟" بل مسألة "كم من الجهد العقلي البشري استُثمر في كود الذكاء الاصطناعي؟". ربما يكون اجتماع أمازون هذا هو نقطة التحول التي تنقل الصناعة بأكملها من الحماس إلى الوعي.

---

المصدر الأصلي للتقرير: In wake of outage, Amazon calls upon senior engineers to address issues created by 'Gen-AI assisted changes' — Tom's Hardware