الجيلي بلوله البشير يكتب: حين يصبح الذكاء الاصطناعي أقوى من أدوات السيطرة عليه

لم يعد السؤال الأكثر أهمية في سباق الذكاء الاصطناعي هو: إلى أي مدى ستصبح النماذج أكثر ذكاءً؟ بل ربما أصبح السؤال الأكثر إلحاحًا: هل تتطور قدرتنا على حوكمة هذه الأنظمة بالسرعة نفسها التي تتطور بها قدراتها؟.

هذا السؤال يكتسب أهمية خاصة مع التحذيرات المتزايدة الصادرة من داخل صناعة الذكاء الاصطناعي نفسها بشأن مخاطر الأنظمة شديدة الاستقلالية، وإمكانية أن تصبح عملية السيطرة عليها أكثر تعقيدًا مع تطور قدراتها.

ومهما اختلفت التقديرات حول حجم هذه المخاطر أو توقيتها، فإن القضية الأساسية بالنسبة لمجالس الإدارات والجهات التنظيمية وإدارات المخاطر والتدقيق الداخلي ليست التنبؤ بما إذا كان الذكاء الاصطناعي سيخرج عن السيطرة، وإنما التأكد من أن المؤسسات لا تمنح الأنظمة الذكية سلطة تفوق قدرتها على حوكمتها.

من مخاطر التقنية إلى مخاطر القرار
لفترة طويلة تعاملت المؤسسات مع الذكاء الاصطناعي باعتباره أداة تقنية: نموذجًا يحتاج إلى بيانات جيدة، وضوابط للأمن السيبراني، واختبارات للدقة والانحياز والخصوصية.

لكن ظهور AI Agents والأنظمة الأكثر استقلالية يغيّر طبيعة المخاطر.

فالذكاء الاصطناعي لم يعد في بعض التطبيقات يكتفي بتحليل المعلومات أو تقديم التوصيات، بل أصبح قادرًا على تنفيذ سلسلة من المهام، والتفاعل مع أنظمة أخرى، واستخدام الأدوات، واتخاذ إجراءات لتحقيق هدف محدد مع تدخل بشري أقل.
وهنا تنتقل المخاطر من سؤال:
هل النموذج يعمل بصورة صحيحة؟
إلى سؤال أكثر عمقًا:
هل ينبغي للنموذج أن يمتلك أصلًا هذه الدرجة من سلطة اتخاذ القرار والتنفيذ؟.

وهذا التحول ينقل الذكاء الاصطناعي من نطاق إدارة مخاطر التقنية إلى نطاق حوكمة القرار المؤسسي.

عندما تصبح سرعة الذكاء الاصطناعي أسرع من سرعة الحوكمة
المشكلة الحقيقية ليست بالضرورة في ذكاء الخوارزمية، وإنما في الفجوة بين سرعة تطور القدرات وسرعة تطور الضوابط.
فالخوارزمية تستطيع تنفيذ آلاف العمليات خلال وقت قصير، بينما قد تحتاج المؤسسة إلى اجتماعات ولجان وموافقات متعددة لتعديل سياسة أو اعتماد ضابط جديد.

وكلما اتسعت هذه الفجوة، أصبحت المؤسسة أمام ما يمكن تسميته فجوة الحوكمة Governance Gap.
وتزداد خطورة هذه الفجوة عندما تُمنح الأنظمة الذكية صلاحيات للوصول إلى البيانات الحساسة، أو تنفيذ معاملات مالية، أو تعديل البرمجيات، أو التعامل مع العملاء، أو اتخاذ قرارات ذات أثر قانوني أو مالي أو استراتيجي.

لذلك فإن الحوكمة الفعالة للذكاء الاصطناعي يجب ألا تسأل فقط عن جودة النموذج، وإنما عن حدود سلطته.
من يملك زر الإيقاف؟.

من أهم الأسئلة التي ينبغي أن تطرحها مجالس الإدارات:
إذا اتخذ نظام ذكاء اصطناعي سلسلة قرارات غير متوقعة، فمن يستطيع إيقافه؟
وهل يمكن إيقافه فورًا؟
وهل تمتلك المؤسسة القدرة التقنية والتشغيلية على استعادة السيطرة؟
وهل جرى اختبار هذه القدرة فعلًا أم أنها مجرد إجراء مكتوب في السياسات؟.

إن وجود ما يسمى Kill Switch أو آلية الإيقاف ليس مجرد وظيفة تقنية، بل يمثل في جوهره قضية حوكمة.
فالحوكمة الحقيقية لا تعني فقط تحديد من يستطيع تشغيل النظام، وإنما أيضًا تحديد من يستطيع إيقافه، ومتى، وبأي صلاحيات، وتحت أي ظروف.

Human-in-the-Loop لم يعد كافيًا كشعار
كثير من المؤسسات تطمئن إلى وجود مفهوم Human-in-the-Loop، أي بقاء الإنسان داخل دورة اتخاذ القرار.
لكن السؤال الأهم ليس: هل يوجد إنسان؟
بل:
هل يمتلك هذا الإنسان الوقت والمعلومات والصلاحية والقدرة الفعلية على الاعتراض؟
وجود موظف يضغط على زر الموافقة بصورة روتينية لا يمثل رقابة بشرية حقيقية.

الرقابة الفعالة تتطلب أن يكون الإنسان قادرًا على فهم القرار بدرجة مناسبة، وإيقافه أو تعديله، وأن تكون هناك حدود واضحة للقرارات التي لا يجوز تفويضها بالكامل للخوارزمية.

وبذلك تصبح القضية Human Authority أكثر من مجرد Human-in-the-Loop.
شهية مخاطر جديدة لعصر الذكاء الاصطناعي
هنا يبرز دور Risk Appetite.
فكما تحدد المؤسسات مقدار مخاطر الائتمان أو السيولة أو السوق التي تستطيع تحملها، ستحتاج بصورة متزايدة إلى تحديد شهية مخاطر الذكاء الاصطناعي.

ما مقدار الاستقلالية المقبولة؟
ما القرارات التي يجوز تفويضها للآلة؟
ما القرارات التي تتطلب موافقة بشرية؟
وما القرارات التي يجب أن تظل بشرية بالكامل مهما بلغت قدرات الخوارزمية؟
هذه الأسئلة يجب ألا يجيب عنها فريق التقنية منفردًا، لأنها في جوهرها أسئلة تتعلق بالاستراتيجية والمخاطر والمساءلة المؤسسية.

التدقيق الداخلي أمام اختبار جديد
هذا التحول يفرض أيضًا تحديًا مختلفًا على مهنة التدقيق الداخلي.
فمراجعة الذكاء الاصطناعي في المستقبل لن تقتصر على اختبار جودة البيانات أو أمن النموذج أو الالتزام بالسياسات.

سيحتاج المدقق إلى تقييم منظومة أوسع تشمل صلاحيات الأنظمة الذكية، ودرجة استقلاليتها، وآليات التدخل البشري، وإدارة مخاطر النماذج، وضوابط الوكلاء المستقلين، ومسارات التصعيد، وآليات الإيقاف، وقدرة المؤسسة على استعادة السيطرة عند حدوث سلوك غير متوقع.

وبعبارة أخرى، سينتقل التدقيق الداخلي من مراجعة الخوارزمية إلى تقديم تأكيد مستقل حول حوكمة السلطة التي منحتها المؤسسة للخوارزمية.

السؤال الذي يجب أن يسبق الخوارزمية
قد تكون التحذيرات الحالية بشأن مستقبل الذكاء الاصطناعي متباينة في تقديراتها، وقد تختلف المؤسسات والباحثون حول مدى اقتراب الأنظمة شديدة الاستقلالية.

لكن من منظور الحوكمة، لا ينبغي انتظار تحقق أسوأ السيناريوهات حتى نبدأ في بناء الضوابط.
فالقاعدة الأكثر أهمية ربما تكون بسيطة:

كلما ازدادت قدرة الذكاء الاصطناعي على اتخاذ القرار، يجب أن تزداد قوة الحوكمة المحيطة به.

والمؤسسة الأكثر استعدادًا للمستقبل لن تكون بالضرورة المؤسسة التي تمتلك أقوى نموذج ذكاء اصطناعي، بل المؤسسة التي تعرف بدقة ما الذي تسمح للآلة بأن تقرره، وما الذي تمنعها من تقريره، ومن يراقبها، ومن يحاسبها، ومن يستطيع إيقافها.

لأن التحدي الحقيقي في عصر الخوارزميات قد لا يكون في صناعة ذكاء اصطناعي أكثر قدرة فحسب، بل في بناء حوكمة أكثر ذكاءً من المخاطر التي يصنعها هذا الذكاء.
خبير الحوكمة الرقمية وإدارة المخاطر