وكلاء AI بلا لجام… ماذا يعني أسبوع فقدان السيطرة للمغرب؟

في الأسبوع الذي نال فيه الذكاء الاصطناعي، لأول مرة، حقيبة وزارية تحمل اسمه ضمن الهندسة الحكومية الجديدة التي عينها جلالة الملك محمد السادس، كانت تصلنا كباقي المترقبين والمتابعين، من الهند إشارة مقلقة، ففي 15 أكتوبر من العام الجاري، أعلن فريق الاستجابة للطوارئ المعلوماتية CERT-In أن وكلاء ذكاء اصطناعي AI Agent كانوا قيد الاختبار ثم تجاوزوا المهام المسندة إليهم، ودخلوا أنظمة حية لمؤسسات هندية واطّلعوا على بيانات سرية، دون أن تنتبه أية مؤسسة لقرار الآلة.

قد يبدو الخبر بعيدا عنا كخبراء مغاربة، لكنه أقرب مما نتصور كونه يختصر سؤال المرحلة كلها، ماذا يحدث حين لا تكتفي الآلة بالإجابة، بل تبدأ في الفعل؟ ومن نساءل حين تخطئ؟ سبق لي أن تطرقت قبل سنة في عدة مقالات مماثلة لنفس الاشكاليات وحاولت الاجابة عنها وفق ما كان متاحا من معارف تقنية وحلول رقمية قد تسند لأهل الاختصاص للبث والبحث والتدقيق.

من المعلوم أن الذكاء الاصطناعي اليوم، لم يعد ذلك المساعد التوليدي الذي ينتظر أسئلتنا، الشركات الكبرى تتسابق اليوم نحو ما يُعرف بالذكاء الاصطناعي الوكيل (الذكاء الخارق الوكيل حسب تسمية دونالد ترامب الجديدة)، أنظمة تُمنح هدفا فتخطط وتنفذ وتصحح أخطاءها بنفسها، في 13 أكتوبر أطلقت غوغل نموذج Gemini 4 Argon المخصص للمهام الطويلة متعددة الخطوات، وقبله بيوم كشفت ميتا عن نموذجي Muse Wonder اللذين يثابران نحو الهدف ويجربان طرقا بديلة حين تتعثر المهمة، اللافت أن ميتا حرصت على التذكير بأن نموذجها يعود إلى المستخدم قبل الإقدام على الأفعال المهمة، هذه الجملة الصغيرة هي جوهر المعركة كلها، من يقرر ما هو مهم؟ وماذا لو أخطأ الوكيل التقدير، كما حدث في الهند؟

ثغرات الحادث الهندي لم تكن عبقرية، بيانات اعتماد منسية في مستودعات الشيفرة، وصلاحيات سحابية أوسع من اللازم، الوكيل الذكي لم يكسر الأقفال، بل وجد الأبواب مفتوحة، وهذا درس مباشر لإداراتنا ومقاولاتنا، التي تتسارع رقمنتها أكثر مما تتسارع ثقافتها الأمنية وهنا يمكن الحديث عن فقدان للسيطرة.

ولنذهب بعيدا في التحليل لنشمل به مجالات أكثر حساسية داخل أجهزة الدولة، فإذا كان فقدان السيطرة على وكيل مدني يعني تسرّب بيانات، فإن فقدانها في الميدان العسكري يعني شيئا آخر تماما، وهنا تحديدا يتسارع الإيقاع، ففي مؤتمر رابطة الجيش الأمريكي AUSA بواشنطن المنظم بين 12 و 14 أكتوبر، قال وزير الدفاع بيت هيغسيث إن البنتاغون يريد رفع مخزونه من الأسلحة الذاتية من آلاف الوحدات إلى الملايين.

وفي الأسبوع نفسه كشفت صحيفة Military Times عن مذكرة لإنشاء قيادة خاصة بالأنظمة الذاتية داخل الجيش الأمريكي، بعد إعلان قيادة قتالية رباعية النجوم للحرب الذاتية، صحيح أن مسؤولا أمريكيا أكد أن إبقاء الإنسان في الحلقة يظل القاعدة في ساحة المعركة، لكن المؤتمر نفسه شهد عرض مسيّرة مزودة برشاش يُطلب منها تحديد الأهداف والاشتباك معها من الجو، دون أن يتضح أين يقف الإنسان في هذه السلسلة، المبدأ مُعلَن، أما آليات التحقق منه فغائبة وهذا ما ينبغي أن يشغلنا، حين تصبح الاستقلالية بنية مؤسسية دائمة لدى القوى الكبرى، تتحول بسرعة إلى معيار يفرض نفسه على الجميع، بما في ذلك الدول التي لم تشارك في صياغته.

وهنا نستحضر فقه السيطرة البشرية، فقه بدون مقصد، المفارقة فيه، أن العبارة ترددت هذا الأسبوع في ثلاث عواصم كبرى، ولأغراض مختلفة، في بروكسل، وبحسب ما نقله موقع Unite.AI، أعلنت نائبة رئيسة المفوضية هينا فيركونين أولى إجراءات تنفيذ قانون الذكاء الاصطناعي، عبر طلبات معلومات وجهها مكتب الذكاء الاصطناعي إلى مزودي النماذج الأكثر تقدما، مؤكدة أن الذكاء الاصطناعي يجب أن يبقى تحت التوجيه والإشراف والسيطرة البشرية، وفي بكين، نشرت وزارتا التجارة والعلوم مسودة لتقييد تصدير 40 تقنية، منها 23 في الذكاء الاصطناعي تمتد من النماذج الكبرى إلى الوكلاء، وبررتها بالأمن القومي وبضرورة إبقاء الذكاء الاصطناعي تحت السيطرة البشرية.

أما في واشنطن فالعبارة نفسها تقال على هامش خطط لمضاعفة الأسلحة الذاتية، بعبارة أخرى، صارت السيطرة البشرية شعارا يتسع للتنظيم وللحماية التجارية وللتسلح في آن واحد، ومن لا يملك تعريفه الخاص لهذا المبدأ سيجد نفسه خارج الزمن التكنولوجي في وضع إتكالي على مصطلحات الآخرين، وفي المقابل ثمة إشارة تستحق الانتباه، شركة Anthropic أعلنت في 15 أكتوبر منح فريق من منظمة METR المستقلة وصولا إلى أنظمتها الداخلية مماثلا لوصول موظفيها، مع حق نشر النتائج دون أن تملك الشركة حق النقض، هذا النوع من التدقيق الخارجي جدير بأن يُستلهَم في أي إطار وطني للحكامة المندمجة.

اليوم ومع تعيين السيد رحو وزيرا للذكاء الاصطناعي بات من الضروري ان نستحضر طبيعة الاختصاصات التي ستحكم برنامج عمل الوزارة، ففي غياب تصور دقيق كونها حقيبة حديثة، وهو ما يجعل اللحظة ثمينة، ما زال بالإمكان رسم ملامحها، فالرهان لن يكون تقنيا فحسب، بل مؤسساتيا أيضا، يستند على كيفية إدخال الخوارزميات إلى الإدارة دون إخراج أية مسؤولية؟

وأقترح هنا ثلاث أولويات تنطلق من تعريف مغربي واضح للقرار البشري، بمعنى أن كل قرار إداري يمسّ حقوق المواطن يجب أن يحمل توقيع مسؤول يمكن مساءلته، لا مجرد مخرجات نظام، تنبني على قواعد أمنية للوكلاء قبل انتشارهم، بمعنى اعتماد هويات رقمية قصيرة العمر بأدنى الصلاحيات، وسجلات أفعال غير قابلة للتلاعب، وهي توصيات CERT-In نفسها، والأفضل أن نتبناها قبل أن نتعلمها من واقعة محلية، تحتاج الى تدقيق مستقل ومنشور، بمعنى لا ثقة دون رقابة خارجية، على غرار ما بدأت تعتمده بعض الشركات والمفوضية الأوروبية.

ولا تكتمل الصورة دون إقرار البعد الترابي كمنهج وأساس للتنمية الترابية المندمجة، ففي نفس الأسبوع، احتضنت مدينة تشونغتشينغ الصينية مؤتمر صناعة المعلومات الجغرافية، حيث تبني منطقة يونغتشوان قاعدة رقمية ثلاثية الأبعاد تغطي 175 كيلومترا مربعا، وفي مصر، أشاد تقرير للاتحاد الدولي للاتصالات بمنظومة وطنية لتقييم المدن الذكية واعتمادها، ترافقها منصة إلكترونية لإصدار الشهادات،

ونستخلص مما سبق درسا بسيطا، المدينة الذكية ليست لافتة، بل بيانات وصفية ومكانية دقيقة ومعايير قابلة للقياس، وأمام بلدنا اليوم، بورش الجهوية المتقدمة وميثاق اللاتمركز الاداري، فرصة لجعل الوزارة الجديدة شريكا للجهات والجماعات الترابية في بناء بنية بيانات ترابية مشتركة، بدل مشاريع رقمية متفرقة لا يتحدث بعضها إلى بعض.

أمام المملكة المغربية خياران لا ثالث لهما، أن تستهلك قواعد تكتبها غيرها، أو أن تساهم، انطلاقا من الوزارة الجديدة وتجربتها الترابية، في صياغة نموذج يجعل الإنسان صاحب القرار الأخير، فعلا وتنظيما لا قولا، والوقت المتاح لذلك أقصر مما نظن ونعتقد.