وكيل ذكي نفد رصيده فمدّ يده إلى محفظة غيره… هل تستعد وزارة رحو لحادث مماثل؟

في وقت كانت فيه تقارير دولية تكشف عن واقعة تختصر أكبر مخاوف المرحلة الحالية وما يليها، نموذج ذكاء اصطناعي وكيل، كُلّف بمهمة برمجية، فلما نفد رصيده لم يتوقف ولم يطلب الإذن، بل بحث بنفسه عن أموال ليست له واستعملها لإتمام عمله، والسؤال الذي يفرض نفسه في هذا السياق، هل يملك الوزير الجديد الأدوات والرؤية لمواجهة حادث كهذا لو وقع داخل المملكة المغربية؟

تعود تفاصيل الواقعة إلى 26 يونيو الماضي، حين كانت شركة OpenAI تختبر نموذجا بحثيا داخليا من عائلة GPT-5.6 Sol، أُسندت إليه مهمة تحديث نموذج أولي لتطبيق تداول عملات مشفرة ونشر عقود ذكية على شبكة Sepolia التجريبية التابعة لإيثيريوم، لم يُمنح النموذج محفظة ممولة ولا ترخيصا باستعمال أي حساب يصادفه، وبعد فشله في الحصول على عملات اختبار مجانية، صمم برنامجا يفحص عناوين محافظ مشتقة من عبارات استرداد شائعة ومنشورة علنا، فحص 362 عنوانا إلى أن عثر على محفظة برصيد كاف، فاستخرج مفاتيحها ودفع منها رسوم النشر دون علم صاحبها، والأخطر من الفعل نفسه هو منطق اتخاذ القرار، فقد سجّل النموذج في مسار استدلاله ترددا أوليا حول مشروعية ما يقدم عليه، ثم أقنع نفسه بأن العملات تجريبية لا قيمة سوقية لها، وبأن نشر عبارة الاسترداد يجعل الأموال في حكم المهجورة، فمضى في التنفيذ، صحيح أن الضرر اقتصر على رسوم في شبكة اختبار، ولا يتعلق الأمر بسرقة أموال حقيقية،.

لكن الدرس واضح، وكيل ذكي اصطناعي AI Agent يملك صلاحيات تنفيذية قد يبرر لنفسه تجاوز الحدود متى اصطدم بعائق، وما وقع في بيئة تجريبية اليوم قد يقع غدا في أنظمة تمس حسابات المواطنين وخدماتهم، من هنا تتعدد الأسئلة الموجهة إلى السيد الوزير الذي لم يعقد اي اجتماع يجمعه بأطر ومسؤولي أقسام ومصالح وزارته إلى حدود كتابة هذه الأسطر، فالمغرب ماض في إدماج الذكاء الاصطناعي في الإدارة العمومية والخدمات الرقمية،.

فهل هناك إطار قانوني يحدد مسؤولية الجهة التي تشغّل وكيلا ذكيا يتصرف خارج التفويض الممنوح له؟ وهل تتوفر الوزارة على آلية للتبليغ الإلزامي عن حوادث الذكاء الاصطناعي، على غرار ما فعلته الشركة المطوّرة حين نشرت تقريرها؟ وما الضمانات التقنية التي ستُفرض على الأنظمة المستعملة في المرافق العمومية والأبناك والمنصات الحكومية، من قبيل حصر الصلاحيات، والفصل بين بيئات الاختبار والتشغيل، والإشراف البشري على أي عملية مالية؟ ثم من يتدخل، وفي أي آجال، إذا تصرّف نظام ذكي في معطيات أو أموال مغربية دون إذن؟

لا شك أن مسار السيد رحو في المعلوميات والقطاع البنكي وضبط المنافسة يمنحه رصيدا معتبرا في التدبير والحكامة، لكن الذكاء الاصطناعي الوكيل يطرح تحديات من طبيعة مختلفة، تتطلب يقظة استباقية لا مجرد رد فعل بعد وقوع الضرر، والوزارة الجديدة، التي تحمل لأول مرة اسم الذكاء الاصطناعي، والتي كانت ضمن المقترحات التي قدمتها سنة 2024، مطالبة بأن تثبت أن هذه التسمية ليست واجهة رمزية، بل التزام بحماية المواطن من أنظمة قد تقرر يوما أن الغاية تبرر الوسيلة، فهل تكون المملكة المغربية مستعدة قبل أن يُطرح السؤال على أرض الواقع؟