الأمر غير المحكوم، موثَّقاً: سجلّ الحوادث الذي ينبغي أن تستشهد به كل سياسة ذكاء اصطناعي

عرضنا القضية العامة في مقال [الأمر غير المحكوم](article-ungoverned-prompt.html): تبنّى الموظفون الذكاء الاصطناعي قبل شركاتهم، والنتيجة تدفقٌ للبيانات لا يسجّله أحد ولا يستطيع أحد إبرازه عند الطلب. هذا المقال هو ملف الأدلة. كل حادثة أدناه موثَّقة ومؤرَّخة ومسندة إلى مصدر — إنه السجل الذي يمكن لمدير أمن المعلومات وضعه أمام مجلس الإدارة، والذي ينبغي أن تستشهد به سياسة الذكاء الاصطناعي. والسؤال الذي يجيب عنه ليس ما إذا كان الاستخدام غير المحكوم خطراً نظرياً، بل ما الذي حدث خطأً بالفعل في الممارسة العملية.

ما الذي حدث فعلاً عندما استخدم الموظفون ذكاءً اصطناعياً عاماً؟

هذا ليس خطراً افتراضياً؛ إنه سجلّ حوادث.

• سامسونج، 2023. في غضون أسابيع من السماح باستخدام ChatGPT، رصدت سامسونج ثلاث حوادث منفصلة ألصق فيها مهندسون مواد حساسة — من بينها شيفرة مصدرية متعلقة بأشباه الموصلات أُرسلت لتصحيح الأخطاء، واجتماع داخلي مسجَّل أُرسل لاستخراج محضره. وفي مايو 2023 حظرت سامسونج أدوات الذكاء الاصطناعي التوليدي على أجهزة الشركة (Bloomberg وForbes، مايو 2023).
• ملفات الاختراقات لدى هيئة حماية البيانات الهولندية، 2024. أصدرت Autoriteit Persoonsgegevens إرشادات رسمية بعد تلقيها عدة بلاغات عن اختراقات بيانات سببها إدخال موظفين بياناتٍ شخصية في روبوتات محادثة تعمل بالذكاء الاصطناعي — من بينها موظفة في عيادة طبية أدخلت بيانات مرضى طبية، وموظف في شركة اتصالات أدخل ملفاً يحوي عناوين عملاء (Autoriteit Persoonsgegevens، 6 أغسطس 2024).

النمط في الحالتين واحد: لم يكن الموظفون سيئي النية، بل كانوا منتجين. لم توفر الأدوات ببساطة مساراً محكوماً لما يحتاجونه، فذهبت البيانات إلى حيث كانت الإنتاجية.

حتى عندما يفعل موظفوك كل شيء صحيحاً، قد يكون المزوِّد نفسه هو الاختراق

يرث الأمر غير المحكوم كل إخفاق في الخدمة التي يصل إليها.

• مارس 2023: خلل في مكتبة عميل Redis لدى OpenAI جعل عناوين محادثات بعض المستخدمين مرئية لمستخدمين آخرين؛ وخلال نافذة استمرت تسع ساعات، ربما ظهرت لدى نحو 1.2% من مشتركي ChatGPT Plus أسماؤهم وعناوين فواتيرهم وأجزاء من بيانات بطاقاتهم أمام آخرين (تقرير OpenAI التحليلي، 24 مارس 2023).
• يوليو–أغسطس 2025: انتهى خيار ChatGPT لجعل المحادثات المشتركة «قابلة للاكتشاف» إلى فهرسة Google لأكثر من 4,500 محادثة مشتركة — بعضها يتضمن أسماء وسيراً ذاتية ومحتوى عمل سرياً — قبل أن تزيل OpenAI الميزة وتبدأ إلغاء الفهرسة (Fast Company وSearch Engine Land، أغسطس 2025).

لم تتطلب أيٌّ من الحادثتين أن يخطئ موظف في شيء. كانت البيانات ببساطة خارج محيط الشركة، رهينة أخطاء طرف آخر وقراراته المتعلقة بالمنتج.

ألا تحل حزمة محكومة مثل Copilot هذه المشكلة؟

إنها تحل مشكلة المحيط وتكشف مشكلة أخرى: الإفراط في المشاركة. يجيب المساعد المؤسسي بكل ما يستطيع المستخدم المسجَّل الوصول إليه تقنياً — بما في ذلك سنوات من روابط «الجميع» والصلاحيات الموروثة والمواقع المنسية. تحليل Concentric AI يضع 16% من البيانات الحرجة للأعمال في خانة المفرَط في مشاركتها — بمتوسط نحو 802,000 ملف مكشوف لكل مؤسسة — بل إن إرشادات النشر لدى Microsoft نفسها باتت تركّز على معالجة الإفراط في المشاركة عبر Purview وSharePoint Advanced Management قبل طرح المساعد (Concentric AI؛ Microsoft، 2024–2025). والدرس قابل للتعميم: مساعد الذكاء الاصطناعي مدقق صلاحيات لم تطلبه. فإن لم يكن الاسترجاع واعياً بالصلاحيات ومسجَّلاً، سيجد المساعد ما نسيه نموذج الوصول لديك.

ماذا تتوقع الجهات التنظيمية منك؟

إشارتان مهمتان.

• إدخال بيانات شخصية في روبوت محادثة قد يشكّل بحد ذاته اختراقاً واجب الإبلاغ. هذا هو الموقف الصريح خلف إرشادات الهيئة الهولندية لعام 2024 — فالبلاغات التي تستشهد بها قُدِّمت لأن موظفاً أدخل بيانات شخصية في ذكاء اصطناعي (Autoriteit Persoonsgegevens، 6 أغسطس 2024).
• جانب المزوِّد يخضع للإنفاذ لا للتنبيهات فحسب. فرضت الهيئة الإيطالية Garante على OpenAI غرامة تتجاوز 15 مليون يورو في ديسمبر 2024، بعدما خلصت — ضمن أمور أخرى — إلى أن بيانات المستخدمين عولجت للتدريب دون أساس قانوني كافٍ (قرار Garante، 20 ديسمبر 2024؛ وأعلنت OpenAI أنها ستستأنف).

المؤسسة التي لا تستطيع إعادة بناء ما أرسله موظفوها إلى خدمة ذكاء اصطناعي لن تستطيع الإجابة عن الأسئلة التي سيطرحها عليها كلا المسارين عاجلاً أو آجلاً.

ماذا يكلّفك ترك الأمر غير محكوم؟

• لا مسار تدقيق: لا تستطيع حصر ما خرج، فلا تستطيع الإبلاغ ولا المعالجة ولا الدفاع.
• غموض الاحتفاظ والاستخدام في التدريب: ما تحتفظ به خدمة عامة وما تتعلم منه تحكمه شروطها — وهي تتغير — لا سياستك.
• انكشاف نموذج الوصول: تُظهر المساعدات غير المحكومة كل ما تسمح به الصلاحيات، وهو نادراً ما يطابق مقصد السياسة.
• مسرحية السياسات: حظر الأدوات دون تقديم بديل محكوم ينقل الاستخدام إلى الأجهزة الشخصية، حيث الرؤية صفر تماماً. كان حظر سامسونج فرزاً عقلانياً للطوارئ — لكنه ليس حالة نهائية.

ماذا يجب أن يعني «محكوم» قبل أن يلمس الذكاء الاصطناعي بيانات الشركة؟

• يعمل المساعد والاسترجاع والاستدلال داخل محيطك الأمني، فيغدو الأمر حدثاً داخلياً لا تصديراً للخارج.
• كل أمر وكل إجابة يستقران في مسار تدقيق يستطيع فريق الامتثال قراءته فعلاً.
• الاسترجاع واعٍ بصلاحيات كل مستخدم — لا يرى السائل إلا ما هو مخوَّل برؤيته، مع الاستشهادات.
• يوجَّه العمل الحساس إلى نماذج محلية افتراضياً؛ وكل ما يغادر المحيط استثناء مقصود تفحصه السياسة، لا وضعاً افتراضياً.
• الخروج الشبكي مرفوض افتراضياً: لا شيء يتحدث إلى الخارج قبل أن يقرر أحد السماح له.

سيواصل موظفوك استخدام الأوامر — وهم محقون؛ فمكسب الإنتاجية حقيقي. الجواب الوحيد الدائم هو منح الأمر مكاناً محكوماً يحدث فيه.

المصادر: Bloomberg / Forbes (حظر سامسونج، مايو 2023)؛ تقرير OpenAI التحليلي «March 20 ChatGPT outage» (24 مارس 2023)؛ Fast Company وSearch Engine Land (المحادثات المشتركة المفهرسة، أغسطس 2025)؛ إرشادات Autoriteit Persoonsgegevens (6 أغسطس 2024)؛ قرار Garante بشأن OpenAI (20 ديسمبر 2024)؛ أبحاث مخاطر البيانات لدى Concentric AI وإرشادات نشر Microsoft 365 Copilot (2024–2025). الأرقام كما أوردتها هذه المصادر.