حوكمة الذكاء الاصطناعي في سنغافورة: ما تطلب IMDA وPDPC وMAS من الشركات إثباته

بنت سنغافورة واحدة من أكثر منظومات حوكمة الذكاء الاصطناعي تماسكاً في العالم — لا عبر قانون واحد، بل عبر أطر متشابكة تشير كلها في الاتجاه نفسه: الادعاءات حول الذكاء الاصطناعي يجب أن تكون قابلة للاختبار وخاضعة للمساءلة ومدعومة بالأدلة. أصدرت IMDA مع مؤسسة AI Verify في مايو 2024 الإطار النموذجي لحوكمة الذكاء الاصطناعي التوليدي بأبعاده التسعة، ومنها المساءلة والبيانات والإبلاغ عن الحوادث والاختبار والضمان وإثبات مصدر المحتوى. ونشرت PDPC في مارس 2024 إرشادات حول استخدام البيانات الشخصية في أنظمة التوصية والقرار المعتمدة على الذكاء الاصطناعي. أما مبادئ FEAT الصادرة عن MAS — العدالة والأخلاقيات والمساءلة والشفافية — فتضع المعيار للمؤسسات المالية منذ 2018. أضيفوا إلى ذلك SGTech، الجمعية التجارية التي تمثل أكثر من 1,000 شركة تقنية، فتحصلون على سوق يكون فيه الذكاء الاصطناعي المسؤول معيارَ شراء، لا خانةَ اختيار.

ما الذي يتوقعه إطار IMDA النموذجي لحوكمة الذكاء الاصطناعي فعلياً؟

نسخة الذكاء الاصطناعي التوليدي طوعية، لكن أبعادها التسعة تصف بدقة ما تسأل عنه اليوم الجهات الرقابية ومجالس الإدارة وفرق المشتريات. ثلاثة محاور حاسمة لعمليات النشر المؤسسية:

• المساءلة عبر سلسلة توريد الذكاء الاصطناعي — مطوّرو النماذج وناشرو التطبيقات ومزوّدو البنية التحتية، كلٌّ مسؤول عن طبقته.
• مصدر البيانات — معرفة من أين جاءت بيانات التدريب والتأصيل، والقدرة على إثبات ذلك.
• الإبلاغ عن الحوادث — اكتشاف إخفاقات الذكاء الاصطناعي وتصعيدها وتوثيقها كما تُدار الحوادث الأمنية.

ويكمّل الإطارَ ثقافةُ اختبار. فمؤسسة AI Verify، التي أنشأتها IMDA في يونيو 2023، تدير إطار اختبار وحزمة أدوات مفتوحة المصدر تُترجم مبادئ الحوكمة إلى فحوص إجرائية واختبارات تقنية — تُنفَّذ داخل بيئتكم الخاصة وتُنتج تقارير قابلة للتدقيق. والتوقع في سنغافورة صريح: ما لا يمكن اختباره حيث تقيم بياناتكم فهو مجرد تسويق.

كيف يُطبَّق PDPA عندما يلمس الذكاء الاصطناعي بيانات شخصية؟

تتناول إرشادات PDPC لعام 2024 مراحل تطوير أنظمة الذكاء الاصطناعي التي تستخدم بيانات شخصية واختبارها ونشرها. على المؤسسات الوفاء بالتزامات الموافقة والإخطار أو الاستناد إلى استثناءات محددة، وتطبيق تقليل البيانات، والحفاظ على تدابير المساءلة عبر دورة حياة الذكاء الاصطناعي كاملة. والاختبار العملي: إذا لم تستطع منصتكم أن تُظهر أي بيانات شخصية دخلت أي نموذج ومتى ولماذا، تحوّل الامتثال لـ PDPA إلى تخمين.

MAS FEAT: المعيار الأعلى للمؤسسات المالية

أصدرت MAS مبادئ FEAT عام 2018 — من أوائل إرشادات الذكاء الاصطناعي وتحليلات البيانات الصادرة عن جهة رقابية مالية — ثم كلّفت اتحاد Veritas بترجمتها إلى منهجيات تقييم وأدوات مفتوحة المصدر. فبالنسبة للبنوك وشركات التأمين في سنغافورة، تُعدّ قابلية التفسير والنتائج المبرَّرة والملكية الصريحة للحوكمة توقعات رقابية، لا طموحات.

ما الذي ينبغي لشركة في سنغافورة أن تطلبه من منصة ذكاء اصطناعي؟

• إقامة بيانات قابلة للإثبات — الاستدلال والاسترجاع والسجلات داخل محيطكم، بقدرة على العزل الكامل عن الإنترنت، لا وعوداً تعاقدية حول سحابة طرف آخر.
• ادعاءات قابلة للاختبار — القدرة على تشغيل اختبارات الضمان بأنفسكم، بروح AI Verify.
• إشراف بشري — بوابات موافقة قبل الأفعال ذات العواقب، مع حالة تشغيل صادقة.
• قابلية تدقيق غير قابلة للتعديل — سجل لكل استدعاء يُضاف إليه فقط ولا يُعدَّل أو يُحذف، جاهز للإبلاغ عن الحوادث وأسئلة الجهات الرقابية.

تلتقي أطر سنغافورة عند خلاصة معمارية واحدة: يجب أن تعيش الحوكمة في مسار التنفيذ، داخل محيطكم — لأنه المكان الوحيد الذي يمكن إثباتها فيه.