إحاطة مجالس الإدارة بالذكاء الاصطناعي: ما الذي يجب أن يقرره الأعضاء

إحاطة مجالس الإدارة بالذكاء الاصطناعي يجب أن تنتهي بقرارات، لا بشرح عام للتقنية. على الأعضاء أن يحسموا ستة أمور: أين يجوز استخدام الذكاء الاصطناعي، وما مقدار المخاطر التي تقبلها المؤسسة، ومن المسؤول، وماذا يرى المجلس وكم مرة، وكم تستثمر المؤسسة، وماذا يحدث عند وقوع مشكلة.

لا يحتاج أعضاء المجلس إلى فهم طريقة عمل نماذج الذكاء الاصطناعي. يحتاجون إلى معرفة تكفي لطرح أسئلة جيدة وتسجيل قرارات تستطيع الإدارة تنفيذها. يعرض هذا المقال ما تقوله الأطر الرئيسية، والقرارات الستة، وجدول أعمال مدته 90 دقيقة، والأوراق التي تُرسل قبل الجلسة.

ماذا تتوقع الأطر الرئيسية من مجالس الإدارة؟

هناك ثلاثة مراجع رسمية مفيدة. هي إرشادات ومعايير اختيارية وليست قوانين، ولا يحدد أي منها للمجلس ما يفعله بالضبط.

حددت مبادئ منظمة التعاون الاقتصادي والتنمية للذكاء الاصطناعي، التي اعتُمدت في مايو 2019 وحُدّثت في مايو 2024، خمسة مبادئ: النمو الشامل والتنمية المستدامة والرفاهية؛ واحترام سيادة القانون وحقوق الإنسان والقيم الديمقراطية بما فيها العدالة والخصوصية؛ والشفافية وقابلية التفسير (أي إمكانية شرح كيف وصل النظام إلى نتيجته)؛ والمتانة (أي قدرة النظام على العمل بثبات رغم الأخطاء) والأمن والسلامة؛ والمساءلة. وهي تعطي المجلس لغة مشتركة لوصف الذكاء الاصطناعي المسؤول.

أما إطار إدارة مخاطر الذكاء الاصطناعي الصادر عن NIST (النسخة 1.0) فصدر في 26 يناير 2023، وتقول NIST إنه مخصص للاستخدام الاختياري. يقوم الإطار على أربع وظائف: الحوكمة (govern)، أي تحديد الأدوار والسياسات والمسؤوليات، وتحديد السياق والمخاطر (map) والقياس (measure) والإدارة (manage). وتصف NIST الحوكمة بأنها وظيفة شاملة تمتد عبر الوظائف الثلاث الأخرى. ويقول دليل الإطار في البند GOVERN 2.3 إن القيادة التنفيذية تتحمل مسؤولية القرارات المتعلقة بمخاطر تطوير أنظمة الذكاء الاصطناعي وتشغيلها. بعبارة بسيطة: قرار المخاطر بيد الإدارة التنفيذية، ودور المجلس أن يتأكد من ذلك. ويستطيع الموظفون أن ينصحوا، لكنهم لا يتحملون القرار عن القيادة.

وصدر المعيار ISO/IEC 42001 في طبعته الأولى في ديسمبر 2023، وهو يحدد متطلبات نظام إدارة الذكاء الاصطناعي داخل المؤسسة. والفائدة العملية للمجلس أن نظام الإدارة ينتج وثائق يمكن مراجعتها: سياسة وأهدافاً وسجلات. اسألوا الإدارة عن الأجزاء التي تطبقها اليوم ومن يراجعها. وقد تضع الجهات التنظيمية في قطاعكم توقعات خاصة بمجالس الإدارة، فتأكدوا منها مع مستشار قانوني. هذه معلومات عامة وليست استشارة قانونية، والالتزامات تتوقف على قطاعكم ونوع البيانات التي تتعاملون معها.

ما القرارات الستة التي يتخذها المجلس؟

1. الغرض والحدود. حددوا أنواع الاستخدام المسموحة، وما يحتاج إلى موافقة، وما هو ممنوع. فالاستخدام الذي يؤثر في قرارات تخص العملاء أو الموظفين، أو الذي يستخدم بيانات خاضعة للتنظيم، قد يحتاج إلى موافقة على مستوى المجلس. يوافق المجلس على الحدود، لا على كل أداة على حدة.
2. مقدار المخاطر المقبول. حددوا مقدار المخاطر الذي تقبله المؤسسة في كل نوع من الاستخدام. ويطلب البند GOVERN 1.3 في إطار NIST أن تحدد المؤسسة مستوى إدارة المخاطر بحسب مقدار المخاطر الذي تقبله. وفي التطبيق، تحصل الاستخدامات الأعلى خطورة على رقابة أكبر.
3. المسؤولية. عيّنوا مسؤولاً تنفيذياً واحداً يرفع تقاريره إلى المجلس ويُحاسَب أمامه على الذكاء الاصطناعي، وتأكدوا أن الأدوار مكتوبة. ويطلب البند GOVERN 2.1 أن تكون أدوار مخاطر الذكاء الاصطناعي وقنوات التواصل بشأنها موثقة وواضحة.
4. الرقابة والتقارير. حددوا اللجنة المسؤولة عن الذكاء الاصطناعي، وعدد اجتماعاتها، ومحتوى التقرير الدوري.
5. الاستثمار والقدرات. حددوا الميزانية، والمهارات التي ستبنونها داخلياً أو تشترونها، وهل تأتي القيادة من موظف بدوام كامل أو من خدمة مثل رئيس الذكاء الاصطناعي بدوام جزئي.
6. التصعيد وقواعد الإيقاف. حددوا ما يجب إبلاغ المجلس به، وخلال كم من الوقت، وما الأحداث التي توقف استخداماً معيناً للذكاء الاصطناعي حتى يراجعه المجلس.

ماذا يطلب المجلس عن كل قرار؟

يحوّل هذا الجدول كل قرار إلى سؤال للإدارة ودليل مكتوب يمكن قراءته.

ما جدول أعمال جلسة المجلس عن الذكاء الاصطناعي في 90 دقيقة؟

يصلح هذا الجدول لاجتماع المجلس المعتاد أو لجلسة مخصصة. أرسلوا الأوراق قبل أسبوع على الأقل ليُخصَّص وقت الجلسة للقرارات.

1. الدقائق 0 إلى 10: هدف الجلسة والقرارات المطلوب من المجلس اتخاذها.
2. الدقائق 10 إلى 30: أين يُستخدم الذكاء الاصطناعي اليوم، بما في ذلك الأدوات غير المعتمدة، اعتماداً على القائمة.
3. الدقائق 30 إلى 50: أهم المخاطر وأي حوادث وقعت أو كادت تقع، بكلمات بسيطة.
4. الدقائق 50 إلى 70: مقدار المخاطر المقبول: ما يوافق عليه المجلس وما يقيّده وما يمنعه.
5. الدقائق 70 إلى 85: المسؤولية، واللجنة المشرفة، وقالب التقرير.
6. الدقائق 85 إلى 90: إعادة قراءة القرارات للتأكد منها، مع مسؤول وموعد لكل قرار.

عادتان تساعدان على نجاح الجلسة. أولاً، اطلبوا من الإدارة أن تعرض مثالاً حقيقياً واحداً لاستخدام الذكاء الاصطناعي، من الطلب إلى الموافقة، ليرى المجلس الإجراء الفعلي لا رسماً توضيحياً. ثانياً، اتفقوا قبل الاجتماع على القرارات التي تحتاج إلى تصويت وتلك التي للنقاش فقط، ليسجل المحضر نتيجة واضحة وتُكتب أسماء المسؤولين أمام الخطوات التالية. وراجعوا القرارات بعد ربع سنة وسجّلوا ما تغيّر.

ماذا يقرأ الأعضاء قبل الجلسة؟

اجعلوا الأوراق قصيرة. خمسة بنود تكفي للجلسة الأولى:

• قائمة من صفحة واحدة بكل استخدام للذكاء الاصطناعي، مع مسؤول عن كل بند
• سياسة الذكاء الاصطناعي الحالية، أو ملاحظة تقول إنه لا توجد سياسة
• قائمة بموردي الذكاء الاصطناعي ونوع البيانات التي يتلقاها كل مورد
• ملخص للحوادث التي وقعت أو كادت تقع، حتى لو كان الجواب "لا توجد حوادث معروفة"
• مسودة القرارات الستة ليعدّلها المجلس

إذا عجزت الإدارة عن إعداد القائمة فهذا وحده ملاحظة مهمة يجب تسجيلها. اجعلوا إعدادها أول إجراء بعد الاجتماع.

متى تفيد إحاطة مجالس الإدارة بالذكاء الاصطناعي من جهة خارجية؟

يستطيع شخص من خارج المؤسسة يدير الجلسة أن يعطي المجلس رأياً محايداً وأن يُبقي النقاش مركّزاً على القرارات. تقدم إحاطات الذكاء الاصطناعي للتنفيذيين ومجالس الإدارة جلسات من نصف يوم تنتهي بخطة تطبيق. وللمجالس التي تريد دعماً مستمراً، تعرض صفحة قيادة الذكاء الاصطناعي خدمة رئيس الذكاء الاصطناعي بدوام جزئي، ومنها تقارير المجلس. وتجدون المزيد في صفحة مختبر الأكاديمية.

كيف تبدؤون؟

ابدؤوا بقائمة الاستخدامات، لأن كل قرار آخر يتوقف عليها. وإذا أردتم رأياً ثانياً، احجزوا مسح واقع الذكاء الاصطناعي في شركتكم المجاني: محادثة مجانية مدتها 45 دقيقة تنتهي بخطوة تالية مكتوبة. يمكنكم عرض هذه الورقة في اجتماع المجلس القادم.

المختبر المرتبط: مختبر الأكاديمية ↖