حديث الثلاثاء: الذكاء الاصطناعي في المغرب بين الأخلاقيات والمسؤولية القانونية

[موسيقى] [تصفيق] [موسيقى] [تصفيق] [موسيقى] [موسيقى]

مرحباً بمتابعينا ومستمعينا على المنصات الاجتماعية لمركز السياسات من أجل الجنوب الجديد في حلقة أخرى من برنامجنا الأسبوعي "حديث الثلاثاء". أتشرف باستضافة زميلي عبد السلام لمناقشة الجانب القانوني والأخلاقي للذكاء الاصطناعي. أذكر أنه باحث في القانون الدولي وقد نشر مؤخراً ورقة سياسية حول الذكاء الاصطناعي في المغرب بين الإطار التنظيمي والاستراتيجي الاقتصادي.

مرحباً بك عبد السلام.

مرحباً إيمان، ومرحباً بكل متتبعي ومشاهدي برنامج "حديث الثلاثاء".

يتدور العالم بشكل متسارع جداً في ظل الثورة الصناعية الرابعة وعصر الذكاء الاصطناعي وإنترنت الأشياء والعالم الافتراضي. لذا أصبح الذكاء الاصطناعي هو من يتولى القيام بمهام الإنسان، إذ بلغ أو بدأ يشغل بشكل فعلي وظائف البشر. ورغم ذلك، إلا أن المؤسسات التي تستخدم هذه التقنية لم تناقش بعد بشكل عميق وتفصيلي شامل للمبادئ والأخلاقيات، وكذا الضوابط والمسؤولية القانونية التي يجب مراعاتها أثناء استخدام الذكاء الاصطناعي.

والعالم، نحن نعلم أنه يحتاج هذه المبادئ والأخلاقيات بصفة عاجلة نظراً لسرعة إيجاد تطبيقات جديدة في عدد متزايد من القطاعات، بما في ذلك الأمن والبيئة والبحث والتعليم والصحة والثقافة والتجارة إلى غير ذلك، إلى جانب الاستخدام المتزايد التعقيد للبيانات الضخمة. لذا يثور تساؤل: على من تقع المسؤولية التي يسببها الذكاء الاصطناعي؟ هل هناك تشريعات خاصة تتناول مسألة تنظيم الأحكام الخاصة بأنظمة الذكاء الاصطناعي؟ كيف يمكننا ضمان عدم تكرار الصور النمطية ربما الاجتماعية والثقافية في برامج الذكاء الاصطناعي؟ هل يمكن برمجة القيم؟ وكيف يمكن الضمان للمساءلة عندما تكون القرارات والإجراءات غائبة في مجتمع يقف عند فجر حقبة جديدة؟

قبل معالجة الجانب القانوني للذكاء الاصطناعي، عبد السلام، دعنا نقف ربما عند الفرصة الاقتصادية بما في ذلك المغرب.

شكراً إيمان. أكيد، يعني سؤالك يعني يا إيمان هو في محله على اعتبار بأن القطاع يعني الذكاء الاصطناعي يشهد يعني نوعاً ما ازدهاراً يعني في جميع النواحي في المغرب ويشكل يعني بالنسبة يعني للاقتصاد المغربي. الاعتبار بأن الذكاء الاصطناعي من ناحية يعني هو أحد أسس الثورة الصناعية الرابعة، ومن ناحية أخرى يجمع يعني بين جميع النظريات والتقنيات المستخدمة لإنشاء يعني آلات قادرة على محاكاة الذكاء البشري من أجل يعني تسريع وتيرة النمو وتسريع وتيرة التقدم، وذلك يعني من خلال استخدام يعني باللغة العربية الخوارزميات. وهو بالتالي يعني يشكل يعني بالنسبة للمواطنين، بالنسبة للشركات. على سبيل المثال يعني إيمان، بالنسبة للمواطنين يعني تقنية تقنية الذكاء الاصطناعي بإمكانه بإمكان أن تمكّن المواطنين المغاربة من الحصول على رعاية صحية أفضل، على سيارات يعني أكثر أماناً، كذلك على خدمات أقل تكلفة تتكيف بشكل أفضل مع احتياجاتهم مع عمر أطول على سبيل المثال.

فيما يخص يعني السيارات، السيارات الذكية بإمكان يعني تقنيات يعني الذكاء الاصطناعي أن تساهم يعني أن تساهم يعني في تعلم القيادة عن طريق التعلم الآلي لتعليم السيارات الذكية، وكذلك كيفية السيارة الذكية يعني أن تتصرف يعني في حالة وقوع حادث دون يعني تدخل السائق. من حيث يعني الشركات كذلك، يمكن يعني تقنيات الذكاء الاصطناعي أن تدعم يعني تطوير شيء جديد يعني للمنتجات والخدمات. على سبيل المثال، بإمكان بامكان يعني تقنية الذكاء الاصطناعي أن تلعبنا يعني دوراً هاماً في تطوير وتجديد من الناحية اللغة ومن ناحية أخرى يعني الذكاء الذكاء المعرفي. كذلك بالنسبة للشركات، هناك يعني الآلات يعني التي بإمكانه أن تعوض الإنسان في الشركات يعني من أجل القيام يعني بمهام نوعاً ما يعني صعبة بالنسبة للإنسان، وكذلك أن تدفع يعني وتساهم في زيادة إنتاجيتهم بالنسبة يعني للشركات. وكذلك يعني يعني بالنسبة بالنسبة للمؤسسات. على سبيل المثال، فيما يخص يعني نظام نظام العدالة، الكل يتوقع أن الذكاء الاصطناعي سيتم يعني استخدامه بشكل متكرر يعني في النظام يعني العدالة وفي منع الجريمة مع تحليل يعني أكثر يعني للبيانات لمجموعين البيانات وتقييم أدق يعني للمخاطر المرتبطة ببعض الملامح الجنائية، وكذلك [موسيقى] الجريمة المتعلقة يعني بالجرائم.

حالياً ما يلاحظ يعني فيما يخص يعني الذكاء الاصطناعي وهو أنه يعني بالمغرب وأنه معتمد يعني في ثلاث يعني ثلاث مجالات. هناك ما يسمى يعني [موسيقى] من استخدام الذكاء الكتف يعني المستخدمة يعني في الرادارات التي تتعرف يعني أرقام التسجيل أو في الكاميرات يعني مثبتة يعني في بعض المدن الكبيرة لإدارة حركة مرور أو حتى يعني تنظيم نقل عام في المدن في المدن الكبيرة. هناك كذلك ما يسمى يعني يعني يتم استعمالها يعني بشكل متكرر اليوم يعني في الشركات وتتمكن يعني من تحويل أي محتوى صوتي إلى نص مكتوب بالشيء يساهم يعني في يعني في زيادة في زيادة يعني إنتاجات يعني الشركات وكذلك الوقت يعني فيما يخص يعني العمل. [موسيقى]

في هذا الإطار دائماً والمتعلق كذلك بتنزيل هذه الاستراتيجيات المتعلقة بالذكاء الاصطناعي، بدأت معالجة الجانب القانوني للذكاء الاصطناعي بصفة عامة منذ بداية الستينات من القرن الماضي، وبدأ الاهتمام به بشكل متزايد من قبل المتخصصين منذ عام 2010. ويعود السبب في ذلك هو الاستخدام اليومي كما ذكرت والمتكرر في الحياة اليومية لتطبيقات الذكاء الاصطناعي، مما يعود بالتحديات القانونية المحددة التي تفرضها هذه التكنولوجيا. فالسؤال ربما هو يعني ما هي القوانين والمؤسسات الرئيسية التي تحكم الذكاء الاصطناعي في المغرب؟

[موسيقى]

نعود إلى المغرب. أحب أن أتكلم يعني عن الوضع السائد يعني الذكاء الاصطناعي في منظور القانون الدولي. في الواقع، اللي في منظور القانون الدولي لا يوجد إلى يومنا يعني اليوم يعني معاهدة أو اتفاقية دولية يعني تحدد يعني أسس يعني القانونية. يعني الاعتبار بأن الذكاء الاصطناعي يعني واحد يعني من أسس يعني المنافسة اليوم يعني بين الولايات المتحدة الأمريكية، الصين والاتحاد الأوروبي يعني موازين القوى العالمية. لكن على الأقل من المهم يعني القانون الدولي يعني أن نقول عن يعني 2020 الدول الأعضاء يعني عفوا في عام 2021 يعني أقرت يعني مجموعة من التوصيات التي يعني تهدف إلى الذكاء الاصطناعي أكثر يعني أكثر أخلاقية. والمهم هنا يعني أن نقول بأن حسب يعني المغرب يعني بين الدول التي تنفذ يعني توصيات يعني للذكاء الاصطناعي.

فيما يتعلق يعني بالقانون المغربي يعني اعتمدت يعني السلطات السلطات والمؤسسات المغربية يعني منذ عام ليس بالضبط يعني تعامل 2010 يعني على سن يعني مجموعة من الإجراءات التي تهدف يعني إلى تنظيم يعني القطاع الرقمي والقطاع يعني الذكاء الاصطناعي من أجل يعني تحفيز تحفيز يعني تنافسية المغرب يعني في مجال الذكاء الذكاء يعني الاصطناعي من خدمات وتميز من خصائص على رأسها يعني إيصال السرعة المعلومة واختراقها للحدود. واعياً يعني من المؤسسات المغربية يعني بخطورة يعني وأهمية يعني الذكاء الذكاء الاصطناعي فإنها يعني بالضبط يعني منذ عام 2007 إلى تأسيس يعني قانونية حماية يعني الوسط الإلكتروني لأن يعني التطورات التكنولوجية تتجدد وتتبدل مما يعني بالضبط يعالج يعني هذه التطورات ويعاصرها ويواكبها حتى يعني تتم موائمة يعني كافة التطورات التي يمكن حدوثها يعني في عصر الإلكترونيات.

ومن أهم يعني القوانين التي يعني سنها في المغرب مثلاً قانون رقم 53.3 تم يعني إقراره المتعلق يعني بالبيانات القانونية. هناك وهام جداً تم إقراره عام 2009 يتعلق الأمر 09.08 المتعلق يعني بحماية الأفراد فيما يتعلق بمعالجة البيانات الشخصية، استخدام البيانات التي من المحتمل يعني أن تنتهك خصوصية يعني الأفراد والمواطنين المغاربة، وكذلك النظام المغربي لحماية البيانات الشخصية مع تلك الخاصة يعني بشركائه وخاصة يعني الأوروبيين خاصة. وكذلك تم يعني إنشاء يعني اللجنة الوطنية يعني في حماية البيانات الشخصية. سأعود إليها يعني [موسيقى] بعد قليل. كذلك يعني تم إقرار عام 2011 القانون رقم 31.08 الذي يعني لا إجراءات حماية المستهلك ويعني قانون خاص يعني للفئات المستهلكين وسعى يعني لتوفير الحماية للمستهلك المتعامل يعني بوسائل إلكترونية. وهناك كذلك يعني القانون رقم 13.213 يعني الموافق يعني الاتفاقية الأوروبية لحماية الأفراد كما يتعلق يعني بمعالجة الآلية يعني للبيانات الشخصية. واستكمالاً يعني لهذه التشريعية فقط قانون عام 2020. 05 باللغة العربية ويعني قانون يبتغي حماية النظم والشركات المعلوماتية الخاصة بالمؤسسات وكذلك يعني مستخدم الشبكات العمل المواصلات الإنترنت، وكذلك مقدمي خدمات الأمن السرياني ومقدمي خدمات الرقمية ونشر يعني منصات الإنترنت. هذا يعني ما يخص القوانين.

المؤسسات هناك المؤسسات يعني في المغرب يعني بشكل قوي وفعال خلال يعني الخمس عشر سنة الأخيرة. أولاً يعني يعني مؤسسة استشارية ومؤسسة يعني مستقلة تمتلك يعني هدفين أساسيين. الهدف الأول يعني وتقديم يعني لمؤسسات التمثيلية يعني الديمقراطية الخاصة يعني بحماية البيانات الشخصية وملائمة يعني القانون المغربي للبيانات الشخصية مع التشريعات الدولية يعني الأخيرة التي أقرتها يعني تكلمت عنها، وكذلك التحقق من أن عمليات معالجة المعطيات الشخصية يعني بشكل قانوني وأن لا تمس بالحياة الخاصة أو بحقوق الإنسان الأساسية أو بالحريات. وكذلك عام 2016 هناك يعني إقرار يعني الرقمية هي يعني مؤسسة يعني تخضع يعني لوسطايه السلطة الحكومية الرقمية تعمل يعني لتنفيذ استراتيجية الدولة في مجال يعني الرقمية وتشجيع يعني نشر وسائل الرقمية وتطوير استخدامها بين بين المواطنين وذلك في سبيل يعني تقليصه الفجوة الرقمية ودعم الثورة الصناعية الرابعة حتى يستطيع أن المغرب يستفيد منهم.

بالإضافة إلى هاتين المؤسستين رئيسيتين التي تحكمان الذكاء الاصطناعي في المغرب بصفة عامة والجانب الرقمي، وكذلك الترسانة القانونية التي ذكرتها، إلى جانب توصيات اليونسكو في هذا الصدد، هل ترى أن يعني هذه الترسانة والمؤسسات تواكب تطورات الذكاء الاصطناعي أو بشكل آخر ما هي الحدود القانونية المتعلقة بالذكاء الاصطناعي؟

إلى نوع ما يعني إيمان كما قلت يعني المغرب بدأ يعني مجهودات جبارة يعني من أجل يعني إقرار يعني بإمكانها يعني كما يقال باللغة الفرنسية يعني النقاش حول يعني الذكاء الاصطناعي يعني على مستوى الدولي يعني لم يبلغ باقي يعني حتى إقرار يعني معاهدة أو اتفاق يعني دولية خاصة يعني بهذا المجال. هذا المشكل يعني لأن يعني الذكاء الاصطناعي يعني في القانون الدولي حقوق الإنسان جسد يعني ما يسمى يعني الحقوق الاقتصادية والاجتماعية حقاً يعني يعني الحقوق الثقافية والحقوق البيئية وفي آخر المطاف الحقوق يعني الجيل الرابع التي بالأساس يعني الحقوق الحقوق الرقمية. مشكلة للأساس يعني للذكاء يعني الاصطناعي فيما يخص يعني يعني احترام [موسيقى] مسبقة لهذا يعني في النقاش في النقاش العام الاصطناعي يقول بأن هذه الآلة في آخر المطاف يعني كانت واعية أم غير واعية فهي في آخر المطاف يعني ذكاء يعني خاص يعني بالإنسان التي قام يعني بإقراره.

على سبيل المثال، وفقاً يعني لدراسة يعني قام بإقرار قامت بإقرار يعني الوكالة الوطنية الأمريكية والتكنولوجيا أكدت بأن نظام التعرف على الوجه يكون مخطئاً يعني من أصل أفريقي أو آسيوي مقارنة مع تحديد الأشخاص يعني من أصل يعني. وكذلك هذا يعني هذه يعني مسألة يعني نقاش عام يعني كبير في الولايات المتحدة الأمريكية هو أنه أسفر يعني استخدام الذكاء الاصطناعي في البرنامج يعني من أجل يعني قامت به يعني أمازون عام 2014 أثبتت بأنها هذه الأخيرة يعني لأنه فيما يخص أكثر يعني على الرجال على حساب يعني النساء. لماذا؟ لأنه الذكاء الاصطناعي يعني على الملفات المترشحين يعني من أمازون على مجال يعني التقنيات الجديدة خلال هذه الفترة ستنتج عن الذكاء الاصطناعي أنها يعني كانت أن يعني الترشيحات يعني الذكور كانت مفضلة يعني مقارنة عن النساء. لذلك يعني يبرزون يعني من الذكاء الاصطناعي يعني التمييز يعني في التكنولوجيا. ولهذا يعني قامت منظمات يعني غير حكومية على سبيل المثال منظمة دولية يعني إعلان عام 2018 قبل ذلك.

وفي إطار دائماً هذه يعني التدخلات أو الديناميكية بينما هو آلية وما هو إنساني، هل يجب تحديد مسؤولية الذكاء الاصطناعي لإصلاح الضرر الذي قد يلحقه بالغير؟

صراحة يعني إيمان، سؤال ومهم لأنه مع تعميم يعني استخدام الذكاء الاصطناعي في جميع أنواع المجالات ظهر يعني بالضبط يعني تحدي جديد هو المسؤولية عن الذكاء الاصطناعي، أي الالتزام بإصلاح الضرر الذي يلحق بالآخرين. الوظيفة أصلاً يعني الأساسية القانونية من المسؤولية المدنية هي من ناحية التعويض الذي كان من الممكن أن يقوم فيه لو لم يحدث لو لم يحدث. وكذلك يعني الضوء الثاني وأن تكون يعني مسألة وقائية. وقع الأمر وسواء أن القانون الوضعي المغربي وكذلك يعني القانون الوضعي حتى يعني في الدول المتقدمة يعني لا يعطي إجابة واحدة واضحة لهذا السؤال. لأن في آخر المطاف أنا ما أعتقد يعني وهو أن بان بأن الذكاء الاصطناعي وفي آخر المطاف يعني شيء غير مادي من الشخصية القانونية يعني لا يمكن تحميل المسؤولية أن أفعل يعني هو يعني يظل يعني شيء غير مادي لكنه مدمج صحيح يعني في الآلات وفي الأجهزة. لكن في آخر المطاف من الصعب استخراج سلوك محدد ما يتجاوز عن الإجراء لتشارك معه في يعني في الأوامر يعني الشخصية يعني الإنسان الذي شكل المتزايدة يعني اليأس الذكاء الاصطناعي ربما ستجعله يعني أكثر استقلالية يعني في يوم في يوم مقارنة يعني مع العمل العمل الإنساني. بالتالي من بين الاقتراحات التي تم يعني على مستوى يعني إنشاء مثلاً يعني شخصية شخصية قانونية تنصب يعني إلى الأنظمة إلى الأنظمة للذكاء الاصطناعي. وضع قانوني غير مثلاً يعني الثورة الصناعية الثورة الصناعية الأولى. هنا مثلاً يا إيمان، هناك مثال الولايات المتحدة الأمريكية عفوا مسألة للمملكة العربية السعودية التي أعطتني عام 2017 أعتقد 2017 2008 استقلالية حقيقية على أن أعتقد بأن فقط يعني ذكاء اصطناعي يعني مستقل حقاً ما يسمح يعني يفهم يعني ما يفعله ويقوم يعني الشخصية القانونية اليوم الذي سيكون فيه يعني الذكاء الاصطناعي يعني التفكير. فعندئذ يمكننا التحدث يعني إلى مصمم إلى مصنع إلى المالك والمستخدم الذكاء الاصطناعي الذين ربما يعني المصطلح يعني وراء الآلات. ومع ذلك بتحديد أي من الجهات المسؤولة في حال الضرر الناجم عن الاصطناع من أجل نسب يعني نتيجة وشخصية طبيعية باللغة العربية عفوا.

الذكاء الاصطناعي تفتح آفاقاً جديدة، لكن الاضطراب ربما الأنتروبولوجي والاجتماعي وحتى الأخلاقيات والمسؤولية التي يجلبها في أعقابه يتطلب دراسة متأنية. ربما السؤال: وما الذي يجب عمله لتعزيز الطابع الأخلاقي لذكاء الاصطناعي من الناحية القانونية؟

أعتقد هناك يعني أربع أشياء يمكن يعني القيام بها من أجل يعني سؤالك يا إيمان. أولاً يعني باللغة الفرنسية يعني المواطنين المغاربة في حال يعني تم تعرض بالضرر يعني من طرف آلة يعني تعمل حسب يعني التطبيقات يعني الاصطناعي واصلاً حق يعني في المادة 118 من الدستور المغربي لعام 2011 ليؤكد أن الحق في الوصول لتعويض فعال في حالتها الحقوق والحريات الأساسية هو أمر يعني حتمي. فرنسا هنا مثلاً نتكلم يعني ما يسمى يعني هنا يعني فيما يسمى بقانون العدالة الإدارية. من إجابتك يعني عفوا سأقول يعني باللغة الفرنسية يعني وإظهار أن الاعتداء على الحرية خطير يعني واضح. هذا يعني هو المسألة الأولى.

الثانية يعني هو تفعيل ما يسمى يعني إيمان هو العلم يعني منطق الآلة وهي ضروري يعني هي من أجل زيادة الأدوات والتطبيقات التطبيقات الخاصة بالذكاء الاصطناعي. على مستوى النقاش الدولي يعني خاص يعني بالذكاء الاصطناعي نتكلم اليوم عن ضرورة تفعيل يعني [موسيقى] أساسيين أو يعني مبدأ حياة الويب الذي يضمن تداول الحر لمحتوى على الويب من خلال لكل شخص لكل شركة لكل جمعية يعني من المساواة في الوصول يعني لجميع المستخدمين ومحتوى الإنترنت. ثانياً لمبدأ يعني الولاء لتقوم على ولاء الخوارزميات يعني المستخدمينها. وفي آخر المطاف يعني مبدأ اليقظة من الممكن مراعاة الطبيعيين غير المتوقعين والمطورين يعني للخوارزميات. وبالتالية يعني يلزم يلزم يعني مراقب البيانات يعني باتخاذ جميع الاحتياطات المفيدة لضمان يعني أمان يعني بيانات التي جمعها وكذلك سريتها يعني التأكد من الأشخاص فقط المسرح لهم فقط يمكن الوصول يعني إلى هذه المعلومات.

ثالثاً ويعني يعني الاعتماد باللغة الفرنسية وباللغة الإنجليزية من الخلافات يعني المتعلقة يعني باستخدام الرقمي سواء تتعلق الأمر بالعيانات أو بالأضرار يعني الإنترنت إلى غير ذلك. تعتبر يعني في المصطلحات القانونية يعني كما يقال يعني نزاعات يعني صغيرة. ومع ذلك المشكل هو أن المحاكم التقليدية يعني أنها ليست بنسبة تماماً التعامل يعني مع هذه الأشكال يعني من النزاعات لأن القاضي يعني لا يملك الأساس يعني خبرة يعني قانونية في المسائل تتعلق يعني بالنزاعات الرقمية. لهذا المهم يعني تفعيل كما قلت يعني الإيجابيات أولاً يعني اتفاق مثلاً على مثلاً أنا يعني هو مختص يعني في المسائل يعني المسائل الرقمية. كذلك السرعة يعني الوصول يعني ليست مكلفة بمقارنة مع إلى يعني إلى المحاكم ولا يتعلق الأمر يعني بالأساس يعني بالتوفيق بالبساطة أو بالتحكيم.

وأخيراً يعني ضروري يعني المواطنين يعني في مجال الذكاء الاصطناعي لتطوير يعني واستخدام واستخدام الذكاء الاصطناعيات الأساسية وزيادة وعي يعني المواطنين يعني الذكاء الاصطناعي يعني جميع المواطنين يعني المغاربة بشكل جيد من هذه التقنيات وفهم تأثيرها في حياتنا. واجب القول بانه يقوم به يعني يعني الخوارزمي في هذا في هذا المجال. ويعني شكراً لك عبد السلام على هذا الحوار الشيق جداً حول الذكاء الاصطناعي في المغرب بين الأخلاقيات والمسؤولية القانونية. أذكر أنك باحث في القانون الدولي بمركز سياسات من أجل الجنوب الجديد. كما أشكر كذلك متتبعينا ومستمعينا على المنصات الاجتماعية لمركزنا. أشكر كذلك الطاقم التقني الذي يواكبنا كل أسبوع. ونضرب لكم موعداً كعادتنا الثلاثاء القادم على الساعة الخامسة والنصف. شكراً لكم.

[موسيقى] [تصفيق] [موسيقى]