المسئولية الجنائية الناشئة عن استخدام تقنيات الذكاء الاصطناعي

[موسيقى]

طبعا يسعدني ويشرفني اليوم اني اكون في سرح نقابتنا نقابه المحامين واشكر جزيل الشكر لجنه الفكر والقانون وسعاده الاستاذ محمد وسعاده الاستاذ ايمن ظريف وكافه القائمين على هذا اللقاء اليوم.

طبعا لقانا بده يتكلم عن موضوع الذكاء الصناعي وسوف اخص بالذكر في موضوع المسؤوليه الجنائيه. وبصراحه انا بتكلم مع محامين متمرسين العمل القانوني والقضائي لذلك سوف اكون اشرح هذا الموضوع بطريقه كثير مبسطه بعيدا عن التعقيد وبعيدا عن المصطلحات التي لا تصل الى اي مستوى كان الا ان لا نصل الى مرحله العلم.

موضوع الذكاء الصناعي هو موضوع العصر حاليا بناء على ما وصل اليه العلم من الثوره الصناعيه الرابعه. وبدايه يجب ان يكون معلوما للجميع نحن نسمع كل يوم عن بعض الحوادث ونحاول ان نستفيد من تلك الحوادث كمحامين. المحامي يجب ان يكون عالما ليس فقط في علم القانون ولكن في كافه جوانب الحياه. فبعض الحوادث التي تهمنا في موضوع الذكاء الصناعي موضوع محاضره اليوم وهي لا تبعد كثيرا عن مجريات العلوم القانونيه الاخرى. بمعنى نسمع ان الامين العام للامم المتحده يقوم بالتحذير من الذكاء الصناعي. قالوا ماسك وهو صاحب من شركات الذكاء الصناعي يحذر من شركات الذكاء الصناعي والتسارع بينها وان هذا سوف يهدد البشريه جمعاء.

وفي ذات الوقت يقوم باجراء بعض التطبيقات ومن تلك التطبيقات وضع شريحه في الدماغ البشري حتى يستفيد من التكنولوجيا مع عنصر الانسان. نجد ايضا ونسمع عن الطيارات بدون تيار. نسمع عن السيارات ونشاهد واصبح لها تطبيقات مختلفه على حسب المستوى التي تصل اليه في البلد هي تقنيات السيارات ذاتيه القياده. نسمع في بعض الاحيان عن طريق الاخبار ان هناك سيده تمر من الطريق صدمتها سياره ذاتيه القياده. نسمع في احدى الشركات الامريكيه ان هناك اله تعمل بالذكاء الصناعي تلك الاله سحبت عامل وقامت بقتله وطحنه. نسمع العديد من الحوادث. نسمع عن التيارات ذاتيه القياده التي تقوم بدون تيار طبعا والتي تستخدم في مجال التجسس وفي المجالات الحربيه.

ما الذي يحدث من كل هذه الحوادث؟ انا بدي افرق بين 3 شغلات وانا اتفاقنا وحضراتكم ان حضرتك تكون بسيطه وليست معقده لاننا في نهاية المطاف سوف اريد ان اوضح فكره والفكره ليست فكره قانونيه فقط ولكن فكر اخر. اين نحن العرب مما يحدث في العالم؟ جميعنا يستخدم التطبيقات الذكاء الصناعي بانواع مختلفه. نسمع عن ونرى ونطبق كل يوم التطبيق جديد تويتر فيسبوك ونتعجب حينما نستخدم ذلك الجهاز وحتى حينما لا نقوم بالبحث في تلك التطبيقات عن امر معين ولكن نتكلم وهو بجوارنا نجد ان اعلانا كنا نبحث كنا في خاطرنا ولكن تكلمنا عليه كيف ظهر ذلك التطبيق امامنا. انا كنت ببحث عن سلعه معينه تمام الاقي ان التطبيق هذا سبحان الله طلع عندي وانا بتصفح الفيسبوك. طب يا عمي انا ما بحثتش عنه هذه توارث افكار او خواطر بيني وبين تلك الاله.

نحن اصبحنا كعرب نستورد تلك السلاح ولا نقوم بصناعتها ويتم تطبيق علينا العديد من الامور منها التجسس وابسطها. بالاضافه اننا اصبحنا ايضا كسلعه كاتب بياناتنا ومعلوماتنا الشخصيه تسرق ونحن نوافق على شروط الاستخدام سواء في اي تطبيق ومنها ذلك التطبيق الفيسبوك حتى وان رفعت قضايا تخسر لانه ببساطه انت قمت بالتوقيع على شروط الاستخدام. هذه التطبيقات تستخدم تقنيات الذكاء الصناعي.

هذه الحوادث اللي انا تكلمت عنها والتي اريد ان اوضح نحن بين حاليا عده عوالم وليس عالم واحد. واذا لم نكن نوابق تلك العوالم تقنيا وقانونيا سوف نصبح فقط لا غير عباره عن سلعه لتلك الشركات الخارجيه. بمعنى احنا جميعا نعلم العالم المادي انا وحضراتكم حاليا نستمع الى محاضره عن الذكاء الاصطناعي هاي العالم المادي بما يتم به من وقائع وتصرفات. هذا العالم تطور اصبح لدي عالم جديد الا وهو العالم الالكتروني. حتى لما تم العالم الالكتروني نحن كعرب كنا متلقين ولم نكن نحن مشاركين في صنعه. فاصبح نسمع عن البرامج التي موجوده على اجهزه الكمبيوتر وبرامج تستخدم للكتابه مايكروسوفت وبرامج اخرى في كافه مجاله الحياه. حينما علمنا باضرارها واصيبنا بها حديثا حديثا مصر 2018 يمكن الامارات كان سابقه شوي تمام لما عملت قانون الجرائم المعلوماتيه او الجرائم الالكترونيه على حسب تعبير ومصطلحات بعض الدول وكذلك الكويت تمام دخلنا في هذا العالم الالكتروني ودخلنا وتعمقنا فيه واصبحنا جميعا هذا العالم يستغرقنا فكرا وفي ذات الوقت اصبحنا سلعه للشركات التي لا تهمها الا في نهاية المطاف الربح والدول التي من الجائز ان تقف ورائها تستخدمها لاغراض ممكن ان تؤثر على الامن الوطني لاي بلد كان.

مش محتاجين يعني حاليا حدا يتخابر على حدا لانه باختصار انت عندك جهازك اللي انت تستخدمه حتى بدون ما تدخل على تطبيق وحتى وان كان مغلق يستطيع ان يحدد مكانك ويستمع الى تمام الى محادثتك ويقوم بالتسجيلها. هذه كلها عباره عن العالم الالكتروني اذا نحن تحدثنا عن العالم الثاني هو العالم الالكتروني.

ناتي الى العالم الثالث الا وهو العالم الذكاء الاصطناعي. العالم الذكاء الاصطناعي لم يبقى الامر يقتصر على برنامج انت تقوم باستخدامه هو يتلقى معلومات معينه هذه المعلومات يخرج مخرجات معينه كما علمونا في الكتب قديما انبط واور بوت وضحكوا علينا هيك انت بسم الله ما شاء الله صرت تفهم في علم الالكترونيات. العالم تطور اصبح حاليا لدي اله زكيه اله صدقه الانسان. احنا جامعنا صرنا نسمع عن تلك الاله تعالوا نشوف بعض الامثله تمام وليس وليست هذه هي الحقيقه القائمه الحقيقه القائمه لدى الشركات ولوى الدول الكبرى اكثر من ذلك بكثير وبالذات في المجال الحربي او مجال التجسس على الدول الاخرى. بمعنى سرنا نسمع عن المحامين الروبوت ولم يكن هذا عباره عن خيال علمي زي ما تحدث عنه في كتابه نيللي حينما تحدث في روايته على سنون كراش الخيال العلمي عالم عالم يبعد عن العالم المادي يعيش في عالم خيالي وفي عباره عن تابوت وهذا العالم الخيالي اصبح هو هو العالم الذي يعيش فيه الانسان وليس العالم الحقيقي المادي وهذا ما سوف نصل اليه عن طريق تطبيق الميتافيرس وهو تطبيق سوف يغزو العالم وهو احدى تطبيقات الذكاء الصناعي بالاضافه الى الواقع المعزز والواقع ثلاثي الابعاد.

طيب احنا نشوف هلا بدنا نوصل في العالم بعد العالم الالكتروني وصلنا الى الاله الذكيه. الاله الذكيه نسمع عن المحامي الروبوت ونجد تطبيق له في امريكا هناك محامي هذا المحامي يتم الدفاع عنه بتفويض من قبل الاشخاص. سمعنا في الامارات نجد هناك الماذون الاله الذكيه الطرفين بيدخلوا البيانات صار الزواج الحمد لله مش طبيعي يعني ممكن تطعن فيه قريبك تدخل المعلومات العريس والعروس ومن ثم يتم الزواج ولا تغلب حالك ولا تقرا الفاتحه ولا تجيب منديل مشي الامور على تمام الوضع وهذا حديث انا بحكي على حوادث حقيقيه وليس عباره عن روايات نسمعها.

نسمع الان عن عالم اخر يستخدم فيه العالم الالكتروني بتطبيق الذكاء الصناعي الا وهو المحاكمات عن بعد. محاكمات عن بعد بمعنى ان القاضي ممكن ان يكون في مكان والمحامي في مكان او يختار محامي وين يكون وكذلك نسمع اين يكون وكيل النيابه واين يوجد له ارهاصات وليست تطبيقات في مصر والذي يستخدم في حاليا في تجديد الحبس الاحتياطي او في المحاكم الاقتصاديه ولكن نجد انه هذه التجربه سبقت مصر بها وان كان يوجد في مصر حاليا مشروع سبقت الامارات المغرب تونس الجزائر عنها قانون للعصر للعصرنه وانا بتمنى اخونا الاستاذ ايمن وسعاده النقيب انه موضوع التقاضي عن بعد يصير موضوع محاضره مختلفه عن موضوع الذكاء الاصطناعي.

صرنا نسمع عن الصين تقوم بتطبيق القاضي الذكي وسنغافوره ايضا بمعنى ان الاشخاص يطلعوا لذلك القاضي الذكي يمدوه بالمعلومات يقوم بالحكم بين المتقاضين او حتى اجراءات التحكيم وقاموا باعطلاق عليه اسم معين. نسمع في السعوديه انها لديها روبورت او انسان الي سميه اللي بدك تسميه تمام واطلقوا عليه اسمه صوفيا واعطوه الجنسيه السعوديه وله حق التصرف تمام وله حق الملكيه في بعض الامور وان كان مقيدا.

اذا انا كان لدي علم مادي اللي انا بعيشه كنا بنعرفه احنا احنا واياكم واجددنا اصبح لدينا عالم الكتروني صرنا نسمع انه اي واحد بده يحكي في الجنائي بده يحكي في المدني بده يحكي في الاداري القرار الاداري الالكتروني وحضر رساله الدكتوراه وماجستير وبحث في هذا الموضوع ونسمع عن التجاره الالكترونيه. احنا حاليا اللي بنبحث فيه الناس سبقتنا فيه بيتنا في ايش سبقتنا في الذكاء الاصطناعي تمام انه اصبحت تلك التطبيقات الالكترونيه مضاف الها اله ذكيه.

ما معنى كلمه الاله الذكيه؟ الاله الذكيه هي اله ليست تجمع بها البيانات فقط هي تفكر هي تستنبط هي تتعلم ذاتيا من تجاربها ومن ثم تتخذ القرار منفرده بمعزل عنه الذي قام بصناعته الذي قام ببرمجتها المستخدمه وهنا الخطوره. هذا الحديث في تطبيق الاله الذكيه بيوصلنا لاشي بنسمع مصطلحه الا وهو انترنت الاشياء. انترنت الاشياء واخطر اشي ممكن على البشريه هو موضوع الذكاء الاصطناعي حينما تتعاطف او تتخاطب او تتجمع تقنيات الاشياء اي كيانات الذكاء الصناعي مع بعض بمعزل عن الانسان. حاول اليابانيين حاول الاتحاد الاوروبي اطلاقات من بعض الشركات وملاكها من انذار البشريه بانه يجب ان يضعوا حدودا للذكاء الاصطناعي والا يهدد العنصر البشري. لذلك نجد انه عمله ميثاق في اليابان عملوا ميثاق في اوروبا اليونسكو دخلت كمان على هذا الخط وعملت لها ميثاق اسمه ميثاق الاخلاقيات في تصنيع الذكاء الاصطناعي واهمها الا يقوم الذكاء الاصطناعي بقتل البشر او التعدي عليه حتى وان كانوا اعطوا حق الدفاع عن نفسه في خط احمر وضعوه ولكن جشع الشركات المصنعه للذكاء الاصطناعي واهداف اخرى ممكن ان تهدد البشريه في هذا المجال.

واللي نتحدث عنه ليس عباره عن خيال ولا احنا قانونين بنحب فكره المؤامره او نفكر بابعد ما هو موجود بين السطور نحن نتحدث عن امر واقعي حينما نتحدث عن تقنيات الذكاء الصناعي. انا امبارح بالصدفه تمام بعد هيك المقراته يوم يبقى حبيت اني افتح اتفرج على فيلم او مسلسل بفتح الا لقيت قدامي برنامج وثائقي يتكلم على تهديد البشر عن تطبيق الاسلحه ذاتيه القياده وانه كيف انه هذا هذا الالات التي تعمل في المعارك بدون تدخل بشري كيف تعطى القرار كيف تعطى القرار بقتل انسان وطبعا هذا التطبيق وما يوجد من ترسنه عسكريه في هذا الموضوع اشي كتير لا يتوقعه الخيال لانه اغلبهم كمان بيعتبروها انه هذه اسرار حربيه ولا يجوز نهائيا اطلاقا.

انا عشان انا بصراحه مش ممنوع انا انا مش حافظ انا فاهم فهخلي الاسئله في الاخر لان انا شو بيجي عندي من الافكار بحكيها وطبعا انا معطي الاسئله في الاخر لسبب على اساس تكون هي المجال الاوسع لكن انا انا بدي اوضح الفكره بطريقه مبسطه في الموضوع فعشان هيك بدي معلش اعذرني بتدخلي الاسئله في الاخر.

فهذا الموضوع المسؤوليه الجنائيه قال عن الالات ذاتيه القياده في في المجال الدولي موضوع مصارع المسؤوليه المدنيه للذكاء الاصطناعي في المجال المدني مجال اشكال المسؤوليه المدنيه الجنائيه عن عن تطبيقات الذكاء الصناعي تمام ايضا تثير اشكاليه بعد ما احنا حكينا حاليا وعرفنا العالم المادي والعالم الالكتروني والعالم الذكاء الصناعي بطريقه مبسطه مع بعض الحوادث نيجي نتكلم عن اشي هو اعتقادي هو صلب الموضوع في الذكاء الاصطناعي حديثي عن انه يمثل تهديد للبشريه واي واحد فيكم ممكن يبحث من اسبوعين كيف الامين العام اطلع صرخه انه يجب الخوف والبشريه تنتبه الى تطبيقات الذكاء الصناعي موجوده على الانترنت ممكن تبحثوها عشان تفهموا انه حديثي ليس بسيطه وانه احنا كعرب يجب الا نصبح عباره عن سلعه يجب ان نشارك في ذلك العالم لدينا من العقول التقنيه والقانونيه ومن الكفاءات من تستطيع ان تقوم بذلك ولذلك يجب دعم معاهد البحث العلمي وبخاصه في تطبيقات الذكاء الاصطناعي.

الاشكاليه او صلب موضوع الذكاء الاصطناعي ينصب على اشي مهم ما هو طبيعه تقنيات الذكاء الصناعي حابب تسميها في فرق طبعا بين الذكاء الاصطناعي كنظام ومن تطبيقاته في تطبيقات مرئيه وفي تطبيقات غير مرئيه في تطبيقات تستخدم في كافه العلوم البشريه بما فيها العلوم القضائيه تمام واحنا شفنا كيف تستخدم تطبيقات الذكاء الاصطناعي وحكينا نماذج الها في العداله الجنائيه وفي كافه المجالات وحكينا عن المجال العسكري لذلك فوائد التقنيات او كيانات الذكاء الصناعي نعم جيده هي تساعد وتسهل الحياه ولكن من جوانب اخرى في تهديد بشري ومن جوانب اخرى هو موضوع ايضا انها ممكن تؤثر على العماله البشريه اي القوى العامله.

طيب اشكاليه الذكاء الاصطناعي سميتها كيان سميتها تقنيه سماه سميتها نظام او انظمه سميتها قا احدى تطبيقاتها واشهرها الروبورت اللي انت ممكن تشوفه زي روبورت صوفيا اللي موجود في السعوديه والتي منحه الجنسيه السعوديه سميته الانسان الالي سميته هذا التطبيق الاشكاليه الحقيقيه هل هو شيء وبناء عليه اذا كان شيء معناته سوف ينطبق عليه الطبيعه القانونيه للاشياء سواء كان ماديا او معنويا اي عقارا ام منقولا بطريقه سلسه وبسيطه.

طيب اذا كان شخص اي انسان معروف المسؤوليه الجنائيه للانسان ما هي وهي القواعد التقليديه اللي كنا درسناها في كليات الحقوق اولا اشي طبيعي ان الروبورت لو اخدته كنموذج هو لا يعتبر باي حال من الاحوال هو عباره عن انسان ليس بشخص ولا تحتاج الامور الى توضيح في هذا.

طيب هل هو يعتبر شيء؟ الشيء هل يستنبط هل يفكر هل يتعلم من تجارب السابقه هل يتخذ قراراتا بذاته بمن اه عن من قام بانشاه او برمجه او استخدمه؟ نعم اذا هذا ليس عباره عن شيء ما اقدرش اقول عليه شيء ولا اقول شيء كنت طبقت نظريه الحراسه بمسؤوليه التابع عن اعمال تابعه مسؤوليه الغير تمام لا هذا مش شيء.

طيب معناته شو معناته هذا عباره عن شخصيه فريده. طيب شخصيه فريده طب شو بدنا نعمل في القانون احنا تابعين القانون اذا علمونا الحيل في القانون المدني ندخلها كمان في الجنائي اه ندخلها ليش لا. طيب نمشي شخصيه جديده شو الشخصيه الجديده لان الشيعه الشخص الالكتروني الشخص الذكي معقول طب احنا عندنا كم شخصيه عنا الشخصيه الطبيعيه اللي هو الانسان وعنا الشخصيه الاعتباريه في بعض الدول العربيه بتسميها المعنويه تمام وفي ننشئ شخصيه ثالثه يا اخي شوف شخصيه الثالثه الشخصية الثالثة الشخصية الالكترونيه لتطبيقات الذكاء الاصطناعي حتى تتحمل بعض الحقوق والالتزامات ومن هون اقدر ارتب عليها قواعد المسؤوليه وهذا من نادى به البعض بمعنى ان تمنح تطبيقات وكيانات الذكاء الصناعي الشخصية الالكترونيه.

طيب واحد يقول لي طب يا عم انت ليش ننشئ شخصية جديدة لانه هذه الاله اصبحت تتخذ قرار انت لو قاضي وعلى منصه الحكم واخدت تطبيق عملي عليها واخد تطبيق سهل سيارة ذاتية القيادة انت بتسوق السيارة رحت دايس على زر تمام انه السيارة تقود ذاتيا وانت ايه قاعد مرتاح السيارة هاي بالاجهزة الاستشعارية لديها بالخوارزميات التي عندها بتطبيقات الذكاء الصناعي بالطرق الممهدة طبعا السيارات هذه الطرق معينة ما تنفعش طرقنا الحمد لله وبناء عليها هذه السيارة تلقت اشارات خاطئة نتيجة عاصفة رملية نتيجة حادث طارق التطبيق لم يعمل بشكل جيد صدم الشخص توافق راحت النيابة العامة وانا كنت جزء منها تمام عملت اتهام التسبب الوفاة عن غير قصد راحت على المحكمة القادم اذا سوف يحكم بتيجي انت كمحامي ومحامي اكيد شاطر تقول له استاذ هو الشخص يسال فعله السائق لم يكن في يوما من الايام هو صاحب السيطرة على السيارة صاحب السيطرة وصاحب اتخاذ القرار هي تلك الاله الذكية اذا القاضية سوف يحكم بالبراء فلازم نتحدث عنه ليس خيالا وليس عباره عن من الاخر طرف فكري احنا بنحكي في الحياه لذلك المحاضرة في موضوع اشكاليات الذكاء الصناعي سواء مدنيا سواء دوليا سواء جنائيا ليس طرف فكري احنا اليوم انا لما حكيت على مثال بسيط موجود حاليا اللي هو موضوع السيارات التقنية هذا يستتبع في القريب العاجل وفقا لقانون المرور او السير على حسب اي تسمية في اي بلد في اي قطر عربي ان تقوم بتعديل بوضع على السيارة ذاتية القيادة المسؤولية المدنية والتامين هو التعويض الناشي عنها والمسؤولية الجزائية هذا يستدع انه يضع تعديل في قوانين السير في ذلك الامر هو امر وضعته فرنسا في قانونها عندك عده ولايات في امريكا قامت بوضع قواعد للسيارات ذاتية القيادة لانها اصبحت جزء من الحياه وليس طرفا فكريا.

احنا لما نيجي كمان مرة ونرجع للشخصيات اللي حكينا عنها شخصية الطبيعية وخلصناها على على التقنيات الذكاء الصناعي حكينا على الشخصية الاعتبارية الشخصية الاعتبارية او الشخصية المعنوية هي عباره عن تجمع للاشخاص او الاموال زي ما علمونا في كلية القانون انه هذه عباره عن تجمع للاشخاص او اموال ولكن انت بدك تنتبه برغم اعتراض البعض وبما فيهم فقهاء مصر العظماء واللي كنا تعلمنا على ايديهم كانت يوجد معارضة شديدة جدا جدا تمام انه تعطى شخصية جديدة في حينه تسمى بالشخصية الاعتبارية او المعنوية لذلك تجد هذا الحديث اثره في القوانين المصرية انه لا توجد قاعدة عامة ولكن توجد بعض التطبيقات في مسؤوليات الشخصية الاعتبارية في قوانين متناسبه على عكس نهج بعض الدول الاجنبية او الدول العربية نجد مثلا على الاردن او الكويت على سبيل المثال لانه عنا اخ من الكويت بدي احاول اركز شوي تمام انه نجد انها منحت الشخصية المعنوية او الاعتبارية بشكل مستقل يسال الشخص الاعتباري بالاضافه الى الشخص الطبيعي الذي يمثله اتنين انسان مع الشركه اتنين يسالوا والشركه لما اجي اعاقبها اعاقبها بعقوبات تتناسب معها عقوبات يا اما ماليه يا اما عقوبات منع المزاوله لمده محدده يا اما انهيها اعدمها الغيها اذا استخدمت مثلا على سبيل المثال شخصيات اعتباريه في الاتجار بالبشر لا هذه تغلق بتموت بين بدها تمام اذا حتى هذا الشخصية اللي اصبحنا حاليا نعترف بها الشخصية الاعتبارية لم تكن محل ترحيب لدى العقليات البشرية ولكن تختلف الوضع الان حينما نتحدث عن روبورتي يتخذ القرار يستنبط يفكر يتخذ القرار بمعزل اذا لازم اعمله شخصية شخصية اسميها الكترونيه شخصية ذكيه وهذه الشخصية لما اجي اركبها واعطيها الاعتراف القانوني يجب علي اني اعطيها على حسب تلك الامكانيات واحد اعطيها بعض الحقوق اعطيها جنسيه اعطيها اسم ارتب لها بعض الحقوق الماليه وايضا ارتب عليها بعض الالتزانات حتى استطيع ان اقوم بفرض اي نوع من انواع المسؤوليه عليها.

طيب اذا يجب الاعتراض بالشخصية الالكترونيه للتطبيقات الذكاء الصناعي ما اتح دث ايضا هو عباره عن توجه في عام 2017 ادي الاوروبيين لانهم تطبيقات كثيره لازم موضوع الذكاء الاصطناعي وشو عمله اجتمعوا شويه خبراء وراحوا حل موضوع الذكاء الاصطناعي في المسؤوليه المدنيه وحكوا عن خطورته وحكوا انه يجب ان توضع مدونه وعملوا القواعد الاوروبيه للانسان الذكي وعمره نظريه جديده في القانون اسمها النائب الانساني النائب الانساني بمعنى يا ابو برمج يا مستخدم يا مصطنع انت نائب عن التطبيق او الكيان او النظام ضمنيا الاعتراف بالشخصية جديدة وتمهيد الطريق الاعتراض بشخصية ثالثة في القانون الا وهي الشخصية الشخصية الالكترونيه لذلك صار عن نقاش حاد الموضوع في القانون المدني انتم بتعرفوا المسؤولية الذكاء الاصطناعي في الموضوع المدني لا يثير اشكاليه صارت اشكاليه ولكن حليتها حاليا اوروبا عن طريق تلك النظريه حملت المسؤوليه للنائب الانساني وضمنيا اعترفت بالشخص الالكتروني بمعنى بمعنى انتم بتعرفوا اجوا طبقوا في اوروبا الشخص المسؤوليه هذه مسؤوليه عقديه ولا مسؤوليه تقصيريه تمام ما زبطتش ندخل قانون حمايه المستهلك وانه المصنع يتحمل مسؤوليه المبيع وتطبيق الذكاء الاصطناعي او الروبوت او الانسان الالي هو كان معيبا ويتحمل عيبه من قام بصناعته مسؤوليه موضوعيه نوسع شوي مسؤوليه المخاطر لذلك هم في الاخر مدنيه الامر الامر لا يسير اشكاليه كثيرا الان لماذا لان هناك قواعد تم وضعها وين المشكله المشكله احنا تابعين احنا تابعين الجنائي اصلا مشكله احنا من لا شيء نخلع شيء يا دكتور شعبان معلش تبعين المدني واحد زائد واحد بيساوي اتنين احنا تابعين الجنيه بنحب شويه تمام احنا عنا مشكله في هذا التطبيق الذكاء الصناعي وخلينا على مثال السياره لسبب لانه ابسط مثال لدينا وتشعر انها تطبيق ما فيش حاجه عنه بسوق سياره عنا الا ممكن حديثه الا بتلاقي عنده جزء من تطبيق تلك الذكاء الاصطناعي برغم ان التطبيقات الفيسبوك وهي ايضا تعمل ذكاء بس خلينا في اشي زي الاله لان الخطوره في انترنت الاشياء.

طيب بدي اعطي بدي انا اعطي لهذا التطبيق او هذا الكيان المسؤوليه الشخصية التي تترتب عليها المسؤولية. طيب معنى هذا الحديث هل يستطيع ان يتقاضى الروبوت يكون مجني عليه يدعي بالحق المدني هل استطيع ان اقوم باستجوابه انا كعضو نيابه عامه تمام هل يستطيع هذا الروبوت زي ما عملت المحامي المحامي الروبوت ان يقوم بعمل كمحامي ويتلقى توكيلا من الخصوم هل يمسوا الامام المحكمه يوضع في قفص الاتهام هل هقدر افرض عليه عقوبه اغراض العقوبه زي ما علمونا اساتذتنا الله يرحمه الدكتور مامون سلامه وفوزيه عبد الستار ومحمود نجيب حسني وهم كسر وكلنا على حسب دكتور اللي بيفتخر به هينفع نحكي فيها نظريات العقوبه زي علمونا الرابع العام والرابع تحقيق العداله تمام معناته في اشكاليه نعم هذا الموضوع في اشكاليه هل يوجد حل لا يوجد حل لتاريخ اليوم عكس الامور المدنيه عكس الامور الدوليه الامور الدوليه حاولوا بشتى الطرق ان يقوموا انه الاله التي تقوم بقتل الانسان تلقائيا وقالوا الاله هاي احسن من الانسان لانها تميز بين المدني والعسكري لكن الحقيقه عكس ذلك لذلك القواعد الدوليه تذهب الى مسؤوليه القائد العام ومسؤوليه موجود في المعركه لتاريخ اليوم الاشكاليه كلها في تبعين الجينات احنا الاشكال لذلك حتى تاريخ هذا اليوم فعليا لم توضع قواعد حاول البعض في تطبيق السيارات ذاتيه القيادة في بعض الدول في اوروبا على سبيل المثال فرنسا او امريكا بس انا على تطبيق واحد تطبيق التطبيقات لسه ما فيش تطبيقات.

طيب اذا انا اعترفت بانه في شخص الكتروني الركن المادي ليه ارتكاب الجريمه وهون هبدا اشرح شوي بين شغلتين الشغلة الأولى تطبيق القواعد العامه سوف اقوم بانزال باسقاط القواعد العامه على جرائم تقنيات الذكاء الاصطناعي والامر الاخر يجب ان يكون معلوما ان هذا ايضا به مساسا بقاعده الشرعيه انه لا جريمه ولا ولا عقوبه الا بنص الامر الاخر انه لا يجوز التوسع في قواعد التجريب انا التفسير الواسع في قانون الاجراءات ممكن يمشي حاله شويه وبالذات القواعد الاباحه العقوبات لا احنا بنحكي قواعد عامه ورغم هذا وذاك عشان اوضح الفكره وزي ما اتفقت معكم في انا مش من النوع اللي بحب الاكلكع القصه انا بحاول افسرها بابسط طريقه ممكنه لان انا معني اوصل المعلومه واوصل خطوره ما نتحدث عنه وهو ليس طرفا فكريا للعلم قانوني مع احترامي في التعبير نقعد قعده تحشيش فكري قانوني ونحكي عن تطبيقات لا لا لا احنا بنحكي عن واقع احنا بنحكي عن واقع عملي انت بتقول سياره انت بتسمع كل يوم جهه ما بدون ذكر اسماء عشان ما نخشش في السياسه ان انا ما بحبهاش وهي بتحبني طياره اجت من دوله معينه تعدت الخطوط لدوله اخرى الدوله الاخرى يا اما بتشير قنبله يا اما لاغراض التجسس ليس طرفا فكريا ما نتحدث عنه ولكن هو واقع واقع دولي وواقع وطني.

انا هضرب مثال عشان اوضح فكره المسؤوليه الجنائيه. المسؤولية الجنائيه معروفة انها تقوم لازم يكون عندي نص عقابي اللي هو طبعا الركن الشرعي واحنا بنعرفونا بكليه الحقوق ان الركن الشرعي لا يدخل في تكوين الجريمه ورغم انه بعض الدكاتره تفك القانون دخلوا الركن الشرعي لكن انا من المدرسة المخلوق ليس بخادك المهم الفكر الركن الشرعي اللي هو التجريم والعقاب مبدا الشرعي عندي ركن مادي ركن معنوي. الركن المادي ليس هناك اشكالية لان الركن المادي انا في عندي الجرائم الشكلية او الجرائم المادية اللي هو التي تعتد بالسلوك زي الجرائم التنظيمية وجرائم القطر بمعنى انها تعتد بالسلوك اكثر ما تعتد بالركن المعنوي. نيجي للركن المعنوي الركن المعنوي هي الرابطة النفسية زي ما حكى ارسطو ارسطو لما حكى قال لك لازم تكون في ارادة قاسم عشان احاسب انا على فعلي ارادة قاسمه الارادة القاسمه لا استطيع ان اطبقها حقيقة على تقنيات الذكاء الصناعي لانه مهما وصل البشر الى علم لن يعطوا لهذا الكيان الادراك الادراك احنا بنسميه عنا في علم القانون الاهلية الارادة ارادة الخير والشر انت بتختار طريق الخير والشر والادراك والوعي انت مش مجنون لكن كمان تطبيقات الاله الذكية ممكن تخرب بيوتنا كيف يقول لك هذه الاله الذكية واحدة قضايا صارت في بريطانيا حكم واشخاص على احدى تطبيقات الذكاء الاصطناعي والتي ادت الى وفاه قام محاميهم زي حضراتكم بالظبط وقال انه هذا التطبيق الاله الاله الذكية اصيب بفيروس الفيروس ادى لاخلال بطريقة عمل الذكاء الاصطناعي ركبت الجريمة وهذا يعتبر عذر قهري وعذر مفاجئ وهذا يعتبر الجنون ولا يعتد بفعله والحمد لله اخذوا براءة حتى الان الذكية حتى الاله الذكية انا بحكي على الركنه المعنوي ولكن الركن المعنوي يجب ان يكون معلوما لدينا ان الذكاء الاصطناعي لديه ادراك وليس ادراكا طبيعيا ولكن ادراكا اصطناعيا فهو يستنبط وهو يفكر وهو يحلل وهو يتعلم من تجارب غير السابقة وهو يتخذ القرار بمفرده.

نيجي نحكي طبعا النتيجة معروفة شو هي النتيجة وعنصر الضرر ولكن اغرب الجرائم الذكاء الاصطناعي او الجرائم التي تستخدم بوسائل الكترونية معروف النتيجة فيها وتكون ظاهرة في العالم المادي اللي احنا بنعيشه. احنا بنحكي على مثال تبعنا عشان تكون الامور سلسة اللي هو عبارة عن سيارة ذاتية القيادة. السيارة الذاتية القيادة بالدفرق بين اطراف الدعوة اطراف الدعوة نعد مع بعض منتج السيارة مبرمج السياره مستخدم او مستعمل او مالك السيارة وعندي تطبيق الذكاء الصناعي. انا عندي الجرائم نوعين يا اما جريمة عمدية يا اما جريمة جرائم الخطا او جريمة غير عمودية. حينما نتحدث عن الجريمة المادية فلنفترض التالي المبرمج برمج جهازا كي يتجسس على الاخرين قام ببرمجة جهاز انه يقوم في وقت محدد بانتهاك خصوصية الاخرين بحرق المصنع الموجود فيه هذه جريمة عمودية جريمة عمدية من احد اطراف الدعوة سواء كان المبرمج سواء كان المستخدم ممكن المستخدم دخل ايضا في البرمجة واستخدمه لاغراض اجرامية في تلك الحالة هذه جريمة عمدية والاله الذكية في تلك الحالة هي عبارة عن اداة زي تطبيق الفاعل المعنوي الفاعل المعنوي انت شخص طبيعي تستخدم شخص آخر قلنا شخص عاد الشخص يا اما حسن النية واستخدم في ارتكاب الجريمة يا اما غير مميز زي الطفل الصغير تمام ليس لديه اطراق تمام هو الذي ارتكب الجريمة ولكن الذي ارتكب الجريمة فعليا هو من قام باستخدام تلك الوسيلة. اذا تطبيق تقنيات الذكاء الاصطناعي في تلك الحالة هي عبارة عن وسيلة ولا غباره بانزال القواعد العامة في تلك الحالة على حسب من قام بالفعل كجريمة عمدية ما في مشكلة لكن المشكلة فين بقى المشكلة حينما يقوم تطبيق الذكاء الصناعي باتخاذ القرار وتلقائيا بمعزل عن الاطراف الثلاثة المبرمج المصنع والمستقبل هنا المشكلة.

طيب نيجي للجرائم الغير عمودية في الجرائم الغير عمودية الجرائم الخطر والتي تتمثل في السلوك وتتمثل في احدى صور الخطا الرعون عدم الانتباه مخالفة القوانين ومين والانظمة وهكذا فلنفترض لذوات طبقت هذا الحديث على اطراف الدعوة في تطبيق الذكاء الصناعي المصنع كمنتج يجب ان يكون المنتج صحيحا ولا يسبب ضرر وفقا لقانون حماية المستهلك وفقا لقواعد العامه في كافه الدول. طيب قام بتصنيعه كان فيه بصراحة خطا يتحمل مسئوليتهل ببرمج تقاطع غير عمتي. طيب فلنفترض ان المستخدم السياره انا طبعا بحكي على مثال السيارة عشان يكون معنا كمثال لتوضيح الفكرة المستخدم لعب في البرمجة لما لعب في البرمجة السيارة عملت حادث يسال ساعتها المستخدم بخطا غير عندي نتيجه ارتكاب ذلك الايه الفعل. طيب ماذا حل تطبيق الذكاء الصناعي لو ارتكب فعلا ذلك الفعل نتيجه خطا. هون ايضا تثير اشكالية يبقى اذا عندي الجرائم العمدية عندي الجرائم الغير عمودية حاول فقهاء القانون ان يضعوا عده نظريات لتحديد مسؤوليات الذكاء الاصطناعي حاولوا انه يضعوا نظرية الفاعل المعنوي وهذه ممكن ان تطبق على اطراف الدعوة ولكن لا تستطيع ان تطبقها على تطبيقات الذكاء الصناعي لانها عبارة عن اله وليس شخص. حاولوا يطبقوا مسؤولية الافعال عن مسؤولية افعال الغير وفشلت هذه النظرية لماذا انتم بتعرفوا عشان انا اسال على مسؤولية الغير كتطبيق له واحد عنده حيوان الحيوان هذا عرض شخص آخر نتيجه عدم حراسته او شيء يسال جنائيا ولكن في بعض الدول استخدم هذا النص استخداما مفرطا فهو يمس بمبدا الشخصية فجاءت المحاكم الدستورية وقالت ان هذه النصوص هذه عبارة عن نصوص غير دستورية زي واحد صحيح انا عندي جريدة وعندي واحد صحفي في طعم في حدا. طيب انا صاحب الصحيفة لذلك ذهبت اغلب الدول انه التعويض المدني افضل وابعدوا عن موضوع المسؤولية المسؤولية الجنائيه قالوا طب يطبق فكرة القصد الاحتمال بمعنى انتم بتعرفوا انه قصدي الاحتمالات زي ما علمونا في كليه حقوق انا عندي لما انا اريد الفعل واتوقعه وما عنديش مشكلة فيه هذا اسمه قصد احتمال بمعنى اصح انا والله الي عدو معين العدو هذا بدي اقوم باطلاق النار عليه ولكن هو فوق الجامعه والله سابته غيره خير وبركة لا هذا متعدي بقى بشيل المسئولية هذا هو القصد الاحتمال ولكن حينما انا لا ارغب في النتيجة اتوقع الفعل ولا ارغب في النتيجة واعتمد على مهارتي واقوم بشرط اساسي بالمنعة من وقوعها هذا اسمه خطا ولكنه خطا واعي مدرك قريبا من الخطا الاعتمالي ولذلك تذهب الدول الى تجديد العقوبة برغم انها احدى صور الخطا حين تطبيق ذلك اطراف تقنية الذكاء الصناعي نجد انه من الجائز ان تطبق الخطا الواعي حينما قام بصناعة تلك الاله وكان يعلم انه من الجائز انها ترتكب جريمة يتحمل ساعتها المصنف يتحمل البومارمج يتحمل المستخدم الخطا الواعي وليس قصد الاحتمال لانه ساعتها بنخش في شك.

اذا هذه انا تحدثنا عن المسؤولية المدنية والمسؤولية الجنائيه والمسؤولية الدولية وركزنا انه في اشكاليات حقيقية لتطبيقات الذكاء الصناعي. اما بالنسبة للعقوبات فذهبوا اغلب الفقهاء الى انه يجب ان تطبق عقوبات خاصة منها منع المزاولة ذلك البرنامج لمده محدده او اعدامه اذا كان يمثل خطر او مسار او مصادرته. واذا انا رتبت عليه الشخصية الكترونيه ممكن بعض الالتزامات المادية حقيقة موضوع تقنيات الذكاء الصناعي والمسؤولية الجنائيه هو موضوع سريع سريع جدا في النقاش وين تضع ايديك تستطيع ان تقلع اشكالية لانه حقيقة هذا الموضوع بده قواعد احنا كمان يجب ان نشارك ويكون ان راي في اي قانون. لذلك انت بتسمع جامعه عين شمس في شهر عامله مؤتمر على موضوع الذكاء الاصطناعي جامعه المنصوره سبقتها بسنتين وعملت مؤتمر على موضوع الذكاء الاصطناعي هذا لو انا حكيت على مثلا على مصر قطر جامعه لوسير عامله مؤتمر في شهر 9 على موضوع الذكاء الاصطناعي حاليا صار في اغلب الدول العربيه بتعمل مؤتمرات وابحاث في موضوع تقنيات الذكاء الصناعي للموضوع اوسع من ما انت ممكن انت تخيره.

انت بتسمع حاليا على تقنية البلوكتشين اللي هو دفتر الاستاذ طب هذا تطبيق رائع جدا ويستخدم وعالم مختلف تماما اللي احنا عايشينه وعالم صعب التزويره وصعب قرصنته تمام طب تطبيق ومدنيا وجنائيا احنا وين منه. نيجي لعالم اخر بس احنا حاليا حكينا على اشكالات الذكاء الصناعي. انا ممكن الاستاذ ايمن اللي بيدرس الاستاذ قانون مدني بيدرس في الامارات وهو من اسكندريه اعطى محاضره في الفكر القانوني واحده في اسكندريه واحده في القاهره على على موضوع الميتوفيرس وانا قريبا هيظهر الي كتاب في موضوع الميتو في علمته لانه هذا الموضوع زي ما احنا بنحكي حاليا على الذكاء الاصطناعي هدولا ده قبل ما نبدا نفهمه اخذوا اخذونا الغرب لعالم جديد نهائيا عالم خيال انت شخصيتك الطبيعية ممثلة عن طريق شخصية رقمية تسمى الافاتار ترسم حالك كشخص طبيعي ترسم صورة واحد مشهور حيوان مع ان مشكلة لكن هذا الشخص اللي اسمه الافاتار الذي يعمل بتقنيات الذكاء الاصطناعي يستطيع ان يكتسب حقوق عنده عمله لو هي العملة الافتراضية بنسمع عنها يكتسبها عنده ممتلكات غير قابلة للاستبدال لما يشتري لبس سمعنا على محاكمة سير في الميتافيرس سمعنا انه في الميتافيرست كل العملات التجارية والمحلات اصبحت في ذلك العالم تشتري اراضي بملايين ملايين عشان يكون الها محل او موضع قدم فيه معهد دبي عمل له علم اسمه كوريا الجنوبية كل المدينه عملوه تطبيق الها للميتوفيرس تستطيع ان تدخل على هذا العالم تبيع وتشتري وتدفع فاتورة الكهرباء الماء في هذا العالم هو عالم افتراضي بيعمل بالذكاء الاصطناعي ذو بعد ثلاثي وواقع معزز وهو عالم كمان بسم الله ما شاء الله جديد يعني حاله كمان الجماعة يدخلونا على طفرة اخرى واحنا حاليا لسه ما فوقناش من تطبيقات الالكترونيه يجب الا نكون سلعة يجب الا نكون سلعة يجب ان نكون نحن من نفكر وننشئ فلدينا من الكفاءات في كافه المجالات من يستطيع ان يطبق ويبدع.

انا شكرا كتير على حسن استماعكم وانا اعتقادي انه الاسئله مهمه ويمكن طولته للاستاذ ايمن.

أنا لي بعض يعني التساؤلات البسيطة دكتور يعني فهمت من خلال المحاضرة أنه لا مسؤولية على الآلة لا مسئولية جنائية على الآلة فانا بتخيل أنه حضرتك المشرع وعايزينك تضع لنا بعض المواد القانونية اللي تضبط لنا هذا الأمر بشان الذكاء الاصطناعي فماذا تقول في ذلك.

شوفوا يعني أنا هجاوب على هذا السؤال ويمكن شوي انت ذكرتني الله يرحم الدكتور مامون سلامه. أنا الدكتور مامون سلامه له فضل علي وهذا الشخص أنا بعتبره عبرة لأنه علمني درس مهم جدا الدرس أنه يجب ألا تكون أكاديميا فقط يجب أن تكون ممارسا. الممارسة مع العنصر الأكاديمي تخلق شخص قانوني مع احترامي مبدع. فسؤالك هو سؤال المبدعين يعني بمعنى أصح أنت دوشت راسنا ووديتنا شرقه وجبت لنا غربه سنة النتيجة عندي أحدى حلين. الحل الأول أني أنا عندي قانون الجرائم المعلوماتية بعترف فيه بالشخصية الالكترونية وبضع فيه تطبيقات لجرائم تقنيات الذكاء الاصطناعي. الأمر الآخر أن يوضع قانون خاص للذكاء الاصطناعي اجرائيا وموضوعيا وأعترف به بالشخصية الالكترونية للتطبيقات الذكاء الاصطناعي وهذا ما سوف يتم في المستقبل. وبلاش احنا كمشرعين يعني يمكن أنا قانون الجرائم الالكترونية في فلسطين أنا اللي وضعته يمكن وضعته قبل ما مصر حتى تضع قانونها ووضعت قانون الأحداث ومشروع قانون العقوبات وكنت مشارك. عيب المشرعين العرب أنهم طبعين أنا آسف في التعبير أغلبهم عشان ما نقعش تحت المسئولية الجنائيه واحد يرفع علينا قضية واحنا المحامين تابعين الأصل احنا ننتظر فرنسا شو بتعمل وبنجيب واحد يترجم وبننقل منه النصوص تمام وتمام نيجي نطبق عمليا نقع في ثغرات قانونية أو نطعم القانون القانون هذا لا يمس لا يمس الواقع العربي بشيء لا عاداته وتقل. أنا أتذكر في يوم من الأيام كان يوجد مؤتمر لدينا في مدينة أريحا بصدد مشروع قانون العقوبات اللي أنا كنت أمين سر وضع هذا المشروع وكانت تعرف أنه في كل بلد في مؤسسات حقوق الإنسان وما احترامي الشديد له بكافة أضيافهم للرجل وللمرأة وللطفل ولكافة البرامج. فانا بصراحة وضعت وعن خبز وعن إرادة ووعيه وإدراك نصوصا [موسيقى] ووسعت شوي في الجرائم الجنسية بمعنى عاقبة على اللواء عقيبه على السحاق وعاقبة على كافة أشكال الجرائم في ذلك الخصوص. طبعا هم طبعا كانوا قبل المؤتمر كانوا يرغبون أنه الرجل لما يأتي زوجته اغتصاب أنت بتقول ممنوع لأن الركن الفرد فيه مش موجود تمام فوضعنا هذا النصوص فتعرضت لهجوم عنيف من مؤسسة حقوق الإنسان أنت كيف تضع موادا للتجريم لهذا الحديث. لذلك أطلقت عبارة كان يوجد كتير من من فقهاء العرب في ذلك المؤتمر بالاضافة أنه مشروع قانون العقوبات الفلسطيني شارك في دكاترة عظام في مصر وكندا الأستاذ الدكتور حسنين عبيد المهم قلت لهم القانون الذي لا ينبع من عادات وثقافات المجتمع هو قانون غريب لا يطبق ولا تشعر بجدوى احترامه. لذلك إجابتي على سؤالك أنه أي قانون احنا الجماعة لما بيضعوا نظام أو فكر أنتم تلاحظوا شغله مهم ما يضعوا فكرة وطني هل لدينا قانون للانترنت أرقام انترنت عالمي هل يوجد سيطرة للدول عليه نفس القصة هيعملوها في نفس القصة هيعملوها في تطبيقات الذكاء الصناعي. لذلك تجد أنه دكاترة القانون الجنائي يقول لك القانون الواجب التطبيقي ما هو أصلا النظام عالمي وعابر للحدود عبر الوطنية كيف بدك في إشكالية كل واحد من ذراعه كل واحد من ذراعه كل واحد من دراعه احنا بنخسر هنركب تكسب القوي يكسب والقوي يفرض شروطه بمنهجته. لذلك الحل العملي إضافة للقانون الكترونيه أو قانون خاص وأنا أشجع على ذلك.

تفضل.

طيب سعادتك من خلال النت وخلافه رأينا أغاني حديثة بصوت أم كلثوم ووجود الأغاني الحديثة بصوت أم كلثوم قد يصل بنا الحال إلى أن.

نرى شخصًا ينتحل صوت أو يجيب بصوت الدكتور أحمد براء ويشتم محمد راضي. يأخذ صوت الدكتور أحمد براء ويشتم من خلاله محمد رامي. اليوم، كيف نثبت هذا الاختراق أو هذا النوع من اللبس الذي حصل؟ كيف يعني؟ أنا الدكتور أحمد براء، أريد براءتي. أحيانًا في جرائم النت، نحن نقول إن الجهاز تعرض للاختراق. في مثل هذه الجزئية في الاصطناعي، ماذا سنفعل؟ يعني ببساطة، هناك إشكالية حقيقية في الأمور الإجرائية في إثبات الجرائم الإلكترونية، ثم تطبيقات الذكاء الاصطناعي، ثم علم الميتوفيرس. لذلك نجد مثلاً، نجد أن الإنتربول يعطي دورات في كيفية الدخول إلى ذلك العالم وإثباته. نحن حاليًا، أغلب دول العالم لديها نيابات إلكترونية، يقول لك عضو نيابة إلكتروني، قاضي إلكتروني، شرطة إلكترونية. في مصر، تبلغها أنت، تقدر تدخل على الشبكة. الشبكة هذه يكون فيها، كما هو موجود شرطي، يجب أن يكون هناك شرطة للإنترنت يستطيع بطريقة معينة بأمور فنية معينة كيفية الضبط، تمام؟ كيفية الحفظ، كيفية أن هذا يصبح دليلًا إلكترونيًا صالحًا للاعتبار سواء أمام المحكمة أو النيابة. وهذه الأمور الفنية أمور كثيرة معقدة. نحن نسمع كمان، مش الإنترنت، يمكن الإنترنت حاليًا يوجد خبراء في الموضوع. حينما يستخدم الشخص شغلتين، الشغلة الأولى حينما يدخل على الدارك إنترنت، الإنترنت المظلم، وهذه دول تلعب فيها، مش مجرد شركات ومؤسسات زي زي شركة الحرير تمام التي تم ضبطها. أو حينما يستخدم التزوير العميق، تطبيقات الذكاء الاصطناعي حينما استخدمت كوسيلة سيئة، أول وسيلة سيئة استخدمت هو التزوير العميق، صوتك وشخصك كصورة وتستخدم لابتزاز السياسيين سواء كانت من أفراد أو شركات أو أو دول. الإثبات هناك برامج خاصة تستخدم لإثبات التزوير، ويوجد أيضًا خبراء مختصون في هذا الموضوع يستطيعون إثبات الجريمة. نحن عنا مثلاً في الوطن العربي، عنا الاتفاقية العربية لتقنية المعلومات والموقع عليها مصر وأغلب الدول العربية، حددت حصراً وفقًا لمبدأ الشرعية، كيفية أنني أضبط هذا الدليل ويصبح الدليل ذلك صالحًا، وأيضًا القوانين الوطنية في ذلك الموضوع.

تفضل بعد إذنكم بس حاجة أخيرة، حاجة أخيرة، حاجة أخيرة بس بعد إذنكم. الدكتور أحمد براء تكلم على أنه كثير من الجامعات بتعمل مؤتمرات. نقابة المحامين أقدم من هذه الجامعات بسنوات طويلة. يبقى أنا من خلالكم بدعو الدكتور أحمد براء وكل المهتمين بهذا المجال لمؤتمر تعقده لجنة الفكر القانوني خلال شهر ثمانية. مناشدة للدكتور أحمد براء وكل الزملاء المهتمين بهذا الأمر أن يضعوا بعض المواد القانونية لنرفعها لمجلس الشعب المصري لتقنين قانون ينظم مثل هذه الأمور.

تفضل بس حاجات كده من الشوك. تكلمت عن بعض التطبيقات اليوم كان أن تكون أداة تمام، وحضرتك تكلمتيه تطبيقات الذكاء ممكن تدخل. أنا عايز بس يا فندم، وإيه اللي احنا عملناه؟ أنا شايف أن احنا هنا في مصر يا فندم في اللي احنا ماشيين عليها، أعلى فيها زي الاستراتيجية الوطنية للذكاء الاصطناعي عليها. هتشوف أن احنا كتشريع، احنا أورينتش في تشريعات موجودة، من ضمنها طبعًا التوصيات اللي احنا بنتكلم فيها. سيارات ذاكرة جنبه زي مثلاً موضوع العمليات الجراحية اللي بتتم دلوقتي. الطبيعة شوية. أنا أنا لما أنا لما حكيت مثال، أنا قلت مثال أنت سلس، إنما لو بدي أحكي على التطبيقات الذكاء الاصطناعي مش هخلص أنا وإياك. التطبيق العملي يا فندم فيما يخص السيارات ذات القيادة زي مثبت السرعة مثلاً، ومثبت السرعة موجود في بعض العربيات الحديثة اللي ممكن على أثر استخدامه يحصل حادث. فهي الإشكالية فعلاً موجودة، ولكن دائمًا إحنا المحامي لو فاهم التفاصيل دي من الناحية التشريعية طبعًا إلى جانب الناحية التقنية أو الفنية، ممكن يطلع لها يا فندم مخرج قانوني. فهي عايزة بس حتة بحث شوية من المحامي إن هو يقدر يجمع جميع التشريعات اللي احنا اتكلمنا فيها، وهي تشريعات منها ما هو حديث ومنها ما هو قديم. مش هيستخدم 2018 تقنية المعلومات، 151 2020 بيانات شخصية. لا ده يرجع ثاني يا فندم للتوقيع الإلكتروني 2004 والقانون بتاع الملكية الفكرية 2002. لها مخرج، لها مخرج. أنا كمحامي هفضل يا فندم أفندها لغاية مصر إن أنا سواء أن أنا بقى عامل الشركة يا فندم المنتجة أو عن شكراً.

المشكلة أنا الذكاء الصناعي يتخذ القرار منفرداً بمعزل عن عدول الناس. تفضل اختصاص الدوري التنازع الاختصاص في إيش في هذه الجريمة وكيف وكيف وما هي إمكانية ممتازة. أنا ممكن أجاوب على السؤال، يعني أجاوب عليه بشكل بشكل فوري. أنا نقاش عندي على كل الأحوال أهم كثير من المحاضرة. شوف أنا قناعتي عكس الآخرين أنه ليس هناك إشكالية في موضوع الاختصاص. ليش عندك باختصار؟ قانون الجرائم الإلكترونية المصري على سبيل المثال حدد اختصاص الجريمة الإلكترونية 2018. لذلك حدد اختصاص بإيش؟ اللي هي الاختصاص وفقًا لمبدأ الاختصاص الإقليمي، بالإضافة أن هو وضع الاختصاص السلبي الشخصي السلبي إذا كان المجني عليه مصريًا أو النتيجة أثرت على مصر، أثرت على مصر. لذلك موضوع تنازع الاختصاص محلول، ولكن هي القصة وين بتصير؟ وين القوي التطبيق العملي في الآخر؟ وين القوي المتهم؟ وأنت من القتل بس موجود عندك القبض عليه وحكمه؟ أنا على كل الأحوال هجاوب على كل الأسئلة.

[موسيقى] صحيح صحيح. [موسيقى] النقطة اللي أنا بتكلم عنها المفروض أعمل أعمل شخصية إلكترونية وأعترف بسوفيا زي ما اعترف جزئياً بها السعودية وأحاكمه وأعاقبه. أعاقبه على حسب الجريمة التي تتناسب مع صوفيا. بعمل عقوبات تتناسب مع الروبوت زي ما عملتوا عقوبات تتناسب مع الشخص الاعتباري. تفضل تفضل. طب كلمتها قصة تبقى مفيش أصلاً جسمه قدامي. هذا هو اللي بيعبر عنك وهو بيعمل بالذكاء الاصطناعي بيمشي وبيبيع وبيشتري. وعلى فكرة كل مساوئ عادات الغير مطبقة في الميتوفيرس بدون ما تقول في تفاصيل كثيرة بس نخلي الأستاذ. على كل الأحوال أنا سوف أجيب على كافة الأسئلة. واحد عشان تمام. أنا أنت سؤالك يحمل الإجابة تمام. وعنصرية في بعض الأحيان هم داوود شغالين في كل شيء بسم الله ما شاء الله. أنا واضح قلت لك أنت في أنا عندي قضية. لما أنت بتكون عندك قضية عندك وقائع. الوقائع تختلف من حلقة إلى أخرى صح؟ أنت محامي، أنت وكيل نيابة، أنت قاضي. الوقائع اللي موجودة أمامك لو أنت خسرتها هي واقعة أنه مبرمج وضع معلومات عنصرية ومضللة في ذلك البرنامج. إذا هو مسؤول وليس الذكاء الاصطناعي. الذكاء الاصطناعي ذاتيًا هو لحاله اتخذ القرار منفرداً بعيداً عن المبرمج والمصنع والمستخدم. هو الذي يجب أن يسأل. الإشكالية تمام تمام. أول شغلة إحنا إحنا بنعرف بشكل قطعي الطيارات. الطيارات العادية. الطيارات على فكرة الموضوع كثير حلو وأنا بعرف أن الموضوع يصير إشكالية والموضوع بيعمل عندك تجاوب فكري وهذه الأسئلة هي التي تعطي الإجابات التشريعية. الطيارة فيها صندوق بيسموه الصندوق الأسود. الصندوق الأسود بيحفظ كافة البيانات. أنا عندي خبير إلكتروني وعندي ذاكرة إلكترونية بطلع منها كل البيانات. بعرف مين اللي اتخذ القرار الخطأ وكل مسجل. تمام.

[تصفيق] إحنا بقى دلوقتي أصبحنا أمام عالم جديد. العالم الجديد ده هيرتبط. إحنا للأسف بعيد عنهم بدليل الموضوع بقى هو قيد البحث وقائد الفكر. يعني إحنا محتاجين فيديو أو مركز أبحاث بقى إحنا نشتغل على الموضوع لأن إحنا دلوقتي موضوع ما فيش إجابات. يعني كل أسئلتنا ملهاش إجابات. هي عايزة اللي يحط لها تحديد للمسؤولية ويضع إجابات بطبيعة. وأنت من اليوم مكلف بأنك تعمل البحث اللي عايز تعمله في المؤتمر ونخليك تعرض. يلا تمام.

الآية الآية. تفضل. الركن المعنوي كيفيه إثباته؟ طب أنا هسألك سؤال. طيب طيب. شوفي يا ستي. أول شغلة أنت أنت لو انتبهتي إحنا هلا على قضية مين بالظبط؟ شوية شوية. هلا ببساطة لما حكينا من شوي حكينا على شيء كثير مهم أنه حكينا أنه تطبيقات الذكاء الاصطناعي لديها إشكالية في موضوع الركن المعنوي وقلنا أن الركن المادي يغلب عليها زي الجرائم المادية التي تعتد بالركن المادي بعيداً عن الركن المعنوي. لكن لدي لدى تطبيقات الذكاء الاصطناعي لديها شيء مهم ألا وهو إدراك اصطناعي. الشيء الأهم من هذا وذاك اللي أنا بدي أوصل لك إياه وأنت تجاوبيني عنه. في الجريمة التقليدية جريمة قتل على سبيل المثال وأكثرها شيوعاً أو في الكنيسات كيف تثبت الركن المعنوي؟ ها سيبك من الحديث. أنت كيف بتثبتي الركن المعنوي؟ بتدخلي ببطن حدا وبتطلعي نيته؟ أمال إيه اللي هي إيه المظاهر؟ إذا من خلال المظاهر الخارجية أنا بقدر أستنبط الإدراك. الإدراك الاصطناعي الذي قام بالفعل في حل محل الإدراك. لا لا في إدراك اصطناعي حل محل الإدراك الطبيعي. ابحث وهو موضوع إشكالتنا. [موسيقى] تفضل. [موسيقى]

بهذا التقدير وهذا. إحنا في الأرض الواقع. إحنا في أرض الواقع. إحنا أصلاً إحنا مش من الطابور إلى أرض الواقع ونقدر نحطه قانون بإيدك يا أستاذة. إحنا التاريخ اللحظة تاريخ اللحظة. التعويض المدني. التعويض المدني. أوروبا عملت التعويض مدني للذكاء الاصطناعي. إحنا حتى الآن إحنا في عندنا قصور تشريعي في هذا الموضوع. حاربها انتشارها داخل. [موسيقى] العربية سواء بقى منظمات دولية أو غيره. المحاضرة دعمهاش دي نقطة ثانية. إيه اللي هيستدعي أن أنا أعمل صناعي في عربية حد يسوقها واني حتى العربية دي تاني ما أعرفش حد جنائي. تمام. الدول العربية اللي هم 22 دولة بالنسبة العربية يعني هي مجرد سلعة أو إحنا العرب بالنسبة مجرد سلعة بيعمل لي صفات علشان العرب. تمام. فاللي عايز أقول برضه لحضرتك ولأن نجرب سلعة زي ما حضرتك قلت برضه هل من الصحيح أن أدعم هذا وأسميه أن هو أن إحنا في عصر الحديث والموضة وكده ولازم أن أنا أواكب هذا. تمام. برضه دي حاجة ثاني أو أنا شايف أنه يجب القضاء على استفاد اصطناعي أو النقط دي اللي هي بترضي في الوظيفة. طبعًا أن أنا عمي الذكاء الاصطناعي يعني أنا ممكن أستعيد بأشياء تفيد المشايخ. أنا شايف مثلاً مواطن عربي وفي ما يستدعي أن أنا أقضي على وظيفة الإنسان بأن أنا أستعداء صناعي يعمل لك. ممكن يعني. أنت أنت النقاط اللي حكيتها أجبت عنها. أي شيء في الدنيا له محاسن وله مساوئ. تمام. إحنا المساوئ المساوئ بنركز عليها عشان نتجنبها. ولكن الذكاء الاصطناعي هو أمر جيد للبشرية حينما يستخدم في طريق الأمثل في بعض المجالات. بدك تحد منها وإن لم تكن تمنعها زي الجريمة. أنت حاليًا الجريمة تقدر تمنعها؟ والله لما لغاية ما ربنا يأخذ وديعة الأرض سوف تبقى. ولكن أنت تحاول أن تحد منها. أي شيء في الدنيا هيك التقمين هيحدد المسؤولية. إن شاء الله ربنا أنا وإياك يعطينا طول العمر ونتقابل بعد فترة من الزمن ونشوف تطبيقات الذكاء الصناعي لما شخصية جديدة تظهر في العالم لما يتعمل الشخصية الشخصية الإلكترونية في الغرب. ساعتها بنعمل تشريح عنا في العرب ونذبحهم إحنا. تمام. الذكاء الاصطناعي زي ما قال الدكتور عامل زي الكورونا. ما حدش يقدر يمنعها. الكورونا إحنا خدنا ووقينا وعملنا وبعدين كانت حالة واحدة وبعد كده آلاف الحالات. الصناعي محدش عشان بس نخلص. ممكن أستاذة. بدك سؤال؟ لا لا بلاش تعليق. التعليق بعدين معلش. أنا خليني على أسئلة عشان نستفيد. [موسيقى] علشان كله اتكلمنا عشان في ناس بتتكلم عن المدني. افترضنا أن إحنا يعني نتصور لما هوصل عن نقطة التعويض. جريمة وأثبت فيه ضرر أن إحنا هنخش في التعويض الواحد. هل يجوز أن أنا أقدر أحكي السيارة اللي حضرتك وأن أنا أحجز عليها أنواع مثلاً علشان التعويض بتاعي اللي هو التوابيع مكوناتها. تمام.

شوف أنت سؤالك بدي أطرح عليك سؤال ومن خلال السؤال أنت اللي بتجاوب عن الموضوع. أنت بتكون سيارة ذاتية القيادة ارتكبت حادث. بس الحادث اللي تم ارتكابه نتيجة حالة جوية معينة. في تلك الحالة يعتبر حادث مفاجئ. حادث مفاجئ أو القوة القاهرة هي قطعت علاقة السببية. لما قطعت علاقة السببية ساعتها ما فيش تعويض. يا إما بالتعويض عن المسؤولية المدنية اللي هي العقدية أو المسؤولية التقصيرية. أنت عندك انقطعت العلاقة. نيجي نحكي عن المسؤولية المخاطرة والموضوعية أو أو المسؤولية الموضوعية. أنه مجرد الخطر يرتكبه. نيجي للقانون حماية المستهلك حينما قالت أي أي ضرر يترتب يترتب هذه التعويض. لذلك أوروبا ريحت راسها لأنه نفس الإشكالية في المواد الغذائية هي نفس الإشكالية في المواد المدنية. فعمل نظرية النائب الإنساني الذي يلتزم بالتعويض هو يا المصنع إذا كان هناك عيبًا في التصنيع أو المبرمج إذا كان خطأ في البرمجة أو المستخدم إذا كان هناك خطأ في طريقة الاستخدام. بمعنى صح رتب التعويض والزمه للنائب الإنساني في تلك الحالة. لذلك مسؤولية المدنية عن تقنية الذكاء الاصطناعي يوجد لها تطبيقات وحلول إجرائية. قد لا تتوافق عدم توافر المسؤولية الجنائية قد تتوافر زي مسؤولية حارس الأشياء. ألا يسأل صاحب السيارة ذاتية القيادة عن مسؤوليته كحارس لهذا الشيء. طب أنا بدي أسألك سؤال. أنت أرجحت لك حادث ينطبق عليه العذر القهري. تسأل وفق عليه قاعدة المية مية مسؤولية هي التقصيرية. خطأ خطأ ضرر علاقة. أجي حادث مفاجئ. الحادث المفاجئ القوة القاهرة. القانون القانون المصري قطع العلاقة. القانون المصري تمام. في حالات القتل والإصابة الخطأ بيدي تعويض للمقتول أو المصاب حتى مع انتفاء الخطأ الجنائي. ودي الأحسن. هل قواعد قواعد المسؤولية قواعد المسؤولية ذهبت إلى أنه على عنصر الخطر وأنه يترتب على هذا الموضوع بغض النظر عن إثبات العلاقة الخطأ أو أو الضرر. وهي القواعد اللي ذهبت إليها أغلب القواعد حاليًا بما فيها القواعد الأوروبية. الدكتور أحمد براء بما فيه الكفاية. وإن شاء الله في المرات القادمة وهو على رأس المدعوين للمؤتمر اللي إن شاء الله هنعمله في شهر 8. ولابد أن نسبق الجميع ونضع خطوات تنفيذية لوضع تقنين يفيد البشرية جمعاء. مصر كانت هي أم القوانين والدكتور طبعًا يعني قال وصاله وقال في حق مصر وأن مصر هي التي أنشأت قوانين كل الدول العربية. وفي الختام نشكر الدكتور أحمد براء ونقدم له درع تميز من لجنة الفكر القانوني. [موسيقى]