الذكاء الاصطناعي: بين المفهوم والإشكالات القانونية

مـــــلـــــخـــــص

موضوع هذا المقال هو الذكاء الاصطناعي الذي يعتبر أنظمة وآلات مبرمجة تحاكي العنصر البشري في تصرفاته. وأن هذه الأنظمة هي عبارة عن برمجة للذكاء الاصطناعي الأمر الذي يجعل أفعاله مستقلة عن إرادة البشر مما يصعب توقعها أو التنبؤ بها، بل وما يزيدها تعقيدا هو تعددها وتداخلها مع بعضها وبه يصعب تحديد أيها سبب ضررا. وما يعقد الأمر أكثر هو الفراغ التشريعي الكبير والملحوظ في هذا الباب، ومنه حاولت جاهدة البحث عن كيفية قيام كل من المسؤوليتين المدنية بنوعيها عقدية أو تقصيرية كانت والمسؤولية الجنائية، وهذا من خلال طرح العديد من الإشكالات القانونية ومحاولة الإجابة عنها وذلك من أجل محاولة تطبيقها على الأضرار التي قد يتسبب فيها الذكاء الاصطناعي.

ويجب الأخذ بعين الاعتبار أنه حتى ولو أن هذه البرامج او الأنظمة لها العديد من المنافع خاصة في مجال صنع القرار وفي شتى مناحي الحياة فإن هذا لا يغطي عن مخاطره ما يدعونا إلى التفكير ومناشدة المشرع المغربي للبحث والتعمق فيه من أجل إيجاد حلول قانونية كفيلة بهذا المجال العالمي الذي أصبح يفرض نفسه واقعا وقانونا.

Summary

The subject of this article is artificial intelligence, which is considered programmed systems and machines that imitate the human element in its actions, and that these actions and these systems are programming for artificial intelligence, which makes its actions independent, making it difficult to anticipate or predict them, and what increases their complexity is their multiplicity and interference with each other. It is difficult to determine which one caused harm. What complicates the matter further is the large and noticeable legislative vacuum in this area, and I tried hard to search for how to carry out both types of civil liability, whether contractual or tortious, and criminal liability, and this is by raising many legal problems and trying to answer them.

It must be taken into account that even if these programs or systems have many benefits, especially in the field of decision-making and in various aspects of life, this does not cover its risks, which prompts us to think and appeal to the Moroccan legislator to search and delve into it in order to find legal solutions that guarantee this global field. Which has come to impose itself as a reality and a law.

تـــــقـــــديـــــم:

إن الذكاء الاصطناعي اقترن ظهوره بالعالم الأمريكي في مجال الحاسوب “جون ماركثني” سنة 1955، الذي استخدم كلمتي “الذكاء” و “الاصطناعي” وفسر الفكرة بعرضه لها في مؤتمر مخصص للموضوع، وفي سنة 1959 اعتمد معهد ماسا تشوستس للتكنولوجيا على مختبر متخصص في الذكاء الاصطناعي، وفي 1980 يستحدث المهندس “إدوار فينغنبوم” أنظمة متخصصة تحاكي القرارات التي يتخذها الخبراء، أما ب1997 فإن الحاسوب الخارق لشركة “أي بي إم” ديب بلو يتغلب على بطل العالم في الشطرنج “غاري كاسباروف” في مباراة مرت من ستة أشواط.

ومع تجربة عربية فإنه في سنة 2017 أعلنت دولة الإمارة العربية المتحدة عن أول وزارة في العالم للذكاء الاصطناعي، وفي 2019 أعلنت هي نفسها عن استراتيجية الذكاء الاصطناعي 2031 مع تركيزها على ثمانية أهداف ومن ضمنها حاضنة لابتكارات الذكاء الاصطناعي، وب 16أكتوبر2019 أعلنت أبوظبي عن إطلاق جامعة “محمد بن زايد للذكاء الاصطناعي” وهي أول جامعة بالعالم تخصص للأبحاث في الذكاء الاصطناعي على مستوى الدراسات العليا.

ومنه أصبح الذكاء الاصطناعي يؤثث حياة البشر اليومية؛ الجسدية منها و العقلية لأن أنظمته مصممة للتعلم من البيانات و اتخاذ القرارات بناء عليها وكلما أصبحت تلك الأنظمة أكثر تقدما أمكنها تطوير أهدافها وقيمها الخاصة التي قد لا تتوافق مع أهداف وقيم البشر، بالإضافة إلى أنه علم من علوم الكمبيوتر الذي صمم لإنشاء أنظمة تؤدي مهام تتطلب عادة ذكاء بشريا كالإدراك و الاستدلال واتخاذ القرار، وهنا سنتحدث عن مصطلحات تقنية وعلمية محضة من قبيل أن مجالات الذكاء الاصطناعي تتضمن تطويرا للخوارزميات[1] و البرامج الحاسوبية هذه الأخيرة التي يمكنها تحليل البيانات و التعلم منها ، ويمكن القول أيضا أن الذكاء الاصطناعي هو محاكاة عمليات البشر بواسطة أنظمة خاصة تشبه أنظمة الكمبيوتر[2]، ويشمل الذكاء الاصطناعي حاليا مجموعة كبيرة ومتنوعة من الحقول الفرعية، بدءا من العام ألا وهو التعلم و الإدراك إلى الخاص كلعب الشطرنج، وإثبات النظريات الرياضية، و كتابة الشعر وقيادة السيارة في شارع مزدحم، وتشخيص الأمراض، إنه حقا مجال عالمي[3]، هذا المجال الذي قد يكون برنامجا وقد يكون جهازا وقد يتم المزج بينهما.

وإليكم بعض تعريفات الذكاء الاصطناعي مقسمة إلى فئتين[4] وهي كالتالي:

التفكير البشري:

“الجهد الجديد المثير لجعل أجهزة الكمبيوتر تفكر… آلات ذات عقول بالمعنى الحرفي والكامل وهذا التعريف حسب1985 HAUGELAND

التفكير بعقلانية:

“دراسة الكليات العقلية من خلال استخدام النماذج الحسابية” CHARNIAK and MC DERMOTT 1985

“دراسة الحسابات التي تجعل من الممكن الإدراك والتفكير والتصرف” WINSTON 1992

“أتمتة الأنشطة التي نربطها بالتفكير البشري أنشطة مثل صنع القرار وحل المشكلات والتعلم

وهذا التعريف حسب BELLMAN 1978

واتفق العلماء على تحديد ثلاث أنماط وأشكال للذكاء الاصطناعي[5]: الذكاء الاصطناعي الخارق، الذكاء الاصطناعي العام، الذكاء الاصطناعي ضيق

الذكاء الاصطناعي الخارق هو حالة افتراضية في المستقبل حيث تتفوق التكنولوجيا على الذكاء البشري وهذا موجود في عالم الخيال العلمي بشكل كبير.

الذكاء الاصطناعي العام: يشير إلى أنظمة تكنولوجيا المعلومات والاتصالات التي لها أشكال ذكاء مماثلة للبشر، كإنشاء آلة قادرة على أداء جميع المهام الفكرية التي يستطيع العقل البشري القيام بها

الذكاء الاصطناعي الضيق: ويرتبط بتطبيقات وأنظمة ذكية للقيام ومعالجة المهام النمطية اليومية والمتكررة.

لكن رغم هذه التصنيفات فإنه يمكنني أن أضع تصنيفا آخر وهو ما سأعتمده أثناء تحليل هذا الموضوع؛ وبه فالذكاء الاصطناعي قد ينقسم إلى نوعان[6] الأول هو البسيط كالآلة الحاسبة ومواقع التواصل الاجتماعي مثلا… والثاني المتقدم أو المتطور كالسيارات ذاتية السياقة أو كالروبوتات التي تعقد صفقات…

وسأقوم بعرض فروع علم الذكاء الاصطناعي التي يمكن إجمالها في جدول ملخص لها مع إعطاء وصف وجيز وأسس كل فرع وكذا عينة عن أهم إيجابياته وسلبياته وبعض تطبيقاته[7]

وبما أن القانون بصفة عامة أي كما يفهم في علم المنطق هو العلاقة المطردة بين ظاهرتين بحيث تفيد استمرار أمر معين وفقا لنظام ثابت، وبهذا المعنى أطلق لفظ القانون على الأنظمة التي تحكم الظواهر الطبيعية الاقتصادية والاجتماعية [8]. فكيف لأنظمة الذكاء الاصطناعي أن تتدخل إن صح التعبير في تلك الظواهر؟ وهل لهذا التدخل قوانين وضعية تؤطره؟ فمن البديهي أن الذكاء الاصطناعي جزء لا يتجزأ من القانون لأن هذا الأخير وتطبيقه على النحو السليم هو الأساس لحماية المجتمع، ولأن أنظمة الذكاء الاصطناعي تتواجد في دولة ذات سيادة وبالتالي فمن الواجب أن تضل قواعد الذكاء الاصطناعي تحت ظل القواعد القانونية وتحت وصاية المؤسسات المسؤولة عن رقابة تلك النظم الذكية مع مراعاة النظام العام والأخلاق الحميدة.

يبقى الاشكال الأكبر المطروح ألا هو هل للذكاء الاصطناعي خطر على الحياة البشرية مستقبلا؟ خاصة وأنه يطور من نفسه؛ فهل يمكننا أن نتصور الآلة ضد الإنسان؟ ففي حديث لأيلون ماسك رجل الأعمال الأمريكي الذي يملك شركة Elon Musk و التكنولوجيا العصبية مع Neuralink ؛ يقول أنه “إذا كان للذكاء الاصطناعي هدف وكانت الإنسانية في طريقه بالصدفة فسوف يدمر البشرية بطبيعة الحال دون أن تكون له مشاعر سيئة” ويقارب قوله هذا بمثال من الواقع وذلك بقوله “… إنه تماما كما إن كنا نريد ان نبني طريقا وبها تل من النمل فإننا سنزيله ليس لأننا نكره النمل ، إننا فقط نريد بناء طريق وبالتالي وداعا لتل النمل”

ومن التساؤلات الأخرى التي يثيرها الاعتماد على الذكاء الاصطناعي هو مدى استيعاب القانون لنظمه؟ لاسيما القانون المغربي وكيفية معالجته للإشكالات الناجمة عن تلك النظم؟

وهذه إشكالات تثار في جميع فروع القانون سواء الخاص لاسيما في القانون المدني والجنائي أو العام؛ أي كيف سنحدد المسؤوليتين الجنائية والمدنية، ومنه أتعد القوانين المغربية النافذة حاليا كافية في تأطير مجال استخدام الذكاء الاصطناعي أم أنها قاصرة على ذلك وبه لا بد من البحث عن قواعد جديدة ملائمة لعصر السرعة هذا الذي يتطور فيه الذكاء الاصطناعي بشكل متسارع أيضا، قواعد ملائمة للنظام العام ومحافظة على الأخلاق في مجتمع مغربي له مرجعية دينية إسلامية.

ومن هذا المنطلق فإنني أعتزم أن الإجابة عن جل هذه الإشكالات وذلك انطلاقا من محورين أساسين وهما كالآتي:

المبحث الأول: المسؤولية المدنية في الذكاء الاصطناعي

المطلب الأول: المسؤولية المدنية في القانون المغربي

إن المسؤولية القانونية تستتبع جزاء قانونيا وهذه المسؤولية تنقسم إلى مسؤولية مدنية، ومسؤولية الجنائية.

والمسؤولية المدنية لا تقع تحت الحصر ولكن يشملها مبدأ عام ألا وهو التعويض عن الضرر سواء كان ماديا أم معنويا بسبب خطأ الغير[9]أو بسبب الفعل الشخصي أو بسبب الإخلال بالالتزام، وهنا يجب الرجوع إلى الفصل 77 من ظهير الالتزامات و العقود[10]، حيث تجدر بي الإشارة إلى أن المسؤولية المدنية نوعين عقدية وتقصيرية؛ وتتمثل المسؤولية العقدية في ذلك الجزاء المترتب عن الإخلال بالالتزامات التعاقدية وبما أن العقد شريعة المتعاقدين فإنه يلزم احترام مضمون هذه العلاقة، وأي إخلال بها إلا ويستوجب تحميل المسؤولية للطرف المخل بالالتزام وهذا ما جاء به المشرع في الفصل 263 من ظ.ل.ع[11]، وإذا كان العقد باطلا فلا مجال لتطبيق هذه القواعد. أما المسؤولية التقصيرية وتنقسم إلى مسؤولية تقصيرية عن الفعل الشخصي والأخرى عن فعل الغير، والأساس فيها أنها تقوم على الخطأ الواجب الإثبات وتتمثل في أن كل شخص سبب ضرر لغيره لزمه جبر الضرر[12]،مع العلم أنها تترتب على مجرد الإخلال بالواجبات القانونية سواء كان منصوصا عليها في بنود تشريعية أو كانت نابعة من نظام التعايش الاجتماعي كضرورة احترام حقوق الجوار.

إن المسؤوليتين معا سواء العقدية او التقصيرية تتميز كل منهما عن الأخرى بمميزات خاصة بها سواء من حيث الأهلية أو من يحث الإنذار الذي لا تستوجبه المسؤولية التقصيرية عكس العقدية، أو من حيث ارتباط المسؤوليتين بالنظام العام فالمسؤولية التقصيرية ترتبط به ارتباطا يلزم عدم الاتفاق مسبقا على مخالفة قواعدها ومرد ذلك أن لها مساس بالسلامة الجسدية و المالية للأفراد، أما في المسؤولية العقدية لا علاقة لها بالنظام العام بحيث يمكن الإتفاق على التخفيف من حدتها أو استبعاد الضمان المترتب عنها مع الأخذ بعين الاعتبار أن هذا الأصل في المسؤولية العقدية له استثناءات، كذلك تتميزان من حيث عنصر الزمن أو من حيث الاثبات، فمسألة الإثبات العقدي أسهل من الإثبات في المسؤولية التقصيرية وكذلك من حيث التقادم فبالنسبة للمسؤولية العقدية كأصل عام تتقادم بمرور 15 سنة من تاريخ ابرام العقد لكن هناك استثناءات طبعا و المسؤولية التقصيرية تتقادم بمرور خمس سنوات كأصل عام ابتداء من الوقت الي يعلم فيه المضرور بالضرر والمسؤول عنه وفي جميع الأحوال تتقادم بمرور 20 سنة من وقت حدوث الضرر.

نحن هنا قمنا بعرض المسؤولية المدنية في القانون المغربي، لكن في ظل وجود فراغ تشريعي وغياب قانون يحدد المسؤولية المدنية في الذكاء الاصطناعي نتساءل عن كيفية تحديدها عند وقوع الضرر؟ هل سنسقط هذه المقتضيات العامة في ظهير الالتزامات والعقود على الأضرار التي قد ترتكب بواسطة الذكاء الاصطناعي؟ وهذا ما سنحاول الإجابة عنه من خلال المطلب الثاني.

المطلب الثاني: إشكالية المسؤولية المدنية عن أضرار الذكاء الاصطناعي

إن استخدام الذكاء الاصطناعي كما سبق لنا القول قد يسبب أضرارا بالشخص سواء كانت مادية أو معنوية؛ كشخص استخدم أحد برامجه ليجد صوره الشخصية أو أسراره قد تسربت إلى العالم الافتراضي كأحد مواقع التواصل الاجتماعي، وذلك دون انتباه منه لما حدث هنا من الذي سيجبره عن الضرر الذي أصابه؟ لأنه أصيب في حق من حقوقه ألا وهو حق الخصوصية فهو أبرز الحقوق[13]،ومنه فإن تحديد المسؤولية المدنية للذكاء الاصطناعي هو تحدي قانوني أصبح يفرضه الواقع القانوني وذلك مرده إلى أنه يتخذ قرارات بعيدا عن إرادة البشر، وفي نفس الصدد قد نشأت بعض النزاعات بسبب ظهور أسماء بعض الشخصيات والشركات مقرونة بألفاظ أو عبارات مهينة مثل كلمة “محتال” في تطبيقGOOGLE SUGGEST من بينها النزاع الذي صدر فيه الحكم الصادر من محكمة استئناف باريس الذي أدان شركة جوجل بتهمة الإهانة و التشهير وألزمها بالتعويضات التي لحقت ببعض مستعملي الأنترنت استنادا إلى فكرة الخطأ الشخصي عن فعل الذكاء الاصطناعي، ولما طعن في هذا الحكم أمام محكمة النقض الفرنسية قامت على الفور بنقضه وإلغائه بتاريخ19 يونيو 2013 نافية الخطأ الشخصي لتلك الشركة ومؤكدة أن “التشغيل الذي أدى إلى هذا الربط المعيب هو ثمرة إجراءات آلية تماما في عملها وعشوائية في نتائجها، بحيث يكون ظهور الكلمات المفتاحية الناتجة عنه متوقف حصريا على إرادة مستخدم محرك البحث”[14]، ونفت بناء عليه أي إرادة لمشغل محرك البحث جوجل بإصدار التعبير أو اللفظ المتنازع عليه وأعفته تماما من المسؤولية.

كانت هذه أمثلة للأضرار التي قد يسببها الذكاء الاصطناعي في المجال المدني والأضرار لا تنحصر في مثالين وإنما تتعدد، ولهذا سأحاول معالجة الموضوع من خلال نوعي المسؤولية المدنية، أي العقدية والتقصيرية.

فالمسؤولية العقدية تقوم على أساس فكرة العقد، وبه يجب التمييز بين الخطأ العقدي و الضرر العقدي؛ فالخطأ العقدي له عدة مظاهر، فقد يتحقق بتأخر المدين في التنفيذ أو بعدم الوفاء أو حتى بعد الوفاء بأن يكون المبيع معيبا على سبيل المثال قد يكون الروبوت هو السلعة بين الدائن والمدين هنا تنفيذ الالتزام يكون عينيا والتنفيذ هو الأصل، لكن في حالة ما إذا كانت الآلة معيبة هنا يستلزم الأمر التعويض ما لم يتم الاتفاق عنه في العقد كشرط جزائي وإلا تدخل القاضي في تقديره، فيسأل المنتج عن الأضرار التي سببها ذلك المنتج المعيب “الآلة”وفي حالة تعدد المنتجين فإنهم يسألون بالتضامن. أما الضرر العقدي وهو بشكل واضح نتيجة الخطأ العقدي وهذا لا يعني أنه إن لم يترتب ضرر على الاخلال بالالتزام لا مجال لإعمال قواعد المسؤولية العقدية، ومنه فتحقق المسؤولية العقدية يستلزم وجود خطأ ثم ضرر فعلاقة سببية بينهما لكن ما مدى ضرورة توفر هذه الأركان لحديد المسؤولية العقدية في الذكاء الاصطناعي؟

فالمشكلة تتثور عندما يصعب تحديد الشخص المسؤول عن الضرر لأنه قد يدخل في عملية الذكاء الاصطناعي أكثر من شخص كالمنتج والمبرمج والمالك والمستخدم وغيرهم[15]، وهذا ما جعل البرلمان الأوربي يصوت إلى منح الشخصية القانونية الإفتراضية للروبوتات الذكية والتي ليس الهدف منها هو منح الذكاء الاصطناعي شخصية طبيعية كالإنسان وتمتعه بنفس حقوق الأفراد بل فقط من أجل تحديد المسؤول عن الأضرار لأن الذكاء الاصطناعي جاء ليساعد الإنسان وليس ليستبدله؛ ومنه أصبح لدينا ثلاثة أنواع للشخصية القانونية وهي الطبيعية، المعنوية، الافتراضية وبالتالي هل ستصبح الروبوتات موضوعا مستقلا للقانون المدني؟ بلى لأنه في رأيي المتواضع هذا أمر ضروري لحماية المستخدمين من تصرفات الروبوتات؛ وبمقارنة القانون المدني الأوربي حول الروبوتات في موضع آخر يتضح أن الشخصية الالكترونية هي الوضع القانوني المنتظر للروبوتات الذكية على المدى البعيد حيث نصت الفقرة 59/F من نصوص قواعد القانون المدني الأوربي على “إنشاء وضع قانوني محدد للروبوتات المستقلة الأكثر تطورا تتمتع بوضع الأشخاص الإلكترونية على الحالات حيث تتخذ الروبوتات قرارات مستقلة أو تتفاعل بطريقة أخرى مع أطراف ثالثة بشكل مستقل”[16] ومنه فإن القانون الأوربي لا ينكر هذا الاحتمال السابق ذكره كرؤية مستقبلية استشرافية لمنح الروبوتات الشخصية الالكترونية. وهذا ما لم تفعله التشريعات العربية ونتمنى ان يأخذها المشرع المغربي بعين الاعتبار؛ كأن يضع نصوصا قانونية تنظم السياقة الذاتية للسفن مثلا تقضي بشخصيتها الالكترونية

لكن رغم هذا يبقى تحديد المسؤولية العقدية للذكاء الاصطناعي أمرا يثير صعوبة فعلى المشرع المغربي أن يبادر إلى سن قوانين تسهل من ذلك.

أما عن المسؤولية التقصيرية فكما سبق أن أشرت أنها قائمة على الخطأ الواجب الإثبات وهذا الخطأ هو الإخلال بالواجب القانوني أي تحقق الإضرار بالغير، فمثلا برامج جرعات الإشعاع لأغراض العلاج الإشعاعي التي تسببت في وفاة خمسة مرضى بين عامي 1985 و 1987 في الولايات المتحدة و كندا[17]، او كالطبيب في مجال الروبوت الطبي الذي قد يعتمد برنامج دعم القرار السريري المدعوم بالذكاء الاصطناعي لتحديد وصف الدواء، لكن البرنامج أصدر توصية خاطئة، كان يسهل ملاحظتها وتفادي ما يترتب عليها من أضرار إلا أنه تم تجاهل تلك التوصية من قبل الطبيب[18]؛ طبعا هنا سنسائل الطبيب لأن الخطأ بسبب إهماله، لكن تثار إشكالات أساسية من قبيل هل استقلالية الذكاء الاصطناعي ستسهل من تحديد المسؤولية أم ستزيد ذلك تعقيدا؟ وبما أن الشخص الطبيعي لا يسأل عن فعله الشخصي فقط وإنما يسأل عن فعل الغير وعن الأشياء التي في حراسته فهل يمكننا اعتبار الروبوت أو الذكاء الاصطناعي من بين الأشياء التي تدخل في حراسة الشخص الطبيعي أم لا؟

فكما سبقت لنا الإشارة إلى أنه لتحقق المسؤولية لا بد من توفر شرطي الإدراك والتمييز، فكيف سنثبت هذين الركنين لإمكانية تطبيق المسؤولية التقصيرية للذكاء الاصطناعي؟ أي أنه كيف سنثبت الفعل العمدي للذكاء الاصطناعي؟ ومن هنا نسترجع أيضا ما سبق لنا قوله في المسؤولية العقدية فيما يتعلق بمنح الشخصية القانونية للذكاء الاصطناعي من عدمه، ومنه هل الشخصية القانونية تقضي المسؤولية القانونية أم لا؟

هناك من يرى[19] أنه من الخطأ ربط المسؤولية القانونية بالشخصية القانونية، لاعتبار هذه الأخيرة منفصلة تماما عن المسؤولية القانونية، والعكس غير صحيح، لأنه ليس كل من يتمتع بالشخصية القانونية يعد مسؤولا قانونا؛ فالشخص غير العاقل كالمجنون مثلا يتمتع بالشخصية القانونية رغم أنه يفتقد للمسؤولية القانونية وهذا عكس الشخص العاقل، ومنه فإذا قام المشرع المغربي واعترف للذكاء الاصطناعي بالشخصية القانونية فهذا لن يخلصنا من الإشكال المطروح عن كيفية تتحقق المسؤولية التقصيرية للذكاء الاصطناعي؛ وبالتالي فإن الأمر يستوجب منا البحث عن بديل للمسؤولية لكي لا نسلم بنفي المسؤولية المدنية، وذلك لأن المسؤولية هي صمام الأمان الذي يضمن ويحمي حقوق كل شخص يضار من أي أمر يثير إعمال المسؤولية[20]؛ وهنا سننتقل من تحديد المسؤولية التقصيرية بناء على المعيار الشخصي إلى محاولة تحديدها بناء علة المعيار الموضوعي ونطرح أول إشكال ألا وهو هل الذكاء الاصطناعي يعد شيئا لنضه تحت الحراسة؟ وإن كان شيء هل يعد قابلا للوضع تحت الحراسة؟

والشيء في مفهومه العام يشمل جميع الأشياء فهو اسم لأي موجود ثابت متحقق يصح أن يتصور ويخبر عنه سواء كان حسيا أو معنويا[21] ومنه فإن المشرع المغربي في الفصل 88 من ظ.ل.ع نص على أنه “كل شخص يسأل عن الضرر الحاصل من الأشياء التي في حراسته، إذا تبين أن هذه الأشياء هي السبب المباشر للضرر …”؛ وهنا المشرع لم يحدد مفهوم الشيء، ولهذا فإنه في تعريف آخر يقصد به كل شيء مادي غير حي، عقارا أو منقولا خطرا كان أو غير خطر، متحرك أو جامد، ودون اعتبار لحجمه وتركيبته، سائلة كانت أو صلبة أو غازية[22]، إذن هل يمكننا اعتبار الذكاء الاصطناعي من الأشياء؟ ؟

تتضارب الآراء وتتباين بهذا الخصوص فهناك من يرى أن الذكاء الاصطناعي ما هو إلا جملة من البرمجيات، بل ونحن نتكلم عن إبداع فكري يدخل في إطار حقوق الملكية الفكرية المتعلقة بالجانب الأدبي وبالتالي فهو حق من الحقوق الشخصية ذات القيمة المالية؛ إذا لا داعي لربط الذكاء الاصطناعي بمفهوم الشيء وما يؤكد هذا أنه برمجية قادرة على التعلم واكتساب المهارات ثم التصرف باستقلالية ترتبط بالواقع الافتراضي لا الواقعي[23]، ونرى في القانون المغربي المتعلق بحقوق المؤلف و الحقوق المجاورة رقم 2.00ةفي مادته الثالثة أن هذا القانون يسري على المصنفات الأدبية و الفنية المسماة فيما بعد “بالمصنفات” التي هي إبداعات فكرية أصلية في مجالات الأدب و الفن مثل: … برامج الحاسوب، وهذا ما يهمنا أي أن برامج الذكاء الاصطناعي قد تعتبر كذلك في القانون المغربي حقا من الحقوق الشخصية وبالتالي لن نحمل البرنامج المسؤولية، لكن في نظري المتواضع سيبقى الإشكال مطروحا؛ فماذا عن البرنامج الذي يطور من نفسه ويتخذ قرارات لا دخل للبشر فيها حتى مصنع؟

وهناك من يرى أن مفهوم الشيء يعبر عن الذكاء الاصطناعي وبالتالي فإن الروبوت يعتبر شيئا[24]، لكن حارس الشيء دائما تكون له السلطة على الشيء موضوع الحراسة، وبما أن الروبوت المتقدم الذي نتحدث عنه ليس لصانعه جهاز تحكم به بل هو صنعه للقيام بأعمال معينة لكن الروبوت يتطور بنفسه وكنموذج على هذا نجد تجربة غربية أن وضعوا روبوتات لتعقد صفقة معينة كالبشر، فبدأوا طبعا بعقد الصفقة وبالتحدث باللغة الإنجليزية تماما كما يفعل البشر وبطريقة احترافية، لكن مع مرور الوقت حتى أصبحت اللغة التي يتكلمون بها ويتواصلون بها لغة غير مفهومة بالنسبة للخبراء الذين أرادوا القيام بتلك التجربة لمعرفة قدرة الروبوت على عقد الصفقات ولم يستطيعوا إيقافهم إلا بقطع الكهرباء، وبالتالي إن كان مفهوم الحراسة يشير إلى السلطة الفعلية عن الأشياء من توجيه ورقابة فإنه في مجال الذكاء الاصطناعي لا تنطبق عليه اللهم إذا تغير مفهوم الحراسة بما يتناسب وأنظمة الذكاء الاصطناعي، ومنه فمن الواجب إبعاد مسؤولية حراسة الأشياء نظرا لمحدوديتها.

وتبقى الإشارة إلى فكرة النائب الإنساني القانوني للذكاء الاصطناعي، فإن كان الروبوت كائن آلي بمنطق بشري مبتدئ قابل للتطور فإنه خادم للإنسان كيفما كان الحال؛ هذا في اعتقاد الاتحاد الأوربي مما دفعهم إلى ابتكار فكرة أو نظرية الإنسان المسؤول حتى يكون بالمقدور معرفة من المسؤول عن أفعال الروبوت الآلي[25]، وهذا ما نجده موثقا في القانون المدني الأوربي الخاص بالروبوتات، والصادر في 2017 بحيث أصبح النائب الإنساني هو المسؤول عن التعويض عن الضرر الحاصل بسبب الروبوت وذلك على أساس الخطأ الواجب الإثبات هذا الأخير الذي قد يكون مالك الذي قد يكون صانع أو مشغل أو مالك أو مستعمل الروبوت نفسه. وإن كانت هذه أهم الإشكالات التي تثيرها المسؤولية المدنية في الأضرار التي قد يرتكبها الذكاء الاصطناعي، فماذا عن المسؤولية الجنائية؟ وهذا ما سنحاول معالجته من خلال المحور الثاني.

المحور الثاني: الذكاء الاصطناعي والمسؤولية الجنائية

المطلب الأول: المسؤولية الجنائية في القانون المغربي

إن تعريف المسؤولية الجنائية لم يحدده المشرع المغربي، لكن يمكننا تعريفها أنها تلك المسؤولية التي تترتب عن العمل أو الامتناع عنه الذي جرمه المشرع الجنائي وعاقب عليه بمقتضى نصوص قانونية[26] خاصة مجموعة القانون الجنائي؛ أي تحمل الفاعل لتبعات ما قام به من فعل لا يرضاه القانون أو من أفعال مجرمة بمقتضىاه، وذلك سواء كان هذا الشخص شخصا طبيعيا أو معنويا، وحتى تثار هذه المسؤولية الجنائية لا بد من تحقق شروط معينة التي لولاها لأصبحنا نتحدث عن انتفاء المسؤولية الجنائية. وبالتالي فإنها تفترض صدور خطأ عن الفاعل وإمكانية نسبة هذا الخطأ إلى من صدر عنه؛ وهذا الاسناد لا يكون ممكنا إلا إذا بتوافر مسألتين أساسيتين ألا وهما الإرادة الحرة و القدرة على التمييز و الإدراك ، بالإضافة على عنصر الأهلية بحيث لا يمكننا أن ننسب فعلا مجرما بمقتضى القانون إلى شخص ليس أهلا بتحمل ذلك الفعل.

وعليه فإن المسؤولية الجنائية هي التزام بتحمل النتائج المترتبة عن تلك الواقعة القانونية مع ضرورة التأكيد على توافر أركان الجريمة) قانوني / مادي /معنوي (، وموضوع الالتزام هو العقوبة أو التدبير الاحترازي الذي يوقعه القانون بالمسؤول عن الجريمة مع الحرص على تنفيذ الأحكام القاضية بالعقوبة أو التدبير. إلا أنه تجدر الإشارة إلى أن الغاية من سن كل تلك العقوبات هو تحقيق الردع؛ وهذا ظل محل نقاش وهنا سأفتح القوس فقط للإشارة إلى المدرسة العقلانية العلمية لدراسة الجريمة التي جعلت من المجرم محطة نظريات وأفكار تهدف إلى جعل العقوبة ملائمة لشخصيته، بحيث لم يعد ينظر إليه كمذنب بل كمريض وهذا ما أحدث ثورة في الفقه الجنائي. وبالتالي إذا ما أردنا أن نقيس على الذكاء الاصطناعي هذه النظرية، فما مدى عقلانية ومنطقية هذا الطرح؟ ومنه ما مدى إمكانية تحديد المسؤولية الجنائية للذكاء الاصطناعي أو إن صح التعبير للإنسان الآلي أو الروبوت[27]؟ وكيف سنفرد العقاب عليه؟ مع العلم أن مبدأ تفريد العقاب من المبادئ الأساسية في القانون الجنائي؛ فهو إخضاع كل مجرم بحسب حالته أو درجة خطورته لما يلائمه من تدابير وقائية وعلاجية وتربوية تضمن تهذيبه وتربيته[28].

لكن ماذا عن الجرائم المرتكبة عن طريق الذكاء الاصطناعي؟ كيف يمكننا تحديد المسؤولية الجنائية في ظل وجود فراغا تشريعيا؟ مع العلم أن له أزيد من ستون سنة والمشرع المغربي لم يبادر إلى سن قانونا يؤطره، على عكس الدول الأوربية التي لا يتم تنفيذ أنظمة الذكاء الاصطناعي بدون مجموعة من القواعد الملزمة [29]، وهذا لا يعني أن تطبيقاته لم يتبناها بعد بل إنه في كثير من المناسبات يؤكد على تبني النظم الذكية والوسائل التكنولوجية الحديثة[30]، ومنه سننتقل للمطلب الثاني لتحديد المسؤولية الجنائية في الذكاء الاصطناعي.

المطلب الثاني: إشكال المسؤولية الجنائية في الذكاء الاصطناعي

بما أن الذكاء الاصطناعي أصبح أمرا حتميا لا مجال للتشكيك في وجوده في عالمنا الحالي، فهو الذي يتماشى مع عصر السرعة ومتطلباته، وبما أنه أصبح متدخلا في حياة البشر وأصبح واقعا مفروضا في العديد من الأنشطة؛ فإن هذا الحضور القوي قاد إلى تشكل جرائم ضد الإنسان، بل واستغلاله لارتكاب تلك الجرائم كما يسمى “بإرهاب الذكاء الاصطناعي” فهناك احتمال تطوير وصناعة أسلحة تهدد مصير البشرية وهذا ما أكده ثلاث قادة لهذا العلم العالمي أثناء شهادتهم في جلسة استماع بالكونغرس الأمريكي؛ حيث إن التسارع الكبير في تطوير الذكاء الاصطناعي قد يؤدي إلى أضرار جسيمة خلال السنوات القليلة القادمة من خلال تضاهي الإرهابيين الذين يستخدمون التكنولوجيا لصنع أسلحة بيولوجية، وبغض النظر عن هذا فإن خصوصية الانسان أصبحت تنتهك وهذا فيه مس بحقوق الافراد، ومنه فإن إقرار الحماية الجنائية للفرد أو لاسيما للمجتمع أصبح أمرا يتطلبه الواقع ولا مجال للهروب منه.

هذا، ولأن الانسان هو الذي يقوم بتغذية تلك الأنظمة قبل أن تعمل على تطوير ذاتها؛ كتغذيتها ببيانات مشوهة أو تطبيقات غير صحيحة[31]، فإن الولايات المتحدة ودول الغرب تسعى لعدم عمل الشركات العملاقة في مجال الذكاء الاصطناعي بشكل منفرد حتى لا يتحول إلى أداة تهدد تلك الدول أو تعبث بأمن البشرية لأن هاجس الشركات العملاقة هو تحقيق الربح وفرض السيطرة بأي شكل من الأشكال كاستخدامها للذكاء الاصطناعي التوليدي وهذا واحد من أخطر انواعه الذي يستخدم لإنشاء محتوى جديد يشبه ما ينتجه البشر مثلما يفعل “شات جي بي تي” الذي أحدثت قدراته صدمة للعالم و الذي بدأت حكومات وبرلمانات منها البرلمان الأوربي في وضع تشريعات تكبح جماحه وتجعله تحت المراقبة و السيطرة[32]. وبالتالي من يتحمل المسؤولية الجنائية هنا؟ وماذا فعل القانون المغربي في ظل هذه الثورة العالمية؟

إنه لمن الملاحظ أن الذكاء الاصطناعي المتقدم يثير إشكالات متعددة، لماذا؟ لأنه لم نعد نتكلم على أن المبرمج يعطي الآلة أمرا تقوم به حسب ما جاء به الأستاذ إبراهيم دهشان في أحد مداخلاته بمؤتمر للدراسات القانونية بالقاهرة بتاريخ 12غشت2022، وإنما المبرمج أصبح يعطي قنا سريا كما سبق القول أنه يغدي الإنسان الآلي ومنه يعطيه الإمكانية كي يفكر ذاتيا وبالتالي يطور من ذلك القن السري بناء على بيانات ضخمة موجودة بها فتصبح قادرة على أن تتخذ قرارات ذاتية بل وتطبقها وهنا تكمن المخاطر. وعليه فيمكننا تقدير المسؤولية الجنائية بناء على الجزء المتيقن من السلوك أي التأكد من السلوك أو من الفعل المنسوب إلى من قام بالسلوك، لكن لا يمكننا أن نقول أن أي فعل ارتكبه ذلك الذكاء الاصطناعي بأي فرع من فروعه فهو مجرم إلا إذا نص عليه القانون تطبيقا لمبدأ الشرعية أي لا جريمة و لا عقوبة إلا بنص، ولهذا يجب ننبه المشرع المغربي على أن يتدخل باستحداث المسؤولية الجنائية والتنصيص عليها. وهنا يمكننا الذهاب في اتجاه أربع فرضيات وهي كالآتي ذكره:

مسؤولية المصنع: فالمصنع أو الشركة المصنعة قد لا تتبع ما يجب اتباعه أثناء صناعة الآلة في الكود البرمجي مثلا؛ بحيث قد يكون من الواجب أن تضع قنا معينا خلال البرمجة ويشير هذا القن إلى عدم جواز الاعتداء على حياة إنسان أو حيوان مثلا، فعلى سبيل المثال سيارة ذات قيادة ذاتية اثناء سيرها في تجمع سكني أو في طريق تمر فيه من غابة بها حيوانات عليها أن تحذر الاصطدام بشخص أو بحيوان كيف ما كان حجمه أو نوعه، هنا يسهل التحقيق مع المصنع واستجوابه وتفتيشه والحصول على الدليل الجنائي الذي هو محور اهتمام العدالة الجنائية، وكذلك يسهل حضور الجلسات وإيقاع العقوبات وتقدير العلاقة السببية بين السلوك الاجرامي للمصنع والنتيجة الاجرامية لأنه هو من يتحمل تلك النتيجة، كما يمكن أن ننسب إليه عنصر الإرادة و العلم بالجريمة.

وبالتالي يسأل المصنع عن عيوب الروبوت وأنظمة الذكاء الاصطناعي الناتجة عن سوء التصنيع التي أدت إلى ارتكاب الجريمة مثال آخر لذلك الأجهزة الذكية المسؤولية عن تحريك المريض بشكل خاطئ أدى إلى تفاقم حالته الصحية، أو حالة اهمال الشركة المصنعة للآلات الذكية الصيانة مما نتج عنه إصابات او جروح للمشغلين، وفي هذه الأمثلة لا يسأل المشغل أو المستخدم أو العامل لأنه الخطأ من عيوب الصيانة[33]، فيسأل المصنع عما إذا كان متعمدا في ذلك أم بخطأ منه لأن الأمر يستدعي الجدية ويستبعد الخطأ كثيرا. وهنا كجزاء مفترض في هذه الحالة قد يكزن الجزاء القانوني هو حل الشخص المعنوي إن كان شركة، فحسب الفصل 67 من مجموعة القانون الجنائي فإن حل الشخص المعنوي كعقوبة إضافية -وسأسقطها في هذه الحالة على شركة المصنع بعد أن يتم اتخاذ عقوبات أصلية في حقه- هو منعه من مواصلة نشاطه الاجتماعي ولو تحت اسم آخر أو بإشراف مديرين أو مسيرين … ، وقد أضاف المشرع أنه لا يحكم به إلا في الأحوال المنصوص عليها في القانون وبنص صريح في الحكم بالإدانة؛ وبه يجب على المشرع كما سبق القول أن يبادر إلى سن قواعد قانونية خاصة في هذا الصدد.

لكن الإشكال الذي يطرح نفسه هو ما مآل ذلك الروبوت أو الانسان الآلي بعد ارتكاب الفعل المجرم حتى ولو أننا قد حددنا المسؤولية الجنائية على الشخص المناسب؟

مسؤولية المالك: والمالك هو الشخص الذي يتعامل بتلك الآلة كالطائرة بدون طيار، أو نفس المثال السابق للسيارات ذاتية القيادة فتوجد هنا بعض الالتزامات الواجبة عليه كالقيام بالصيانة الدورية عليها من أجل التنبه إليها وإصلاحها.

وقد نصادف مالكا قد يستعمل كودا برمجيا لا يجوز لأحد أن يستعمله إلا المصنع مع علم هذا المالك بعدم جواز ذلك، ورغم ذلك فإنه قد يستعمله لمآربه الشخصية في أن يجعل السيارة تضرب شخصا بينه وبين المالك عداوة فترديه قتيلا أو تصيبه بجروح مثلا، وهنا يمكن فرض جزاء المصادرة الجزئية كعقوبة أصلية تطبق على المالك والتي خصها المشرع بالفصول 42 إلى 45 من مجموعة القانون الجنائي وقد عرفها أنها تمليك الدولة جزءا من أموال المحكوم عليه أو بعض أملاك له معينة ففي هذه الحالة على الدولة أن تصادر له الأداة المستعملة في ارتكاب ذلك الفعل الإجرامي حسب الفصل 43 ألا وهي السيارة ذاتية القيادة وهي أيضا لا يجوز الحكم بها إلا بنص صريح في حالة المؤاخذة بأفعال تعد جنحا أو مخالفات، وفي نظري المتواضع لا بد من مصادرة السيارة حتى في حالة الجنايات كالقتل أو لمجرد المحاولة التي بدت بأعمال لا لبس فيها أنها تهدف إلى جناية القتل حتى ولو لم تتم تلك المحاولة بالغرض المتوخى منها من طرف الجاني وهنا يجب الرجوع إلى الفصل 114[34].

مسؤولية الآلة: لكن كيف يمكننا إسناد المسؤولية الجنائية للذكاء الاصطناعي نفسه؟ فهي فرضية مستبعدة لأننا لا يمكننا أن نفرد العقاب ونحقق الردع على آلة لا تملك مشاعر حقيقة أو عقل حقيقي كالبشر الذي إن قام بفعل مخالف للقانون نتخذ في حقه عقوبة أو أكثر لردعه، وتتخذ تلك العقوبات نظرا لاعتبارات عديدة كحالة العود أو ظروف التشديد أو التخفيف وفي غالب الأحيان قد نحقق الردع نظرا لأن البشر تحمل مشاعر كالمسجون الذي توفر على أبناء ولا يستطيع الابتعاد عنهم وذلك لإعانتهم وبغض النظر عن هذه الحالة فإن أي مسجون يكون غير مستعد لفراق الحرية.
مسؤولية الغير: أو الطرف الخارجي الذي قد يتدخل سواء بخطأ منه أو عمدا فيصيبه الضرر وهنا على المشرع إيجاد تعريف جديد لمفهوم الغير

كان هذا تحليلا لفرضيات إيقاع المسؤولية الجنائية بعد ارتكاب فعل ماس بحرية أو بشخصية فرد من أفراد المجتمع[35]، ونأمل أن يضع المشرع المغربي تنظيما لجرائم الذكاء الاصطناعي كباقي الدول التي تعي بخطورته.

خــــــــتـــــــام:

وصفوة القول من خلال ما سبق أن الذكاء الاصطناعي أو الإنس آلة بالرغم من المخاطر التي تثيرها إلا وأنها واقع مفروض في شتى الميادين، وعلى سبيل الذكر الميدان القضائي الذي نجد فيه الذكاء الاصطناعي يساعد القضاة على إصدار الأحكام محاكاة للسلوك الإنساني المتسم بالذكاء في حل النوازل واتخاذ قرارات ومواقف، فخوارزمياته تؤثر وستؤثر حتما في طريقة صنع القرار القضائي مثلا، وإصدار الأحكام على أساس السوابق القضائية للمتهمين. هذه السوابق العدلية أو القضائية التي تتم معرفتها من خلال الرجوع إلى السجل العدلي الإلكتروني مثلا، ناهيك عن البرامج المستعملة في كتابة الضبط كتلك التي يتم إدخال بيانات المشتكين بها مثلا، وكذا الإجراءات المتخذة في شأنها من أبحاث وهي المسماة ب”Saj pénale”، أو كالبرامج التي يتم إدخال معطيات المحاضر فيها… وقد يستعمل الذكاء الاصطناعي كذلك في أداء العقوبات المالية عن بعد دون الذهاب إلى المحاكم وتأديتها بها وغير ذلك مما يمكن استعماله من برامج الذكاء الاصطناعي لصالح مرفق العدالة.

ومع ملاحظتنا للفراغ التشريعي في الموضوع ومجالاته المتنوعة فإننا دائما ما نجد في العديد من الإعلانات الحث على الرقمنة لتحقيق النجاعة القضائية، بل ونرى تحولا رقميا في القوانين الإجرائية.

وكنظرة استشرافية لما قد يتم استعماله انطلاقا من برامج الذكاء الاصطناعي[36] نجد أنه سيتم الانتقال إلى القضاء الآلي والتوجه نحو إعداد خطط ملائمة للتعامل مع التطور التكنولوجي وذلك مع الحفاظ على المراكز القانونية وكذا العمل على انخراط كافة الفاعلين في مجال القضاء والقانون مع تظافر جهود إنجاح برامج الرقمنة وتحديث منظومة العدالة، وحتى وإن كان هذا الأمر يتطلب استثمارات مالية وتكوينات خاصة وموارد بشرية مؤهلة لتحديد الخوارزميات العادلة والاعتماد عليها[37] فإن اعتماد التحول الرقمي سيساعد في جودة الأحكام.

وتجدر بي الإشارة إلى مجموعة من المجالات التي قد يساعد فيها الذكاء الاصطناعي؛ كالمجال البنكي بحيث سيساهم في الكشف عن العمليات التي يكون فيها غش أو احتيال غير القانونية، كما سيساهم في تطوير البرامج التي ستسهل من العمليات البنكية كتحويل الأموال بشكل فوري وبطريقة آنية توجه نحو تطوير وسائل الأداء الحديثة كاستعمال النقود الالكترونية من قبيل البتكوين.

وفي مجال الشركات التجارية التي سيساهم فيها بخلق برامج متطورة للتسويق تساعد على تحقيق الربح والتعرف على استراتيجيات مالية تحافظ على توازنها المالي والإداري…

إن آليات الذكاء الاصطناعي وسيلة ترمي إلى تجويد الحياة عموما وتطوير الكفاءات، وإن كانت تهدد الموارد البشرية واليد العاملة داخل المغرب فإنها تسهم في العمل بجدية أكثر، ورغم هذا فإننا ننبه المشرع المغربي إلى العمل على صنع قوانين تؤطر هذا المجال العلمي والتقني الرقمي من أجل السيطرة عليه والمحافظة على الأمان الداخلي والخارجي لبلاد، ولن يتم هذا إلا بعد البحث و التعمق فيه وعقد المؤتمرات في الموضوع داخل المغرب وخارجه والاحتكاك بأهل الخبرة الملمين بخبايا الإنس آلات وأسرارها والتقنيين في الميدان والقيام بدراسات شاملة ومعمقة أيضا.

لائـــحـــة الـــمـــراجـــع:

المراجع العامة:

العلمي عبد الواحد، شرح القانون الجنائي المغربي، القسم العام، مطبعة النجاح الجديدة، الدار البيضاء، الطبعة السادسة.
محمد الشافعي، مدخل لدراسة القانون، المطبعة والوراقة الوطنية مراكش.
دعاء قاسم، المسؤولية المدنية في القانون المغربي
محمد العروصي، المختصر في شرح القانون الجنائي المغربي، الجزء الأول، القانون الجنائي العام، الطبعة الأولى 2015 مطبعة مرجان

المراجع الخاصة:

الأستاذ أحمد الشورى أبو زيد، الذكاء الاصطناعي وجودة الحكم، مجلة كلية الاقتصاد والعلوم السياسية جامعة القاهرة، المجلد الثالث والعشرون العدد الرابع لأكتوبر 2022.
مجلة الشريعة و القانون، كلية القانون جامعة الأمارات، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي الأستاذ يحيى إبراهيم دهشان مدرس القانون الجنائي في امعة الزقازيق مصر.
سامية شهبي قمورة، حيزية كروش، باي محمد، الذكاء الاصطناعي بين الواقع والمأمول، دراسة تقنية وميدانية.
محمد إبراهيم إبراهيم حسانين، الذكاء الاصطناعي والمسؤولية المدنية عن أضرار تطبيقه “دراسة تحليلية تأصيلية” منشور في المجلة القانونية مجلة علمية محكمة نصف سنوية المجلد 15، العدد1، فبراير 2023.
محمد عرفان الخطيب “المسؤولية المدنية والذكاء الاصطناعي … إمكانية المساءلة؟” مجلة كلية القانون الكويتية العالمية، السنة الثامنة، ع1، مارس2020.
أحمد محمد فتحي الخولي “المسؤولية المدنية الناتجة عن الاستخدام غير المشروع لتطبيقات الذكاء الاصطناعي الديب فيك نموذجا” مجلة البحوث الفقهية والقانونية.
همام القوصي: “إشكالية الشخص المسؤول عن تشغيل الروبوت”، مجلة جيل الأبحاث القانونية المعمقة، ع25، ماي 2018.
ياسر محمد اللمعي “المسؤولية الجنائية عن أعمال الذكاء الاصطناعي ما بين الواقع والمأمول دراسة تحليلية استشرافية”، بحث مقدم إلى مؤتمر مؤتمر كلية الحقوق جامعة المنصورة بتاريخ 23/24/ماي/2021.

الرسائل الجامعية:

الطالب صابر الهدام، رسالة لنيل شهادة الماستر في القانون الخاص بعنوان “القانون في مواجهة الذكاء الاصطناعي دراسة مقارنة، المغرب 2021/2022.
عمري موسى، ويس بلال “الآثار القانونية المترتبة عن استخدام الذكاء الاصطناعي”، رسالة لشهادة الماستر في الحقوق، كلية الحقوق الجلفة الجزائر لسنة 2020/2021.

المقالات:

موقع النجاح، في مقال الذكاء الاصطناعي: تعريفه وأهميته وأنواعه وأهم تطبيقاته ww.annajah
مقال بعنوان “المسؤولية المدنية في التشريع المغربي والمقارن” منشور بموقع القانونية المغربية، اسم الكاتب لم يذكر،.ELKANOUNIA
دعاء قاسم “المسؤولية المدنية في القانون المغربي ” مقال منشور بموقع W.MAWDOO3 بتاريخ 1غشت2023.
المسؤولية عن حراسة الأشياء دون ذكر إسم الكاتب://universitylifestyl
رتيبة صالح قادري: “ثورة الذكاء الاصطناعي وانعكاساته على الإنسان المعاصر”، مقال منشور بالكتاب الجماعي المعنون ب “دراسات حول الذكاء الاصطناعي والإنسانيات والرقمنة”
مقال “إرهاب مسلح بالذكاء الاصطناعي قريبا…خطر جديد للتكنولوجيا” على موقع سكاي نيوز عربية، لم يذكر اسم الكاتب: www.skynewsarabia.com/technology
مقال سعاد أغانيم، خوارزميات الذكاء الاصطناعي والعمل القضائي قراءة في محاولات التجربة المغربية، مجلة القانون والأعمال الدولية جامعة الحسن الأول بموقع ww.droitetentrepris

الإعلانات:

إعلان مراكش حول استقلال السلطة القضائية وضمان حقوق المتقاضين واحترام قواعد سير العدالة 2و3و4 أبريل 2010.

المراجع الأجنبية:

Writers EMEST DAVIS / R.D/ D.F … in Book of artificial intelligence: a modern approach (3^rd edition )
Adeli,Hojjat,Expert systems in construction and structural engineering, CRC Press, 2014
Dasilva,Ivan Numes, et Al, «Artificial neural networks »
Ghahramani,Zoubin, “Probabilistic machine learning and artificial intelligence” Nature 5217553,2015,452
Berk, Richard A, « Support vector machines » statistical learning from aregression prespective springer cham, 2016
Liu,Hu-chen,et Al “Fuzzy petri nerts for knowledge representation and reasoning: Aliterature review” Engineering applications of AI 60 (2017)
Gard,Vladimir P , et al computer algebrain scientific computiong springer international pu , 2016
European parliament , section F/59 . civil law rules on robotics, prevous reference
Céline Mangemantin , “Droit de la responsibilité civile et l’intelligence artificielle” sur Open edition books . Collection Presses de l’Université Toulouse Capitole
Lignes directrices en matière d’éthique pour une IA digne de confiance p8 ; groupe d’éxpertes de haut niveau sur l’intelligence artificielle

[1] وهي بشكل عام مجموعة محددة من العمليات الحسابية والمنطقية التي تمكن الحاسوب من أداء مهمة معينة أو حل مشكلة ما.

[2]موقع النجاح، في مقال الذكاء الاصطناعي: تعريفه وأهميته وأنواعه وأهم تطبيقاته https://www.annajah.net

[3] Writers EMEST DAVIS / R.D/ D.F … in Book of artificial intelligence : a modern approach (3^rd edition ) p1 chapter1 introduction

[4] Writers EMEST DAVIS / R.D/ D.F … in Book of artificial intelligence : a modern approach (3^rd edition ) p2 chapter1 introduction

[5] الأستاذ أحمد الشورى أبو زيد، الذكاء الاصطناعي وجودة الحكم، مجلة كلية الاقتصاد والعلوم السياسية جامعة القاهرة، المجلد الثالث والعشرون العدد الرابع لأكتوبر 2022 الصفحة 150

[6] مجلة الشريعة و القانون، كلية القانون جامعة الأمارات، المسؤولية الجنائية عن جرائم الذكاء الاصطناعي الأستاذ يحيى إبراهيم دهشان مدرس القانون الجنائي في امعة الزقازيق مصر

[7]سامية شهبي قمورة، حيزية كروش، باي محمد، الذكاء الاصطناعي بين الواقع والمأمول، دراسة تقنية وميدانية ص 8و9و10

[8] محمد الشافعي مدخل لدراسة القانون، المطبعة والوراقة الوطنية مراكش ص 9

[9] مقال بعنوان “المسؤولية المدنية في التشريع المغربي و المقارن” منشور بموقع القانونية المغربية، اسم الكاتب لم يذكر، WWW.ELKANOUNIA.COM

[10]الفصل 77 من ظهير الالتزامات و العقود “كل فعل ارتكبه الانسان عن بينة واختيار، ومن غير أن يسمح له به القانون، فأحدث ضررا ماديا أو معنويا للغير، ألزم مرتكبه بتعويض هذا الضرر، إذا ثبت أن ذلك الفعل هو السبب المباشر في حصول الضرر

وكل شرط مخالف لذلك يكون عديم الأثر”

[11] الفصل 263 من ظهير الالتزامات والعقود “يستحق التعويض إما بسبب عدم الوفاء بالإلتزام وإما بسبب التأخر في الوفاء به وذلك ولو لم يكن هناك أي سوء نية من جانب المدين”

[12]دعاء قاسم “المسؤولية المدنية في القانون المغربي ” مقال منشور بموقع WWW.MAWDOO3.COM بتاريخ 1غشت2023

[13] صابر الهدام، رسالة لنيل شهادة الماستر في القانون الخاص بعنوان “القانون في مواجهة الذكاء الاصطناعي دراسة مقارنة ص 90

[14]وهو ما عبرت عنه محكمة النقض الفرنسية بتاريخ 19يونيو2013 بقولها

«La fonctionnalité aboutissant au rapprochement critiqué est le fruit d’un processus purement automatique dans son fonctionnement et aléatoire dans ses résultats, de sorte que l’affichage des «mots clés » qui en résulte est exclusif de toute volonté de l’exploitant du moteur de recherche d’émettre les propos en cause”

[15]محمد إبراهيم إبراهيم حسانين، الذكاء الاصطناعي والمسؤولية المدنية عن أضرار تطبيقه “دراسة تحليلية تأصيلية” منشور في المجلة القانونية مجلة علمية محكمة نصف سنوية المجلد 15، العدد1، فبراير 2023 ص 200

[16] European parliament , section F/59 . civil law rules on robotics, prevous reference, P 250

[17] Céline Mangemantin , “Droit de la responsibilité civile et l’intelligence artificielle” sur Open edition books . Collection Presses de l’Université Toulouse Capitole ; P 447-468

[18] محمد إبراهيم إبراهيم حسانين، مرجع سابق، ص 207

[19]محمد عرفان الخطيب “المسؤولية المدنية والذكاء الاصطناعي … إمكانية المساءلة؟” مجلة كلية القانون الكويتية العالمية، السنة الثامنة، ع1، مارس2020 ص 119

[20] صابر الهدام، مرجع سابق ص 103

[21] تعريف حسب المعجم المعاصر https://chrome.google.com

[22] المسؤولية عن حراسة الأشياء، دون ذكر اسم الكاتب، من موقع HTTPS://universitylifestyle.net

[23] عمري موسى، ويس بلال “الآثار القانونية المترتبة عن استخدام الذكاء الاصطناعي”، رسالة لشهادة الماستر في الحقوق، كلية الحقوق الجلفة الجزائر لسنة 2020/2021 ص 34.

[24] أحمد محمد فتحي الخولي “المسؤولية المدنية الناتجة عن الاستخدام غير المشروع لتطبيقات الذكاء الاصطناعي الديب فيك نموذجا” مجلة البحوث الفقهية والقانونية ص 215

[25]همام القوصي: “إشكالية الشخص المسؤول عن تشغيل الروبوت”، مجلة جيل الأبحاث القانونية المعمقة، ع25، ماي 2018، ص84.

[26] عبد الواحد العلمي شرح القانون الجنائي المغربي القسم العام مطبعة النجاح الجديدة، الدار البيضاء، الطبعة السادسة ص 326

[27]الإنسان الآلي أو الروبوت هو جهاز ميكانيكي مبرمج ومستقل عن السيطرة البشرية ومصمم لأداء أعمال معينة حسب ما صمم لأجله وكذلك إنجاز المهارات الحركية واللفظية التي يقوم بها الانسان

للمزيد أنظر رتيبة صالح قادري: “ثورة الذكاء الاصطناعي وانعكاساته على الإنسان المعاصر”، مقال منشور بالكتاب الجماعي المعنون ب “دراسات حول الذكاء الاصطناعي والإنسانيات والرقمنة”، ص143

[28] محمد العروصي، “المختصر في شرح القانون الجنائي المغرب”، الجزء الأول، القانون الجنائي العام، الطبعة الأولى 2015، مطبعة مرجان، الصفحة 370.

[29] Lignes directrices en matière d’éthique pour une IA digne de confiance p8 ; groupe d’éxpertes de haut niveau sur l’intelligence artificielle

[30] ” للطالب صابر الهدام مرجع سابق ص 8

[31]مقال “إرهاب مسلح بالذكاء الاصطناعي قريبا…خطر جديد للتكنولوجيا” على موقع سكاي نيوز عربية، لم يذكر اسم الكاتب https://www.skynewsarabia.com/technology/1641118

[32]مقال “إرهاب مسلح بالذكاء الاصطناعي قريبا…خطر جديد للتكنولوجيا” نفس الموقع

[33]ياسر محمد اللمعي “المسؤولية الجنائية عن أعمال الذكاء الاصطناعي ما بين الواقع والمأمول دراسة تحليلية استشرافية”، بحث مقدم إلى مؤتمر مؤتمر كلية الحقوق جامعة المنصورة بتاريخ 23/24/ماي/2021 ص 852

[34]الفصل 114 من مجموعة القانون الجنائي “كل محاولة ارتكاب جناية بدت بالشروع في تنفيذها أو بأعمال لا لبس فيها تهدف مباشرة إلى ارتكابها، إذا لم يوقف تنفيذها أو لم يحصل الأثر المتوخى منها إلا لظروف خارجة عن إرادة مرتكبها، تعتبر كالجناية التامة ويعاقب عليها بهذه الصفة”.

[35] فرضيات جاء بها الدكتور يحيى دهشان في مداخلة له بعنوان المسؤولية الجنائية للذكاء الاصطناعي في مؤتمر الدراسات القانونية بالقاهرة بتاريخ 12غشت2022

[36]إعلان مراكش حول استقلال السلطة القضائية وضمان حقوق المتقاضين واحترام قواعد سير العدالة 2و3و4 أبريل 2010

[37]سعاد أغانيم، خوارزميات الذكاء الاصطناعي والعمل القضائي قراءة في محاولات التجربة المغربية، مجلة القانون والأعمال الدولية جامعة الحسن الأول بموقع https://www.droitetentreprise.com