جـدلـــــــية منح الشخصية القانونية لأنظــــمة الذكاء الاصطناعـي – محمد الحـامض

جـدلـــــــية منح الشخصية القانونية لأنظــــمة الذكاء الاصطناعـي

The Dialectic of Granting Legal Personality to Artificial Intelligence Systems

محمد الحـامض باحث بكلية العلوم القانونية والسياسية جامعة الحسن الأول – سطـــــــات

مـلـخــــص :

أسفرت الثورة التكنولوجية المتجسدة في غزو أنظمة الذكاء الاصطناعي للحياة الاجتماعية، على تحد قانوني ملحوظ، وتبدى ذلك من خلال الخروج بفرضيات ذات مرجعيات مختلفة، تعكس في فلسفتها ملامح هذا التحدي القانوني، وتعتبر فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي فرضية من الفرضيات الشائكة في هذا الإطار، والتي تعتبر مساهمة في خلق التحدي المذكور، وعلى أساس ذلك ترتكز هذه الدراسة على مقاربة مدى سلامة فرضية منح الشخصية القانونية لأنظمة الذكاء الاصطناعي من نقيضها، مجسدة في ذلك لمبررات واقعية وقانونية صرفة.

Abstract:

The technological revolution embodied in the penetration of artificial intelligence systems into social life has resulted in a notable legal challenge, This has manifested through the emergence of hypotheses grounded in different references, which in their philosophy reflect the features of this legal challenge, The idea of granting legal personality to artificial intelligence systems is considered one of the most complex hypotheses in this context and is regarded as contributing to the creation of the aforementioned challenge, Accordingly, this study is based on an approach that examines the soundness of the hypothesis of granting legal personality to artificial intelligence systems in contrast to its opposite, articulating in this regard purely factual and legal justifications.

مـقـــــدمـــة :

تحظى أنظمة الذكاء الاصطناعي^[1]، بمكانة حمائية فريدة داخل المجتمعات المتقدمة، وذلك راجع لما ترتبه هذه الأنظمة من مزايا على نمط الحياة البشري، مما غذا من اللازم رد الجميل بالجميل، وتمتيعها بحقوق هي الأخرى باعتبارها مماثلة للكيانات الإنسانية، تحت فكرة منح أنظمة الذكاء الاصطناعي للشخصية القانونية^[2].

وتعتبر فكرة منح الشخصية القانونية لكيانات غير بشرية، فرضية قديمة العهد، حيث أنه على مر العصور، اشتهرت البيئة الغربية، بإسناد الشخصية القانونية لكائنات غير عاقلة، بزاعم حماية حقوقها، ويتم ذلك تحت دافع النظرة العاطفية تلقاء الكائنات الغير العاقلة التي تحدث اَثرا نافعا على الحياة البشرية، حيث بدأت أولى ملامح هذا الطرح خلال العهد الفيكتوري^[3].

لكن في الاَن ذاته، تعتبر فرضية إسناد الشخصية القانونية لأنظمة غير عاقلة، مجرد تنظير لاصلة له بالواقع، نظرا لاستحالة تحقق الاَثار المترتبة عن هذا الإسناد، ونفس الأمر بالنسبة لأنظمة الذكاء الاصطناعي، حيث تتنوع المبررات التي تجعل تمتيع هذه الأنظمة بالشخصية القانونية أمر غير محمود.

ولاجرم أن مناقشة فرضية منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، تكتسي أهمية فريدة من الناحية القانونية، حيث تشكل مناقشة هاته الجدلية تبريرا للكف عن هذا الجدال الغير المجدي واقعيا، والذي سيظل مجرد افتراض نظري، كما تشكل خطوة استباقية للخروج من الصمت التشريعي السائد تلقاء مواضيع الذكاء الاصطناعي، كما تشكل هذه الدراسة دليلا للحيلولة دون اتباع توجه المدارس الغربية الرامية إلى منح الشخصية القانونية لأنظمة الذكاء الاصطناعــي.

يقتضي الحسم في جدلية منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، أن تستند النظريات العلمية التي ناقشت أو ستناقش الموضوع على أسس موضوعية وعلمية متينة، وهو ما سنحاول انتهاجه، من منطلق إشكالية تسبر أبعاد منح الشخصية القانونية لأنظمة الذكاء الاصطناعي ومدى عقلنة هذا الطرح من الناحيتين الواقعية والقانونية.

ولمقاربة هذه الإشكالية سنقسم هذه الدراسة إلى مبحثين، سنخصص المبحث الأول لمعالجة “إرهاصات منح الشخصية القانونية لأنظمة الذكاء الاصطناعي”، على أن نعرج للحديث في المبحث الثاني عن “مبررات استحالة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي”.

المبحث الأول : إرهاصات منح الشخصية القانونية لأنظمة الذكاء الاصطناعي

إن بزوغ إرهاصات منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، عائد بالأساس إلى فكرة تكريس الحماية اللازمة لهذه الكيانات الذكية، ارتكانا للمنافع التي تجلبها الكيانات المذكورة للأشخاص البشرية، ولما لها من اَثار إيجابـية في تكسير نمط العـوائق الـتي تـفرضها طبيعة الحـياة البشـرية.

وكذلك ما تشكله هذه الأنظمة من موطئ خير على الأشخاص البشرية، ونتاجا لمجموعة من العوامل المختلفة “المطلب الأول” ، قررت بعض المجتمعات المتقدمة مكافأة هذه الأنظمة الذكية عن طريق تمكينها من حماية قانونية بشكل يحاكي الحماية المعهودة للإنسان، عبر إقرار منحها الشخصية القانونية وحلول هذه الأخيرة بمظاهر حديثة ” المطلب الثاني” تضاهي عصرنة فكرة هذا الإسناد.

المطلب الأول : العوامل المؤدية إلى إقرار فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي

تختلف العوامل التي ساهمت في بزوغ فكرة إسناد الشخصية القانونية لأنظمة الذكاء الاصطناعي، بين عوامل راجعة لطبيعة الأنظمة الذكية “الفقرة الأولى” نظرا لما تتسم به هذه الأنظمة من مقومات خاصة.

إلا أن العوامل المذكورة لا تترتب فقط نتاجا لطبيعة الأنظمة الذكية، بل يمتد وجودها أيضا إلى مرونة مفهوم الشخصية القانونية “الفقرة الثانية” واختلاف المنظور الفلسفي لمفهوم الشخصية القانونية عن المنظور القانوني.

الفقرة الأولى : عوامل راجعة إلى طبيعة الأنظمة الذكية

حــتمت طبيعة أنظمة الذكاء الاصطناعي، سواء تعلق الأمر بالذكاء الاصطناعي العام “Artificial General Intelligence“ أو ما يصطلح عليه بالذكاء الاصطناعي القوي، أو تعلق الأمر بأنظمة التصوير الشبكي “Nature-Based Infrastructure systems“ التي تعد هي الأخرى صنفا من أنظمة الذكاء الاصطناعي^[4]، والتي فرضت – طبيعة هذه الأنظمة – انبثاق معضلة محاكاة أنظمة الذكاء الاصطناعي للإنسان عبر تمتيعها بحقوق وامتيازات تحت ذريعة استحقاقها للشخصية القانونية.

ولعل من ضمن العوامل التي كونت فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي والتي تعتبر راجعة إلى طبيعة هذه الكيانات، خاصية الاستقلالية^[5] التي تتسم بها هاته الأخيرة، بزعم أن خاصية الاستقلالية هذه تجعل الكيانات المذكورة في قدرة مطلقة عن القيام بالاختصاصات المناطة بها، في منأى عن أي تدخل من أي جهة كانت.

وعلى إثر ذلك ذهب بعض الباحثين تلقاء المناداة بإنشاء وضع قانوني محدد للربوتات على المدى الطويل بحيث يمكن اعتبار الروبوتات المستقلة الأكثر تطورا بمثابة أشخاص إلكترونيين مسؤولين عن إصلاح أي ضرر قد يتسببون فيه^[6]، بالرغم من أنه لنا موقف مخالف تُجاه هذا الطرح سنعرض له عند ما ننتهي إلى الحديث عن استحالة منح الشخصية القانونية لأنظمة الذاء الاصطناعي.

إن اتسام أنظمة الذكاء الاصطناعي بالأتمتة^[7]، أدى بأصحاب القرار وبأغلب الأنظمة التشريعية نحو تبني فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، وتبني الفكرة بمرجعية عاطفية ناتجة عن مزايا هذه الأنظمة دون الوعي منهم بالانعكاسات الوخيمة ستيرتبها هذا التوجه.

وتترجم أتمتة أنظمة الذكاء الاصطناعي وإضفاء سِمة الاستقلالية مما يبرر منح الشخصية القانونية لأنظمة الذكاء الاصطناعي – حسب البعض – بتوفر هذه الأخيرة على مكونات اصطناعية تضاهي المكونات البيولوجية للإنسان في محاولة ابتكار وظائف مكونات البنية البشرية ومحاولة إسقاطها على الأنظمة الذكية.

ويتم ذلك عن طريق اعتماد طرق هندسية مختلفة عبر برمجة وتطوير خوارزميات أنظمة الرؤية الربوتية، بشكل يجسد منتهى محاولات الإتقان قصد التوصل إلى نظام إدراكي بصري ووحدات التحكم و نماذج بيانية معيارية موحدة لهياكل الجسم، بشكل يضاهي – في اعتقادهم – التركيبة البيولوجية البشرية^[8].

ويجذر التذكير أن إقرار فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي لم تفرضها العوامل الراجعة لطبيعة الأنظمة الذكية وإنما تعود أيضا إلى الاحتكام للمفهوم الفلسفي للشخصية القانونية، و هو الأمر الذي سنقاربه من خلال الفقرة الثانية من هذا المطلب.

الفقرة الثانية : عوامل راجعة إلى مرونة مفهوم الشخصــــــية القانونيـــــــة

” إن الرجل الواسع العلم هو شخص كرس وقتا كثيرا للدراسة، أما العبقري فهو ” شخص سوف تتعلم الإنسانية منه شيئا لم يتعلمه هو من أحد غيره^[9].

يـكيف مفهوم الشخصية القانونية حسب المنظور الفلسفي طبقا لطابع ديكارتي يتأسس على النزعة الاَلية الميكانيكية الديكارتية، ويرتكز على التطور الرأسمالي، الأمر الذي يجعل فلسفة مفهوم الشخصية القانونية مرِن بالكيفية التي تخدم مصالح رؤوس الأموال، وتنتصر للفلسفة البورجوازية التي تعالج الإنسان بوصفه موضوعا^[10]، لكن كيف ذالك ؟

إن موقف التشريعات اليوم تِلقاء الضجة التي تحدثها أنظمة الذكاء الاصطناعي هو موقف يمكن وصفه بالموقف الرأسمالي المنتصر للشركات المصنعة الكبرى والأشخاص الاعتبارية التي تعنى بشؤون برمجة هاته الاَليات، فهو موقف حمائي يرمي إلى دحض المسؤولية القانونية عن الأشخاص الاعتبارية المذكورة، إذ تجذر الإشارة إلى أن منافع الكيانات الذكية تستفيد منها بشكل مباشر أشخاصا اعتبارية بطبيعتها^[11].

فالظاهر من خلال السياسات التشريعية الرامية إلى منح الشخصية القانونية لأنظمة الذكاء الاصطناعي تتبدى في حماية هذه الأنظمة مكافأة عن خدمتها النفعية التي تسديها للمجتمعات البشرية، إلا أن فلسفة هذه السياسات وما توارى وراء سطورها يعكس ذلك كليا، ويغير بوصلة بسط الحماية القانونية.

و في هذا الصدد يذهب الفقيه الفنلندي ” Visa A. J. Kurki ” أنه : ” عادة ما يكون الدافع وراء منح الحيوانات والطبيعة الشخصية القانونية هو حماية هذه الكائنات، ومع ذلك قد يكون الدافع وراء منح الذكاء الاصطناعي صفة الشخصية القانونية أسباب أخرى أيضا، وأن هناك سببين رئيسيين يدفعان إلى الاعتراف بأنظمة الذكاء الاصطناعي كأشخاص أمام القانون ويتعلق الأول – وهو ما يهمنا – بوجود شخص يمكن إلقاء اللوم عليه عندما تسوء الأمور، ويطرح هذا كحل للمساءلة، والثاني يتعلق بوجوء شخص يستحق المكافأة عندما تكون الأمور على ما يرام^[12] “.

كما أن هناك من الفلاسفة^[13] من كانت له نظرة استشرافية بأن عصر الاَلة والذكاء الاصطناعي يهدف من جهة أخرى إلى تنمية الرأسمالية على حساب الطبقة العمالية عبر تقويض هذه الأخيرة واستبدالها بالاَلة، حيث نصبح أمام عدم استخدام الفرد للاَلة بل نقيض ذلك الاَلة هي التي تستخدم الأفراد من أجل تلبية شروط إنتاج الربح^[14].

فالحالة هذه تفسر فلسفة إسناد الشخصية القانونية لأنظمة الذكاء الاصطناعي، وتظهر مرونة مفهوم الشخصية القانونية وتكييف مفهومها فلسفيا والذي يختلف تمام الاختلاف عن المفهوم القانوني للشخصية القانونية، ويخدم مصالح الرأسمالية عبر نفي طابع المسؤولية عنها بشتى الطرق واستجلاب النفع المفرط بمختلف الوسائل.

المطلب الثاني : مظاهر منح الشخصية القانونية لأنظمة الذكاء الاصطناعي

من المعلوم أن إسناد الشخصية القانونية لأنظمة الذكاء الاصطناعي، هو أمر يجعل هذه الأخيرة في وضع مماثل لوضع الإنسان، حيث تغذوا هذه الكيانات أمام ضرورة استحقاقها لحقوق كتلك المكفولة للإنسان نفسه “الفقرة الأولى”، كما يقتضي تفعيل منح الشخصية القانونية للكيانات المذكورة، تخليد التزامات على عاتقها وتموضعها موضع الإنسان من جهة تحمله لعواقب أفعاله “الفقرة الثانية”.

الفقرة الأولى : اكتساب أنظمة الذكاء الاصطناعي للحقوق

من المظاهر المركزية التي تزامن إسناد الشخصية القانونية لكيان معين^[15]، هو اكتساب هذا الأخير لحقوق تحل كالصرح المنيع أمام الانتهاكات التي قد تلحقه – الكيان – وبالتالي فغالبا ما تكون مجمل الحقوق المصاحبة للشخصية القانونية محمية بمقتضى قوانين ومواثيق دولية، وسنقتصر في هذه الفقرة على ذكر أهمها نظرا لتعددها.

وغني عن البيان أن منح الشخصية القانونية للأنظمة الذكية، تصاحبه حقوقا دولية ودستورية فذة، ومن أبرز هذه الحقوق، الحق في الحياة الذي يجعلنا نتساءل كيف ستضمن المجتمعات الحق في الحياة لأنظمة الذكاء الاصطناعي بكافة معاييره ؟ أو بالأحرى أين تتجلى معالم صيانة الحق في حياة أنظمة الذكاء الاصطناعي ؟

يتجسد الحق في حياة أنظمة الذكاء الاصطناعي في إيلائها العناية المطلقة والحرص الوافي، من أجل ضمان عملها المستمر، دون صدور أي فعل بقصد أو بدون قصد من شأنه أن يلحق ضررا بها أو يعطل استمرار عملها، و في هذا الصدد تتساءل إحدى الباحثات مجسدة للمعنى الواقعي للحق في حياة أنظمة الذكاء الاصطناعي عارضة أنه سيكون من السهل جدا فصل نظام واتسون عن الإنترنيت والكهرباء، كما فعل فيسبوك مع روبوتات الدردشة الخاصة به، فما الذي يمنع مطوري الذكاء الاصطناعي القائم على الشبكات العصبية عالميا من فعل الشيء نفسه^[16] ؟

كما سيصبح لأنظمة الذكاء الاصطناعي، إن سلمنا بفكرة منحها للشخصية القانونية الحق في الكرامة^[17]، وتتعدد صور ممارسة الحق في الكرامة وتمتد حسب امتداد الحقوق ومن بين ما يقتضيه الحق في الكرامة تمكين أنظمة الذكاء الاصطناعي من ممارسة حقها في التقاضي شأنها شأن الإنسان، عبر لجوئها الشخصي للمحاكم متى تضررت من تصرف ما.

ولاشك أنه من أبرز الحقوق السامية التي ثار تلقائها نقاش كبير، والتي صُـنفت بأنها الجذيرة بالإسناد للأنظمة الذكية هو الحق في الملكية الفكرية^[18]، هذا الأخير الذي يعتبر من منطلقات التفكير في منح الشخصية القانونية لأنظمة الذكية، حيث اعتبرت الأعمال التي تقوم بها أنظمة الذكاء الاصطناعي، هي أعمال من صنعه و يجب أن يعترف له بملكياتها وأن ينال المنافع المتمخضة عنها، والحيلولة دون استفادة الإنسان من براءات اختراع الأنظمة الذكية ومن الامتيازات المترتبة عنها^[19].

غير أن منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، لا تقتصر فقط عن ترتيب الحقوق لفائدة هذه الكيانات وإنما كما سلف الذكر، تفرض إيقاع ثلة من الواجبات على عاتقهم وهو الأمر الذي سنعالجه من خلال الفقرة الثانية أدناه.

الفقرة الثانية : تحمل أنظمة الذكاء الاصطناعي للواجبات

يتوقف أمر إسناد الشخصية القانونية لأنظمة الذكاء الاصطناعي على ترتيب واجبات وتخليد التزامات في عاتق هذه الكيانات، على اعتبار أنها ستصبح، حيئذ، لها مكانة اجتماعية تضاهي تلك المسندة للإنسان وأشد حسب اعتقاد البعض، فالشخصية القانونية تفرض إقامة التلازم بين الحقوق و الواجبات^[20]، فمتى منحت للأنظمة الذكية الشخصية القانونية، وجب عليهم الاحتكام لهذا التلازم المفروض قانونيا واجتماعيا.

ومن صور التلازم بين الحقوق و الواجبات التي يمكن استحضارها والحالة هاته، تقييد أنظمة الذكاء الاصطناعي بالواجبات التي يفرضها الحق في الملكية الفكرية، فهذا الأخير يخول للشخص القانوني حقوقا ملموسة، أدبية وفنية وصناعية، وأدبية وفنية في التشريع المغربي، يفرض التزامات على مكتسب هذا الحق بالكيف نفسه، فبالرجوع إلى القانون رقم 2.00 المتعلق بحقوق المؤلف والحقوق المجاورة^[21]، نجد المشرع المغربي رتب في مقابل اكتساب الحقوق المسطرة في القانون المذكور، بعض الالتزامات، كما هو الشأن بالنسبة لواجبات المؤلف تلقاء الناشر وكذا واجبات الناشر تلقاء المؤلف المنظمين في الأحكام الخاصة بعقد النشر في ذات القانون.

كذلك من أهم الالتزامات التي تصاحب منح الشخصية القانونية للكيانات بشكل عام، وعي هذه الأخيرة بما هو واجب عليها، ويتم ذلك عن طريق رصد حرصها الشديد في عدم تطاولها عن حقوق الأخرين، والحزم على معرفة حدود ممارستها لحقوقها، وكذا العلم بدليل قيامها بالواجبات والالتزامات المفروضة عليها.

فبمجرد وعي أنظمة الذكاء الاصطناعي بهاته المقتضيات التي تعد بوابة لتفعيل الطابع الالتزامي بواجباتها، ستصبح ملتزمة عن كل الأفعال التي تصدر عنها والاَثار التي تترتب عن هذه الأفعال، سواء أتت في قالب تصرفات قانونية^[22] – كما هو الحال اليوم بالنسبة للعقود الذكية^[23] – أو في قالب وقائع قانونية^[24].

وعلى إثر ذلك ستصبح أنظمة الذكاء الاصطناعي مسؤولة مدنيا عن كل الأفعال التي تصدر عنها، وعن المخاطر التي قد تُلحقها بباقي الكائنات الأخرى، علاوة على غذوها قابلة للمساءلة الجنائية عن الأفعال التي قد تصدر عنها وتُكيف جرما في المنطقة الجغرافية التي صدر فيها الفعل عن النظام الذكي.

إن فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي تجر معها بقوة القانون كمال الأهلية الجنائية لهذه الأنظمة، والتي تعتبر بدورها نافذة استحالة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي التي سنعرض لها بالتفصيل الدقيق في المبحث الثاني من هذه الدراسة.

المبحث الثاني : مبررات استحالة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي

إن مجرد التفكير في منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، يجعل الأمر غير مستساغ، فإن لم نفسر مفهوم الشخصية القانونية على أهوال المدارس الغربية الذين يفسرون هذه الفرضية تفسيرا رأسماليا يعزز المكانة الاجتماعية لأنظمة الذكية، باعتبارها أتت نتاجا لثورة صناعية تكنولوجية حديثة، واستهدافا لتغيير مفهوم الشخصية القانونية بالشكل الذي يخدم المصالح الرأسمالية.

إلا أنه متى أسندنا النظر إلى مفهوم الشخصية القانونية بموضوعية وعمدنا تنزيل مقوماتها، سيتضح لا محال أن إسناد الشخصية القانونية لأنظمة الذكاء الاصطناعي يشكل لنا استحالة ملموسة، وهذه الاستحالة تُــبرر من الناحية الواقعية “المطلب الأول” كما تكون من جهة أخرى مبررة من الناحية القانونية “المطلب الثاني”.

المطلب الأول : المبررات الواقعية لاستحالة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي

تتجسد المبررات الواقعية لاستحالة منح الشخصية القانونية في غياب معايير هذا المنح “الفقرة الاولى”، كما تجسد طبيعة أنظمة الذكاء الاصطناعي من جهتها الاستحالة الواقعية كما سيأتي بيانه في “الفقرة الثانية” من هذا المطلب.

الفقرة الأولى : الاستحالة الناتجة عن غياب معايير منح الشخصية القانونية

لامراء أن المنح الفعلي للشخصية القانونية يتطلب توفر معايير مركزية لدى الكيان المراد تمتيعه بالشخصية القانونية، وتتجسد وظيفة هذه المعايير في تنزيل المكتسبات المتمخضة عن الشخصية القانونية، وتتمثل هذه المعايير في كل من معيار المكافأة الذي من خلاله يخول للشخص القانوني الاستفادة الاَثار الإيجابية للشخصية القانونية، ثم معيار المساءلة الذي يكرس التنزيل الفعلي لتحمل الواجبات التي تنتج عن اكتساب الشخصية القانونية.

بدءا بمعيار المكافأة، فمنح الشخصية القانونية لأنظمة الذكاء الاصطناعي يقتضي صلاحية الأنظمة الذكية في الاستفادة من المنافع التي تعود عن الحقوق المترتبة عن هذا المنح، وهذا المعيار بحد ذاته يثير ثُـلة من الإشكالات التي تجعل منح الشخصية القانونية لهذه الكيانات غير منطقية بل ومستحيلة.

ويتوقف معيار المكافأة على استشعار الشخص القانوني، بالعائدات التي تعود عليه من اكتسابه للشخصية القانونية، وإن حاولنا تنزيل معيار المكافأة نتاجا عن فرضية منح الشخصية القانونية لأنظمة الذكاء الاصطناعي فإننا سنكون أمام غياب جوهر معيار المكافأة، بحكم أن أنظمة الذكاء الاصطناعي لا تمتلك القدرة على الشعور كما هو الشأن بالنسبة للبشر^[25].

وطالما أن المشاعر تعد ركنا أساسيا من أركان معيار المكافأة^[26]، فإن وجود هذا الأخير مقرون بوجودها، وإن انعدمت – المشاعر – فلا حديث عن معيار المكافأة، وهو الإشكال الذي تثيره أنظمة الذكاء الاصطناعي، إذ كيف يُتصور مكافأتها عن أفعالها الإيجابة، وهي مفتقدة للمشاعر والأحاسيس.

فمن باب افتراض منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، ستكتسب لنا هذه الأخير نتاجا عن ذلك جملة من الحقوق، كما سبق وأن أشرنا لبعضها، كيف ستستفيد لنا هذه الأنظمة من الحق في الكرامة على سبيل المثال؟ مع العلم أن غاية إسناد هذا الحق هي غاية معنوية مرتبطة ارتباطا كليا بمشاعر الكيان المتمتع به، وإحساسه باعتباره ذا مكانة اجتماعية محترمة، فمن المتضح أن هذا المنح في غياب شعور أنظمة الذكاء الاصطناعي بالحق في الكرامة وعدم استفادتها من المزايا المعنوية المترتبة عنه، تجعل الأمر غير مجدي ومعيار المكافأة غير قائم ومنح الشخصية القانونية فكرة غير مرتكزة على اعتبارات سليمة.

كما يطرح السؤال حول المزايا التجارية المترتبة عن الحق في الملكية الفكرية، متى أسندت لأنظمة الذكاء الاصطناعي الشخصية القانونية، فكيف ستستفيد هذه الأنظمة من هذه العائدات التي تكون في الغالب عائدات مالية، فحتى لو تم الاعتراف للذكاء الاصطناعي بحقوق الملكية الفكرية فمن سيتمكن من استغلال هذه الحقوق الحصرية تجاريا^[27] ؟

وهذا الأمر يجعل معيار المكافأة الذي يعتبر أحد بنيان الشخصية القانونية، غير ذي أثر لدى أنظمة الذكاء الاصطناعي، والقول بمنح الشخصية القانونية لهذه الكيانات يعد ضربا من ضروب الوهم، وفكرة لا صلة لها بالصواب.

إلى جانب معيار المكافأة، يعتبر معيار المساءلة^[28] من مرتكزات الشخصية القانونية، إذ يتشكل في مكنة مساءلة الأشخاص القانونية على الأفعال التي تصدر منهم وعلى التزامهم بواجباتهم القانونية، فإذا سلمنا بفكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي فهل من المعقول ومن المتصور مساءلة كيانات لاتسمع ولا تعقل؟

ويعتبر معيار المساءلة المشكل الرئيسي الذي يحول أمام فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، فالشخصية القانونية تقتضي المساءلة الشخصية للشخص القانوني، وهذا الأمر غير متصور التنزيل على أنظمة الذكاء الاصطناعي، سواء تعلق الأمر بإثارة مسؤوليتها المدنية أم الجنائية.

وبمفهوم المخالفة، فمن غير الممكن والمتصور إثارة أنظمة الذكاء الاصطناعي مسؤولية الغير الذي ينتهك حقوقها، ولاسيما فيما يتعلق بحقوق الملكية الفكرية التي تعد عرضة للانتهاكات، فالأنظمة الذكية لا تستطيع حماية حقوقها بذاتها، وعلى أساس ذلك يعتبر معيار المساءلة هو الأخر مختلا بالشكل الذي اختل به معيار المكافأة، مما يجعل منح الشخصية القانونية لأنظمة الذكاء الاصطناعي أمر غير ممكن.

إلى جانب المعايير المذكورة، هناك من يضيف معيارا ثالثا، ينعت بالمعيار الأخلاقي^[29]، ومفاده أنه متى توفرت لدى الأنظمة الذكية ضوابط أخلاقية ترسم حدود تصرفاتها فإنها تكون مستحقة للشخصية القانونية، لكن هذا الطرح لا ينبغي اعتماده على إطلاقيته، نظرا لأن معيار الأخلاق لا يعتبر معيارا أساسيا لمنح الشخصية القانونية.

وتأسيسا على ماسبق، فإن معايير الشخصية القانونية، تعد منعدمة والحالة هاته، مما تكون معه فكرة منح الشخصية القانونية للأنظمة الذكية، فكرة غير معقولة وفرضية صعبة المنال من الناحية القانونية.

الفقرة الثانية : الاستحالة الناتجة عن طبيعة الأنظمة الذكية

لن تنـحـصـر مبررات استحالة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، في غياب معايير الشخصية القانونية فقط، بل توجد مبررات عديدة تفرضها طبيعة الأنظمة الذكية، حيث تستهل هذه المبررات من منطلق الحقوق الناتجة عن الشخصية القانونية والمفترض منحها لهذه الأنظمة.

وكما اَنف التفصيل فيه فإسناد الشخصية القانونية لأنظمة الذكاء الاصطناعي يرتب تلقائيا الحق في الكرامة، وهذ الأخير يتباين مع طبيعة أنظمة الذكاء الاصطناعي، بل الأكثر من ذلك، هناك من ذهب إلى أن أنظمة الذكاء الاصطناعي تولد عبيدا بالفطرة^[30]، وفي الحقيقة يعتبر هذا الطرح شبه منطقي لأنه حتى الطريقة التي تقدم من خلالها أنظمة الذكاء الاصطناعي خدمتها، فهي شبيهة بأسلوب العبيد في العقود السالفة.

كذلك تؤثر حتمية التدخل البشري في برمجة أنظمة الذكاء الاصطناعي في فرضية منح الشخصية القانونية لهذه الأنظمة، حيث يؤخذ عن هذا التدخل غياب الاستقلالية المطلقة للأنظمة الذكية، على اعتبار أن برمجة خوارزميات الأنظمة الذكية، تجعل هذه الأخيرة راضخة لمبتغيات المبرمج، وهو الأمر ذاته الذي يجعل الاستقلالية المتشبت بها من لدن المنتصرين لنظرية منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، غير ذي أساس.

وقد يجادل البعض بوجود بعض أنظمة الذكاء الاصطناعي^[31]، التي تتسم بالاستقلالية المطلقة، على اعتبار أنها تطور مكتسباتها من خلال البيانات المتداولة في بيئتها، فحتى هذا النوع من الأنظمة الذكية لايعتبر مستقلا استقلالية مطلقة، بحكم أن طريقة التوليد الذي يستند عليها تعود بدورها لمصادر بشرية، ويشكل الذكاء الاصطناعي التوليدي مجرد وسيلة لربط المتلقي بالمعطى الذي يرجع في الأصل إلى مصدر معلوم^[32].

فحتى لو صرفنا النظر عن تمكين الذكاء الاصطناعي التوليدي من خاصية الاستقلالية المطلقة، سلمنا بفرضية تطويره لمكتساباته من خلال البيانات المتداولة في بيئته، فإن هذه الخاصية بحد ذاتها ناتجة عن خوارزميات برمجية معدة سلفا من لدن المبرمجين، وبالتالي فمن غير المستساغ الحديث عن الاستقلالية المطلقة لأنظمة الذكاء الاصطناعي بشكل عام، مادام عملها واقف على التدخل البشري بأي حال من الأحوال.

إن فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، إن أخذت بالعقل والمنطق، ستتبدى مبررات استحالتها بشكل جلي ولا لبس فيه، لأن منطلقات الفكرة ترتكز أساسا على على مقاربة الأنسجة الحية ذات خلقة ربانية بأنسجة صناعية، وهذا الأمر في الحقيقة أدى إلى افتتان علماء التحكم الاَلي بأوجه التشابه بين الأنسجة الحية وبين الأعصاب والدوائر الإلكترونية، مما نتج ظهور تصورات أكثر قتامة عن العلاقة بين الإنسان والاَلة^[33]، وتندرج فكرة منح الشخصية القانونية للأنظمة الذكية ضمن هذه التصورات.

ونافلة القول، إن فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي لايمكن العمل بها في ظل أساليب عمل الأنظمة الذكية التي تحتمها طبيعة صنعها وبرمجتها ، والأمر ذاته أمام غياب معايير الشخصية القانونية، وزيادة على ذلك فاستحالة منح الشخصية القانونية للأنظمة الذكية لم تستشف من الناحية الواقعية فقط، بل ترتكز أيضا على مبررات قانونية كما سيأتي بيانه في المطلب الثاني أدناه.

المطلب الثاني : المبررات القانونية لاستحالة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي

تبرر استحالة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي من الناحية القانونية أيضا، ويتضح ذلك من خلال محاولة تكييف الفكرة مع بعض القواعد القانونية المسطرية “الفقرة الأولى” وكذا مقاربة إمكانية تماشي الفكرة من عدمها مع القواعد القانونية الموضوعية “الفقرة الثانية”.

الفقرة الأولى : قصور الفكرة أمام تنزيل القواعد القانونية المسطرية

لاريب أن جوهر القواعد القانونية المسطرية يتمحور حول تنظيم إجراءات التقاضي، في الشق المدني والزجري، وارتكانا إلى خاصية التقاضي، وبدءا بالتقاضي في المنازعات المدنية، فمعلوم أن منح الشخصية القانونية للأشخاص، يخولهم تلقائيا صفة^[34] إثارة المنازعات المتعلقة بهم أمام القضاء طبقا لمقتضيات الفقرة الأولى من الفصل الأول من قانون المسطرة المدنية المغربي^[35].

فمتى أسندت الشخصية القانونية لأنظمة الذكاء الاصطناعي، من البديهي أن هذه الأخير ستكتسب معها صفة وأهلية التقاضي، وأمام هذا الوضع فهل سيكون بإمكان هذه الأنظمة اللجوء إلى القضاء وعرض الانتهاكات التي طالت حقوقها ؟ فهل ستتمكن جراء منحها الشخصية القانونية المنازعة حول حقوق ملكيتها الفكرية ؟

ويشكل هذا التساؤول أساس هذا المحور، إذ من الستحيل أن يباشر نظام من أنظمة الذكاء الاصطناعي إجراءات التقاضي بنفسه، فحتى الذكاء الاصطناعي التوليدي الذي تُنسب له استقلالية وقيادة ذاتية دون تدخل مباشر من البشر، لا يسوغه ممارسة إجراءات التقاضي بصفة شخصية.

وبالتالي فمن غير المعقول السماح بتصنيف الذكاء الاصطناعي كشخص قانوني فذلك لايكون حلا مناسبا، فقد لايكون الذكاء الاصطناعي قادرا على تقديم شكوى أو رفع دعوى قضائية بشأن الانتهاكات التي تتعرض لها حقوقه^[36].

وباستعمال مفهوم المخالفة، في حالة التجاوزات التي تصدر عن الأنظمة الذكية جراء احتداماتهم مع البشر، فهل من المعقول مقاضاة نظام من أنظمة الذكاء الاصطناعي، فمن سنبلغ و على من سننفذ، وحتى إن توفرت ذمة مالية للنظام الذكي، نفترض الرجوع عليها، فهي ليست من مكتسباته بل نجدها في الغالب عائدة للصانع أو المالك.

الأمر ذاته فيما يتعلق بالقواعد المسطرية الجنائي، فهل يستساغ تحريك الدعاوى العمومية تلقاء أنظمة الذكاء الاصطناعي، وحتى لو مكناهم من الشخصية القانونية التي تجعلهم خاضعين للمساءلة الجنائية، فهل يمكن تحريك الدعاوى العمومية ضد أنظمة الذكاء الاصطناعي ؟

لاشك أن إثارة المسؤولية الجنائية^[37]، ضد أنظمة الذكاء الاصطناعي طرح تتضح معالم الجواب عنه بمجرد استحضار الغاية من تحريك الدعاوى العمومية، وهي اقتضاء حق الدولة في العقاب كما هو مسطر بديباجة قانون المسطرة الجنائية الجديد^[38]، فالعلة بينة والحكم واضح، فكيف ستتمكن دولة من تنزيل الجزاء على أنظمة الذكاء الاصطناعي^[39] ؟

كما أنه لو تموضعت هذه الأنظمة تموضع المطالب بالحق المدني، فهي الأخرى لن تتمكن من رفع شكاياتها إلى الجهات المختصة، كما أنها غير قادرة على تتبع إجراءات الاستنطاق والتحقيق في الدعاوى العمومية، وعلاوة على ذلك لم تستطع الاستفادة من حقوق الدفاع الذي تعتبر ذات أهمية بالغة في الدعاوى العمومية، أو التشبت بحقها في محاكمة عادلة.

فمنطق النظر يسفر على قصور فكرة منح الشخصية القانونية لأنظمة الذكاء الاصطناعي أمام القواعد القانونية المسطرية، لأنه ببساطة، هذه الأنظمة غير قابلة للمساءلة الجنائية ولا يمكن اقتضاء الدولة لحق العقاب منها، لأن إيقاع الجزاء الجنائي لا يحقق مبتغاه المتمثل في إحداث الردع بصنفيه، وإن لم نقل أن هذه الفكرة لا تقبل حتى التفكير فيها، بل تعد مجرد تنظير لا جدوى منه، وشتان بين التنظير والواقع.

الفقرة الثانية : قصور الفكرة أمام إمكانية تنزيل القواعد القانونية الموضوعية

تعتبر القواعد القانونية الموضوعية، مركز النقاش – إلى جانب منح الشخصية القانونية – الذي تثيره ضجة الذكاء الاصطناعي، حيث حلت القواعد الموضوعية حائلا أمام التنزيل الفعلي لمنح الشخصية القانونية للأنظمة الذكية، ونظرا لأن جوهر القواعد الموضوعية وعلاقتها بالأنظمة الذكية موضوع جد متشعب، إذ يشمل المسؤولية القانونية كاملة سنخصص له دراسة وافية تتناوله بالتفصيل، ولكي لا نطنب سنعرض في هذا المحور لتبرير استحالة القواعد الموضوعية المتعلقة بالمسؤولية القانونية بإيجاز.

ثار النقاش حول إمكانية تنزيل قواعد المسؤولية المدنية على أنظمة الذكاء الاصطناعي والرجوع عليها بصفة شخصية، تحت ذريعة تمتيعها بالشخصية القانونية، لكن قبل البلوغ إلى مرحلة التنفيذ على هذه الأنظمة، تمخض عن ذلك عائق تحديد صنف المسؤولية الواجب التطبيق.

وتشاطرت الاَراء بين الصنف الواجب التطبيق مدنيا على أفعال او إغفالات أنظمة الذكاء الاصطناعي، هل سنطبق مقتضيات المسؤولية العقدية، نسبة إلى أفعال أنظمة الذكاء الاصطناعي التي تتمثل في الوكيل الذكي، معتبرين أن لهذا النوع من أنظمة الذكاء الاصطناعي رضا^[40]، لكن هذا الطرح غير سليم لأن الرضا الصادر عن الوكيل الذكي في العقود الذكية ناتج عن البرمجة التي أعدها المبرمج.

كما أن أنصار التيار المنادي بتطبيق قواعد المسؤولية التقصيرية، عمدوا إلى تحميل أحد من المشاركين في عمل نظام الذكاء الاصطناعي مسؤولية حارس الشيء، وأمام هذا الحال لم نكن أمام مسؤولية شخصية ترتكز على التمتع بالشخصية القانونية، إضافة إلى ذلك تعد مقتضيات الفصل 88 من ظهير الالتزامات والعقود المؤطر لمسؤولية حارس الأشياء غير متأتية التطبيق على أفعال الذكاء الاصطناعي التوليدي الذي تخرج عن مفهوم الشيء.

فالحال أنه لايمكن تحميل أنظمة الذكاء الاصطناعي أي نوع من المسؤوليتين ولا يسوغ تطبيق قواعد المسؤولية المدنية المسطرة بموجب ظهير الالتزامات والعقود^[41] عن أفعال الأنظمة الذكية و مساءلتها بكيفية شخصية، وهذا ما أكده البرلمان الأوروبي في قراره المرفوع إلى المفوضية الأوروبية بخصوص قواعد القانون المدني بشأن الروبوتات لسنة 2017^[42].

حيث أكد أنه لا يمكن تحميل الروبوتات المسؤولية بحد ذاتها عن الأفعال أو الإغفالات التي تسبب ضررا لأطراف ثالثة، في حين أن القواعد الحالية تغطي الحالات التي يمكن فيها إرجاع سبب فعل الروبوت أو إغفاله إلى وكيل بشري محدد مثل الشركة المصنعة أو المشغل أو المالك أو المستخدم^[43].

وتأسيـسا على ذلك، فـطالما لايـمكن مساءلة أنظمة الذكاء الاصطناعـي، بـشكل شخصي أو عـدم قابـلية تـنزيل قـواعد المسؤولية المدنية عليهـم، فـذلك يوازي استحـالة مـنحهـم الـشخصية القانونية.

أما فيما يتعلق بإمكانية تطبيق القواعد الموضوعية الجنائية على أنظمة الذكاء الاصطناعي، فاستحالة هذه الفرضية جلية لأن أنواع العقوبات^[44] أصلية كانت أم إضافية شرعت لتنطبق على أشخاص بشرية، بغاية تحقيق الردع العام والخاص، وتحقيق سياسة جنائية وطيدة وفعالة، وهذه الأمور غير محققة متى كان المعاقب نظاما من أنظمة الذكاء الاصطناعي.

خــاتــمة :

دابِـــر القول، إن التطور المذهل الذي تعرفه أنظمة الذكاء الاصطناعي يوما بعد يوم وتأثيره الملحوظ في الحياة الاجتماعية والذي يرجع أساسا لطبيعة هذه الأنظمة وما تتسم به من مقومات، جعل السياسات التشريعية في الدول المتقدمة كالدول المنضوية تحت لواء الاتحاد الاَوروبي وكذلك الولايات المتحدة الأمريكية، تفترض فكرة منح الشخصية القانونية للأنظمة الذكية، بعلة ظاهرها الحماية والمكافأة.

إلا أن فلسفة هذا التوجه وقراءاته المركزة من لدن الفقه، تبدي غايات باطنية تهدف إلى صرف المسؤولية القانونية على أصحاب رؤوس الأموال، وإسنادها إلى كيانات لا جدوى من مساءلتها، والحال أن منح الشخصية القانونية للأنظمة الذكية وإن أجازته التيارات الغربية فهو أمر مستحيل، من الناحية الواقعية والقانونية.

إن أَبْلَجَ الحديث وأنسبه تلقاء فرضية منح الشخصية القانونية لأنظمة الذكاء الاصطناعي، أنه لاينبغي الأخذ بفكرة منح الشخصية القانونية للأنظمة لأنها مجر فرضية نظرية لا أساس لها من الواقع، ولها من استحالة التطبيق مبررات معقولة، وأن الاستغناء عن هذه الفكرة يقتضي منا التقدم ببعض الاقتراحات المتواضعة والتي نأمل أن تؤخذ على محمل الجد متى صادفت الصواب. فمن المعلوم أن أنظمة الذكاء الاصطناعي تزداد يوما بعد يوم تقدما، وهذا التقدم يزداز خطورة اجتماعية أمام غياب قواعد قانونية مرنة تساير هذه اللازمة الاجتماعي، وبالتالي فخوض المشرع المغربي خطوة طرح مشروع قانون يتعلق بالذكاء الاصطناعي باتت ضرورية ولا مفر منها.

كما يتعين على المشرع المغربي الإسراع في البدء وتعميم النقاش المعمق وأخذ شورة الباحثين القانونين في مجال الذكاء الاصطناعي، قصد الخروج بقواعد قانونية توائم تطور الأنظمة الذكية.

صرف النظر عن المواقف الغربية بشأن إسناد الشخصية القانونية لأنظمة الذكاء الاصطناعي، نظرا لاستحالة تطبيق هذه الفرضية، وجعل هذه الأنظمة في تبعية مستعملها، مع إثارة مسؤوليته متى ثبت أن الفعل الضار ناتج عن خطأ في الاستعمال.

جعل المسؤولية المدنية المترتبة عن أفعال أو الإغفالات الصادرة عن الأنظمة الذكية على صانعها، متى ثبت أنها ناتجة عن عيب في الصنع، في إطار مسؤولية المنتج عن المنتوجات المعيبة، أما في حالة كان الخطأ ناتج عن عيب في البرمجة فالأمر يقتضي ترتيب المسؤولية على المبرمج.

سن قواعد قانونية خاصة بالمسؤولية المدنية عن أفعال أو إغفالات أنظمة الذكاء الاصطناعي، وعدم الاكتراث لفرضية تنزيل قواعد المسؤولية المدنية المكرسة في ظهير الالتزامات والعقود.

نَرْفَــعُ دَرَجــــاتِ مَــنْ نَــشـــاء

وَفَـــــوقَ كُـــلِّ ذِي عـلمٍ عَلِــــيم

 

1. – عرفت المفوضية الأوروبية بشأن قواعد القانون المدني المتعلق بالروبوتات لسنة 2020 الذكاء الاصطناعي في المادة الثالثة بكونه: ” نظاما قائما على البرمجيات أو مضمنا في الأجهزة المادية، ويظهر سلوكا يحاكي الذكاء من خلال جمع البيانات ومعالجتها، وتحليل بيئته وتفسيرها واتخاذ الإجراءات بدرجة معينة من الاستقلالية لتحقيق أهداف محدد “.

   ” AI-system’ means a system that is either software-based or embedded in hardware devices, and that displays behavior simulating intelligence by, inter alia, collecting and processing data, analysing and interpreting its environment, and by taking action, with some degree of autonomy, to achieve specific goals “, European Parliament resolution of 20 October 2020 with recommendations to the Commission on a civil liability regime for artificial intelligence (2020/2014(INL)), Official Journal of the European Union, C 404/107, on the date : 6.10.2021.

   كما عرفت المنظمة العالمية للملكية الفكرة ” WIPO ” الذكاء الاصطناعي بأنه ” اَلات قادرة على تحسين أدائها في مهمة يؤديها البشر عادة بتدخل بشري محدود أو معدوم ” كما عرفته بأنه ” أفق رقمي جديد ووصفته بالكهرباء الجديدة “.

   “AI systems is, machines that can become better at a task typically performed by humans with limited or no human intervention ” ” Artificial intelligence is a new digital frontier and the new electricity ,” WIPO Technology Trends 2019, pages : 13 and 19.

   كما تم تعريف الذكاء الاصطناعي أيضا بأنه ” مشروع يقوم على زيادة الاَلات ذات قدرات لاستغلال البيانات والمعرفة الحديثة والمتطورة، وهو جوهر علوم المعلومات “.

   ” L’intelligence artificielle (IA), de par son projet de doter les machines de capacités d’exploitation de données et de connaissances toujours plus sophistiquées, est au cœur des sciences du traitement de l’information “, Pierre Marquis et autres, Panorama de l’intelligence artificielle, Volume 3 L’intelligence artificielle : frontières et applications, CÉPADUÈS éditions – Toulouse France, mai 2014, page : 10. ↑

2. – تعرف الشخصية القانونية بأنها ” الشرط الأساسي لمنح كيان بشري حقوقه و تحميله للواجبات ”

   “the legal personhood is a necessary prerequisite for ascribing rights and duties to being ”, john-stewart Gordon, artificial moral and legal personhood, published article in a journal AI and society, publisher house : springer nature, London, edition 2019, page 1. ↑

3. – وفي عام 2008، أصبحت الإكوادور أول دولة في العالم تعلن في دستورها أن الطبيعة التي يطلق عليه إسم Pachamama، كيان قانوني، ” باتشاماما هو اسم إلهة الأرض – حسب اعتقادهم – “، وهي هواكا أو نومينا، وتتخذ شخصية مريم العذراء.

   تعترف المواد 71-74 من دستور الجمعية الوطنية الإكوادورية لسنة 2008 بالحقوق الغير القابلة للتصرف في النظم البيئية، وتمنح الأفراد سلطة تقديم الالتماسات نيابة عن هذه النظم، وتلزم الحكومة بمعالجة انتهاكات حقوق “باتشاماما” أو حقوق الطبيعة، كما تنص على أن : للطبيعة أو باتشاماما الحق في الوجود والاستمرار والحفاظ على دوراتها الحيوية وبنيتها ووظائفها وعملياتها في التطور== ==وتجديدها، وفي 21 مايو/أيار 2009، أصدرت كنائس السكان الأصليين إعلانا مشتركا في المنتدى الدائم للأمم المتحدة الذي يعنى بقضايا السكان الأصليين، أوصى فيه المنتدى بالاعتراف بالأرض الأم كشخصية قانونية.

   وحذت دولة بوليفيا حذو الإكوادور بتعديل دستورها بشكل مماثل لحماية النظم البيئية الطبيعية “دولة بوليفيا المتعددة القوميات، 2010″،

   حيث أعادت التعديلات تعريف رواسب المعادن في البلاد باعتبارها “نعما”، وأرست “حقوقا جديدة للطبيعة”، وهي : الحق في الحياة والوجود، والحق في استمرار الدورات والعمليات الحيوية دون تدخل بشري، والحق في الماء النقي والهواء النظيف، والحق في التوازن البيئي، وكذا الحق في الاستعادة الفعالة والمناسبة لأنظمة الحياة المتأثرة بالأنشطة البشرية المباشرة أو غير المباشرة، والحق في الحفاظ على الأرض الأم وأي من مكوناتها فيما يتعلق بالنفايات السامة الناتجة عن الأنشطة البشرية.

   “In 2008, Ecuador became the first country in the world to declare in its constitution that ‘nature’, or Pachamama, is a legal entity, Pachamama is the name of an earth-goddess (mother goddess), who is a huaca or numina who may adopt the persona of the Virgin Mary.

   71-74 of the Constitution Ecuador National Assembly, 2008 recognize the inalienable rights of eco-systems, give individuals the authority to petition on behalf of ecosystems and require the government to remedy violations of Pachamama or nature’s rights.

   It states that: Nature or PachaMama has the right to exist, persist, maintain and regenerate its vital cycles, structure, functions and its processes in evolution.

   On 21 May 2009, Indigenous churches issued a joint declaration at the UN Permanent Forum on Indigenous Issues recommending that the forum recognize Mother Earth as a legal subject.

   Bolivia followed Ecuador’s example by similarly amending its constitution to give protection to natural ecosystems “Plurinational State of Bolivia2010”, The amendments redefined the country’s mineral deposits as ‘blessings’ and established new ‘rights for nature’, namely: the right to life and to exist; the right to continue vital cycles and processes free from human alteration; the right to pure water and clean

   air; the right to ecological balance; the right to the effective and opportune restoration of life systems affected by direct or indirect human Legal background to juristic personhood activities, and the right for preservation of Mother Earth and any of its components with regards to toxic and radioactive waste generated by human activities” , John studley, indigenous sacred natural and spiritual governance, the legal case for justice personhood, Edition : Routledge focus- London and new York, first published 2019, pages 29 and 30. ↑

4. – علاوة على أصناف أخرى كالذكاء الاصطناعي المحدود “Artificial narrow intelligence” أو الذكاء الفائق الاصطناعي “Artificial super intelligence” للمزيد من التوسع بهذا الشأن أنظر :

   – Paul-Antoine Desrues, Léa Duchemin, baptiste duvieu, Intelligence artificielle, édition : Gmbh – norderstedt, Allemagne, édition : 2017, pages 19 et 20.

   – Tayler L. Jaynes, Legal personhood for artificial intelligence : citizenship as the exception to the rule, published article in a journal AI and society, publisher house : springer nature, London, edition 2019, page :11. ↑

5. – يراد باستقلالية أنظمة الذكاء الاصطناعي ” اتخاذ الأنظمة الذكية المبادرة من تلقاء نفسها والتصرف بطريقة مستقلة وبمعزل عن كل تدخل بشري”، مصطفى مالك، الإبرام الالكتروني للعقد، مطبعة النجاح الجديدة – الدار البيضاء، الطبعة الأولى 2022، الصفحة 201. ↑
6. – “ Creating a specific legal status for robots in the long run, so that at least the most sophisticated autonomous robots could be established as having the status of electronic persons responsible for making good any damage they may cause ” , john-Stewart Gordon, Previous reference, page: 3. ↑
7. – يقصد بأتمتة أنظمة الذكاء الاصطناعي ” استخدام برمجيات مزودة بتقنيات الذكاء الاصطناعي والتعلم الاَلي لمعالجة المهام المتكررة، ذات الحجم الكبير، والتي تتطلب تدخلا بشريا ”

   ” Robotic process automation (RPA) is the use of software with artificial intelligence (AI) and machine learning capabilities to handle high-volume, repeatable tasks that previously required humans to performe ” Màrio Romao and Joao costa and Carlos J. costa, Robotic process automation : a case study in the banking industry, published article in a collective work on the proceedings of the Iberian conference on information systems and technologies, the conference held on 19-22 June 2019 in Coimbra, Portugal, published by Iberian Association for Information Systems and Technologies (AISTI), 2019, page: 2. ↑

8. – للمزيد من التوسع بهذا الخصوص أنظر :

   Wenji li, zhaoujun wang and others, modular design automation of the morphologies, controllers, and vision systems for intelligent robots: a suvey, published article in a journal visual intelligence, publisher house: springer nature, London, edition : 2023. ↑

9. – مقتبس فلسفي راجع لأرثور شوبنهاور، أورده ثيودور أويزرمان، تطور الفكر الفلسفي، ترجمة سمير كرم، دار النشر : الطليعة – بيروت، لبنان، الطبعة الرابعة 1988، الصفحة 219. ↑
10. – ثيودور أويزرمان، مرجع سابق، الصفحة 224. ↑
11. – قد تكون الشركات المصنعة، أو الشركة المالكة للنظام كما هو الشأن بالنسبة للمستشفيات الخاصة التي أصبحت تعتمد الربوتات الطبية، وقد تكون هذه الاَليات محل عقود كراء من لدن شركة تأخذ مركز الشركة المكترية..، وصفوة القول والحالة هذه، هو أن الاستعمال الشائع لأنظمة الذكاء الاصطناعي يتم من قبل أشخاصا اعتبارية خاصة. ↑
12. – « The legal personhood of animals and nature is typically motivated by the protection of these entities. However, AI personhood may be motivated by other reasons as well, there are at least two discrete reasons why they might be recognised as persons before the law :

    – The first is so that there is someone to blame whenthings go wrong.This is presented as the answer to potential accountability.

    – A second reason for recognizing personality, however, is to ensure that there is someone to reward when things go right » , Visa A. J. Kurki, Legal Personhood, philosophy of law, Cambridge university press, First published 2023, pages : 55 and 56. ↑

13. – Karl Marx, das Kapital, kritik der politischen oekonomie, publisher house : otto meissner – Hamburg, First edition 1867, volume 1, book 1, page 492. ↑
14. – » The subject does not make use of the machine, rather, the machine uses subjects to fulfil the conditions for profit production », Benjamin herr, Delivering Food on Bikes: Between Machinic Subordination and Autonomy in the Algorithmic Workplace, An article published in a collective work entitled : Augmented Exploitation artificial intelligence, automation and work, Publisher house : Pluto press – London, first published 2021, page : 42. ↑
15. – من ضمن الكيانات التي اكتسبت الشخصية القانونية على مر بغض الطرف عن الإنسان التي زامنته منذ أول وجود له على وجه المعمورة نذكر : الكائنات البيئية التي أصبحت تعرف تأطيرات رصينة بمقتضى اتفاقيات دولية و قوانين، كذلك ثار نقاشا واسعاً حول منح الشخصية القانونية لبعض الحياوانات كالقرادة على سبيل المثال، و عرف ذلك تدخل منظمات حقوقية عالمية منادية بهذا المنح تحت ذريعة ما يسمى ب ” Meaning you have the body ” بأن كل من لديه جسد يستحق منحه الشخصية القانونية، إضفاء الحماية اللازمة على حقوقه، للمزيد من التوسع بهذا الشأن أنظر :

    – Michelle C. Pardo, Legal personhood for animals: has science made its case? , published article in MDPI journal, animals, publisher house MDPI – Basel, Switzerland, edition 2023, page 1. ↑

16. – « It would be quite easy to disconnect Watson from the internet and electricity – much as Facebook did with their chatbots, what is there to prevent developers of NBIs globally from doing the same ? » Tyler L. Jaynes, Previous reference, page 8. ↑
17. – يعتبر الحق في الكرامة من ضمن الحقوق المخولة للإنسان والمكفولة له دستوريا، كما يعتبر الحق في الكرامة مكرسا بمقتضى مواثيق دولية، و يراد بالحق في الكرامة حسب المستشف من المادة الأولى من الإعلان العالمي لحقوق الإنسان أن جميع الناس أحرارا ومتساوون في ممارسة حقوقهم داخل المعمورة دونما تطاول أو انتهاك لها، وأن لكل إنسان الحق في حماية حياته الخاصة وضمان ممارستها في جو تسوده معالم الإخاء والتضامن. ↑
18. – La propriété intellectuelle est la discipline constituée par le regroupement de deux branches du droit, à savoir la propriété littéraire et artistique, d’une part, et la propriété industrielle, d’autre part :

    • la propriété littéraire et artistique s’intéresse tout à la fois au droit d’auteur et aux droits voisins du droit d’auteur, ces derniers s’apparentant aux droits des auxiliaires de la création littéraire et artistique que sont les artistes – interprètes, les producteurs de phonogrammes, de vidéogrammes ou de bases de données, les entreprises de communication audiovisuelle ainsi que les éditeurs et agences de presse.

    • la propriété industrielle comprend les droits sur les créations industrielles – au travers du dessin ou modèle, du brevet d’invention, du certificat d’obtention végétale, du certificat complémentaire de protection, du certificat d’utilité et de la topographie de produit semi – conducteur – et les droits sur les signes distinctifs, à savoir, en particulier, la marque et l’indication géographique. Jean-Luc Piotraut, Droit de la propriété intellectuelle, édition :ellipses – paris, 4éme édition 2024, pages 21 et 22. ↑

19. – تجذر الإشارة إلى أن المملكة العربية السعودية كانت سباقة في منح الشخصية القانونية لكيان من كيانات الذكاء الاصطناعي، ويتعلق الأمر بالربوت صوفيا، الذي خولت له الشخصية القانونية اكتسابه للجنسية السعودية، ويندرج حق أنظمة الذكاء الاصطناعي في الحصول على جنسية معينة ضمن الحق في الكرامة، وقد عرفت هذه المبادرة العديد من الانتقادات المرتكزة على أسس علمية، ونحن بدورنا من المعارضين لتوجه المملكة العربية السعودية في هذا الإطار لعدة اعتبارات سنفصل فيها في متن هذه الدراسة بعده. ↑
20. – أنظر بشأن التلازم بين الحقوق و الواجبات : كريم الحرش، الدستور الجديد للمملكة المغربية شرح وتحليل، مطبعة النجاح الجديدة– الدار البيضاء، الطبعة الثالثة 2021، الصفحة 18. ↑
21. – القانون رقم2.00 المتعلق بحقوق المؤلف والحقوق المجاورة، الصادر بتنفيذه الظهير الشريف رقم 1.00.20 بتاريخ 15 فبراير 2000، المنشور بالجريدة الرسمية عدد 4796 بتاريخ 18 ماي 2000، الصفحة 1112. ↑
22. – أنظر بشأن التصرفات القانونية : الفقيه المرحوم مأمون الكزبري، نظرية الالتزامات في ضوء قانون الالتزامات والعقود المغربي، الجزء الأول مصادر الالتزامات، منشورات دار الحلبي الحقوقية بيروت – لبنان، الطبعة الثانية 2023، الصفحة 22.

    – أنظر أيضا بشأن التصنيف بين التصرفات القانونية والوقائع القانونية : أستاذنا أبو بكر مهم، النظرية العامة للالتزامات، مطبعة النجاح الجديدة – الدار البيضاء، الطبعة الأولى 2021، الصفحة : 54 و 55. ↑

23. – تعتبر العقود الذكية صورة من صور أنظمة الذكاء الاصطناعي، وتتسم العقود الذكية بذاتية التنفيذ حيث تستند هذه العقود في إقدامها على التعاقد من عدمه على برمجة مسبقة لخواريزمياتها. أنظر بشأن العقود الذكية : مصطفى مالك، مرجع سابق، الصفحة :75 و 76.

    – أنظر أيضا لبنى الغومرتي، الميسر في النظرية العامة للالتزامات، مطبعة سليكي أخوين – طنجة، الطبعة 2025، الصفحة 56. ↑

24. – للمزيد من التفصيل بشأن الوقائع القانونية أنظر : عبد الحق صافي، الوجيز في القانون المدني، الجزء الثاني المصادر الغير الإرادية، مطبعة النجاح الجديدة – الدار البيضاء، الطبعة الثانية 2021. ↑
25. – « AI systems do not possess the capacity to “ feel “ as humans do », Tayler L. Jaynes, Previous reference, page 2. ↑
26. – أنظر بشأن معايير الشخصية القانونية :

    – John-Stewart Gordon, Previous reference, page : 9. ↑

27. – « For example, even if AI were able to receive IP recognition, who would be able to commercialize the exclusive rights? », Isaac Christopher Lubogo, Legal personhood of artificial intelligence, Jescho publishing house, first edition 2022, page 11. ↑
28. – John-Stewart Gordon, Previous reference, page : 9. ↑
29. – Joshua Jowitt, Assessing contemporary legislative proposals for their compatibility with a natural law case for AI legal personhood, , published article in a journal AI And Society, publisher house : springer nature, London, edition 2023, page 2. ↑
30. – Lawrence B. Solum, Legal personhood for artificial intelligence, published article in a Collective work under the title : North Carolina la review, volume 70, published house UNC 1992, page 1278. ↑
31. – يتعلق الأمر بالذكاء الاصطناعي التوليدي « Generative artificial intelligence » وينتمي الذكاء الاصطناعي التوليدي إلى أنظمة الذكاء الاصطناعي القادرة على إنتاج محتوى مثل النصوص والصور والموسيقى ورموز البرمجة وغيرها من المخرجات المعقدة والإبداعية.

    « Generative AI (Gen-AI) refers to AI systems capable of producing content such as text, images, music, programming code and other complex and creative outputs », Veda C. Storey, and others, Generative Artificial Intelligence: Evolving Technology, Growing Societal Impact, and Opportunities for Information Systems Research, published article in a journal : information systems frontiers, publisher house : springer nature, London, edition 2025. ↑

32. – من بين أصناف الذكاء الاصطناعي التوليدي، نظام ” Chatgpt “. ↑
33. – Phoebe V. Moore, AI Trainers: Who is the Smart Worker Today? , published article in a Collective work under the title : Eugmented exploitation, publisher house : Pluto press – London, first published 2021, page : 13. ↑
34. – أنظر بشأن الصفة، أستاذنا عبد الكريم الطالب، الشرح العملي لقانون المسطرة المدنية، مطبعة النجاح الجديدة – الدار البيضاء، الطبعة الثانية عشر 2023، الصفحة 141 ومايليها. ↑
35. – تنص الفقرة الأولى من الفصل الأول من قانون المسطرة المدنية المغربي على أنه : “لايصح التقاضي إلا ممن له الصفة، الأهلية، والمصلحة، لإثبات حقوقه”. ↑
36. -Isaac Christopher lubogo, Previous reference, page : 15 ↑
37. – للتوسع بشأن المسؤولية الجنائية أنظر :

    – عبد الواحد العلمي، شروح في القانون الجديد المتعلق بالمسطرة الجنائية، الجزء الأول، مطبعة النجاح الجديدة – الدار البيضاء، الطبعة التاسعة 2021.

    – Bernard Bouloc, Droit pénal général, éditions Dalloz – paris, 25^e édition 2017, pages de 279 à 348. ↑

38. – القانون رقم 22.01 المتعلق بقانون المسطرة الجنائية، كما وقع تعديلة وتتميمه بمقتضى القانون رقم 03.23 الصادر بتنفيذه الظهير الشريف رقم 1.02.255 بتاريخ 3 أكتوبر 2002، المنشور بالجريدة الرسمية عدد 5078 بتاريخ 30 يناير 2003، الصفحة 315. ↑
39. – إن أصل هذا التساؤول راجع إلى مداخلة تقدمنا بها إلى السيد الوكيل العام للملك بمحكمة الاستئناف بالقنيطرة الأستاذ عبد الكريم الشافعي على إثر مداخلته التي تقدم بها تحت عنوان الذكاء الاصطناعي وتحقيق النجاعة القضائية، ضمن أشغال الندوة العلمية المنعقد= =بتاريخ 21 أبريل 2025 برواق رئاسة النيابة العامة بالمعرض الدولي للكتاب بمدينة الرباط تحت عنوان : ” العدالة وتحديات الذكاء الاصطناعي ” وتحديدا على الساعة 17:00. ↑
40. – توجه أورده الأستاذ مصطفى مالك، مرجع سابق، الصفحة 216. ↑
41. – ظهير شريف صادر بتاريخ 12 غشت 1913 بمثابة قانون الالتزامات والعقود، المنشور بالجريدة الرسمية 46 بتاريخ 12 سبتمبر 1913، الصفحة 78. ↑
42. – European parliament resolution of 16 February 2017 with recommendations to the commission on civil law rules on robotics (2015/2103(INL)), official journal of the European union. ↑
43. – Page 4 of the resolution. ↑
44. – راجع بشأن العقوبات الإضافية والأصلية : محمد بن الحاج الهاشمي بفقير، العقوبات وأسباب انقضائها أو الإعفاء منها أو إيقاف تنفيذها في النظام العقابي المغربي والمقارن، مطبعة النجاح الجديدة – الدار البيضاء، الطبعة 2025. ↑