المسؤولية القانونية عن القرارات الخوارزمية داخل الشركات: نحو إعادة بناء نظرية الخطأ في قانون الأعمال – محمد ترحمونت

المسؤولية القانونية عن القرارات الخوارزمية داخل الشركات: نحو إعادة بناء نظرية الخطأ في قانون الأعمال

محمد ترحمونت

حاصل على ماستر في قانون الأعمال

مقدمة:

مع مطلع الألفية الثالثة، دخل العالم مرحلة من التحول التقني العميق، لم تقتصر تداعياتها على البنية الاقتصادية وحدها، بل امتدت لتعيد رسم ملامح الكيانات القانونية الفاعلة داخل الشركات وخارجها. فبعد أن ظلت الآلة قرونا رهينة يد الإنسان ومشيئته، باتت أنظمة الذكاء الاصطناعي والخوارزميات المتعلمة ذاتيا تتقدم إلى موقع الفاعل لا الأداة، وتبادر إلى اتخاذ قرارات ذات أثر اقتصادي وقانوني بالغ، دون انتظار توجيه بشري مباشر في كل لحظة.

وقد تجلى هذا التحول بوضوح لافت داخل الشركات، حيث لم تعد القرارات المتعلقة بمنح الائتمان، أو التسعير الديناميكي، أو إدارة سلاسل التوريد، أو توظيف الكفاءات، صادرة عن إرادة بشرية مفردة وقابلة للتحديد، بل أضحت في كثير من الحالات ناتجة عن معالجات آلية معقدة تتفاعل فيها المدخلات البيانية مع النماذج الرياضية وآليات التعلم التراكمي، لتفرز مخرجات قد تحدث أضراراجسيمة بمتعاملي الشركة أو منافسيها أو حتى بمساهميها.

وفي هذا الإطار، تنكشف أزمة بنيوية حقيقية تعصف بأسس قانون المسؤولية المدنية التقليدي؛ ذلك القانون الذي نشأ تاريخيا في رحاب مجتمع يهيمن عليه الفعل البشري المباشر، وبنيت مفاهيمه الكبرى كالخطأ والإرادة والإسناد والأهلية على افتراض ضمني راسخ، مفاده وجود إنسان مدرك يختار ويقدم ويحجم. فحين يحل النظام الخوارزمي محل هذا الإنسان، أو يشاركه في إنتاج القرار، يصبح من الواجب مساءلة البنية النظرية لقانون المسؤولية في ضوء هذه الواقعة الجديدة.

ولا تبدو هذه المسألة في القانون المغربي استثناء من القاعدة؛ إذ يرتكز ظهير الالتزامات والعقود الصادر سنة 1913^[1] الذي شكل لأكثر من قرن العمود الفقري للمسؤولية المدنية في المملكة، على مفهوم الخطأ الشخصي المستوجب للإدراك والتمييز، المشتراط فيه أن يكون الفعل الضار صادرا “عن بينة واختيار”، وعلى نحو يرتكز في تعريفه المشرع على أنه “ترك ما كان يجب فعله، أو فعل ما كان يجب الإمساك عنه”. وكلا النصين يفترضان ضمنا فاعلا بشريا لا كيانا خوارزميا.

وتتجلى أهمية هذا الموضوع على مستويين متلازمين؛ أما على مستوى الحماية القانونية، فإن ضعف نظام المسؤولية في مواجهة القرارات الخوارزمية يفضي إلى إفلات الشركات من تبعات أضرار قد تكون جسيمة ومتسلسلة، مما يقوض ثقة المتعاملين في البيئة الاقتصادية ويعرض حقوق المتضررين للضياع. وأما على مستوى الأمن القانوني للاستثمار، فإن الغموض التشريعي المحيط بمسؤولية الذكاء الاصطناعي يشكل عائقاأمام الشركات الراغبة في توظيف هذه التقنيات ضمن إطار قانوني واضح المعالم.

ومن هذه المنطلقات، تطرح هذه الدراسة الإشكالية التالية:

إلى أي حد تصلح القواعد التقليدية للمسؤولية العقدية والتقصيرية في القانون المغربي لاستيعاب الأضرار الناجمة عن القرارات الخوارزمية داخل الشركات؟ وهل يستوجب قصورها الانتقال نحو نماذج قانونية بديلة قائمة على منطق المخاطر وإعادة توزيعها؟

وللإجابة عن هذه الإشكالية، يُعتمد منهج تحليلي مقارن يستند إلى نصوص ظهير الالتزامات والعقود المغربي، ويستحضر المستجدات التشريعية المقارنة.

وعليه تقسم الدراسة وفق التصميم التالي:

المبحث الأول: قصور قواعد المسؤولية العقدية والتقصيرية في القانون المغربي أمام خصوصيات القرار الخوارزمي

المبحث الثاني: النظريات الجديدة لمسؤولية خوارزميات الذكاء الاصطناعي نحو إعادة بناء نظام الإسناد

المبحث الأول: قصور قواعد المسؤولية العقدية والتقصيرية في القانون المغربي أمام خصوصيات القرار الخوارزمي

تقوم المسؤولية المدنية في القانون المغربي، في شقيها العقدي والتقصيري، على بنية تقليدية محورها الفعل البشري القابل للإسناد، وعلى فكرة الخطأ و الضرر و العلاقة السببية بوصفه الأساس الجوهري لترتيب التعويض وجبر الضرر، سواء تعلق الأمر بالإخلال بالتزام ناشئ عن عقد، كما هو مستفاد من الفصل 263 من قانون الالتزامات والعقود، أو بالفعل الضار خارج الإطار التعاقدي وفق مقتضيات الفصلين 77 و78 من الظهير ذاته. ويستند هذا البناء إلى تصور قانوني كلاسيكي يفترض وجود فاعل إنساني يتمتع بالإدراك والتمييز والإرادة، بما يسمح بقياس سلوكه على معيار السلوك الواجب وتحديد مدى انحرافه عنه.

غير أن هذا التصور، رغم تماسكه التاريخي، أصبح يواجه تحديا متزايدا في ظل التحولات العميقة التي فرضتها الأنظمة الخوارزمية داخل البنية الاقتصادية للشركات، حيث لم يعد القرار الاقتصادي أو التسييري ينتج دائما عن تدخل بشري مباشر، بل أضحى في حالات متعددة نتيجة معالجة آلية للبيانات داخل أنظمة ذكية تتسم بالتعلم الذاتي والتطور المستقل النسبي. وهو ما يثير إشكالا جوهريا على مستوى الإسناد القانوني، خاصة في ظل تعدد المتدخلين في بناء وتشغيل هذه الأنظمة، وتداخل الأدوار بين المطور والمشغل ومزود البيانات، بما يحد من وضوح مركز الفاعل المسؤول.

ومن ثم، لم يعد الإشكال مقتصرا على كيفية تطبيق قواعد المسؤولية المدنية في إطارها التقليدي، بل امتد إلى مساءلة الأساس المفاهيمي ذاته الذي تقوم عليه، وعلى رأسه مفهوما الخطأ والسببية، اللذان يبدوان أقل قدرة على استيعاب الحالات التي يكون فيها الضرر ناتجا عن قرار خوارزمي غير قابل للإرجاع المباشر إلى إرادة بشرية محددة، خاصة في ظل غموض “الصندوق الأسود” الذي يطبع عمل هذه الأنظمة ويصعب تتبع مسار اتخاذ القرار.

وانطلاقا من هذه الاعتبارات، وجب النظر من خلال هذا المبحث إلى دراسة حدود المسؤولية العقدية والتقصيرية في القانون المغربي أمام خصوصيات القرار الخوارزمي، وذلك من خلال تحليل قصورقواعد المسؤولية العقدية في مواجهة القرار الخوارزمي أولا في المطلب الأول، ثم إبراز قصور قواعد المسؤولية التقصيرية في مواجهة القرار الخوارزميالمطلب الثاني.

المطلب الأول: قصور قواعد المسؤولية العقدية في مواجهة القرار الخوارزمي

تقوم المسؤولية العقدية في القانون المغربي على تصور راسخ مفاده أن الالتزام التعاقدي تعبير عن إرادتين متقابلتين واعيتين، وأن الإخلال به لا يتحقق إلا من خلال فعل أو امتناع صادر عن مدين يتمتع بالإدراك والتمييز والقدرة على التوجيه الواعي لسلوكه، وهو ما يجسده الفصل 263^[2] من ظهير الالتزامات والعقود، الذي يرتب مسؤولية المدين عن عدم تنفيذ التزامه، إلا إذا أثبت أن عدم التنفيذ ناشئ عن سبب لا يد له فيه^[3]، إذ يفترض هذا المقتضى في باطنه وجود مدين إنسان قادر على الإثبات والنفي وتحمل التبعات؛ ولا يقتصر هذا الافتراض على الفصل 263 وحده، بل يسري على المنظومة كلها من الفصل 230 الذي يقرر أن ” الالتزامات التعاقدية المنشأة على وجه صحیح تقوم مقام القانون بالنسبة إلى منشئيها”، إلى الفصول التي تحكم آثار الالتزام وانتقاله وانقضائه، وكلها مبنية على افتراض ضمني لا تصريحي بأن الفاعل الذي يتحرك في فضاء التعاقد كيانإنساني يدرك ويختار ويسأل، لا كيانخوارزمي يعالج وينتج ويتطور.

غير أن هذا البنيان التقنيني يصطدم اليوم بواقع اقتصادي وتقني جديد أصبحت فيه الشركات تعتمد بصورة متزايدة على أنظمة خوارزمية ذكية تتولى بشبه استقلالية تامة إنتاج قرارات تنفيذية حاسمة في مجال المعاملات التجارية، من قبيل التسعير الديناميكي^[4]؛ ومنح الائتمان؛ وتوزيع الموارد؛ واختيار المتعاقدين، وهي قرارات لا تصدر عن تدخل بشري مباشر لحظة التنفيذ بل عن معالجة آلية للبيانات ضمن نماذج تعلم ذاتي تتطور باستمرار وفق تفاعلها مع المعطيات المدخلة، وهو ما يشير إليه بعض الفقه^[5] بالقول إن الأنظمة الخوارزمية الحديثة تتسم بقدرة تكيفية ذاتية تجعل مخرجاتها متعذرة التوقع حتى على مصمميها، مما يخل بمبدأ قابلية الإسناد الذي يقوم عليه كل نظام مسؤولية. وفي هذا السياق، يتعقد مفهوم الإخلال التعاقدي ذاته تعقيدا بنيويا، إذ لم يعد بالإمكان تحديده في صورة فعل معزوٍّ إلى شخص بعينه، لأن الفعل التنفيذي قد انتقل من المجال البشري إلى المجال الخوارزمي، مما يفضي إلى ما يسميه الفقه الحديث ب”فجوة التوقع التعاقدي” (Contractual Expectation Gap)، وهي الهوة القائمة بين ما توقعه المتعاقدان حين أبرما عقدهما وما أنتجه تطور النموذج الخوارزمي من نتائج لم تكن في حسبان أي منهما، مما يضعف من قدرة مبدأ العقد شريعة المتعاقدين على أداء وظيفته التفسيرية في السياق الرقمي^[6].

ويزداد هذا الإشكال حدة حين ننتقل إلى مستوى السببية، إذ يقوم القرار الخوارزمي في حقيقته على تفاعل شبكي معقد بين عناصر متعددة لا تربطها علاقة خطية بسيطة: التصميم المعماري الأصلي للنموذج، وجودة بيانات التدريب ومدى خلوها من التحيز، والمعاملات التشغيلية التي اختارها المعدلون، والبيانات الإدخالية اللحظية، والتطور التراكمي الذاتي للنموذج عبر الزمن، وهي عناصر تجعل إثبات السبب المباشر للضرر في معنى الفصل 264 من قانون الالتزامات و العقود ضربامن المغامرة القانونية، لا سيما في ظل ما يعرف ب”مشكلة الصندوق الأسود^[7]” (Black Box Problem) التي تجعل خوارزميات التعلم العميق عاجزة عن تفسير مساراتها الداخلية حتى لمصمميها أنفسهم، وهو ما يؤكد بعض الفقه بقوله إن أزمة الإسناد في أنظمة الذكاء الاصطناعي لا تنبع من غموض القاعدة القانونية بل من استحالة تحديد الفعل المنشئ للضرر في منظومة تقنية معقدة بطبيعتها.^[8]وقد اعترفت المفوضية الأوروبية بهذا العجز صراحة حين أدرجت في المادة الرابعة من مقترح توجيه المسؤولية عن الذكاء الاصطناعي^[9] قرينة قابلة للدحض على السببية تخفف عبء الإثبات عن المضرور حين يتعذر عليه الكشف عن الرابط السببي في المنظومة الخوارزمية، وهو اعتراف تشريعي دولي بأن قواعد الإثبات التقليدية لم تعد كافية لاستيعاب هذا النوع من الأضرار.

وتتجلى أزمة الإسناد بأشد صورها وضوحا حين يتعدد المتدخلون في إنتاج القرار الخوارزمي من مطورين ومزودي بيانات ومشغلين داخليين وأطراف خارجيين، وهو ما يفرز ظاهرة “تشرذم الإسناد” (Fragmentation of Attribution) التي تجعل كل طرف يحيل المسؤولية على الآخر مستندا إلى حدود دوره في السلسلة التقنية، في حين لا يوفر نظام المسؤولية التضامنية المنصوص عليه في الفصل 164 من ظهير الالتزامات والعقود إلا حلا جزئيايصطدم بصعوبة استقطاب الأطراف الأجنبية أمام القضاء المغربي وبغياب معايير واضحة لتوزيع الأعباء بين حلقات السلسلة، وهو إشكال رصده الفقه الفرنسي في سياق مماثل مؤكدا أن تطبيق مفهوم حراسة الشيء على الخوارزمية المستقلة يستوجب التمييز بين حراسة البنية وحراسة السلوك، غير أن هذا التمييز ذاته لا يفضي إلى تحديد حارس محدد للخوارزمية حين تبلغ درجة عالية من الاستقلالية الوظيفية.

ومما يكرس هذا القصور ويُحكم دائرته أن القانون رقم 53.05 المتعلق بالتبادل الإلكتروني للمعطيات القانونية^[10]، رغم ما أحدثه من تطوير في مجال إثبات العقد والتعاقد عن بعد، لا يعالج بتاتامسألة التنفيذ الخوارزمي المستقل ولا يحدد المسؤولية عن مخرجاته، في تناقض صارخ مع ما جاءت به لائحة الاتحاد الأوروبي رقم EU 2024/1689 من أحكام تفصيلية تشمل إلزامية الشفافية تجاه المتعاقدين في المادة 13، واشتراط الرقابة البشرية على القرارات عالية المخاطر في المادة 26، وتوثيق مراحل التشغيل في المادة 12، وتحديد المسؤوليات على طول سلسلة القيمة في المادة 25، وهي أحكام غائبة عن التشريع المغربي غياباتاما يجعل المتعاقد المغربي المتضرر من قرار خوارزمي حبيس نصوص أسست لواقع مختلف كلياعما يعايشه.^[11]

ومن هذا كله يتبين أن الإطار العقدي التقليدي قاصر قصورا بنيويا عن استيعاب ظاهرة القرار الخوارزمي داخل الشركات، وأن هذا القصور ليس طارئا يعالج بالتفسير الموسع ولا عارضايسدبالتطبيق الأضيق، بل هو ناجم عن اختلاف جوهري في طبيعة الفاعل، فقانون الالتزامات و العقود صيغ لإنسان يتعاقد، في حين أن الواقع يفرز خوارزمية تنفذ، وبين التعاقد والتنفيذ مسافةفلسفية وقانونية لم يحسم أمرها بعد لا في التشريع المغربي ولا في أغلب التشريعات المقارنة، وهو ما يدفع بالضرورة إلى البحث عما إذا كانت المسؤولية التقصيرية بأسسها المغايرة أقدر على ملء هذا الفراغ أو أنها تشاطر شقيقتها العقدية ذات القصور.

المطلب الثاني: قصور قواعد المسؤولية التقصيرية أمام خصوصيات القرار الخوارزمي

إذا كان المطلب الأول قد كشف عن عجز الإطار العقدي عن استيعاب ظاهرة القرار الخوارزمي، فإن التساؤل يطرح بإلحاح حول ما إذا كانت المسؤولية التقصيرية بما تنطوي عليه من مرونة أوسع وانفتاح على الضرر خارج نطاق العلاقة التعاقدية قادرة على سد هذا الفراغ أو الحد من اتساعه. غير أن التأمل الدقيق في أحكام هذه المسؤولية كما يرسيها ظهير الالتزامات والعقود يكشف أنها تشاطر شقيقتها العقدية ذات القصور البنيوي، وإن اختلفت مداخله وتشعبت مساراته.

فالمسؤولية التقصيرية في القانون المغربي تنهض و تقوم على الثالوث التقليدي المنصوص عليه في الفصل 77 ^[12]و 78 ^[13]من ظهير الالتزامات والعقود الذي يلزم “كل شخص ارتكب خطأ سبب ضررا للغير” بالتعويض، وهو ثالوث يفترض في صميمه وجود خطأ قابل للإسناد إلى شخص بعينه، وضرر محدد المعالم، وعلاقة سببية تربط بينهما ربطا وثيقا لا لبس فيه. وعلى الرغم مما تتيحه هذه الصياغة من آفاق تطبيقية أرحب من المسؤولية العقدية من حيث انفتاحها على طائفة أوسع من المتضررين وعدم اشتراطها وجود رابط تعاقدي مسبق، فإن تطبيقها على القرار الخوارزمي يصطدم بعقبات ثلاث متراكبة تتعلق بتحديد الخطأ وإثبات السببية وتحديد المسؤول، وهي عقبات لا يعالجها التفسير القضائي المرن بل تستوجب تدخلا تشريعيا معيدا لبناء المفاهيم.

وأولى هذه العقبات تتصل بمفهوم الخطأ ذاته، إذ يستلزم الفصل 77 من الظهير توافر عنصري الإدراك والاختيار في مرتكب الخطأ، وهما عنصران لا ينطبقان على الكيان الخوارزمي بأي تأويل مقبول، مما يعني أن الخطأ لا يمكن أن ينسب إلى النظام الخوارزمي ذاته، ويتعين بالتالي البحث عنه في سلوك الأشخاص الطبيعيين أو الاعتباريين المرتبطين به. بيد أن هذا المسعى يفتح بابا آخر لا يقل إشكالا، إذ يتوزع الأشخاص المرتبطون بإنتاج القرار الخوارزمي على حلقات متعددة، من مطور النموذج إلى مورد البيانات إلى المشغل إلى المستخدم النهائي، ولا تقوم بينهم وبين الضرر الناجم علاقة خطأ مباشرة ومحددة، لأن كل طرف منهم لم يتخذ قرارا ضارا بصورة مستقلة بل أسهم في بناء منظومة آلية تنتج قرارات بصورة مستقلة بمنأى عن إرادته اللحظية، وهو ما يعبر عنه الفقه الفرنسي بمفهوم “الخطأ المشترك الموزع” (faute diffuse collective) الذي لا يتمركز في شخص واحد بل يتوزع بصورة لا يمكن فصلها على منظومة كاملة^[14].

ويتضاعف هذا الإشكال حين ننتقل إلى ركن السببية الذي يمثل العقبة الثانية والأكثر تعقيدا، إذ يشترط الفصل 98 من الظهير أن يكون الضرر نتيجة مباشرة وحتمية للخطأ، وهو شرط يصبح أمام القرار الخوارزمي ضربا من التعجيز القانوني. فالقرار الخوارزمي لا ينبثق من سلسلة علية خطية يمكن تتبعها خطوة بخطوة، بل من تفاعل ديناميكي متشعب بين طبقات متعددة من المعالجة لا يستطيع حتى المصممون أنفسهم الكشف عن مساراتها الداخلية، وهو ما يعرف في الأدبيات التقنية والقانونية بـ”مشكلة الصندوق الأسود”، التي سبقت الإشارة إليها في سياق المسؤولية العقدية، والتي تزداد حدة في سياق المسؤولية التقصيرية لأن المضرور هنا مكلف بإثبات علاقة السببية بنفسه دون أن يكون طرفافي أي علاقة تعاقدية تخفف عنه هذا العبء أو توزعه. وقد رصد بعض الفقه هذا الإشكال بدقة مؤكدا أن الأنظمة الخوارزمية المتكيفة ذاتيا تفرز ما أسماه بـ”انكسار السببية” (Causal Rupture)، إذ ينقطع الخيط الرابط بين قرار بشري أصيل وضرر لاحق بفعل سلوك النموذج التعلمي المتطور في الفترة الفاصلة.

أما العقبة الثالثة فتتعلق بمسؤولية المتبوع عن التابع المنصوص عليها في الفصل 85 من الظهير، التي تبدو للوهلة الأولى مخرجا واعدا لتحميل الشركة المشغلة للنظام الخوارزمي مسؤولية مخرجاته، على اعتبار أن النظام الخوارزمي يعمل باسمها وفي نطاق نشاطها. غير أن هذا المسعى يصطدم بأن مسؤولية المتبوع مشروطة بصدور خطأ من التابع يرتب مسؤوليته الشخصية ابتداء، وهو شرط يتعذر توافره حين يكون “التابع” نظاما خوارزميا لا تتحقق في حقه أهلية الخطأ، مما يفضي إلى تهاوي البناء من أساسه. وإذا حاول القاضي الالتفاف على هذا العائق بتأسيس المسؤولية على خطأ المشغل في الرقابة أو في الاختيار، وجد نفسه أمام عبء إثباتي بالغ الصعوبة يتعلق بتحديد مستوى الرقابة المعقول المطلوب من شركة تعتمد على نظام يتطور ذاتيا بصورة تجعل الرقابة الكاملة عليه أمرا تقنيا مستحيلا، لا سيما في ظل غياب أي معيار تشريعي أو قضائي مغربي يحدد واجبات الحيطة الخاصة بتشغيل الأنظمة الذكية.

وفي محاولة للتغلب على هذه العقبات، يلجأ بعض الفقه إلى استحضار نظرية مسؤولية حارس الشيء المنصوص عليها في الفصل 88 ^[15]من الظهير، بوصف النظام الخوارزمي “شيئا” تترتب على حارسه مسؤولية موضوعية عن الأضرار التي يحدثها. وإذا كان هذا التأسيس يوفر ميزة التخلص من إثبات الخطأ الشخصي، فإنه يثير بدوره إشكاليات جوهرية تتعلق بتحديد هوية الحارس في منظومة يتوزع فيها السيطرة الفعلية بين أطراف متعددة لا يملك أي منها التحكم الكامل في مخرجات النظام، وهو ما أشار إليه المطلب الأول في سياق التمييز بين حراسة البنية وحراسة السلوك الذي أرساه الفقه الفرنسي. بل إن هذه الإشكالية تزداد تعقيداحين ندرك أن مفهوم “الحراسة” يستلزم قدرة على التوجيه والرقابة الفعلية (pouvoir de direction, de contrôle et d’’sage) وهي قدرة تنهار حين يتجاوز النظام الخوارزمي درجة معينة من الاستقلالية الوظيفية تجعله يتخذ قرارات لم يبرمجها أحد ولم يتوقعها أحد، مما يجعل القول بوجود حارس محدد لنظام بلغ هذه الدرجة من التطور مجازا قانونيا لا حقيقةتقنية.

ويتجلى القصور التشريعي المغربي في أشد صوره بالمقارنة مع ما أحدثته لائحة الذكاء الاصطناعي الأوروبية EU 2024/1689 من نقلة نوعية في تأسيس المسؤولية التقصيرية عن أنظمة الذكاء الاصطناعي، إذ اعتمدت اللائحة تصنيفا مبنيا على درجة المخاطر يفضي إلى تباين أنظمة المسؤولية تبعالطبيعة النظام ومجال استخدامه، وربطت بين هذا التصنيف والتزامات إجرائية ووثائقية صارمة^[16] تمكن المضرور من الوصول إلى البيانات اللازمة لإثبات دعواه، فيما يظل المتعاقد المغربي المتضرر أسير نصوص القرن العشرين التي لم تتخيل يوماخوارزمية تصدر قرارات مستقلة بمليارات العمليات في اليوم الواحد.

ومن استعراض هذه العقبات مجتمعة يتبين أن المسؤولية التقصيرية لا توفر الحل البديل الذي طالما انتظره الفقه المقارن، وأن قصورها في مواجهة القرار الخوارزمي ليس طارئابل بنيوياشأنه شأن قصور المسؤولية العقدية، وإن اختلفت مواطن الخلل ومسالك التعسر. وتنتهي هذه المعاينة المزدوجة للمسؤوليتين إلى خلاصة جوهرية مفادها أن إشكالية المسؤولية عن القرار الخوارزمي لا تجد حلها في استنطاق النصوص القائمة ولو بأكثر التأويلات مرونة، بل تستوجب إعادة تأسيس نظرية المسؤولية من زاوية جديدة تنطلق من خصوصية الكيان الخوارزمي لا من افتراضات الكيان الإنساني.

المبحث الثاني: النظريات الجديدة لمسؤولية خوارزميات الذكاء الاصطناعي نحو إعادة بناء نظام الإسناد

إن قصور قواعد المسؤولية المدنية التقليدية، في شقيها العقدي والتقصيري، أمام ظاهرة القرارات الخوارزمية داخل الشركات، لا يقتصر على مجرد صعوبات تطبيقية أو إجرائية، بل يمتد إلى مستوى أعمق يمس البنية المفاهيمية ذاتها التي يقوم عليها نظام الإسناد القانوني، وعلى رأسها مفاهيم الخطأ، والإرادة، والسببية. فكلما ازداد اعتماد الفاعلين الاقتصاديين على أنظمة الذكاء الاصطناعي في اتخاذ القرارات ذات الأثر القانوني والاقتصادي، كلما تراجعت مركزية الفعل البشري المباشر لصالح منطق تقني يقوم على التعلم التراكمي والمعالجة الآلية للبيانات.

وأمام هذا التحول البنيوي، لم يعد ممكناالاكتفاء بتوسيع نطاق القواعد التقليدية، بل برزت الحاجة إلى البحث عن نماذج تفسيرية جديدة قادرة على استيعاب طبيعة الفعل الخوارزمي، وتحديد منطق إسناد المسؤولية في سياق تتداخل فيه الأدوار بين الفاعل البشري والنظام التقني. وهو ما فتح المجال أمام تطور اتجاهات فقهية وتشريعية حديثة، تسعى إلى إعادة بناء نظرية المسؤولية المدنية في ضوء التحول الرقمي.

وفي هذا الإطار، وجب استعراض من خلال هذا المبحث أبرز هذه المقاربات الجديدة، من خلال تحليل النظريات التي حاولت إعادة تعريف مركز الإسناد القانوني في مواجهة الذكاء الاصطناعي، ثم الانتقال إلى دراسة الآليات القانونية الكفيلة بإحداث توازن بين الابتكار التكنولوجي وضمان حماية المتضررين، وذلك عبر مطلبين متكاملين يتناولالمطلب الأول النظريات القانونية الجديدة لمسؤولية خوارزميات الذكاء الاصطناعي، بينما يعالج المطلبالثاني آليات التوازن بين حماية المتضررين وصون دينامية الابتكار.

المطلب الأول: النظريات الجديدة لمسؤولية خوارزميات الذكاء الاصطناعي

أمام العجز المتزايد لقواعد المسؤولية المدنية التقليدية عن استيعاب خصوصيات القرار الخوارزمي داخل الشركات، برزت في الفقه القانوني المقارن اتجاهات حديثة تسعى إلى إعادة بناء منطق الإسناد القانوني، عبر تطوير نظريات بديلة تتجاوز مركزية الخطأ الشخصي بوصفه الأساس الحصري للمسؤولية، وتبحث عن صيغ أكثر مرونة قادرة على مواكبة التحول الذي أحدثته أنظمة الذكاء الاصطناعي في بنية الفعل الضار.

أولى هذه النظريات وأجرأها هي نظرية الشخصية الإلكترونية (ElectronicPersonhood)، التي تقترح في جوهرها منح الأنظمة الخوارزمية المتقدمة ذات الاستقلالية العالية شخصية قانونيةمستقلة، شبيهة بالشخصية الاعتبارية للشركات، تتيح لها أن تكون طرفافي العلاقات القانونية وأن تتحمل أعباء القرارات الضارة الصادرة عنها عبر ذمة مالية مخصصة. وقد أثار البرلمان الأوروبي هذا الطرح صراحةفي قراره^[17]، المتعلق بقواعد القانون المدني في مجال الروبوتات، حين طالب المفوضية الأوروبيةَ بدراسة إمكانية إنشاء وضع قانوني خاص لأكثر الروبوتات تعقيدا باعتبارها “أشخاصاً إلكترونيين” مسؤولين عن تعويض الأضرار التي قد تتسبب فيها، وقد اعتمد هذا القرار بأغلبية 396 صوتا مقابل 123 ضد و85 امتناع، مما يدل على جدية النقاش وليس مجرد مقترح هامشي. غير أن هذه النظرية واجهت نقدا فقهياحادا ومعمقا؛ إذ أثبت الباحث سيرجيو أبيلا نيغري في دراسته^[18]، أن منح الشخصية القانونية للخوارزميات يصطدم بعائقين بنيويين لا يمكن تجاوزهما بالتأويل: فالشخص الطبيعي يستمد شخصيته من إنسانيته، والشخص المعنوي يستمدها من كونه تجميعالإرادات بشرية وأغراض اجتماعية مشروعة، في حين أن الخوارزمية تفتقر إلى الإرادة الذاتية والأهلية الأخلاقية، فضلا عن أن منحها شخصية قانونيةمستقلة ينطوي على خطر إخفاء المسؤولين الحقيقيين من مطورين ومشغلين وراء ستار شخصية اعتبارية افتراضية، تفضي إلى تحويل المخاطر عن أصحابها الحقيقيين إلى أطراف ثالثة.

وفي مواجهة هذا القصور، ظهرت نظرية الوكالة الرقمية^[19] (Digital Agency) بوصفها مسارا أكثر انسجاما مع البنى القانونية القائمة، إذ تقترح اعتبار الخوارزمية وكيلا قانونيارقميا يتصرف نيابةعن موكله وهو الشركة أو المشغل، فتسري عليه أحكام المسؤولية بالتبعية التي تحمل الأصيلنتائج تصرفات نائبه في حدود ما أذن له به، وهو مبدأ راسخ في أغلب الأنظمة القانونية المقارنة. ويجد هذا التصور امتدادا طبيعيافي نظام مسؤولية المتبوع عن أفعال التابع المعروف في القانون المغربي بموجب الفصل 85 من ظهير الالتزامات والعقود، الذي يقرر مسؤولية الكفيل عن الأضرار التي يحدثها من هم تحت رعايته. بيد أن نقاد هذه النظرية يشيرون إلى عيب جوهري فيها: إذ تفترض الوكالة وجود تفويض محدد المعالم وصلاحيات محدودة الحدود، في حين أن الخوارزميات المتعلمة ذاتياتتجاوز في الغالب حدود “التفويض” الأصلي بصورة لا يتوقعها حتى مبرمجوها، مما يجعل نظرية الوكالة مفيدة في الحالات البسيطة، عاجزةعن استيعاب الحالات المتطورة التي تشكل جوهر الإشكالية.

وقد حاول الفقه إيجاد مخرج من هذا المأزق عبر نظرية الخطأ المؤسسي وواجب اليقظة الخوارزمية (Algorithmic Due Diligence)، التي تحول مركز ثقل المسؤولية من البحث عن خطأ مباشر في القرار الخوارزمي بعينه، إلى تقييم مدى التزام الشركة بمعايير الحوكمة والرقابة والمتابعة المستمرة للأنظمة الذكية التي تشغلها. وفق هذا التصور، تكون الشركة مسؤولة ليس لأن خوارزميتها أنتجت قراراضارا، بل لأنها أخلت بواجبات التصميم الآمن قبل الإطلاق، أو أهملت اختبار النظام على بيانات تمثيلية كافية، أو قصرت في مراقبة مخرجاته ومراجعتها بصفة دورية. وتستمد هذه النظرية ثقلها الفقهي من نظرية الأستاذة Muriel Fabre-Magnan،^[20] التي أكدت في دراستهاأن نقل منطق المسؤولية من الخطأ اللحظي إلى الخطأ البنيوي المتجلي في إخلال بواجبات اليقظة المؤسسية هو المسار الأكثر انسجاما مع المبادئ الكلاسيكية للمسؤولية المدنية دون الحاجة إلى هدمها.

ولا يختلف عن هذا التوجه كثيراما ينادي به الاتجاه الأوروبي الحديث، المجسد في لائحة الاتحاد الأوروبي للذكاء الاصطناعي رقم EU 2024/1689، من خلال فرض التزامات صريحة بالشفافية في المادة 13، وبنظام إدارة المخاطر المستمر في المادة 9، وبالتوثيق التقني الكامل في المادة 11، وبالرقابة البشرية الفعلة في المادة 14، وبتوزيع المسؤوليات على طول سلسلة القيمة في المادة 25، وذلك كله في شأن الأنظمة عالية المخاطر التي تشمل تطبيقات اتخاذ القرار في المجالات الائتمانية والتوظيفية والقضائية. وهي التزامات لا تنشئ مسؤوليةمباشرةمن تلقاء ذاتها، بل تشكل مرجعاموضوعيا للخطأ المؤسسي يمكن القاضي من تقدير مدى الإخلال بواجبات اليقظة دون الحاجة إلى إثبات قصد ضار أو إرادة معيبة.

المطلب الثاني: آليات التوازن بين حماية المتضررين وصون دينامية الابتكار

إن الإشكال الجوهري الذي تصطدم به جميع نظريات المسؤولية المذكورة هو مشكلة التوازن، فتشديد المسؤولية على الشركات المشغلة للخوارزميات قد يحكم حماية المتضررين، غير أنه قد يفضي في الآن ذاته إلى تجميد الابتكار التكنولوجي وإحجام الشركات عن الاستثمار في الذكاء الاصطناعي خشية من أعباء تعويضية مجهولة السقف. وهذا ما يفسر اللجوء المتزايد في الأدبيات القانونية الحديثة إلى نموذج المسؤولية الموضوعية المحدودة (Limited Strict Liability) المقرونة بالتأمين الإجباري بوصفها آلية توفيقية بين الطرفين. وقد أقرت المفوضية الأوروبية بهذا التوجه في مقترح^[21] توجيه المسؤولية عن الذكاء الاصطناعي COM(2022) 496 final الصادر في 28 سبتمبر 2022، حين أشارت صراحة في ديباجته التحليلية إلى أن القواعد التقليدية القائمة على الخطأ غير كافية لمعالجة المطالبات التعويضية المتعلقة بأضرار الذكاء الاصطناعي بسبب خصائصه من تعقيد واستقلالية وغموض، وأن تقرير المسؤولية الموضوعية المقرونة بتأمين إجباري قد يكون الخطوة اللاحقة الضرورية في القطاعات عالية الخطورة. وتجدر الإشارة إلى أن هذا المقترح سحب لاحقامن قبل المفوضية ضمن برنامج عملها لعام 2025، غير أن نصه القانوني وتحليله التشريعي يبقيان مرجعا فقهيا بالغ الأهمية تستند إليه الأكاديميا القانونية على نطاق واسع.

وفي هذا السياق، يبرز الفقه الحديث نموذج توزيع المسؤولية على سلسلة القيمة التقنية (Value Chain Liability) بوصفه الآلية الأكثر واقعية وعدلا، إذ يوزع الأعباء بين مختلف الفاعلين في إنتاج القرار الخوارزمي وفق حصتهم الفعلية في المخاطر. فالمصمم يتحمل المسؤولية عن عيوب الخوارزمية الجوهرية، ومزود البيانات مسؤول عن التحيزات الكامنة في مجموعات التدريب، والشركة المشغلة مسؤولة عن ملاءمة توظيف النظام واختياره، والمستخدم النهائي مسؤول عن التحقق من صحة مخرجاته حين يتاح له ذلك. وقد كرست المادة 25 من لائحة الاتحاد الأوروبي للذكاء الاصطناعي EU 2024/1689 هذا النموذج تكريسا تشريعيا صريحاتحت عنوان “المسؤوليات على طول سلسلة القيمة”، وهو ما رصده تقرير البرلمان الأوروبي الصادر عام 2025 بوصفه أحد أهم الأطر التشريعية للتعامل مع تعدد الفاعلين الخوارزميين.

ومن أجل تجنب ما يسمى “أثر التجميد^[22]” (ChillingEffect) على الاستثمار، يقترح فقهيا أن تقرن المسؤولية الموضوعية في القطاعات عالية الخطورة بنظام تأمين إجباري يوزع الأعباء التعويضية على محفظة إحصائية واسعة، مما يجعل تكلفة الضرر محسوبة مسبقا ومدرجة ضمن تكاليف التشغيل لا ملقاة دفعة واحدة على الشركة المنكوبة. وتجد هذه الفكرة سندا في نظرية تحليل الكفاءة الاقتصادية للقانون^[23] (Law and Economics)، التي تقرر أن المسؤولية الموضوعية المقرونة بالتأمين الإجباري تحقق توزيعا أمثل للمخاطر وتوفر حوافز كافية للشركات لتطوير أنظمة أكثر أمانا، وذلك لأن ارتفاع أقساط التأمين يرتب تلقائيا تكاليف إضافية على الشركات التي تشغل أنظمةأكثر خطورة، فتضطر بذلك إلى الاستثمار في تحسين سلامتها.

وخلاصة القول إن المبحث يفضي إلى نتيجة مزدوجة. فمن جهة، لا تستطيع أي من النظريات المقترحة وحدها أن تستوعب بصورة كاملة تعقيدات المسؤولية الخوارزمية، وكل منها يعالج جانبا ويهمل جوانب. ومن جهة ثانية، تلمح هذه النظريات مجتمعة إلى الاتجاه الأمثل؛ نظام هجين يركب بين الخطأ المؤسسي المبني على واجبات اليقظة الخوارزمية، وتوزيع المسؤولية على سلسلة القيمة التقنية، والمسؤولية الموضوعية المحدودة المقرونة بتأمين إجباري في القطاعات عالية المخاطر. وهو نموذج لا يمكن تحقيقه في القانون المغربي دون تدخل تشريعي صريح يستلهم من المستجدات الأوروبية ويوطنها في سياق المنظومة التشريعية الوطنية.

الخاتمة:

يتضح من خلال هذه الدراسة أن المسؤولية القانونية، في صورتها التقليدية كما استقرت في القانون المغربي، لا سيما في ظهير الالتزامات والعقود، قد بنيت على تصور محوري يقوم على مركزية الفعل البشري القائم على الإرادة والإدراك والتمييز، سواء في مجال المسؤولية العقدية أو التقصيرية. غير أن هذا البناء، رغم تماسكه النظري ونجاعته التاريخية، أصبح يواجه حدودا واضحة عند إسقاطه على واقع القرارات الخوارزمية داخل الشركات، حيث لم يعد الفعل الضار دائما نتيجة مباشرة لسلوك إنساني فردي يمكن ضبطه بسهولة، بل أصبح في كثير من الحالات نتاجا لأنظمة ذكية معقدة تتداخل فيها البرمجة مع التعلم الآلي وتعدد الفاعلين.

وقد بينت الدراسة أن قصور المسؤولية العقدية يظهر أساسا في صعوبة إعمال مفاهيم الإخلال والسببية والإسناد التقليدي في ظل تنفيذ خوارزمي للالتزامات، كما يتجلى قصور المسؤولية التقصيرية في عجز مفاهيم الخطأ ومعيار الرجل العادي وعبء الإثبات عن استيعاب طبيعة الفعل الخوارزمي، خاصة في ظل إشكالية “الصندوق الأسود” التي تحد من إمكانية تتبع مسار القرار وإسناده إلى فاعل محدد.

وأمام هذا الوضع، لم يعد من الممكن الاكتفاء بتوسيع نطاق القواعد التقليدية، بل أصبح من الضروري الانفتاح على مقاربات نظرية جديدة تعيد التفكير في أسس المسؤولية المدنية ذاتها، من خلال نظريات بديلة مثل المسؤولية الموضوعية، والخطأ المؤسسي، والوكالة الرقمية، وصولا إلى مقاربة قائمة على توزيع المخاطر بدل التركيز على الخطأ. كما برزت آليات عملية مكملة، من بينها التأمين الإجباري، وتوزيع المسؤولية على سلسلة القيمة، والنماذج التشريعية المقارنة، بما يعكس توجها عاما نحو إعادة هندسة نظام الإسناد القانوني في البيئة الرقمية.

وعليه، فإن الإشكالية لم تعد تقتصر على مدى إمكانية تطبيق قواعد المسؤولية التقليدية على القرارات الخوارزمية، بل تجاوزت ذلك إلى سؤال أعمق يتعلق بمدى الحاجة إلى إعادة بناء نظرية الخطأ ذاتها داخل قانون الأعمال، بما يضمن التوازن بين حماية المتضررين من جهة، وتشجيع الابتكار التكنولوجي داخل الشركات من جهة أخرى، في إطار منظومة قانونية أكثر مرونة وقدرة على استيعاب التحولات العميقة التي فرضها الذكاء الاصطناعي على بنية القرار الاقتصادي والقانوني.

قائمة المراجع:

أولا: المراجع العربية

1. المؤلفات والمقالات العلمية

• لبنى عبد عطاء إبراهيم العرب، “تأثير الذكاء الاصطناعي في تحقيق التنمية المستدامة: الدور الوسيط للريادة التسويقية (دراسة تطبيقية على البنوك التجارية بجمهورية مصر العربية)”، المجلة الدولية للعلوم الإدارية والاقتصادية والمالية، المجلد 3، العدد 10، يوليو 2024.
• محمد الشراري، “المسؤولية المدنية الذكية عن أضرار الذكاء الاصطناعي: دراسة مسحية مقارنة”، مجلة كلية القانون الكويتية العالمية، السنة العاشرة، العدد التسلسلي 38، مارس 2022.

2. النصوص التشريعية والتنظيمية

• ظهير 9 رمضان 1331 الموافق لـ 12 أغسطس 1913 بمثابة قانون الالتزامات والعقود (المغرب).
• ظهير شريف رقم 1.07.129 صادر في 19 من ذي القعدة 1428 (30 نوفمبر 2007) بتنفيذ القانون رقم 53.05 المتعلق بالتبادل الإلكتروني للمعطيات القانونية، الجريدة الرسمية عدد 5584 بتاريخ 25 ذو القعدة 1428 (6 ديسمبر 2007).

ثانيا: المراجع الأجنبية

أ. باللغة الفرنسية

المؤلفات والمقالات :

• Brun (Ph.), *Responsabilité civile extracontractuelle*, 5è me éd., LexisNexis, Paris, 2018.
• Fabre-Magnan (M.), « Des limites du raisonnement statistique en matière de responsabilité civile », *Dr’it & Philosophie*, Institut Michel Villey, Université Paris Panthéon-Assas, 2023.
• Mangematin (C.), « Droit de la r s »onsa’ilité civile et l’intelligence artificielle », in Mendoza-Caminade (A.) (dir.), *L’entrepr s » et l’intelligence artificielle — Les réponses du droit*, Presses de l’Université Toulouse Capitole, 2022.

النصوص والوثائق الرسمية :

• Commission européenne, Proposition de directive COM(2022) 496 final du 28 septembre 2022, r e » ativ’ à l’adaptation des règles en matière de responsabilité civile extracontractuelle au  domai ne de l’intelligence artificielle [retirée dans le cadre du programme de travail de la Commission pour 2025].
• Parlement européen, Résolution du 16 février 2017 sur les règles de droit civil sur la robotique, P »_TA(2017)0051.
• Regulation (EU) 2024/1689 of the European Parliament and o f the Council of 13 June 2024 laying down har’onised rules on artificial intelligence (Artificial Intelligence Act), Official Journ al of the European Union.

ب. باللغة الإنجليزية

المقالات العلمية :

• Ågerfalk (P.J.), « Artificial Intelligence as Digital Agency », *European Journal of Information Systems*, Vol. 29, No. 1, 2020.
• Avila Negri (S.M.C.), « Robot as Legal Person : Electronic Personhood in Robotics and Artificial Intelligence », *Frontiers in Robotics and AI*, Vol. 8, Article 789327, December 2021.
• Finck (M.) & Pallas (F.), « They Who Must Not Be Identified — Distinguishing Personal from Non-Personal Data Under the GDPR », *International Data Privacy Law*, Vol. 10, No. 1, 2020.
• Surden (H.), « Artificial Intelligence and Law: An Overview », *Georgia State University Law Review*, Vol. 35, Issue 4, Summer 2019.

التقارير والدراسات :

• European Parliament Research Service, “Artificial Intelligence Liability Directive », Briefing PE 739.342, 2023.

1. ظهير 9 رمضان 1331 الموافق لـ (12 أغسطس 1913) بمثابة قانون الالتزامات والعقود. ↑
2. ينص الفصل 263 من قانون الالتزامات و العقود على ” يستحق التعويض، إما بسبب عدم الوفاء بالالتزام، وإما بسبب التأخر في الوفاء به وذلك ولو لم يكن هناك أي سوء نية من جانب المدين.” ↑
3. ولعل ذلك ما أشار إليه المشرع المغربي بموجب الفصل 268 من قانون الالتزامات و العقود بقوله ” لا محل لأي تعويض، إذا أثبت المدين أن عدم الوفاء بالالتزام أو التأخير فيه ناشئ عن سبب لا يمكن أن يعزى إليه، كالقوة القاهرة، أو الحادث الفجائي أو مطل الدائن.” ↑
4. يقصد بالتسعير الديناميكي”هو إجراء تعديلات لسعر المنتج أو الخدمة في الوقت الفعلي بناء على عوامل مختلفة مثل طلب السوق وأسعار المنافسين وظروف السوق الأخرى، يتيح ذلك للشركات تحسين استراتيجية التسعير الخاصة بها لتحقيق أقصى قدر من الإيرادات والأرباح، مع الأخذ في الاعتبار ديناميكيات السوق المتغيرة.”

   أوردته: لبنى عبد عطاء إبراهيم العرب، تأثير الذكاء الاصطناعي في تحقيق التنمية المستدامة: الدورالوسيط للريادة التسويقية (دراسة تطبيقية على البنوك التجارية بجمهورية مصر العربية)”، المجلة الدولية للعلوم الإدارية والاقتصادية والمالية، المجلد 3، العدد 10، يوليو 2024، ص 158. ↑

5. Harry Surden, “Artificial Intelligence and Law: An Overview”, Georgia State University Law Review, Vol. 35, Issue 4, Summer 2019, pp. 1311-1321.

   متاح على:https://2u.pw/ut3POP تاريخ الولوج: 14/02/2026 على الساعة 15.24. ↑

6. C. Mangematin, « Droit de la responsabilité civile et l’intelligence artificielle », in A. Mendoza-Caminade (dir.), L’entreprise et l’intelligence artificielle — Les réponses du droit, Presses de l’Université Toulouse Capitole, 2022.

   متاح على: https://books.openedition.org/putc/15487 تاريخ الولوج: 17/02/2026 على الساعة 19.44. ↑

7. تعرف هذه المشكلة على أنهاحالة في أنظمة الذكاء الاصطناعي، خصوصا النماذج المعقدة مثل التعلم العميق، حيث تكون العلاقة بين المدخلات والمخرجات غير قابلة للفهم أو التفسير البشري بشكل شفاف، بسبب تعقيد البنية الداخلية للنموذج وعدم إمكانية تتبع كيفية اتخاذ القرار خطوة بخطوة. ↑
8. محمد الشراري،المسؤولية المدنية الذكية عن أضرار الذكاء الاصطناعي: دراسة مسحية مقارنة، مجلة كلية القانون الكويتية العالمية، السنة العاشرة، العدد التسلسلي 38، مارس 2022، ص 369. ↑
9. Commission européenne, Proposition de directive COM(2022) 496 final du 28 septembre 2022, relative à l’adaptation des règles en matière de responsabilité civile extracontractuelle au domaine de l’intelligence artificielle, Article 4. ↑
10. ظهير شريف رقم 1.07.129 صادر في 19 من ذي القعدة 1428 (30نوفمبر 2007) بتنفيذ القانون رقم 53.05 المتعلق بالتبادل الإلكتروني للمعطيات القانونية، الجريدة الرسمية عدد 5584 بتاريخ 25 ذو القعدة 1428 (6ديسمبر2007)، ص 3879. ↑
11. Regulation (EU) 2024/1689 of the European Parliament and of the Council of 13 June 2024, Articles 12, 13, 25 and 26.

    النص الرسمي متاح على:https://eur-lex.europa.eu/eli/reg/2024/1689/oj/eng ↑

12. ينص الفصل 77 من ظهير الالتزامات و العقود على: ” كل فعل ارتكبه الإنسان عن بينة واختيار، ومن غير أن يسمح له به القانون، فأحدث ضررا ماديا أو معنويا للغير الزم مرتكبه بتعويض هذا الضرر، إذا ثبت أن ذلك الفعل هوالسبب المباشر في حصول الضرر.

    وكل شرط مخالف لذلك يكون عديم الأثر.” ↑

13. ينص الفصل 78 من ظهير الالتزامات و العقود على: ” كل شخص مسؤول عن الضرر المعنوي أو المادي الذي أحدثه، لا يفعله فقط ولكن بخطاه أيضا، وذلك عندما يثبت أن هذا الخطأ هو السبب المباشر في ذلك الضرر. وكل شرط مخالف لذلك يكون عديم الأثر. والخطأ هو ترك ما كان يجب فعله، أو فعل ما كان يجب الإمساك عنه، وذلك من غيرقصد الإحداث الضرر.” ↑
14. Philippe Brun, Responsabilité civile extracontractuelle, 5^ème éd., LexisNexis, Paris, 2018. ↑
15. ينص الفصل 88 من ظهير الالتزامات و العقود على : ” كل شخص يسأل عن الضرر الحاصل من الأشياء التي في حراسته، إذا تبين أن هذه الأشياء هي السبب المباشر للضرر، وذلك ما لم يثبت:

    1 – أنه فعل ما كان ضروريا لمنع الضرر

    2 – وأن الضرر يرجع إما لحادث فجائي، أو لقوة قاهرة، أو لخطأ المتضرر. «  ↑

16. Michèle Finck & Frank Pallas, « They Who Must Not Be IdentifiedDistinguishing Personal from Non-Personal Data Under the GDPR », International Data Privacy Law, Vol. 10, No. 1 (2020), pp. 11-36. ↑
17. Parlement européen, Résolution du 16 février 2017 sur les règles de droit civil sur la robotique, P8_TA(2017)0051.

    متاح على الرابط التالي: https://2u.pw/IpQIK4V ↑

18. Sergio M. C. Avila Negri, « Robot as Legal Person : Electronic Personhood in Robotics and Artificial Intelligence », Frontiers in Robotics and AI, Vol. 8, Article 789327, published 23 December 2021. DOI : 10.3389/frobt.2021.789327.

    متاح على الرابط التالي: https://2u.pw/CY4DrJ تاريخ الولوج: 05/03/2026 على الساعة 09.12 ↑

19. Pär J. Ågerfalk, « Artificial intelligence as digital agency », European Journal of Information Systems, Vol. 29, No. 1, 2020, DOI :10.1080/0960085X.2020.1721947.

    متاح على الرابط التالي: https://2u.pw/Olo7wp تاريخ الولوج: 07/03/2026 على الساعة 23.39. ↑

20. Muriel Fabre-Magnan, « Des limites du raisonnement statistique en matière de responsabilité civile », Droit & Philosophie, Institut Michel Villey, Université Paris Panthéon-Assas, 2023.

    متاح على الرابط التالي : https://2u.pw/tDt9vJ تاريخ الولوج: 08/03/2026 على الساعة 21.55. ↑

21. Commission européenne, Proposition de directive COM(2022) 496 final du 28 septembre 2022, relative à l’adaptation des règles en matière de responsabilité civile extracontractuelle au domaine de l’intelligence artificielle.

    مع الإشارة إلى أن المقترح سحب بموجب برنامج عمل المفوضية لعام 2025. النص الكامل للمقترح متاح على الرابط التالي:

    https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex:52022PC0496 ↑

22. أثر التجميد هو مفهوم قانوني دستوري يقصد بهامتناع الأفراد أو المؤسسات عن ممارسة حقوقهم وحرياتهم خصوصا حرية التعبير بسبب الخوف من عقوبات قانونية أو رقابة أو تبعات محتملة، حتى لو لم تفرض عليهم فعليا. ↑
23. للتوسعفيالتحليلالاقتصاديللقانونوعلاقتهبالمسؤوليةالموضوعيةالمقرونةبالتأمينفيسياقالذكاءالاصطناعي،انظر:

    European Parliament Research Service, “Artificial Intelligence Liability Directive”, Briefing PE 739.342, 2023, pp. 4-7.

    متاحعلى الرابط التالي: https://www.europarl.europa.eu/RegData/etudes/BRIE/2023/739342/EPRS_BRI(2023)739342_EN.pdf ↑