المسئولية المدنية الناشئة عن تقنيات الذكاء الاصطناعي في التشريع الأردني – الدكتور حافظ محمد الحوامده المملكة الأردنية الهاشمية الباحثة ساجده سمير حوامده المملكة الأردنية الهاشمية

19 أغسطس, 2023

المسئولية المدنية الناشئة عن تقنيات الذكاء الاصطناعي في التشريع الأردني

Civil liability arising from artificial intelligence techniques in Jordanian legislation

الدكتور حافظ محمد الحوامده

المملكة الأردنية الهاشمية

الباحثة ساجده سمير حوامده

المملكة الأردنية الهاشمية

الملخص

تتميز المسئولية المدنية الناشئة عن استخدام تقنيات الذكاء الاصطناعي بإمكانية دخول العديد من الأشخاص في عملية تطوير الذكاء الاصطناعي منذ البدء وحتى وضعه إلى حيز التنفيذ، إلا أنه في حين ما إذا سببت استخدام تلك التقنيات أضرار سواء لمستخدميها أو للغير، يثور تساؤل بخصوص مدى كفاية القواعد العامة للمسئولية المدنية الناشئة عن تطبيقات الذكاء الاصطناعي ومستخدميها، وهل المسؤول هو الذكاء الاصطناعي ذاته، أم المبرمج، أم المصنع، أم المشغل، أم المالك، أم المستخدم والغير في بعض الأحيان؟

الكلمات المفتاحية: المسئولية المدنية، المسئولية العقدية، المسئولية التقصيرية، المسئولية الموضوعية، تقنيات الذكاء الاصطناعي.

Abstract

The civil liability resulting from the use of artificial intelligence techniques is characterized by the possibility of many people entering the process of developing artificial intelligence from inception until putting it into effect. General civil liability in the statement of civil liability under study, and identifying the responsible person, whether it is the artificial intelligence itself, or the programmer, or the manufacturer, or the operator, or the owner, or the user and others in some cases.

Keywords: Civil liability, contractual liability, tort liability, Objective responsibility, artificial intelligence techniques.

المقدمة:

تتعرض هذه الدراسة إلى أحكام المسؤولية المدنية بكافة جوانبها، فهي تمثل السلاح البارز الذي يتصدى به رجل القانون لمواجهة كل خطر يداهم أمن الفرد وحقوقه ويهدد استقرار الدول.

وبالرغم من التطور الدائم لقواعد المسؤولية ، إلا انها كشفت عن قصورها النسبي في مواجهة المخاطر والمعاملات الحديثة، لذا بدت الحاجة ماسة إلى توفير الحماية الوقائية للمواطن من أضرار الروبوتات، دون انتظار حدوث خطأ او وقوع ضرر، ولصعوبة الإثبات وتحديد المسئول؛ أصبح من الضروري للتنظيم التشريعي أن يستهدف ويعزز في المقام الأول، وضع الضمانات والضوابط القانونية لفعل تقنيات الذكاء الاصطناعي في التشريع الأردني.

غير أن تكنولوجيا الذكاء الاصطناعي أحدثت تغيرا جذريا حيث أصبحت آلات تفاعلية سريعة الاستجابة لتغييرات بيئاتها، ومستقلة بذاتيتها للتحكم في أفعالها لا تخضع لأية رقابة بشرية مباشرة، وموجهة نحو هدف محدد وبالتالي تتصرف بطريقة عمدية بفضل قدرتها الكبيرة على التعلم واتخاذ القرار.

إشكالية البحث:

تكمن إشكالية الدراسة في عدم وجود نص قانوني في التشريع الأردني يحدد طبيعة المسؤولية المدنية الناشئة عن تقنيات الذكاء الاصطناعي، لذلك يثور تساءل مهم يتعلق بمدى تطبيق القواعد العامة للمسؤولية المدنية على تقنيات الذكاء الاصطناعي؟ وهل تكفي المسئولية الموضوعية لوضع حلول قانونية للضرر الناشئ عن الذكاء الاصطناعي؟

أهمية البحث:

تظهر أهمية البحث العلمية والعملية من خلال محاولة وضع تصور قانوني لتطبيق قواعد المسئولية المدنية التي تنشأ عن تقنيات الذكاء الاصطناعي في التشريع الأردني، وبيان طبيعتها القانونية ووضع ضوابط قانونية مستحدثة تتوافق مع طبيعة الفعل أو الضرر الحديث.

أهداف البحث:

تهدف هذه الدراسة إلى بيان مدى كفاية القواعد العامة في المسئولية المدنية في التشريع الأردني لتطبيقها على تقنيات الذكاء الاصطناعي، من خلال الأهداف التالية:-

-1تحديد مفهوم تقنيات الذكاء الاصطناعي.

-2بيان طبيعة المسئولية المدنية الناشئة عن استخدام تقنيات الذكاء الاصطناعي.

-3محاولة إيجاد ضوابط قانونية تحكم المسئولية المدنية الناتجة عن فعل الذكاء الاصطناعي.

-4 إلقاء الضوء على مدى كفاية التنظيم القانوني في التشريع الأردني لتحديد المسئولية المدنية الناشئة عن تقنيات الذكاء الاصطناعي.

-5 بيان ملاءمة المسئولية الموضوعية عن تقنيات الذكاء الاصطناعي.

منهج البحث:

تعتمد الدراسة على المنهج التحليلي، وذلك من خلال الرجوع إلى الأحكام العامة للمسئولية المدنية في القانون المدني الأردني، و تحليل هذه النصوص وآراء الفقه القانوني الأردني والمقارن، واجتهادات المحاكم الأردنية ذات الصلة بالمسئولية المدنية.

هيكل البحث:

مبحث تمهيدي: مفهوم تقنيات الذكاء الاصطناعي.

المبحث الأول: طبيعة المسئولية عن الذكاء الاصطناعي.

المبحث الثاني: مدى كفاية القواعد العامة في المسئولية الموضوعية.

مبحث تمهيدي

مفهوم تقنيات الذكاء الاصطناعي

من بين أبرز التطبيقات الحديثة لأنظمة المعلومات نجد ما يعرف بتقنيات الذكاء الاصطناعي Intelligence Artificial⁽¹⁾ الذي يعتبر حقلا حديثا نسبيا، نشأ كأحد علوم الحاسب التي تهتم بدراسة وفهم طبيعة الذكاء البشري ومحاكاتها لخلق جيل جديد من الحاسبات الذكية، والتي يمكن برمجتها لإنجاز الكثير من المهام التي تحتاج إلى قدرة عالية من الاستنتاج والاستنباط والإدراك، وهي صفات يتمتع بها الإنسان وتندرج ضمن قائمة السلوكيات الذكية له والتي لم يكن من الممكن أن تكتسبها الآلة من قبل⁽¹⁾.

ويتكون الذكاء الاصطناعي من كلمتين هما: الذكاء و الاصطناعي، ولكل منهما معنى، فالذكاء حسب قاموس Websterهو: القدرة على فهم الظروف أو الحالات الجديدة والمتغيرة؛ أي هو القدرة على إدراك وفهم وتعلم الحالات أو الظروف الجديدة. لذا فمفاتيح الذكاء هي الإدراك، الفهم، والتعلم⁽²⁾.

أما كلمة “الصناعي أو الاصطناعي” فترتبط بالفعل يصنع أو يصطنع، وبالتالي تطلق الكلمة على كل الأشياء التي تنشأ نتيجة النشاط أو الفعل الذي يتم من خلاله اصطناع وتشكيل الأشياء تمييزا عن الأشياء الموجودة بالفعل، والمولدة بصورة طبيعية من دون تدخل الإنسان”⁽³⁾.

فقد ذهب جانب من الفقه إلى القول:” لا يوجد تعريف واحد محدد للذكاء الاصطناعي”(4). وذهب جانب فقهي آخر إلى تعريف الذكاء الاصطناعي بأنه:” نظم برمجيات وربما أجهزة صممها الأشخاص ذات هدف معقد، وتعمل في العالم الحقيقي أو الرقمي من خلال إدراك البيئة، بواسطة الحصول على المعلومات، وكذلك تفسير البيانات، وتطبيق تحليل على المعارف أو معالجة المعلومات المستمدة من تلك البيانات، وتقرير الإجراء أو الإجراءات الأفضل الواجب اتخاذها من أجل تحقيق هدف معين. ويمكن لنظم الذكاء الاصطناعي إما استخدام قواعد رمزية، أو تعلم نموذج رقمي، كما يمكنها أيضا تكييف سلوكها من خلال تحليل كيفية تأثر البيئة بإجراءاتها السابقة”(1).

ويعرف كل من Barr and Feigenbum الذكاء الاصطناعي بأنه: “حقل علم الحاسوب المهتم بتصميم نظم حاسوب ذكية، نظم حاسوب تعرض خصائص الذكاء في السلوك الإنساني” (2).

وأيضا يعرفMinsky الذكاء الاصطناعي بأنه: “العلم الذي يمكن الآلات من تنفيذ الأشياء التي تتطلب ذكاء إذا تم تنفيذها من قبل الإنسان”(3).

وقد عرف Dart-mouth الذكاء الاصطناعي بأنه: “حقل دراسة يرتبط باستعراض الذكاء في الآلة، وهذا يتضمن القدرة على التفكير، التعلم، الفهم، وتطبيق المعنى”(4).

وقد عرف جانب فقهي الذكاء الاصطناعي بأنه:” عبارة عن علم وتكنولوجيا يستند على علوم مثل علم الحاسوبComputer Science، علم النفس Psychology، اللسانيات Linguistics، الرياضيات Mathematics، الهندسة Engineering، وهو في الواقع يمثل نتاج إنجازات العقل الإنساني، نتاج حضارة الإنسان في كل زمان ومكان”(5).

على الرغم من ضعف الإلمام بالذكاء الاصطناعي على نطاق واسع، الا انه يمثل التكنولوجيا التي ستغير كل مجالات الحياة. فهو أداة واسعة متعددة الاستخدامات والمجالات تمكن الأشخاص من إعادة التفكير في كيفية دمج المعلومات، وتحليل البيانات، واستخدام الأفكار الناتجة لتحسين عملية اتخاذ القرار. ويحدونا الأمل أنه من خلال هذه النظرة الشاملة قد نتمكن من شرح الذكاء الاصطناعي أمام جمهور يضم صانعي السياسات وقادة الرأي والمراقبين المهتمين، وتوضيح كيف تمكن الذكاء الاصطناعي من تغيير العالم بالفعل.

وترتكز خصوصية تطبيق الذكاء الاصطناعي بارغم من عدم وجود تعريف متفق عليه بشكل موحد على: الآلات التي تستجيب للتحفيز بما يتوافق مع الاستجابات التقليدية من البشر؛ نظرا لقدرة الإنسان على التفكير واتخاذ الأحكام .

حيث إن هذه الأنظمة البرمجية “تتخذ قرارات تتطلب عادة مستوى من الخبرة البشرية”، وتساعد الأشخاص على توقع المشكلات أو التعامل مع القضايا بمجرد ظهورها. وعلى هذا النحو، فإنها تعمل بطريقة متعمدة وذكية ومتكيفة؛ قادرة على القيام بعمليات تتطلب الذكاء عندما يقوم بها الإنسان. وتمتلك أنظمة الذكاء الاصطناعي القدرة على التعلم والتكيف، بينما تتخذ القرارات⁽¹⁾.

بناء على ما سبق يمكن تعريفه في إطار هذا الموضوع بأنه: “الإمكانية التي تتمتع بها بعض الآلات باستخدام عمليات معرفية تشبه العمليات التي يقوم بها الشخص”.

المبحث الأول

طبيعة المسئولية عن الذكاء الاصطناعي

إن للمسئولية المدنية صورتان، مسئولية عقدية تنشأ عند الإخلال بالتزام عقدي، ومسئولية تقصيرية تنشأ عند الإخلال بما يفرضه القانون، لذلك نقوم بتوضيح طبيعة المسئولية المدنية التي تنشأ عن تقنيات الذكاء الاصطناعي، من خلال تقسيم المبحث الأول إلى مطلبين، على النحو التالي:-

المطلب الأول

طبيعة المسئولية العقدية الناجمة عن فعل تقنيات الذكاء الاصطناعي

تعد المسؤولية العقدية في التشريع الأردني جزاء الإخلال بالالتزامات الناشئة عن العقد، أي عدم تنفيذها أو التأخر في تنفيذها، إذ أنها لا تقوم إلا عند استحالة التنفيذ العيني، ولم يكن من الممكن إجبار المدين على الوفاء بالتزاماته العقدية عينا، فيكون المدين مسؤولا عن الأضرار التي يسببها للدائن من جراء ذلك، نتيجة عدم الوفاء بالالتزامات الناشئة عن العقد(1).

وعلى كل حال يبقى أساس المسؤولية المدنية في القانون الأردني هو الضرر وليس الخطأ وذلك خلافا لكافة القوانين العربية مثل القانون المصري والجزائري والمغربي، حيث يفترض المشرع المصري الخطأ ليقيم المسؤولية المدنية عن الفعل الضار، ولكن المشرع الأردني متأثرا بالفقه الحنفي جعل أساس المسؤولية المدنية الضرر وليس الخطأ(2). فقد نصت المادة(256)من القانون المدني الأردني” كل أضرار بالغير يلزم فاعلة ولو غير مميز بضمان الضرر”(3).

ففي حال وقوع ضرر على مستخدم إحدى أنظمة الذكاء الاصطناعي والتي تم استخدامها على أساس رابطة عقدية صحيحة نتيجة خطأ عقدي من الطرف الآخر، فإن المسئولية العقدية تقام على الطرف المسئول(1).

فالمشرع الأردني لم يخصص أحكاما خاصة لتنظيم المسئولية الناشئة عن أضرار الذكاء الاصطناعي، حيث يمكن تحديد التنظيم القانوني للمسئولية العقدية من خلال العلاقة العقدية بين المصنع أو المبرمج من جهة والمستخدم من جهة أخرى.

فمثلا، يترتب على انعقاد عقد البيع بصورة صحيحة مجموعة من الالتزامات في ذمة المشتري والبائع، فيلتزم البائع بسلامة المبيع من العيوب وضمان العيوب الخفية والتي تقلل من قدرة المشتري على الانتفاع بالمبيع واستعماله بصورة صحيحة، فإذا نشأ نزاع أو خلل في بنود العقد من قبل أحد الأطراف يخضع هذا النزاع لأحكام المسئولية العقدية.

كذلك، نجد أن طبيعة المسئولية العقدية الناشئة عن تقنيات الذكاء الاصطناعي، قد تقوم على أساس قانون حماية المستهلك رقم(7)لسنة2017 الأردني، والذي بدوره يضمن للمستهلك العيوب الخفية التي تظهر في تقنيات الذكاء الاصطناعي(2).

بناء على ما سبق نجد أن المشرع الأردني ألزم صانع أنظمة الذكاء الاصطناعي أو مبرمجها المزود لها، بمجموعة من الالتزامات القانونية عند إبرام أي عقد متعلق بتقنيات الذكاء، ومن ذلك تحمل المصنع أو المبرمج مسئولية أي ضرر ينشأ بسبب اخلاله بالالتزامات المفروضة عليه نتيجة هذا العقد.

كذلك، تطبيق القواعد العامة في القانون المدني الأردني المتعلقة بأحكام البيع، وعلى وجه الخصوص الأحكام التي تتعلق بإلزام البائع في ضمان العيوب الخفية، وذلك دفعا لأي تتصل قد يتم ادعائه من قبل المدعى عليه على أساس أن تقنيات الذكاء الاصطناعي ذاتية التحكم ومستقلة في صنع القرار؛ حيث نجد أنه لا يمكن أن يترك الضرر الذي تسببت به دون شخص مسئول عنه، ولا يمكن أن يترك المضرور دون تعويض عما أصابه من ضرر.

المطلب الثاني

طبيعة المسئولية التقصيرية الناشئة عن تقنيات الذكاء الاصطناعي

تقوم المسئولية التقصيرية على الإخلال بالتزام مصدره القانون. وهذه المسؤولية تفترض عدم وجود أي علاقة بين المدين والدائن(1). فالمسئولية التقصيرية هي نظام المسئولية العامه الذي يطبق على الخطأ المدني الذي يرتكبه أحد الأشخاص ضد شخص آخر. وعلى الرغم من وجود اختلاف بين تشريعات القانون المدني(2)، كذلك تقوم المسئولية التقصيرية على الخطأ، وهو الاخلال بالالتزام القانوني العام بعدم الاضرار بالغير. ومن هنا يتضح أن الخطأ يقوم على عنصرين: أولهما مادي وهو التعدي أو الانحراف، والثاني معنوي وهو الادراك والتمييز(3).

حيث يشترط لحصول المضرور على التعويض وفقا للمسؤولية التقصيرية أن يثبت الخطأ والضرر وعلاقة السببية بينهما. ويمكن تطبيق ذلك على الشخص المسئول عن الأضرار الناجمة عن استخدام الذكاء الاصطناعي(4). فعلى سبيل المثال، إذا اعتمد الطبيب على برنامج دعم القرار السريري المدعوم بالذكاء الاصطناعي لوصف الدواء، إلا أن البرنامج أصدر توصية خاطئة كان يمكن ملاحظتها وتم تجاهلها من قبل طبيب متخصص إذا وجد في مثل ظروفه، عندئذ من الممكن مساءلة الطبيب عن الأضرار الناتجة والإصابات المتوقع حدوثها بالمريض وليس عن التوصية الخاطئة الصادرة من الذكاء الاصطناعي.

نستخلص من ذلك أن تطبيق المسؤولية التقصيرية على الذكاء الاصطناعي يواجه تحديات كثيرة للغاية؛ لأنه يجب على المحاكم التي تواجه متطلبات المسؤولية الناشئة عن أفعال الذكاء الاصطناعي تحديد الشخص الاعتباري أو الطبيعي المسئول عن الضرر الناجم عن تلك الأفعال. إلا أن الاستقلالية المتزايدة للذكاء الاصطناعي تجعل من الصعب تقييم أساس المسؤولية، إذا لم يكن مستحيلا في بعض الحالات.

فمثلا لو تم اتخاذ الذكاء الاصطناعي قرارات مستقلة محدثة بذلك ضررا ما؛ فانه لا تكفي القواعد التقليدية لإقامة المسؤولية القانونية عن الضرر الذي أحدثه الروبوت، لأنها لا تساعد على تحديد الطرف الذي أحدث الضرر(1). فوفقا للمسؤولية التقصيرية، فإن إثبات الإخلال بالواجب أو الخطأ المرتكب من قبل الشركات المصنعة أو المشغل أو مستخدم الذكاء الاصطناعي وعلاقة السببية بينه وبين الضرر ليس بالأمر اليسير عندما يتعلق الأمر بالاستقلالية المتزايدة للذكاء الاصطناعي(2).

نضيف إلى ذلك، أن المشرع الأردني نظم قواعد المسئولية عن الأشياء في المواد(289-291) من القانون المدني الأردني، فقد نصت المادة(291) على أنه:” كل من كان تحت تصرفه أشياء تتطلب عناية خاصة للوقاية من ضررها أو آلات ميكانيكية يكون ضامن لما تحدثه هذه الأشياء من ضرر إلا ما لا يمكن التحرز منه ، هذا مع عدم الإخلال بما يرد في ذلك من أحكام خاصة “.

وقد أراد المشرع الأردني من ذلك استجابة لمتطلبات التطور التكنولوجي والصناعي الحديث، ويتلائم مع تعريض الأرواح أو الأموال للأخطار أو الأضرار دون أن يستطيع المتضرر في أغلب الأحوال إقامة الدليل على خطأ الحارس، وبالتالي من الحصول على التعويض(1).

وعلى ذلك، إذا توفرت الضوابط المنصوص عليها في منطوق المادة(291) من القانون المدني الأردني، فيمن تقوم عليه المسئولية عن الأشياء صفة الحارس، والحارس يعني من له حق التصرف في الشيء أي من له سيطرة فعلية على هذا الشيء(2)؛ ويشترط لقيام هذه المسئولية شرطين هما، الأول، أن يتول شخص حراسة شيء تفترض حراسته عناية خاصة أو يتول حراسة الآلات الميكانيكية، الثاني، أن يقع الضرر نتيجة فعل ذلك الشيء(3).

وتطبيقا لذلك، قضت محكمة التمييز الأردنية بأن:” المسؤولية وفقا لأحكام المادة(291) هي مسؤولية مفترضة إلا أنها قابلة لإثبات العكس، ويمكن التخلص من المسؤولية إذا أثبت أن الضرر لم يكن في الاستطاعة منع وقوعه”(4).

بناء على ما سبق، إذا توافرت الشروط التي تم ذكرها في حارس الأشياء والآلات، نهضت المسئولية التقصيرية عن تطبيق تقنيات الذكاء الاصطناعي، فمثلا لو تسبب روبوت تم استخدامه في إجراء عمليات جراحية بضرر ما للمريض، فإن من يتحمل المسئولية هو الشخص الذي له سلطة فعلية عليه، وبالتالي فقد يكون الشخص المسؤول هو الطبيب(المستخدم) أو مالك المستشفى، أو الشركة المصنعة، أو المبرمج أو قد يكون أي شخص له سلطة فعلية على الروبوت، إلا إذا استطاع أن يدفع عن نفسه المسئولية عن طريق إثبات إحدى وسائل الدفاع.

المبحث الثاني

مدى كفاية القواعد العامة في المسئولية الموضوعية

نظرا لصعوبة إدراج أفعال الذكاء الاصطناعي ضمن قواعد المسئولية عن الأفعال الشخصية نتيجة عدم المقدرة على إثبات نسبة الخطأ الشخصي إلى مستعمل الذكاء الاصطناعي، لذا يتم اللجوء إلى تطبيق المسئولية الموضوعية، وبصفة خاصة المسئولية عن فعل الأشياء التي تكون مخرجا ملائما وواقعيا لاستيعاب تلك الأفعال الناشئة عن تقنيات الذكاء الاصطناعي.

وفي سياق ذلك، نقسم المبحث إلى مطلبين، نوضح في الأول مفهوم المسئولية الموضوعية، ونحدد في الثاني، تطبيق المسئولية الموضوعية على فعل تقنية الذكاء الاصطناعي.

المطلب الأول

مفهوم المسئولية الموضوعية

المسئولية الموضوعية تعتبر تطورا للمسئولية المدنية، فهي تقوم على أساس الضرر، بدلا من قيامها على الخطأ، حيث أن الخطأ إذا لم يحقق ضرر فلا يعتبر سببا لقيام المسئولية(1).

فقد عرفها جانب من الفقه بأنها:” المسئولية التي تكفى أساسا لقيامها بوجود علاقة سببية مباشرة بين الضرر والعمل او النشاط مع غياب أي خطأ من جانب المسئول حتى لو كان العمل أو النشاط مصدر الضرر في ذاته سليما وصحيحا”(2).

نص المشرع الأردني في المادة(291) من القانون المدني الأردني على أن: “كل من كان تحت تصرفه أشياء تتطلب عناية خاصة للوقاية من ضررها أو آلات ميكانيكية – يكون ضامنا لما تحدثه هذه الأشياء من ضرر إلا ما لا يمكن التحرز منه. هذا مع عدم الإخلال بما يرد في ذلك من أحكام خاصة”.

وقد تمثلت الضمانة الكبرى في اعفاء المضرورين من إثبات عنصر الخطأ، الذي بات أمرا صعبا للغاية، والتحول به من خطأ واجب الإثبات إلى خطأ مفترض، ومن خطأ مفترض يقبل إثبات العكس إلى خطأ مفترض لا يقبل إثبات العكس قبل التحول النوعي الكبير إلى افتراض المسئولية ذاته(1)ا.

فذهب جانب فقهي إلى أن أساس المسئولية تغير من الخطأ واجب الإثبات إلى الخطأ المفترض، ومن الخطأ المفترض افتراضا يقبل إثبات العكس إلى خطأ مفترض افتراضا لا يقبل إثبات العكس، إلى نظرية تحمل التبعة أو الغرم بالغنم(2).

فأصبح الشخص يسأل ليس فقط عن فعله الشخصي وإنما عن فعل الأشياء التي في حراسته مسئولية مفترضة افتراضا لا تنتفي إلا بإثبات السبب الأجنبي الذي لا يد للإنسان فيه كفعل المضرور أو فعل الغير أو القوة القاهرة.

وتقوم قرينة المسئولية عن فعل الأشياء على شرطين أساسيين هما، الأول، حدوث الضرر من فعل ذاتي مستقل وإيجابي للشيء، والثاني، وجود الشيء تحت حراسة المسئول، كل ذلك بطبيعة الحال بجانب علاقة السبب بين فعل الشيء والضرر المدعى به.

وعلى ذلك يمكن القول إن المسئول عن الأضرار التي تحدثها تقنية الذكاء الاصطناعي للغير في أثناء وقوعها هو حارسها الذي يسيطر عليها فعليا وإن اكتسب تلك السيطرة بطريقة غير قانونية، كالغصب أو السرقة، ولا فرق بعد ذلك في أن يكون الضرر الذي أصاب الغير في سلامة جسمه أم في ممتلكاته المادية

المطلب الثاني

تطبيق المسئولية الموضوعية على فعل تقنية الذكاء الاصطناعي

ذهب جانب فقهي إلى تطبيق المسئولية الموضوعية عند التعامل مع روبوتات الذكاء الاصطناعي باعتبارها أنشطة خطرة ذات طبيعة استثنائية، لأنها تطبق على جميع الأنشطة الخطرة الناجمة عن التقدم العلمي والتكنولوجي؛ استنادا إلى خطورة الروبوتات تكمن الصعوبة في اختراقها فضلا عن أنها معقدة للغاية، وبسبب ذلك يصبح إثبات الخطأ أمرا صعبا، إن لم يكن مستحيلا. كما أن قدرة الروبوتات على الحركة يشكل مزيدا من المخاطر، فمن المتصور أن روبوت الخدمات الذاتية مثل روبوت التوصيل أو الروبوت المتخصص بالعمليات الطبية، يمكن أن تتحرك من حيازة مالكها وتلحق أضرار بالآخرين(1).

وينبغي لكي تقوم المسئولية أن يكون هناك تدخل إيجابي للشيء في إحداث الضرر و لا يعني بالضرورة اتصاله ماديا بالجسم أو المال الذي حدث به الضرر، إذ يمكن ان يحدث الشيء ضررا دون اتصاله مباشرة بالمضرور(2).

يرى الباحث تسهيلا لعبء الإثبات على الطرف الضعيف وهو المضرور، الأخذ بقرينة مؤداها اعتبار الضرر ناشئ عن فعل ذاتي مستقل للذكاء الاصطناعي ما لم يثبت الحارس العكس، فالفعل الذاتي المستقل للروبوت في حد ذاته يبرر تطبيق نظام المسئولية الموضوعية، وعلى المدعى عليه إثبات أن السبب الأساسي في الضرر ليس هو فعل الذكاء الاصطناعي وإنما خطأ شخص من الأشخاص المتدخلين أو المتصلين به كالصانع أو المبرمج أو المالك أو المستخدم.

ويبقى حارس الروبوت مسؤولا عن الأضرار التي تلحق بالغير جراء تقنية الذكاء الاصطناعي، وإن بقي سببها مجهولا , ولا تنتفي مسؤوليته بمجرد أن السبب كان راجعا لعيب داخلي في الروبوت ولو خفي عليه، كأن يكون مرده عيب في الصناعة، ولكن يثبت له في هذه الحالة حق الرجوع على الصانع الذي يكون مسؤولا عن فعل منتجه، والأضرار التي تلحق بالمستهلك وهو حارس الروبوت بالنسبة لتقنيات الذكاء الاصطناعي وما ينشأ عن فعل المنتج من اضرار يكون نتيجة ما ينطوي عليه ذلك المنتج من طبيعة، و يكون الصانع مسؤولا عنه، ويلزمه تعويض المضرور عما أصابه من أضرار بفعل ذلك المنتج(1).

ولا يستطيع أن يدفع المسئولية عن نفسه بخروج المنتج من حيازته، أو حراسته، ذلك أن التزامه هو التزام بتحقيق نتيجة، وهي أمن المنتج وخلوه من الأخطار التي قد تصيب المستهلك، أو الغير، بمعنى آخر فإن التزام الصانع هو التزام بضمان سلامة المستهلك أو الغير من أية أضرار تلحق به بفعل المنتج(2).

لذلك، يعتبر تطبيق المسئولية الموضوعية هو أنسب أنواع المسئولية، حيث قد لا يوجد عقد بين المضرور والشخص المسئول عن الضرر الناشئ عن الذكاء الاصطناعي حتى تنشأ المسئولية العقدية، كما أن الخطأ المتسبب في الضرر قد يصعب إثباته نظرا لخصوصيته بسبب خطأ الروبوت المتعلق بتقنية الذكاء الاصطناعي، بحيث يمكن الإكتفاء بالضرر كسبب لقيام المسئولية في حق الشخص المتسبب فيه.

الخاتمة

الحقيقة أن نجاح القواعد العامة للمسئولية المدنية في استيعاب الأضرار الناجمة عن أفعال الذكاء الاصطناعي لن يتحقق إلا إذا أمكننا إدراج هذه الأفعال ضمن صورة أو طائفة من صور أو طوائف المسببات التقليدية للضرر، أو تحديد شخص المسئول عن أفعال الذكاء الاصطناعي ونسبة الضرر إليه.

والواقع أن النظام الحالي للمسئولية عن فعل الشيء قد صمم لمواجهة الأضرار الناجمة عن الأشياء المادية، وهذا لا يتلاءم مع الطبيعة غير المادية للذكاء الاصطناعي. وحتى إذا اعتمدنا على الدعامة المادية التي تحمل هذا النظام الذكي للإعتراف بطابعه المادي في محاولة لإخضاعه للمسئولية الموضوعية، فيظل معيار الحراسة عقبة ضد تطبيق ذلك النظام.

كما أن نجاح المضرور في إثبات حدوث الضرر من فعل ذاتي مستقل للذكاء الاصطناعي مرهون بنجاحه في إثبات عدم وجود تدخل بشري مباشر في هذه العملية؛ بمعني إذا تدخل عنصر بشري يؤدي ذلك إلى عدم انعقاد المسئولية الموضوعية وهو التدخل المباشر في إحداث الضرر.

النتائج:

تبين أنه لا يوجد تعريف موحد للذكاء الاصطناعي رغم أنه ليس بمصطلح جديد، وقد تعددت تعريفات الفقه حول مفهوم الذكاء الاصطناعي.

تتنوع المسئولية المدنية عن تقنيات الذكاء الاصطناعي إلى مسئولية عقدية ومسئولية تقصيرية ومسئولية موضوعية.

تقوم المسئولية الموضوعية على الضرر، فلا يطلب من المضرور اثبات علاقة السببية بين الضرر والخطأ إلا أن تطبيقها على الذكاء الاصطناعي يواجه أيضا تحديات كبيرة لأنه لا يمكن للإنسان السيطرة عليه، وعنصر الخطر داخل في وظيفته، وبالتالي يصبح الذكاء الاصطناعي مصدر للمخاطر العامة.

يترتب على قيام المسئولية عن فعل تقنيات الذكاء الاصطناعي تحقق التعويض سواء كان ماديا أو أدبيا؛ فالمضرور يحصل على التعويض وفق الحالة المالية والاجتماعية له.

التوصيات:

نوصى بتطبيق المسئولية الموضوعية على الأفعال الناشئة عن تقنيات الذكاء الاصطناعي مع تضييق نطاق الإعفاء منها حماية للمضرور الذي لا يكون لديه خبره كافيه بشأن هذه التقنيات الحديثة.

نهيب بالمشرع الأردني بوضع نظام قانوني يحدد المسئول عن تقنيات الذكاء الاصطناعي.

يجب تحديد الشخص المسئول عن التسبب في الأضرار الناشئة عن الروبوتات المجهزة بالذكاء الاصطناعي.

يجب تشديد المسئولية ووضع ضوابط قانونية لحماية المستهلك والرقابة على سلامة المنتجات التي ترتكز على تقنيات الذكاء الاصطناعي.

المصادر والمراجع:

الزوبير، د.عمر بن،(2016) التوجه الموضوعي للمسئولية المدنية، رسالة دكتوراه، كلية الحقوق، جامعة الجزائر.

العدوان، صلاح فايز،(2019) المسؤولية المدنية عن الآلات والأشياء الخطرة، رسالة ماجستير، كلية الحقوق، جامعة الشرق الأوسط، الأردن.

العماوي، هبه سالم أحمد،(2019) أثر تداخل نظامي المسؤولية المدنية في القانون المدني الأردني: دراسة مقارنة، رسالة ماجستير، كلية الحقوق، جامعة الإسراء، الأردن.

القهيوي، محمد أشرف(2021)، إنتفاء المسؤولية العقدية في القانون المدني الأردني، المجلة القانونية، مجلد9، ع10، حقوق القاهرة فرع الخرطوم، مصر.

بدر، مجدولين رسمي، (2022)، المسؤولية المدنية الناشئة عن استخدام تقنيات الذكاء الاصطناعي في التشريع الأردني، رسالة ماجستير، كلية الحقوق، جامعة الشرق الأوسط، الأردن.

جهلول، الكرار حبيب؛ عودة، حسام عبيس،(2019) المسؤولية المدنية عن الأضرار التي يسببها الروبوت، مجلة العلوم الاجتماعية، مجلد6، ع5، المغرب.

سلطان، د.أنور،(1987)، مصادر الالتزام في القانون المدني الأردني، دراسة مقارنة بالفقه الاسلامي، ط1، منشورات الجامعة الأردنية، الأردن.

سعد، د.نبيل(2019) النظرية العامة للالتزام: مصادر الالتزام، دار الجامعة الجديدة، الإسكندرية، مصر.

سيد، د.عبد الرازق وهبه، المسؤولية المدنية عن أضرار الذكاء الاصطناعي، مجلة جيل الأبحاث القانونية المعمقة، ع43، جامعة المجمعة، السعودية.

شديفات، صالح،(2020)، مسئولية حارس الأشياء والآلات الميكانيكية بين الخطأ والأضرار في القانون المدني الأردني، رسالة ماجستير، جامعة اليرموك، إربد، الأردن.

عبد المقصود، د.محمد شعيب محمد،(2021) المسؤولية الموضوعية من حيث الأساس والتطبيق، مجلة الدراسات القانونية والاقتصادية، مجلد12، ع2، جامعة السادات، مصر.

عيسى، د.مصطفي أبو مندور،(2022)، مدى كفاية القواعد العامة للمسئولية المدنية في تعويض أضرار الذكاء الاصطناعي” دراسة تحليلية تأصيلية مقارنة”، مجلة حقوق دمياط للدراسات القانونية والاقتصادية، ع5، كلية الحقوق، جامعة دمياط، يناير2022م.

عبد الرزاق، د.علاء(1999)، نظم المعلومات والذكاء الاصطناعي، ط1، دار المناهج للنشر والتوزيع، عمان، الأردن.

عبد اللطيف، د.محمد محمد(2021)، المسئولية عن الذكاء الاصطناعي بين القانون الخاص والقانون العام، مجلة البحوث القانونية والاقتصادية، عدد خاص، كلية الحقوق، جامعة المنصورة، مصر.

غالب، د.ياسين سعد(2011): أساسيات نظم المعلومات الإدارية وتكنولوجيا المعلومات، ط1، دار المناهج للنشر والتوزيع، عمان، الأردن.

تناغو، د.سمير تناغو(2009)، مصادر الإلتزام، ط1، مكتبة الوفاء القانونية، الإسكندرية، مصر.

محجوب، علي،(2016)، ضمان سلامة المستهلك من الأضرار الناشئة عن عيوب المنتجات الصناعية المتبقية، دراسة في القانون الكويتي والقانونين المصري والفرنسي، المجلة العربية للعلوم الانسانية، جامعة الكويت.

يوسف، كريستيان،(2022)، المسئولية المدنية عن فعل الذكاء الاصطناعي، ط1، منشورات الحلبي الحقوقية، بيروت، لبنان.

مقال بعنوان “برنامج أستراليا لـ”الطائرات بدون طيار” يعتمد على الذكاء الاصطناعي”، متاح على الموقع الالكتروني التالي: https://alborsaanews.com

قانون رقم 7 لسنة 2017 بشأن حماية المستهلك الأردني، المنشور على الصفحة (2725) من عدد الجريدة الرسمية رقم (5455)، بتاريخ 16/4/2017م.

القانون المدني الأردني لسنة 1976، وتعديلاته.

Soudoplatoff Serge S, (2018),L’intelligence artificielle: L’expertise partout accessible à tous, La Fondation pour l’innovation politique, Paris, France.

Isnard, Melody, Bejani Imad,(2018), L’intelligence artificielle va contribuer à redéfinir la façon dont on apprend, Intelligence artificielle: Guide de survie Comprendre, raisonnerait interagir autrement avec l’IA, Microsoft, France.

Caferra Ricardo,(2011), Logique pour l’informatique et pour l’intelligence artificielle,
Hermes Science Publication‚ Paris‚ France.

Commission europeenne,(2019), Lignes directrices en matiere dethique pour une intelligence artificielle digne de confiance, 8avr.

Barr, A, Feigenbaum E A(1980), The Handbook Of Artificial Intelligence,Kaufmann, William Inc, New York, USA.

Minsky M,(2009), Steps Toward Artificial Intelligence, Proceedings of the IRE, USA.

Ray W,(1990),Technology And Management, Nichols Publishing, New York, USA.

Geisel A,(2018), The current and future impact of artificial intelligence on business International Journal of Scientific and Technology Research, Vol.(07), No.(05).

Benhamou, et al.,(2020), Artificial Intelligence & Damages: Assessing Liability and Calculating the Damages, submitted to as a book chapter: Leading Legal Disruption: Artificial Intelligence ,and a Toolkit for Lawyers and the Law, P. D’Agostino.

Boisard Olivier: Cours d’intelligence artificielle, disponible sur le site: www.planete-a-roulettes.net/DOC/IA_BOISARD.pdf

A-In Arabic:

Al-Zubair, Dr. Omar Ben, (2016) The Objective Approach to Civil Responsibility, Ph.D. Thesis, Faculty of Law, University of Algiers.

Adwan, Salah Fayez, (2019) Civil Liability for Dangerous Machinery and Objects, Master Thesis, Faculty of Law, Middle East University, Jordan.

Al-Amawi, Heba Salem Ahmed, (2019) The Impact of Overlapping the Two Civil Liability Systems in Jordanian Civil Law: A Comparative Study, Master Thesis, Faculty of Law, Al-Israa University, Jordan.

Al-Qahwi, Muhammad Ashraf (2021), The Exclusion of Contractual Liability in the Jordanian Civil Law, The Legal Journal, Volume 9, P. 10, Cairo Rights, Khartoum Branch, Egypt.

Bader, Majdoleen Rasmi, (2022), Civil Liability Emerging from the Use of Artificial Intelligence Technologies in Jordanian Legislation, Master Thesis, Faculty of Law, Middle East University, Jordan.

Jahloul, Habib Karar; Odeh, Hossam Abes, (2019) Civil Liability for Damages Caused by Robots, Journal of Social Sciences, Volume 6, P5, Morocco.

Sultan, Dr. Anwar, (1987), Sources of Obligation in the Jordanian Civil Law, a Comparative Study of Islamic Jurisprudence, 1st Edition, University of Jordan Publications, Jordan.

Saad, Dr. Nabil (2019) The General Theory of Commitment: Sources of Commitment, New University House, Alexandria, Egypt.

Syed, Dr. Abdel-Razek Wahba, Civil Liability for Artificial Intelligence Damages, Generation Journal of In-depth Legal Research, p. 43, Majmaah University, Saudi Arabia.

Shdeifat, Salih, (2020), Liability of the Guardian of Mechanical Objects and Machines between Error and Damage in the Jordanian Civil Law, Master Thesis, Yarmouk University, Irbid, Jordan.

Abdel Maqsoud, Dr. Muhammad Shoaib Muhammad, (2021) Objective Responsibility in terms of Basis and Application, Journal of Legal and Economic Studies, Volume 12, Part 2, Sadat University, Egypt.

Issa, Dr. Mustafa Abu Mandour, (2022), the adequacy of the general rules of civil liability in compensating the damages of artificial intelligence, “an original comparative analytical study”, Damietta Law Journal for Legal and Economic Studies, p. 5, Faculty of Law, Damietta University, January 2022.

Abdel-Razzaq, Dr. Alaa (1999), Information Systems and Artificial Intelligence, 1st Edition, Dar Al-Manhaj for Publishing and Distribution, Amman, Jordan.

Abdel Latif, Dr. Mohamed Mohamed (2021), Responsibility for Artificial Intelligence between Private Law and Public Law, Journal of Legal and Economic Research, Special Issue, Faculty of Law, Mansoura University, Egypt.

Ghaleb, Dr. Yassin Saad (2011): Fundamentals of Management Information Systems and Information Technology, 1st Edition, Dar Al-Manhaj for Publishing and Distribution, Amman, Jordan.

Tango, Dr. Samir Tango (2009), Sources of Commitment, 1st Edition, Al-Wafaa Legal Library, Alexandria, Egypt.

Mahgoub, Ali, (2016), ensuring consumer safety from damages arising from defects in remaining industrial products, a study in Kuwaiti law and Egyptian and French laws, Arab Journal of Human Sciences, Kuwait University.

Youssef, Christian, (2022), Civil Responsibility for the Act of Artificial Intelligence, 1st Edition, Al-Halabi Human Rights Publications, Beirut, Lebanon.

An article titled “Australia’s AI-powered Drone Program,” available at: https://alborsaanews.com.

Law No. 7 of 2017 regarding the protection of the Jordanian consumer, published on page (2725) of Official Gazette No. (5455), dated 4/16/2017.

The Jordanian Civil Code of 1976, and its amendments.

Soudoplatoff Serge S, (2018),L’intelligence artificielle: L’expertise partout accessible à tous, La Fondation pour l’innovation politique, Paris, France.

Caferra Ricardo,(2011), Logique pour l’informatique et pour l’intelligence artificielle,
Hermes Science Publication‚ Paris‚ France.

Commission europeenne,(2019), Lignes directrices en matiere dethique pour une intelligence artificielle digne de confiance, 8avr.

Barr, A, Feigenbaum E A(1980), The Handbook Of Artificial Intelligence,Kaufmann, William Inc, New York, USA.

Minsky M,(2009), Steps Toward Artificial Intelligence, Proceedings of the IRE, USA.

Ray W,(1990),Technology And Management, Nichols Publishing, New York, USA.

Geisel A,(2018), The current and future impact of artificial intelligence on business International Journal of Scientific and Technology Research, Vol.(07), No.(05).

Benhamou, et al.,(2020), Artificial Intelligence & Damages: Assessing Liability and Calculating the Damages, submitted to as a book chapter: Leading Legal Disruption: Artificial Intelligence ,and a Toolkit for Lawyers and the Law, P. D’Agostino.

Boisard Olivier: Cours d’intelligence artificielle, disponible sur le site: www.planete-a-roulettes.net/DOC/IA_BOISARD.pdf

(1) الAI)): هي اختصار لكلمةArtificial Intelligence))، والتي إذا ترجمت حرفيا تكون بمعني: قدرة الآلة علي التصرف في المواقف المختلفة من غير تدخل العقل البشري.

والذكاء الاصطناعي هو: مجال فيه كل ما يتعلق بإكساب الآلات صفة “الذكاء”، والذي يهدف إلى محاكاة قدرات التفكير المنطقي عند الإنسان. وقد ظهر هذا المصطلح في فترة الخمسينيات، وتحديدا في سنة 1956 وصل العلماء الل AI .

راجع تفصيلا:

Soudoplatoff Serge S, L’intelligence artificielle ,(19).

وفي التسعنيات واوائل الالفية الجديدة ظهر التعلم الآلي المتعمق Machin learningوهو جزء ضمن مجال الذكاء الاصطناعي، وهو إكساب الآلات القدرة على التعلم عن طريق استخدام خوارزميات تقوم بفهم البيانات المعروضة عليها، ثم تطبقها على عمليات اتخاذ القرار والتنبؤات بالمستقبل. وبداية من عام 2010 إلى الآن نعيش في عصر ال Deep learning وهو المستوي الأعلى و الأكثر تعقيدا من التعلم الآلي .

راجع تفصيلا:

Boisard Olivier: Cours d’intelligence artificielle, disponible sur le site: www.planete-a-roulettes.net/DOC/IA_BOISARD.pdf

فمثلا في استراليا؛ حدثت مشكلة هي مهاجمة القروش للبشر في الشواطئ الاسترالية، وبدأت الجهود المختلفة لحل المشكلة، حيث قام بعض المهندسين في جامعة سيدني بتصميم برنامج ذكاء اصطناعي في طائرة بدون طيار، يستطيع من خلال كاميرا عالية الدقة بتقنية شبه تقنية التعرف علي الوجوه، أن يقوم بعمل مسح للسواحل، وتحديد نوع الحيوانات المائية والتعرف عليها. وبذلك استطاعت هذه الطائرات”Little Ripper”أن تتعرف على القرش، و تحدد مدى خطورته، وفي حالة رصد آدميين في نطاق القرش تقوم بإطلاق صافرة للتنبه، ويتوقع أنه ستكون هناك تصميمات مستقبليه مجهزة بقارب مطاطي لتنفذ عملية إنقاذ الشخص المعرض للخطر. وحسب ما جاء في تقرير وكالة رويترز فإن دقة راصدي القروش من البشر تقدر بنحو 20 :30% ، إلا أنه بعد استخدام الذكاء الاصطناعي وصلت الدقة إلى نحو 90%.

انظر في ذلك: مقال بعنوان “برنامج أستراليا لـ”الطائرات بدون طيار” يعتمد على الذكاء الاصطناعي”، متاح على الموقع الالكتروني التالي، تاريخ الاطلاع 20/12/2022: https://alborsaanews.com

(1) انظر في نفس المعني:

Isnard, Melody, Bejani Imad: L’intelligence artificielle va contribuer à redéfinir la façon dont on apprend,(13).

(2) راجع في ذلك:

Caferra Ricardo: Logique pour l’informatique et pour l’intelligence artificielle,(20).

(3) غالب، د.ياسين سعد: أساسيات نظم المعلومات الإدارية وتكنولوجيا المعلومات(23).

(4) عبد اللطيف، د.محمد محمد، المسئولية عن الذكاء الاصطناعي بين القانون الخاص والقانون العام،(5).

(1) Commission europeenne: Lignes directrices en matiere dethique pour une intelligence artificielle digne de confiance ,(8).

(2) Barr, A, Feigenbaum E A: The Handbook Of Artificial Intelligence,(95).

Minsky M,Steps Toward Artificial Intelligence,(74). (3)

(4) Ray W:Technology And Management,(29).

(5) عبد الرزاق، د.علاء: نظم المعلومات والذكاء الاصطناعي،(57).

(1) في مجال النقل ، على سبيل المثال، تحتوي المركبات شبه المستقلة على أدوات تسمح للسائقين والمركبات معرفة مناطق الازدحام القادمة أو أماكن الحفر أو أعمال الإصلاح على الطريق أو غيرها من العوائق المرورية المحتملة . ويمكن للمركبات أن تستفيد من تجربة المركبات الأخرى على الطريق ، دون تدخل بشري ، كما أن المجموعة الكاملة من ” الخبرات ” التي اكتسبتها تلك المركبات يمكن نقلها بشكل فوري وكامل إلى مركبات أخرى متماثلة في نمط التشغيل . تدمج الخوارزميات المتطورة ، وأجهزة الاستشعار، والكاميرات ، الخبرة التي اكتسبها في العمليات الحالية، وتستخدم لوحات المعلومات والشاشات المرئية لتقديم المعلومات في الوقت الفعلي حتى يتمكن السائقون البشريون من فهم حركة المرور المستمرة وأحوال مركباتهم. وفي حالة السيارات المستقلة بالكامل، يمكن للأنظمة المتقدمة التحكم بالكامل في السيارة أو الشاحنة ، واتخاذ جميع القرارات الملاحية.

Geisel A: The current and future impact of artificial intelligence on business International Journal of Scientific and Technology Research, (116-122).

(1) القهيوي، محمد أشرف، إنتفاء المسؤولية العقدية في القانون المدني الأردني(3598).

(2) العماوي، هبه سالم أحمد، أثر تداخل نظامي المسؤولية المدنية في القانون المدني الأردني،(25).

(3) القانون المدني الأردني لسنة 1976، وتعديلاته.

(1) يوسف، كريستيان، المسئولية المدنية عن فعل الذكاء الاصطناعي،(25).

(2) فنصت (المادة 5) من قانون حماية المستهلك الأردني على أنه: “أ. على المزود تأمين خدمات ما بعد البيع وبصورة خاصة خدمات الصيانة وقطع الغيا ر اللازمة للسلع أو الخدمات التي تتطلب طبيعتها ذلك أو التحقق من أنه تم تأمينها سواء كان ذلك مقابل بدل يدفعه المستهلك أو دون مقابل”. انظر قانون رقم 7 لسنة 2017 بشأن حماية المستهلك الأردني، المنشور على الصفحة (2725) من عدد الجريدة الرسمية رقم (5455) بتاريخ 16/4/2017م.

(1) تناغو، د.سمير، مصادر الإلتزام،(184).

(2) سعد، د.نبيل، النظرية العامة للالتزام: مصادر الالتزام، (374).

(3) Y. Benhamou, et al., Artificial Intelligence & Damages: Assessing Liability and Calculating the Damages,(4).

(4) عبد الستار، مصعب ثائر، المسؤولية التقصيرية المتعلقة بالذكاء الاصطناعي،(387).

(1) عيسى، د.مصطفي أبو مندور، مدى كفاية القواعد العامة للمسئولية المدنية في تعويض أضرار الذكاء الاصطناعي” دراسة تحليلية تأصيلية مقارنة”، (210).

(2) Y. Benhamou, et al.op.cit.p. 6-7.

(1) بدر، مجدولين رسمي، المسؤولية المدنية الناشئة عن استخدام تقنيات الذكاء الاصطناعي في التشريع الأردني،(47).

(2) العدوان، صلاح فايز، المسؤولية المدنية عن الآلات والأشياء الخطرة،(14).

(3) جهلول، الكرار حبيب؛ عودة، حسام عبيس، المسؤولية المدنية عن الأضرار التي يسببها الروبوت،(794).

(4) حكم محكمة التمييز بصفتها الحقوقية في الدعوى رقم(2917) لسنة2007، جلسة 23/4/2008م.

(1) الزوبير، د.عمر بن، التوجه الموضوعي للمسئولية المدنية،(151).

(2) عبد المقصود، د.محمد شعيب محمد، المسؤولية الموضوعية من حيث الأساس والتطبيق،(33).

(1) عيسى، د.مصطفي أبو مندور، مرجع سابق،(287).

(2) شديفات، صالح، مسئولية حارس الأشياء والآلات الميكانيكية بين الخطأ والأضرار في القانون المدني الأردني، (15).

(1) سيد، د.عبد الرازق وهبه، المسؤولية المدنية عن أضرار الذكاء الاصطناعي، (11).

(2) عبد المقصود، د.محمد شعيب محمد،(23).

(1) محجوب، د.علي، ضمان سلامة المستهلك من الأضرار الناشئة عن عيوب المنتجات الصناعية المتبقية، دراسة في القانون الكويتي والقانونين المصري والفرنسي،(230).

(2) سلطان، د.أنور، مصادر الالتزام في القانون المدني الأردني، دراسة مقارنة بالفقه الاسلامي، (300).

لتحميل الاصدار كاملا

من هنا

للتوثيق