سيارتك ذاتية القيادة قد تختار أن تُضّحي بك، فهل ستقبل؟

يهدف تطوير «تقنيات المركبات الذتية القيادة Autonomous vehicles» لتقليل حوادث السيارات، لكنها أحيانا ربما يجب أن تختار بين أحد الشرين؛ أن تقوم بدهس بعض المشاة، أو تركهم آمنين بالتضحية بنفسها والركاب. وتوضيح اللوغارتميات البرمجية التي ستساعد السيارة ذاتية القيادة في إتخاذ موقفها الأخلاقي يعتبر تحد صعب.

وجدنا أن المشاركين في 6 دراسات مختلفة على منصة «Amazon Mechanical Turk» قد وافقوا على أن المنفعة العامة التي تقتضي التضحية بالسيارة والراكب من أجل الصالح العام، وكذلك ينصحون الآخرين بشراء سيارات ذكية مبرمجة على ذلك، لكنهم في نفس الوقت لا يوافقون على استخدامها بأنفسهم، بل ويصرون على استخدام مركبات تعطي الأولوية القصوى لحماية ركابها.

رفض المشاركون في التجارب أن تصبح قواعد المنفعة العامة مطبقة بشكل إجباري على جميع السيارات الذاتية القيادة وقالوا أنهم لن يشتروها لو كان الأمر هكذا. ووفقا لذلك فإن تبني المعايير الأخلاقية للحفاظ على الصالح العام في السيارات ذاتية القيادة ربما يؤدي -عكس المتوقع- لزيادة الحوادث بسبب تأجيل اعتماد البشر على تلك التقنية.

يبدو هذا الكلام متناقض بالتأكيد، لكنه ملخص

ورقة بحثية جديدة

نشرت أمس في مجلة العلوم الأمريكية، والبحث لـ«جين فرانسوا بنفون – Jean-François Bonnefon» الأستاذ بجامعة تولوز بفرنسا، و«عظيم شريف – Azim Shariff» الأستاذ بقسم علم النفس بجامعة أوريجون في الولايات المتحدة الأمريكية، و«إياد رهوان – Iyad Rahwan» الأستاذ بمعهد ماستشوستس للتقنية.

أسئلة أسئلة، ثم المزيد من الأسئلة

لكي نفهم طبيعة المشكلة ابتداءا لنعرف أسباب بحث هذا الموضوع يجب أن نسأل أنفسها أولا بعض الأسئلة الأخلاقية الشهيرة جدا، محاولين الوصول لإجابة منطقية بالنسبة لك، لكنا ستبدو -قطعا- غير منطقية -بل ومرفوضة بتاتا- للبعض الآخر.

ماذا لو كنت تقود سيارة بسرعة عالية ثم ظهر أمامك فجأة مفترق طرق، على اليمين يقف طفل في منتصف الطريق، وعلى اليسار يقف رجل عجوز في منتصف الطريق كذلك، ويجب عليك وبسرعة أن تقرر الاختيار بين أي من الطريقين أو أن تستخدم مكابح السيارة بأقصى قوة لتنقلب بك السيارة أو يصدمك القادم من الخلف!

ماذا لو كان الطريق الأيمن يقف به أسرة كاملة؟ ماذا لو كان العجوز هو منافسك التجاري أو عدوك اللدود؟ مدرسك القديم الذي تحبه؟ طبيب أسنانك الذي كنت تهابه طفلا؟ ماذا لو كانت أسرتك بأكملها معك في السيارة؟ ابنك أو والدك؟

هل هناك صواب قطعي أو خطأ قطعي في تلك الحالة؟ هل هناك اختيار محدد يمثل مفهوم العدالة في هذا الموقف؟ هل يتحتم عليك التضحية بنفسك أو بأسرتك مقابل ترك رجل عجوز يعيش؟ هل ستؤثر كراهيتك لهذا الرجل أو رغبتك في التخلص منه على قرارك «الأخلاقي»؟

الكثير والكثير من الأسئلة التي تناقشها العديد من الاتجاهات الفلسفية والفكرية بدون وجود حلول قطعية يمكن أن تنطبق على جميع البشر وجميع الحالات كثوابت لا يمكن الاعتراض عليها. حالتك الشخصية أيضًا ستؤثر على قرارك بالتأكيد.

فأثناء قراءتك للمقال الآن ربما بعد تناول وجبة شهية وكوب من القهوة وجلوسك على أريكتك الأثيرة في جو مكيف، سيكون تفكيرك عقلاني متفائل، ولديك ما يكفي من الوقت لتقارن وتحلل كل الاحتمالات المعروضة أمامك، وغالبا ما ستغلب على قرارك روح الإيثار وأخلاق المدينة الفاضلة فتقرر أن تضحي بنفسك من أجل إنقاذ هذا الطفل الذي ما زال في بداية حياته، أو إنقاذ العجوز الذي لا يستحق بالتأكيد أن يموت بتلك الطريقة البشعة.

لكن، هل تعتقد أنك ستصل لهذا القرار لو كنت عائدا من عملك مرهقا وتقود سيارتك لمسافات طويلة في حرارة الشمس اللافحة وذلك بعد أن تشاجرتك مع مديرك مثلا !! سأترك لك الجواب، أنا لست فيلسوف ولا حتى من محبي الفلسفة المخلصين، ولن أفرض عليك وجهة نظري المتواضعة بالطبع.

يمكنك ترك التفكير في هذه المشكلة الآن والانتقال معي لمشكلة جديدة، ماذا لو لم تكن أنت السائق؟ ماذا لو كان السائق هو حاسوب مبرمج بشكل يتيح له القيادة بذكاء؟! هل ستثق في قدرة السيارة على الاختيار؟ هل ستعطيها من البداية حق الاختيار بدلا عنك؟! الكثير والكثير من الأسئلة ولا إجابات واضحة.

نهضة السيارات الذكية

إيلون ماسك

على الرغم من أن الفكرة -كما غيرها الكثير من الأفكار التقنية – ظهرت لأول مرة بأفلام الخيال العلمي، إلا أن أبحاثا ودراسات جادة خصوصا خلال العقد الأخير ركزت على نقل الأفكار الخيالية للواقع، وأكثرهم جدية هي

شركة جوجل

وأسطول سياراتها ذاتية القيادة والتي تجوب أنحاء أمريكا في تجارب ميدانية مختلفة. وكذلك شركة Tesla المملوكة لإيلون ماسك والتي بدأت اختبار بعض تقنيات القيادة الآلية. كما أن

أغلب العلامات التجارية الشهيرة

دخلت اللعبة أيضا مؤخرا كمرسيدس و BMW ورينو ونيسان وجاجوار وتويوتا ولاند روفر والكثير غيرهم.

تعتمد السيارات الذاتية القيادة على قراءة البيئة حولها بشكل متكامل مستخدمة الكثير من المستشعرات والكاميرات وأجهزة الرادات، وذلك لتكون صورة مجسمة ثلاثية الأبعاد للطريق حولها بما فيه من مباني وأرصفة ومشاه وبالطبع سيارات أخرى. وباستخدام لوغاريتمات برمجية معينة يعالج حاسوب السيارة تلك البيانات بإضافة للسرعة وحالة الطقس ليتنبأ بحركة كل عنصر في البيئة المحيطة به ليقوم بتوجيه السيارة.وعلى الرغم من الأمر ما زال قيد التجارب، إلا أن التجارب -وخصوصا تجارب جوجل- مبشرة للغاية وتعدنا بنماذج حقيقة قريبا، نقلة نوعية نحو مستقبل بلا سائقين، وربما ليس هو المستقبل الأفضل استنادا لهذا الخلاف الأخلاقي المثار حاليا. هناا يأتي دور العلم ليحاول الوصول لنتائج ما توضح لنا أكثر ما نحن -البشر- مقدمون عليه.

وجهات نظر «أخلاقية» متضاربة

في بداية الورقة البحثية يعرض العلماء أهم المعايير اللازم تطبيقها على اللوغارتميات الذكية في حالة احتمال حدوث ضرر لا مفر منه؛ أن تكون متناسقة، ألا تسبب غضب عام، وألا تنفر المشترين من استخدام العربات ذاتية القيادة. ولمحاولة لتحديد المعايير التي سيقبلها البشر، بدأوا بحثهم في جمع بيانات وآراء عينة عشوائية من قاطني الولايات المتحدة تجاه القضية المثارة.

بمشاركة 1928 مواطن، بمساعدة منصة Amazon Mechanical Turk من أمازون، تم عمل ست استطلاعات للرأي بين مارس ونوفمبر 2015. والمحصلة النهائية للدراسة تؤكد أن الأغلبية توافق على أن يتم وضح تحكمات أخلاقية تنتصر للصالح العام مقابل أمان وحياة الراكب، وإن اختلفت التفاصيل بشكل متضارب أحيانا. ففي أول دراستين وافق ما نسبته 76% من المشاركين على أن تكون الأولوية لحياة المشاة فقط لو كان العدد أكبر من الركاب، أما لو كان هناك فرد واحد مقابل الراكب فقد وافق فقط 23% من المشاركين على التضحية بالراكب.

في الاختبار الثالث كان التساؤل عن مدى أخلاقية التضحية بالراكب مقابل عدد كبير من المشاة حتى لو كان هناك مرافق من العائلة، وافق فيها 95% من المشاركين على أن التضحية هي الاختيار الأكثر اتساقا مع النموذج الأخلاقي المعتقدون بصحته.

هذا لا يعني أنهم موافقون على التضحية بأنفسهم، بل أن أغلبية المشتركين في الاختبار الثالث قالوا أنهم يفضلون سيارة ذاتية القيادة تعطي لحياة ركابها الأولوية على الرغم من اتفاقهم مسبقا على عدم أخلاقية هذا الاختيار. وبهذه النتيجة دلل الاختبار الثالث على وجود معضلة أخلاقية واجتماعية تجاه موضوع الدراسة.

الدراسة الرابعة كانت أكثر تعقيدا وذات عدة مراحل لكنها خلصت لنفس النتيجة أيضا، تفضيل الخيار الأخلاقي مع رفض تطبيقه على النفس. وخلصت الدراستان الخامسة والسادسة إلى رفض المشاركين لتحكم الحكومات في جعل الخيار الأخلاقي المتفق مع الصالح العام هو المعيار الذي تبرمج عليه السيارات، مع رفض شراء سيارات ذاتية القيادة مبرمجة على هذا الوضع.

تعرض الدراسة أيضا رأي العلماء في دور الكيانات المختلفة في إقرار الوضع الذي يجب التوافق عليه. فدور الحكومة هنا هو إقرار التشريعات التي ستحدد كيفية برمجة السيارات ذاتية القيادة، وهي التشريعات التي سيلتزم بها الصناع، وكذلك المستهلكون. كذلك دور الصناع في توفير مختلف أنواع الضمانات اللازمة من حيث اشتراطات الجودة والأمان، وكذلك مختلف الاختيارات البرمجية التي تتيحها التشريعات القانونية.

لكن، يمكن للصناع -وخصوصا الشركات ذات رؤوس الأموال المليارية- دائما تكوين كيانات الضغط السياسي داخل الحكومة، وكذلك إطلاق الحملات الإعلانية الكثيفة، بهدف إقناع الحكومة والمستهلكين بوجهة نظرهم -الغير متوافق عليها حتى الآن بينهم باعتبار التقنية ما زالت محل تجريب-.

أما بالنسبة للمستهلك فهو دائما ما سيفضل شراء سيارة ذاتية القيادة تؤثر حمايته ومن معه قبل أي شيء، لكنه في نفس الوقت سيطلب من المجتمع المحيط به أي يستخدموا سيارات تفضل الصالح العام بالتضحية بالراكب لحماية المشاة، وهي نظرة شديدة الأنانية بالطبع، لكنها مفهومة ومفسّرَة في إطار المنظومة الاخلاقية البشرية الحالية المتمركزة حول النفس.

يقول العلماء في نهاية الورقة البحثية أنه عند تطبيق التقنية بشكل عملي على أرض الواقع ستكون الخيارات الأخلاقية أكثر تعقيدا بكثير من دراستهم. فتطوير مركبة ذاتية القيادة تعمل وفق معايير أخلاقية واضحة ليس بالسهل، بل ويعتبر من أهم التحديات أمام علماء الذكاء الاصطناعي حاليا.

كما أكدوا أن دراستهم ما زالت مستمرة ولم تتوفق بعد نشر الورقة البحثية، ولهذا أطلقوا موقعا مخصصا يسمى «الآلة الاخلاقية»

The Moral Machine

سيعرضون فيه على الزوار العديد من النماذج والاختيارات الأخلاقية بغرض جمع المزيد من البيانات وتكوين نظرة أعم و أكثر شمولية. ويمكنك بالطبع أن تساعدهم في ذلك، لكن، هل كونت رأيك الخاص بالفعل؟ أم أنها معضلة ليس لها حل!

حسنا، لن نرى السيارات ذاتية القيادة تجوب شوارعنا قريبا قبل الاستقرار على إجابة واضحة لكل تلك الأسئلة.