الروبوتات القاتلة
سايمون واطسون*
لعل الوقت قد حان للمجتمع، لكي يُدرك طبيعة الوهْم، ويتخذ القرار العملي- وهو التخلي عن السيطرة وترْك الآلات والروبوتات تفعل ما صُمِّمت لفعله.
يطيب لنا جميعاً الاعتقاد بأننا نملك السيطرة. ولكنْ، أكلُّ ذلك مجرَّدُ وَهْم؟ قد يبدو ذلك سؤالاً وجودياً جدّاً، ولكنه يلعب دوراً مهمّاً في تقبّلنا للتكنولوجيات الجديدة، وخصوصاً عندما يتعلق الأمر بالروبوتات.
حتى لو لم نكن مسيطرين على أمرٍ ما شخصياً، فإنه نحبُّ في كثير من الأحيان، أن نريح أنفسنا بالاعتقاد بأن شخصاً آخر مسيْطِر عليه. البشر يملكون إرادة حرة وتعاطفاً، ونحن نثق بأننا سوف نتخذ الخيار «الصائب» إذا حدث مكروه.
المشكلة هي أن البشر، لا يمكن التنبؤ بسلوكهم. هنالك 7.6 مليار شخص على الكوكب. وكل شخص لديه منظومته المعنوية والأخلاقية الخاصة به، وعُمْرٌ مديد حافل بالخبرات التي تشكل أفعاله، ولكل شخص تكوينه النفسي الفريد، الذي يوجّه كيفية ردّ فعله على الأحداث المثيرة للأعصاب.
عندما يؤدي المرء امتحان قيادة السيارة النظري، لا يُسأل عن «مشكلة العربة». وهي عبارة عن تجربة ذهنية شهيرة يمكن تلخيصها في ما يلي: شخص يقود سيارة، فيظهر أمامه فجأة طفل يعدو ليقطع الشارع، قريباً جدّاً من السيارة بحيث يتعذر تجنب دهْسه. وإذا انحرف الشخص بسيارته يساراً لتفاديه، فسوف يدهس بعض المشاة، وإذا انحرف يميناً، فسوف يصطدم بسيارة مقبلة ويقتل نفسه وسائق السيارة الأخرى. فكيف يتصرّف؟
الخطوة الأولى، هي كبح السيارة بأقصى قوة ممكنة. وبعد ذلك، يتعين على الشخص أن يقرّر أيَّ الخيارات الثلاثة يتخذ. ليس هنالك جواب صحيح، ولكن المرء سوف يتخذ قراراً نابعاً من لاوَعيه بشأن الخيار الذي يتخذه. وقد يأخذ في الاعتبار مجموعة وافرة من الظروف لتبرير قراره. ومن غير المتوقع أبداً، بطبيعة الحال، أن يُدرك بصورة تامة العوامل التي أخذها في الاعتبار. وسوف يُدرك الجميع، أنه قد وُضع في موقف مستحيل.
ولكن، لنغيّر السيناريو الآن قليلاً. الشخصُ في سيارة مستقلة (آلية القيادة)، ويقع الحادث نفسه. تضغط السيارة الفرامل بأقصى قوة ممكنة، ولكنْ مَن الذي قرّر أيّ الخيارات الثلاثة، ستتخذ؟ خلافاً لقرار الشخص في الحالة الأولى، يمكن الرجوع إلى أصل ذلك القرار والمدخلات الحسّية المستخدمة لاتخاذه. ويمكن أن يكون هنالك مستوى من المحاسبة أعلى بكثير.
وقد أثبت التاريخ، أنه عندما يتم استبدال السيطرة البشرية بسيطرة آلية، يزداد الأمان، ويقل عدد الحوادث- سواء كان ذلك، في المصاعد الكهربائية في أوائل القرن العشرين، أو الطائرات في أواخره. ومن المرجح أن يكون للنقل الآليّ الفوائد ذاتها.
ولكنْ، هنالك أحد المجالات التي يُخشى أن يكون للتخلي عن السيطرة فيه آثار عميقة، خطيرة إلى درجة كانت كافية لشروع الأمم المتحدة في مناقشة الموضوع- وهو الروبوتات القاتلة. وعلى الرغم من أن الأتمتة في كل المناحي الأخرى من الحياة تقريباً، كان لها مَن يحُطّون من قدرها، فقد جرت مناقشات عقلانية في النهاية، في المحافل العامة لتسليط الضوء على الفوائد المحتملة.
حتى أن البعض يجادلون قائلين، إننا بتقييد أبحاث الذكاء الاصطناعي في هذا الميدان، نستطيع منع مستقبل بائس، على غرار ما يبيّنه فيديو «سلوتربوت» (روبوتات الذبح – الذي يشرح مخاطر الطائرات من دون طيار).
وسيحتاج الروبوت القاتل إلى قدرات على معالجة الصور، والتعرف على الوجوه، وتحديد المواقع الجغرافية. وقد أصبحت هذه الأمور جزءاً لا يتجزأ من كل جانب من جوانب حياتنا. فأنت تستطيع استخدام التعرف على الوجوه لفتح حاسوبك المحمول، وكل شخص لديه على هاتفه المحمول نظام تحديد المواقع بالأقمار الصناعية، ولذا فإن وقف الأبحاث في هذا المجال، غير مُجْدٍ، ببساطة. ويزداد استخدام الروبوت المحمول انتشاراً في الحياة اليومية، ولذا فإن من غير المحتمل وقف تقدمه. ويخشى بعض الناس حتى، أن هذه الروبوتات، سوف تقرر في نهاية المطاف، مَن يريدون قتل أنفسهم. ولكن المجتمع لا يزال بعيداً جدّاً عن ذلك الواقع. صحيح، أن الروبوتات قد تجعل قتل شخص ما أسهل من استئجار قاتل محترف، ولكن الأمر لن يحتاج إلى تكنولوجيا متطورة لقتل شخص ما. ولم يدْعُ أحدٌ إلى حظر السيارات بعدما استخدِمت أسلحة للإرهاب خلال العام الماضي، لأن فوائدها تفوق مخاطرها بكثير.
والواقع هو أن الآلات أجدر بالثقة من البشر وأكثر خضوعاً للمساءلة. ولعل الوقت قد حان للمجتمع، لكي يدرك طبيعة الوهم ويتخذ القرار العملي- وهو التخلي عن السيطرة وترْك الآلات والروبوتات تفعل ما صُمِّمت لفعله.
*محاضر في النظم الروبوتية، في جامعة مانشستر. موقع: «ذي كنفرسيشن»