هل تميز التكنولوجيا بين الناس؟
كاثي أونيل*
إذا كان الناس في طريقهم إلى منح الحواسيب والتقنيات الحديثة الحق في اتخاذ القرارات التي تخصهم، كيف يمكن ضمان أن تقوم تلك التكنولوجيا بخدمة البشر على أكمل وجه؟ فبالنظر إلى القوة المتنامية للخوارزميات، أو ما يعرف بنظام الحلول الحسابية، فإن هنالك سؤالاً يطرح نفسه، ولا يمكن أن يفكر في إجابته الأولية سوى الباحثين في المجال. يجب أن ندرك أولاً أن الخوارزميات هي علم متخصص في التقديرات، فمثلاً إلى أي طريق ستتجه الأسواق المالية؟ من من الممكن أنه ملتزم بسداد ما عليه من ديون إلى البنك؟ أو مثلاً نوعية الأخبار التي تجتذب أكبر قدر من المشاهدين أو المستمعين، وهي تعمل بطريقة تعيد حرفياً صياغة العالم.
وقد تمكن الإنسان من تطوير قدرات وأدوات تمكنه من التعامل مع الأثر السلبي الذي يمكن أن يقودنا إليه هذا العلم، بل والتعرف إليها أيضاً. وبدأ العلم مؤخراً في اكتشاف العديد من الخبايا والأسرار الخاصة بالخوارزميات، وكمثال على ذلك، يمكن النظر إلى التطور الكبير الذي وصلت إليه تكنولوجيا التعرف إلى الوجوه باستخدام التكنولوجيا المتطورة، حتى إن الشرطة بدأت باستخدام البرامج الذي تعمل بواسطة الخوارزميات للتعرف إلى المجرمين وتحديدهم، والحد من الجرائم التي يرتكبونها.
إن السؤال الأهم هنا، كيف يمكننا ضمان أن تعمل البرامج المعتمدة على الخوارزميات بطريقة فاعلة، ومنصفة؟ يجب أولاً تعريف كلمة «منصفة» تعريفا دقيقاً، ففي مؤتمر انعقد مؤخراً في جامعة نيويورك، تباينت التعريفات الخاصة بالمصطلح، إذ أشار البعض إلى أن الكلمة تعني القدرة على التميز مثلاً بين الأشخاص المجرمين من غيرهم، أو المحتالين من غيرهم، وهو المثال الأكثر توضيحاً حتى الآن، حيث إن اختلاف التعريفات يكون في الأغلب من حيث الكلمات المستخدمة، وتؤدي في النهاية تقريباً إلى معنى موحد. وقد أظهرت بعض الدراسات التي أجريت على هذا الأمر أن التكنولوجيا التي تعمل بالخوارزميات لا تستطيع التمييز مثلاً، بين فئات الأقلية التي يجب حمايتها من غيرهم، وبالتالي يمكن أن تكون مضرة بالنسبة إليهم على المدى الطويل.
بعد أن تم إصدار قانون الفرص المساوية في الائتمان في العام 1974، كان الهدف من ذلك منع التمييز ضد النساء والأقليات المهمشة في المجتمعات، حيث اعتمد مانحو الائتمان في ذلك على النقاط الائتمانية التي يتم تسجيلها للشخص، حتى أصبحت النساء حالياً يفقن الرجال من حيث الحصول على الائتمان للعديد من الأسباب. أما التحدي الأكبر الذي سيواجه المجتمعات في الاعتماد على التكنولوجيا في اتخاذ القرارات المهمة، هو الكيفية التي ستتمكن بها من تحديد تلك الفروق التي تحتاج إلى عقل بشري لتمييزها، وهو ما يأخذنا في النهاية إلى شبه الإجماع الذي يقول إنه يجب علينا منح التكنولوجيا الصلاحيات التي لا تتطلب التدخل البشري، تفادياً للآثار التي يمكن أن تكون كارثية على المجتمعات.
*بلومبيرج