خاص : ترجمة – بوسي محمد :

“روها بنغامين”؛ هي عالمة أجتماع، وأستاذ مساعد في الدراسات “الأميركية-الإفريقية” بجامعة “برينستون”، عقدت محاضرات عدة حول تقاطع العِرق والعدالة والتكنولوجيا والمواطنة والصحة والعدالة، أسست مختبر البيانات، والذي يهدف إلى الجمع بين الناشطين والتقنيين والفنانين لإعادة تقييم كيفية استخدام البيانات من أجل العدالة.

يتناول كتابها الأخير؛ الذي يحمل عنوان (Race After Technology)، كيف يمكن أن يكون تصميم التكنولوجيا تمييزيًا. تركز بشكل كبير وأساس في علمها عن العلاقة بين الإبتكار والإنصاف.

في حوار أجرته “روها” مع صحيفة (الغارديان) البريطانية، كشفت عن سر دوافعها وراء نشر كتابها الجديد، (Race After Technology)، كما تحدثت عن مستقبل التكنولوجيا.. وإلى نص الحوار..

الروبوتات العنصرية !

“الغارديان” : من أين جاء الدافع لإصدار كتاب (Race After Technology) ؟

“روها” : يبدو أننا نتطلع إلى الاستعانة بمصادر خارجية في إتخاذ القرارات المتعلقة بالتكنولوجيا، على إفتراض أنها ستتخذ قرارات أفضل منا. إننا نشاهد ذلك في كل ميدان تقريبًا – الرعاية الصحية والتعليم والتوظيف والمالية – ومن الصعب العثور على سياق لم يخترقه.

كان الشيء الذي أثار اهتمامي حقًا هو سلسلة من العناوين والمقالات التي رأيتها؛ والتي كانت تدور حول ظاهرة يطلق عليها “الروبوتات العنصرية”. بعد ذلك، مع مرور الوقت، أصبحت هذه المقالات والعناوين أقل دهشة، وبدأوا يقولون، بالطبع، أن “الروبوتات” عنصرية لأنها مصممة في مجتمع به هذه التحيزات.

“الغارديان” : وكيف ترين تطور الأنظمة الآلية ؟

“روها” : تحاول العديد من هذه الأنظمة الآلية تحديد المخاطر والتنبؤ بها. لذلك يتعين علينا أن ننظر في كيفية تقييم المخاطر – ما إذا كان البنك سيمدد قرضًا لشخص ما، أو إذا كان القاضي سيصدر حكمًا على شخص ما. قرارات الماضي هي المدخلات لكيفية تعليمنا البرامج لإتخاذ تلك القرارات في المستقبل. إذا كنا نعيش في مجتمع تتعرف فيه الشرطة على السود واللاتينيين، فإن ذلك يؤثر على بيانات الشرطة، وسيتم تمثيل هذه المجتمعات بشكل مفرط في مجموعات البيانات، والتي يتم استخدامها بعد ذلك لتدريب الخوارزميات للبحث عن الجرائم المستقبلية، أو التنبؤ بمن يعتبر أكثر خطورة وخطر أقل.

“الغارديان” : هل هناك مجالات أخرى في المجتمع – مثل الإسكان أو التمويل – حيث أدى استخدام الأنظمة الآلية إلى نتائج متحيزة نريد تسليط الضوء عليها ؟

“روها” : الشرطة والمحاكم تحظى بالكثير من الاهتمام، كما ينبغي. ولكن هناك مجالات أخرى أيضًا، مثل خوارزميات التوظيف الخاصة بشركة “Amazon”، والتي تميز ضد المتقدمين من النساء، على الرغم من عدم إدراج النوع في تلك السيرة الذاتية. استخدمت مجموعة التدريب بيانات حول من عمل بالفعل في “آمازون”.

الضرر من جمع وتسجيل البيانات الشخصية..

“الغارديان” : في كتابك.. تؤكدين أن معاملة مجتمعات السود هي مؤشر على ما سيأتي للمجتمعات الأخرى بشكل عام. ما أثر التكنولوجيا في هذا ؟

“روها” : يعد التفكير في كيفية التمييز، في حد ذاته، من المخاطر الكبيرة التي تهدد المجتمعات، طريقة واحدة لفهم كيفية نشر هذه الأنظمة في النهاية ضد العديد من الأشخاص، وليس فقط الهدف الأولي. هذا أحد الأشياء التي يمكننا رؤيتها باستخدام أنظمة التسجيل الرقمية الجديدة هذه – هذه الشركات التي لا تنظر فقط إلى مخاطرة الشخصية الخاصة بك، ولكن أيضًا الوسائط الاجتماعية والأشخاص الذين تتصل بهم. إذا تخلف شخص تعرفه عن سداد قرض، فقد يؤثر ذلك عليك. في الواقع، أرى أن دمج وجمع المزيد من البيانات يمكن أن يكون أكثر ضررًا على حياة الناس.

“الغارديان” : ما الدور الذي يمكن أن تلعبه التشريعات أو اللوائح في تغيير هذا الإتجاه ؟

“روها” : أنا شخصيًا أشك قليلاً في أن إصدار قانون يمكن أن يكون عنصرًا رئيسًا في تحقيق تقدم أكثر أهمية؛ لأن الناس يحتفلون قبل الآوان، حتى لو لم يحدث الكثير من التغييرات.

لكنني أعتقد بشكل متزايد أن التشريع له دور يلعبه. حتى لو كان قانون معين مجرد تنظيم في دولة ما، أو دولة واحدة في “أوروبا”، فقد يكون فعالًا للغاية؛ لأنه إذا كانت هذه الشركات ترغب في طرح التقنيات على مستوى عالمي، وبعد ذلك تجد أنها يتعين عليها تغيير شيء ما لسلطة قضائية معينة، يمكن أن يكون عقبة. تعتبر العناصر الأخرى، مثل الحماية على مستوى الدولة للمبلغين عن المخالفات، أمرًا حيويًا، لأنه كان هناك انتقام من العمال في شركات التكنولوجيا هذه.

أنظمة الـ”جيم كرو”..

“الغارديان” : تحظى مجموعات اختبار “الحمض النووي”، في المنازل، بشعبية متزايدة، ويعد “فحص الغينوميات” أكثر شيوعًا أيضًا. هل تشعرين بالقلق إزاء كيفية استخدام التقنيات وتصنيعها ؟

“روها” : لقد قمنا بمراجعة غير رسمية لثلاث شركات لاختبار “الحمض النووي”؛ عندما كنت في مرحلة ما بعد الدكتوراه في جامعة “كاليفورنيا”. كانت النتائج التي عدناها مختلفة تمامًا عبر الشركات الثلاث، بسبب بياناتها المرجعية. تتمتع هذه الشركات بالوصول إلى بياناتنا، والتي يمكنهم شراءها وبيعها لشركات أخرى، وهناك عدد قليل جدًا من الضمانات التنظيمية حول كيفية استخدام ذلك.

التشابه بين تلك التقنيات – مجموعات اختبار الحمض النووي، الذكاء الاصطناعي، التعلم الآلي – هو أن البيانات المرجعية تشكل الكثير من التنبؤ. يجب أن نسأل كيف تم تجميعها !.

“الغارديان” : أنتِ تسمين هذه الأنظمة بـ”Jim Code” الجديد، هل تتمنين أن تبني هذه الأنظمة على قواعد “جيم كرو” ؟

“روها” : إذا كان “جيم كرو” الأصلي يدور حول تصميم الفصل العنصري، لكنه كان يدور حول الحفاظ على التسلسل الهرمي للمكانة. و”جيم كرو” هو إصطلاح أصبح شائع الاستخدام في الغرب، في ثمانينيات القرن التاسع عشر الميلادي، عندما صار الفصل الاجتماعي مشروعًا في كثير من الأجزاء الجنوبية لـ”الولايات المتحدة”.

يُشير المصطلح، أصلاً، إلى شخصية سوداء البشرة في أغنية شعبية تم تأليفها، عام 1830م. طالبت القوانين بفصل الأعراق في كثير من الأماكن العامة. ولكن أُعلن عن عدم شرعية أغلب هذه القوانين في “الولايات المتحدة”، وذلك بموجب قرارات أصدرتها محاكم عليا متعددة في خمسينيات وستينيات القرن العشرين الميلادي، وقوانين الحقوق المدنية لعام 1964 و1968.

ينظر كثير من الناس إلى مستويات عالية من العزل – التي لا تزال قائمة – ونادرًا ما يتساءلون عن كيفية تصميمها، ولكن بدلاً من ذلك يضعونها في الصور النمطية للأشخاص الكسولين الذين لا يقدرون التعليم، وجميع أنواع السرد على هذا المنوال. عندما نفكر في “جيم كرو” الجديد، فأنا أشير إلى أشياء مثل التحقيق من “ProPublica”، حيث يمكن للشركات وضع علامات في مربعات تقول، أنت لا تريد من السود رؤية العقارات التي تعلن عنها، وهو الإعلان الذي أثار جدلًا كبيرًا على الـ (فيس بوك)، في وقت سابق من هذا العام، حيث قضت المحاكم الأميركية ضد هذا الاستهداف الإعلاني التمييزي وغيره.

من جنون العظمة إلى السلطة !

“الغارديان” : إلى أي مدى تعتقدين أن الناس يواجهون مشكلات حول “الإنحياز الخوارزمي” أو الأنظمة الآلية ؟

“روها” : منذ أن بدأت العمل في هذا الكتاب، منذ ما يزيد قليلاً عن عامين، رأيت تحولًا كبيرًا في لهجة المحادثة حول التكنولوجيا. تم تحفيز جزء من ذلك على (Facebook) و(Cambridge Analytica) والانتخابات الأميركية.

يدرك المزيد والمزيد من الناس أن فكرة التكنولوجيا الكبيرة القادمة تنقذنا، لقد تم تفكيكها حقًا. جزء منه يتحول إلى نوع من جنون العظمة حول التكنولوجيا إلى ما يحب زملائي النشطاء أن يقولوه: من جنون العظمة إلى السلطة.

“الغارديان” : هل يمكن أن توفر قوة عاملة أكثر تنوعًا في “وادي السيليكون” حلاً لهذه المشكلات ؟

“روها” : يعد التنوع في “وادي السيليكون” أمرًا مهمًا، لكنه لن يتصدى تلقائيًا للتحيز الحسابي. ما لم يتم تمكين كل هؤلاء الأشخاص المتنوعين لتحدي عمليات التصميم التمييزية، فإن التنوع يعد خدعة. نحتاج إلى إصلاح كامل لهياكل الشركات الكبرى، وبالتأكيد لا يمكننا الانتظار حتى يصبح “وادي السيليكون” أكثر تنوعًا قبل تطبيق قواعد يجب أن تسير وفقًا لها كبريات شركات التكنولوجيا.