أصبح فشل تقنية التعرف على الوجه عند تطبيقها على أصحاب البشرة الملونة موثقاً وعرضة لانتقاد كبير، ولكن محاولات جوجل تحسين خوارزميات التعرف على الوجه عن طريق جمع بيانات من الأشخاص ذوي البشرة الداكنة يزيد من المخاوف المتعلقة بأخلاقيات جمع البيانات.

وفقاً لصحيفةNew York Daily News، تعتمد جوجل على متعاقدين من الباطن من أجل جمع بيانات الوجه للعامة مقابل بطاقات هدايا بقيمة 5 دولارات. وقد تناولت وسائل إعلامية مشروع جمع بيانات الوجه من قبل، ولكن مصادر مجهولة وصفت ممارسات جمع البيانات بغير الأخلاقية والخادعة.

ووفقاً للتقرير، تولت شركة التوظيف Randstad التعاقد مع العاملين من الباطن، ولكن تحت إشراف مديري جوجل، باستهداف الأشخاص ذوي «البشرة الداكنة» الذين قد يتحمسون لمسح بيانات وجههم مقابل بطاقة هدايا بقيمة 5 دولارات، بما في ذلك المشردون والطلبة.

وقال متعاقد سابق لصحيفة Daily News: «طلبوا منّا أن نستهدف المشردين لأنهم لن يتحدثوا إلى وسائل الإعلام على الأرجح. المشردون لم يعرفوا ماذا نفعل على أي حال». وقال متعاقد آخر: «أشعر أنهم طلبوا منّا افتراس الضعفاء».

كما وصف المتعاقدون استخدام وسائل مضللة لإقناع الأشخاص بالموافقة على مسح بيانات الوجه، بما في ذلك الوصف الخاطئ لعملية مسح بيانات الوجه ووصفها بـ»لعبة تصوير» أو «استطلاع»، والضغط على الأشخاص من أجل توقيع نموذج موافقة بدون قراءته، وإخفاء حقيقة تصوير مقاطع فيديو لوجه الأفراد موضع البحث بالهاتف الذي سُلّم إليهم «للعب به».

جوجل تدافع عن نفسها رغم إقرارها بالمخالفات

ورغم ذلك فقد دافعت جوجل عن المشروع ولكنها قالت إنها تحقق في مزاعم ارتكاب مخالفات، وفق صحيفةThe Guardianالبريطانية.

وقال المتحدث باسم جوجل في بيان: «نتعامل مع تلك الادعاءات بجدية ونحقق فيها. المزاعم المتعلقة بالمصداقية والموافقة تشكّل انتهاكاً لمتطلباتنا الخاصة للدراسات البحثية التطوعية والتدريبات التي نقدمها».

وأضاف المتحدث: «نهدف من خلال جمع عينات بيانات الوجه إلى تطوير التعلم الآلي لخاصية فتح الهاتف ببصمة الوجه في الهاتف الجديد من جوجل،Pixel4″.

وقال: «من الضروري أن يكون لدينا عينات متنوعة، وهذا جزء مهم من عملية تطوير منتج شامل». مضيفاً أن خاصية فتح الهاتف ببصمة الوجه سوف تقدم للمستخدمين «تدابير حماية قوية جديدة».

انتقادات مناهضي العنصرية

المشروع واجه انتقادات شديدة من المدافعين عن الحقوق المدنية ومناهضي العنصرية.

ويمس الجدل الدائر عدداً من الأسئلة الحساسة المتعلقة بتحيز الخوارزميات وخصوصية البيانات. هل من الأفضل تحسين تقنية التعرف على الوجه للأشخاص من كل ألوان البشرة أم حظر تطبيق التقنية بالكامل، كما فعلت عدد من المدن الأمريكية هذا العام؟ وما مقدار التعويض الكافي للمستخدمين الذين يزودون شركات مثل جوجل ببياناتهم الشخصية؟

قالت ماليكا سيريل، المؤسسة والمديرة التنفيذية لمركز MediaJustice، منظمة وطنية للعدالة العنصرية تعمل على النهوض بحقوق الإعلام والتقنية: «تشير الأبحاث بوضوح إلى أن تقنية التعرف على الوجه تخطئ في التعرف على الوجه ذي البشرة السوداء والبنية، إلا أن الهدف لا ينبغي أن يكون تحسين دقة هذا النظام شديد الانتهاك لخصوصيتنا».

في سياق التحيز العنصري الحالي في النظام الجنائي وفي مكافحة الإرهاب، لا ينبغي أن يكون هدف أي شخص جعل التقنية أسهل في الاستخدام ضد الأشخاص ذوي البشرة الملونة؛ وخصوصاً أصحاب البشرة الداكنة، والعرب والشرق أوسطيين والمسلمين وشعوب جنوب شرق آسيا والأشخاص الذين لا يحملون وثائق إثبات هوية».

وقال جاك سنو، المحامي في الاتحاد الأمريكي للحريات المدنية في شمال كاليفورنيا: «هذا الإجراء غير مقبول نهائياً من الجهة التي تعاقدت معها جوجل. لهذا السبب يجب تغيير طريقة تطوير الذكاء الصناعي التي نشهدها اليوم. ينبغي أن يكون الرد على تحيز الخوارزميات هو عدم استهداف الفئات الأكثر ضعفاً».

فيما قالت سيريل: «سواء كانت عنصرية لأنها دقيقة أو لأنها غير دقيقة، تقنيات التعرف على الوجه وأدوات القياس الحيوية بشكل عام تؤجج التحيز العنصري. لا تكفي أي مبالغ مالية أو أي موافقة قائمة على علم كامل لإنتاج تقنية ضعيفة التنظيم تستخدم بالفعل لانتهاك حقوق ملايين البشر».

وقال رشاد روبنسون، المدير التنفيذي لمنظمة Color of Change: «أساليب جوجل في استهداف الفئات الأكثر ضعفاً واحتياجاً تستحق الشجب والإدانة. من غير المقبول على الإطلاق وضع تسعيرة للبيانات الحيوية».

وأضاف: «برنامج التعرف على الوجه متحيز في ترميزه وبرمجته، ويُستخدم بشكل أساسي للتحكم بتحركاتنا وتحديد من ينتمي إلينا ومن لا ينتمي إلينا، في الأماكن العامة والخاصة. هذه التقنية خطيرة، خاصة لأصحاب البشرة السوداء، ولهذا السبب تتحرك منظمة Color Of Change من أجل إصدار حظر تشريعي كامل لتقنية التعرف على الوجه في جميع أنحاء البلاد. لا نحتاج إلى المزيد من التجارب التقنية، بل نحتاج إلى قرارات حكومية توقف هذا النمو غير المسؤول لتلك التقنية».