يجبر الفيروس التاجي عمالقة التكنولوجيا على القيام برهان محفوف بالمخاطر على الذكاء الاصطناعي
لطالما كانت أدوات تعلُم الآلة هي المشرف المثالي على المحتوى لكل من Facebook و Google و Twitter - لكن COVID-19 تفرض استخدامها قبل أن تصبح جاهزة
اليوم ، دعنا نتحدث عن بعض العاملين في الخط الأمامي في Facebook و Google الذين يعملون في مكافحة الوباء: مشرفو المحتوى الذين يحافظون على تشغيل الموقع يومًا بعد يوم. مثل معظم القصص عن مشرفي المحتوى ، إنها حكاية حول المقايضات الصعبة. والإجراءات التي اتخذها فيسبوك ويوتيوب خلال الأيام القليلة الماضية سيكون لها آثار مهمة على مستقبل الشركة.
أولاً ، مع ذلك ، بعض التاريخ.
في البداية ، كان الإشراف على المحتوى على الشبكات الاجتماعية يمثل مشكلة تجارية: دع العري والنازيين ينهار المجتمع. في وقت لاحق ، كانت مشكلة قانونية وتنظيمية: على الرغم من الحماية التي يوفرها القسم 230 ، فإن الشركات ملزمة قانونًا بإزالة الدعاية الإرهابية ، وصور الاعتداء على الأطفال ، وأشكال أخرى من المحتوى. نظرًا لأن خدمات مثل YouTube و Facebook زادت قواعد المستخدمين بالمليارات ، أصبح الإشراف على المحتوى يمثل مشكلة أكبر: كيف تراجع ملايين المشاركات يوميًا التي يتم الإبلاغ عنها بسبب انتهاك سياساتك؟
كان الحل ، كما بحثت العام الماضي في سلسلة من المقالات ، هو الاستعانة بمصادر خارجية لشركات استشارية كبيرة. في أعقاب انتخابات عام 2016 ، التي كشفت عن عجز في المشرفين على المحتوى في جميع الشبكات الاجتماعية الكبيرة ، قامت شركات التكنولوجيا بتوظيف عشرات الآلاف من المشرفين حول العالم من خلال شركات بما في ذلك Accenture و Cognizant و Genpact. هذا ، على الرغم من ذلك ، خلق مشكلة خصوصية. عندما يعمل المشرفون في المنزل ، يمكنك تطبيق عناصر تحكم صارمة على أجهزة الكمبيوتر الخاصة بهم لمراقبة الوصول إلى بيانات المستخدم. عندما تعمل لصالح أطراف ثالثة ، فإن بيانات المستخدم تكون في خطر أكبر بكثير للتسرب إلى العالم الخارجي.
بشكل عام ، لم تحظ قضايا الخصوصية المحيطة بتعيين الوسطاء باهتمام كبير من الصحفيين مثلي. (بدلاً من ذلك ، كنا نولي اهتمامًا لظروف عملهم الفظيعة بشكل عام وحقيقة أن مجموعة فرعية من العمال يعانون من اضطراب ما بعد الصدمة من الوظيفة). ولكن داخل شركات التكنولوجيا ، ازدادت المخاوف بشأن تسرب البيانات بقوة. بالنسبة إلى Facebook على وجه الخصوص ، نشأ رد الفعل الانتخابي لما بعد عام 2016 جزئيًا بسبب مخاوف تتعلق بالخصوصية - بمجرد أن علم العالم كيف تعتزم Cambridge Analytica استخدام المعلومات المستمدة من استخدام الأشخاص على Facebook ، انخفضت الثقة في الشركة بسرعة.
لهذا السبب تم تصميم مواقع الإشراف على المحتوى الاستعانة بمصادر خارجية لكل من Facebook و YouTube كغرف آمنة. يمكن للموظفين العمل فقط في "طوابق الإنتاج" المحددة التي يجب عليهم وضع شارة عليها داخل وخارج. لا يُسمح لهم بإدخال أي أجهزة شخصية ، خشية أن يلتقطوا صورًا سرية أو يحاولون تهريب البيانات بطريقة أخرى. يمكن أن يؤدي ذلك إلى إحداث فوضى للعمال - غالبًا ما يتم فصلهم بسبب إحضار الهواتف دون قصد إلى طابق الإنتاج ، وقد اشتكى الكثير منهم لي من الطريقة التي يفصل بها الفريق عن شبكات الدعم الخاصة بهم خلال النهار. ولكن لم تكن أي شركة مستعدة لتخفيف هذه القيود خوفًا من أزمة العلاقات العامة التي قد تؤدي إلى فقدان بيانات رفيعة المستوى.
إلى الأمام بسرعة اليوم ، عندما ينتشر الوباء في جميع أنحاء العالم بسرعة مخيفة. ما زلنا بحاجة إلى العديد من المشرفين الذين يعملون على مراقبة الشبكات الاجتماعية ، إن لم يكن أكثر - من الواضح أن الاستخدام يتزايد. إذا أحضرتهم إلى طابق الإنتاج لمواصلة العمل بشكل طبيعي ، فمن المؤكد أنك تساهم في انتشار المرض. ومع ذلك ، إذا سمحت لهم بالعمل من المنزل ، فأنت تدعو في كارثة خصوصية في وقت يكون فيه الأشخاص (وخاصة المرضى) شديد الحساسية تجاه إساءة استخدام بياناتهم الشخصية.
لنفترض أنك Facebook. ماذا تفعل؟
حتى يوم الاثنين ، كان الجواب يشبه إلى حد كبير العمل كالمعتاد. كشف سام بيدل القصة في The Intercept الأسبوع الماضي. (بالمناسبة ، المنشور الذي يخطئ في الغالب عن الواجهة.)
تكشف المناقشات من منتدى الموظفين الداخليين على Facebook الذي استعرضته The Intercept حالة من الارتباك والخوف والاستياء ، حيث ذكر العديد من العاملين بعقود عمل غير مستقرين أنهم على عكس تصريحاتهم من Facebook ، فإنهم يمنعون من العمل من المنزل ، على الرغم من الجدوى التقنية والفوائد الصحية العامة الواضحة للقيام بذلك.
تركز المناقشات على مقاولي Facebook الذين تستخدمهم Accenture و WiPro في مرافق في أوستن ، تكساس ، وماونتن فيو ، كاليفورنيا ، بما في ذلك مكتبان على Facebook. (في ماونتن فيو ، تم بالفعل الإعلان عن حالة طوارئ محلية على الفيروس التاجي.) شهد Intercept منشورات من ستة متعاقدين على الأقل يشكون من عدم قدرتهم على العمل من المنزل وتواصلوا مع اثنين آخرين من المقاولين مباشرة حول هذه المسألة. قال أحد موظفي Accenture لـ The Intercept أنه تم إبلاغ فريقهم بالكامل المكون من أكثر من 20 مقاولًا أنه لا يُسمح لهم بالعمل من المنزل لتجنب العدوى.
في الإنصاف ، كان Facebook أبعد ما يكون عن وحده في عدم نشر خطة كاملة لمقاوليها يوم الخميس الماضي. لا تزال بعض الشركات الأمريكية تناقش ما يجب فعله بقوى العمل بدوام كامل هذا الأسبوع. ولكن كما يلاحظ بيدل.
الإبتساماتإخفاء