تود شركات التكنولوجيا التحدث عن التغييرات الحميدة الضخمة التي ستجلبها منتجاتها. ويمكننا أخذ Facebook  كمثال فمهمته "إعطاء الناس القدرة على بناء المجتمع وتقريب العالم معا"، أو Google ، التي تريد "تنظيم معلومات العالم وجعلها في متناول الجميع ومفيدة". وتأمل مايكروسوفت في "تمكين كل شخص وكل منظمة على هذا الكوكب من تحقيق المزيد". حتى Snapchat ، الذي يفتح سيرة الشركة الخاصة بها مع الادعاء المتواضع بأن "Snap Inc هي شركة للكاميرات فقط ، وتقول نحن نساهم في التقدم البشري من خلال تمكين الناس من التعبير عن أنفسهم ، والعيش وتسجيل هذه اللحظة، والتعرف على العالم والاستمتاع به معا ".

وتوضح مثل هذه التصريحات حجم الطموح الذي هو القاعدة بين أكبر شركات التكنولوجيا، ومع ذلك فمن النادر العثور على الكثير من الوقت أو الجهد المخصص للعواقب غير المخطط لها للتكنولوجيات الجديدة التي تضرب العالم. فهناك استثناءات؛ عندما استحوذت شركة Google على شركة AI DeepMind التي تتخذ من لندن مقراً لها في عام 2014 ، كان أحد متطلبات المؤسسين هو أن الشركة أنشأت مجلسًا للأخلاقيات، لضمان أن أي استخدام مستقبلي لهذه التكنولوجيا يحكمه مبادئ أخلاقية صارمة. وبعد عام من ذلك قاد إيلون موسك إنشاء مجموعة بحثية لمنظمة العفو الدولية OpenAI ، بحجة الحاجة إلى "تعزيز الذكاء الرقمي بالطريقة التي يُرجح أن تفيد البشرية ككل، دون الحاجة إلى توليد عائد مالي".

وتنشأ اضطرابات ضخمة في بعض الأحيان، من المنتجات والميزات التي لا تهدف إلى تغيير مسار الأحداث العالمية. فمثلا Facebook اتخذ قرار في عام 2017 ، لاختبار ما إذا كان وضع الأخبار في قسم منفصل عن الخلاصة - المسماة الآن بشكل مثير للسخرية - سيزيد من تفاعل المستخدمين. وبقيامها بذلك، ربما تكون الشركة قد أصيبت بشكل حاسم بالنظم الإيكولوجية المستقلة للإعلام في بعض الديمقراطيات النامية، مثل كمبوديا ، حيث اختبرت هذه الميزة. لكن هذا يتضاءل بالمقارنة مع الاتهام بأن الفيس بوك قد سمح عن غير قصد بالتطهير العرقي لأقلية الروهينجا في ميانمار. وشهدت المنصة الانتشار الفيروسي لـ "الأخبار المزيفة" والمجتمعات الحزبية المفرطة، ولكن دون وجود مجتمع مدني مستقر لتوفير قوة مضادة، وانفجرت البلاد في أعمال عنف.

ويحاول فيس بوك تجنب تكرار مثل هذا النوع من الأحداث، وكذلك الخروج قبل الأخبار السلبية مثل فضيحة كامبريدج أناليتيكا، وبعدها قام بإنشاء "فريق عمليات التحقيق" (IOT) ، لمحاولة اكتشاف انتهاكات منصته قبل حدوثها. ويعمل فريق من الباحثين والجواسيس السابقين مع الشركة "للتطلع إلى المستقبل ومعرفة ما هو قادم "، هذا ما صرحت به مديرة النزاهة في الأعمال التجارية في ليندا تالغو لموقع Buzzfeed قبل أسبوعين.

ولكنك لست بحاجة إلى الجلوس داخل مكتب مينلو بارك في فيسبوك للحصول على إحساس بالمشاكل التي ستضطر الشركة إلى خوضها في المستقبل القريب - أو أن القنبلة الموقوتة تقصف بقية الصناعة التي تجلس عليها أيضًا. لذا قمت بتجميع فريق عمليات التحقيق الخاص بي، من الأشخاص الذين كانوا يشاهدون الصناعة من بعيد، وسألهم عن التحذيرات التي سيحصلون عليها.

وكان الباحث في مجال الأمن Inti De Ceukelaire له سجل في اكتشاف المشاكل التي غاب عنها فيسبوك، وفي الشهر الماضي ، حث الشركة على إصلاح تسرب البيانات التي شهدت معلومات شخصية من 120 مليون مستخدم للتطبيق، ويقول إن مثل هذه القضايا لا تزال شائعة على الموقع، وعلى الرغم من أن الشركة تتسارع إلى فرض قيود على الجهات الفاعلة السيئة، إلا أنها تكتنفها الشكوك حول "شركاءها المختارين".

وقال "منع Facebook بشكل مؤقت مواقع مثل nametests.com  من العمل حتى تم إصلاح المشكلة، والتي استغرقت شهرين تقريبًا". "وعندما أطلقتُ وعيًا بشأن الخصوصية في كذبة ابريل، تم حظره في غضون بضع ساعات، وفي وقت لاحق تم حظر جميع النطاقات المرتبطة بي من Facebook". وبالمثل ، يحذر من أن الشركاء المحددين "لديهم امتيازات خاصة للوصول إلى البيانات (فهو ساعد في تأسيس احتكار فيسبوك أكثر: فليس من حقهم تحديد من يحصل على الوصول إلى البيانات ومن ليس كذلك).

ويعتبر توماس هاسون وهو محلل رئيسي في فورستر ، أنه حتى مع كل الاهتمام الذي يوليه القطاع لمنظمة العفو الدولية، فإنه لا يزال يشكل مخاطر. "إن استخدام الذكاء الاصطناعي والقدرة على انهائه العمليات سوف يثير الكثير من القضايا الأخلاقية. ويجب أن تتأكد المنصات الرقمية مثل Facebook أو Google أنها تتجنب التحيز والتمييز الضار. ستعمل التقنيات التي تعتمد على AI مثل التعرف على الوجه أو القياسات الحيوية على زيادة مخاوف المستهلكين من الخصوصية ".

ويشارك فريدريك كالثيونر من شركة الخصوصية العالمية في قلقه بشأن التعرف على الوجوه، حيث يحذر من أنه عندما تقلق الشركات حيال تداعيات التكنولوجيا، وسيؤدي التعرف على الوجوه في كل مكان إلى رقابة جماهيرية على مستوى الشارع ستؤذي بشكل غير متناسب الأشخاص الذين يواجهون بالفعل التمييز اليومي. ويجب على المجتمع المدني وغيره الاستمرار في مكافحة أنظمة التعرف على الوجوه الجماعية التي يتم نشرها في كاميرات الدوائر التلفزيونية المغلقة".

ويعد الخطر الأكبر على هذا القطاع هو على الأرجح المشكلة التي أثارت نوبة فيسبوك الحالية من القلق هى الثقة. حيث لا يمكنك الوثوق بفريق العلاقات العامة للشركة، خاصة إذا فشلت هذه الشركة في حماية بيانات الملايين من مستخدميها" ،وقول الشركة "إننا نتخذ خطوات في الاتجاه الصحيح، ولكن ذلك تأخر كثيرًا. إنها تحتاج إلى أن تسير بشكل أسرع وأن تكون أكثر شفافية ولا تأثرعلى العلاقات العامة. وهذا لا ينطبق فقط على Facebook ، بل ينطبق على كل شركة كبرى للتكنولوجيا". لكن المقياس الحقيقي للفريق لن يكون في المشاكل التي يكتشفونها، ولكن في السلطة عليهم تغيير خطط الشركة لتجنب حقول الألغام هذه - حتى لو كان الحرث المباشر قد يكون أكثر الطرق ربحًا. وإذا قامت IOT بعملها بشكل جيد ، فلن نسمع عنها مرة أخرى. وبالنسبة إلى Facebook ، قد يكون هذا أفضل نتيجة للجميع.