उसी दिन व्हिसलब्लोअर फ्रांसेस हौगेन 2021 के अंत में बच्चों को फेसबुक और इंस्टाग्राम के नुकसान के बारे में कांग्रेस के सामने गवाही दे रहे थे, सोशल मीडिया दिग्गज के एक पूर्व इंजीनियरिंग निदेशक, जो एक सलाहकार के रूप में कंपनी में फिर से शामिल हो गए थे, ने मार्क जुकरबर्ग को एक खतरनाक ईमेल भेजा। एक ही विषय के बारे में.
आर्टुरो बेज़ार, जो ऑनलाइन उत्पीड़न को रोकने में अपनी विशेषज्ञता के लिए जाने जाते हैं, ने मेटा सीईओ को इंस्टाग्राम के साथ अपनी बेटी के परेशान करने वाले अनुभवों के बारे में बताया। लेकिन उन्होंने कहा कि उनकी चिंताओं और चेतावनियों को अनसुना कर दिया गया। और मंगलवार को कांग्रेस के सामने गवाही देने की बारी बेजर की थी।
उन्होंने अमेरिकी सीनेटरों के एक पैनल से कहा, “मैं आज आपके सामने एक ऐसे पिता के रूप में उपस्थित हुआ हूं, जिसके पास एक ऐसे बच्चे का प्रत्यक्ष अनुभव है, जिसे इंस्टाग्राम पर अवांछित यौन संबंध मिले।”
बेजर ने 2009 से 2015 तक फेसबुक में इंजीनियरिंग निदेशक के रूप में काम किया और साइबरबुलिंग से निपटने के अपने काम से व्यापक ध्यान आकर्षित किया। उसने सोचा कि चीजें बेहतर हो रही हैं। लेकिन कंपनी छोड़ने और 2019 में एक ठेकेदार के रूप में लौटने के बीच, बेजर की अपनी बेटी ने इंस्टाग्राम का उपयोग करना शुरू कर दिया था।
उन्होंने मंगलवार को गवाही दी, “उसे और उसके दोस्तों को बार-बार अवांछित यौन उत्पीड़न, उत्पीड़न सहित भयानक अनुभव होने लगे।” “उसने कंपनी को इन घटनाओं की सूचना दी और उसने कुछ नहीं किया।”
2021 के नोट में, जैसा कि पहली बार वॉल स्ट्रीट जर्नल द्वारा रिपोर्ट किया गया था, बेजर ने इस बात के बीच एक “महत्वपूर्ण अंतर” को रेखांकित किया कि कंपनी कैसे नुकसान का सामना करती है और जो लोग इसके उत्पादों का उपयोग करते हैं – विशेष रूप से युवा लोग – इसका अनुभव कैसे करते हैं।
“दो सप्ताह पहले मेरी 16 वर्षीय बेटी और इंस्टाग्राम पर एक प्रयोगशील रचनाकार ने कारों के बारे में एक पोस्ट की थी, और किसी ने टिप्पणी की ‘रसोईघर में वापस जाओ।’ यह उसके लिए बहुत परेशान करने वाला था,” उन्होंने लिखा। “साथ ही, टिप्पणी नीति का उल्लंघन करने से बहुत दूर है, और ब्लॉक करने या हटाने के हमारे टूल का मतलब है कि यह व्यक्ति अन्य प्रोफाइल पर जाएगा और स्त्रीद्वेष फैलाना जारी रखेगा। मुझे नहीं लगता कि नीति/रिपोर्टिंग या अधिक सामग्री समीक्षा समाधान हैं।”
बेजर ने सोशल मीडिया और किशोर मानसिक स्वास्थ्य संकट के बारे में मंगलवार को सीनेट उपसमिति के समक्ष गवाही दी, जिसमें इस बात पर प्रकाश डालने की उम्मीद थी कि जुकरबर्ग सहित मेटा अधिकारियों को इंस्टाग्राम के कारण होने वाले नुकसान के बारे में पता था, लेकिन उन्होंने उन्हें संबोधित करने के लिए सार्थक बदलाव नहीं करने का फैसला किया।
उनका मानना है कि मेटा को उत्पीड़न, अवांछित यौन प्रगति और अन्य बुरे अनुभवों को संबोधित करने पर ध्यान देने के साथ अपने प्लेटफार्मों को नियंत्रित करने के तरीके को बदलने की जरूरत है, भले ही ये समस्याएं स्पष्ट रूप से मौजूदा नीतियों का उल्लंघन न करें। उदाहरण के लिए, बच्चों को अश्लील यौन संदेश भेजने से इंस्टाग्राम के नियमों का उल्लंघन नहीं होता है, लेकिन बेजर ने कहा कि किशोरों के पास मंच को यह बताने का एक तरीका होना चाहिए कि वे इस प्रकार के संदेश प्राप्त नहीं करना चाहते हैं।
बेजर ने एसोसिएटेड प्रेस (एपी) को बताया, “मैं सुरक्षित रूप से कह सकता हूं कि मेटा के अधिकारियों को पता था कि किशोरों को होने वाले नुकसान का सामना करना पड़ रहा है, कि ऐसी चीजें हैं जो वे कर सकते हैं और वे बहुत ही करने योग्य हैं और उन्होंने उन्हें नहीं करने का फैसला किया।” उन्होंने कहा, इससे यह स्पष्ट हो जाता है कि “हम अपने बच्चों के मामले में उन पर भरोसा नहीं कर सकते”।
मंगलवार को सुनवाई की शुरुआत करते हुए, कनेक्टिकट सीनेटर रिचर्ड ब्लूमेंथल, एक डेमोक्रेट जो सीनेट न्यायपालिका की गोपनीयता और प्रौद्योगिकी उपसमिति की अध्यक्षता करते हैं, ने बेज़ार को “उद्योग में व्यापक रूप से सम्मानित और प्रशंसित” इंजीनियर के रूप में पेश किया, जिसे विशेष रूप से बच्चों के खिलाफ नुकसान को रोकने में मदद करने के लिए काम पर रखा गया था, लेकिन जिसका सिफ़ारिशों को नज़रअंदाज कर दिया गया.
पैनल के रैंकिंग रिपब्लिकन, मिसौरी के सीनेटर जोश हॉले ने कहा, “आज आप इस समिति में जो लाए हैं वह कुछ ऐसा है जिसे हर माता-पिता को सुनना चाहिए।”
बेज़ार ने कंपनी द्वारा सावधानी से तैयार किए गए उपयोगकर्ता सर्वेक्षणों की ओर इशारा किया, जो उदाहरण के लिए, दिखाते हैं कि 13% इंस्टाग्राम उपयोगकर्ताओं – 13 से 15 वर्ष की आयु – ने पिछले सात दिनों में मंच पर अवांछित यौन प्रगति प्राप्त करने की सूचना दी है।
बेजर ने कहा कि उन्हें विश्वास नहीं है कि वे जिन सुधारों का सुझाव दे रहे हैं, वे मेटा और उसके साथियों के राजस्व या मुनाफे को महत्वपूर्ण रूप से प्रभावित करेंगे। उन्होंने कहा, उनका इरादा कंपनियों को दंडित करना नहीं है, बल्कि किशोरों की मदद करना है।
न्यूज़लेटर प्रमोशन के बाद
“आपने कंपनी को इसके बारे में बात करते हुए सुना: ‘ओह, यह वास्तव में जटिल है,” बेजर ने एपी को बताया। “नहीं, ऐसा नहीं है. बस किशोर को यह कहने का मौका दें: ‘यह सामग्री मेरे लिए नहीं है’ और फिर उस जानकारी का उपयोग अन्य सभी प्रणालियों को प्रशिक्षित करने और प्रतिक्रिया प्राप्त करने के लिए करें जो इसे बेहतर बनाती है।
यह गवाही बच्चों की ऑनलाइन सुरक्षा के उद्देश्य से नियमों को अपनाने के लिए कांग्रेस में द्विदलीय दबाव के बीच आई है।
मेटा ने एक बयान में कहा: “हर दिन मेटा के अंदर और बाहर अनगिनत लोग इस बात पर काम कर रहे हैं कि युवाओं को ऑनलाइन सुरक्षित रखने में कैसे मदद की जाए। उपयोगकर्ता धारणा सर्वेक्षणों के संबंध में यहां उठाए गए मुद्दे इस प्रयास के एक हिस्से को उजागर करते हैं, और इस तरह के सर्वेक्षणों ने हमें संभावित रूप से हानिकारक सामग्री की गुमनाम सूचनाएं और टिप्पणी चेतावनियों जैसी सुविधाएं बनाने के लिए प्रेरित किया है। माता-पिता और विशेषज्ञों के साथ काम करते हुए, हमने किशोरों और उनके परिवारों को ऑनलाइन सुरक्षित, सकारात्मक अनुभव प्राप्त करने में सहायता करने के लिए 30 से अधिक टूल भी पेश किए हैं। यह सब काम जारी है।”
उपयोगकर्ताओं द्वारा देखी जाने वाली अवांछित सामग्री के संबंध में जो इंस्टाग्राम के नियमों का उल्लंघन नहीं करती है, मेटा अपने 2021 “सामग्री वितरण दिशानिर्देशों” की ओर इशारा करता है जो कहता है कि “समस्याग्रस्त या निम्न-गुणवत्ता” सामग्री स्वचालित रूप से उपयोगकर्ताओं के फ़ीड पर कम वितरण प्राप्त करती है। इसमें क्लिकबेट, गलत सूचना जिसकी तथ्य-जांच की गई है और “बॉर्डरलाइन” पोस्ट शामिल हैं, जैसे कि “यौन रूप से विचारोत्तेजक तरीके से पोज़ देने वाले व्यक्ति की तस्वीर, भाषण जिसमें अपवित्रता, बॉर्डरलाइन घृणास्पद भाषण, या खूनी छवियां शामिल हैं”।
2022 में, मेटा ने “दयालुता अनुस्मारक” भी पेश किया जो उपयोगकर्ताओं को अपने प्रत्यक्ष संदेशों में सम्मानजनक होने के लिए कहता है – लेकिन यह केवल उन उपयोगकर्ताओं पर लागू होता है जो किसी निर्माता को संदेश अनुरोध भेज रहे हैं, नियमित उपयोगकर्ता पर नहीं।
आज की गवाही दर्जनों अमेरिकी राज्यों द्वारा युवा लोगों को नुकसान पहुंचाने और युवा मानसिक स्वास्थ्य संकट में योगदान देने के लिए मेटा पर मुकदमा दायर करने के ठीक दो सप्ताह बाद आई है। राज्य और संघीय अदालतों में दायर मुकदमों में दावा किया गया है कि मेटा जानबूझकर और जानबूझकर इंस्टाग्राम और फेसबुक पर ऐसे फीचर डिजाइन करता है जो बच्चों को उसके प्लेटफॉर्म की ओर आकर्षित करते हैं।
बेजर ने कहा कि यह “बिल्कुल आवश्यक” है कि कांग्रेस द्विदलीय कानून पारित करे ताकि “यह सुनिश्चित करने में मदद मिल सके कि इन नुकसानों के बारे में पारदर्शिता हो और किशोरों को सही विशेषज्ञों के सहयोग से मदद मिल सके”।
“सोशल मीडिया कंपनियों को विनियमित करने का सबसे प्रभावी तरीका उन्हें ऐसे मेट्रिक्स विकसित करने की आवश्यकता है जो कंपनी और बाहरी लोगों दोनों को नुकसान की घटनाओं का मूल्यांकन और ट्रैक करने की अनुमति देगा, जैसा कि उपयोगकर्ताओं द्वारा अनुभव किया गया है। यह इस बात की ताकत है कि ये कंपनियां क्या कर सकती हैं, क्योंकि उनके लिए डेटा ही सब कुछ है,” उन्होंने अपनी तैयार गवाही में लिखा।