फेसबुक पर नहीं वायरल होंगे अश्लील फोटो और वीडियो, कम्पनी ने तैयार किया एआई टूल

सोशल मीडिया प्लेटफार्म पर यौन उत्पीड़न के बढ़ते मामलों को रोकने के लिए फेसबुक ने आर्टिफिशियल इंटेलिजेंस तकनीक का इस्तेमाल कर एक ऐसा टूल तैयार किया है, जो खूद अश्लील फोटो और वीडियो को ढूंढेगा और उन्हें डिलीट भी करेगा। यह टूल खासतौर पर बदला लेने की मंशा से पोस्ट की गई अश्लील तस्वीरों को वायरल होने से रोकने में मदद करेगा। कम्पनी का दावा है कि यह मशीन लर्निंग टूल सुनिश्चित करेगा कि पोस्ट बदला लेने की भावना से अपलोड किया गया है या नहीं, और पोस्ट गलत पाए जाने पर उसे खूद डिलीट कर देगा। कम्पनी का कहना है कि इस तरह के पोस्ट से पीड़ित लोगों के लिए सबसे पहले जरूरी है कि कंटेंट मोडरेटर से रिव्यू करने से पहले ही इन्हें प्लेटफार्म से डिलीट किया जा सके। कम्पनी ने लोगों को यह भी सुझाव दिया है कि वो अपने अंतरंग तस्वीरें साझा करें, जिससे यह सुनिश्चित किया जा सके कि यह टूल वाकई अनधिकृत अपलोड को पहचानने में सक्षम है या नहीं। फेसबुक के डेटा लीक विवादों में आने के बाद कोई भी यूजर अपनी अंतरंग तस्वीरें कंपनी के साथ साझा करने में दिलचस्पी नहीं दिखा रहा है। फेसबुक द्वारा प्लेटफार्म से अश्लील सामाग्री से छुटकारा पाने के लिए नवीनतम प्रयास है क्योंकि कंटेंट मोडरेटर का दावा था कि इस तरह की चीजों से लोगों को मानसिक प्रताड़ना से गुजरना पड़ता है। इस बारे में एक साइबर एक्सपर्ट का कहना है कि फेसबुक इस टूल को ह्यूमन फिल्टर के तर्ज पर इस्तेमाल करेगा जो अश्लील कंटेंट को वायरल होने के रोक सके। फेसबुक का यह मशीन लर्निंग टूल आपत्तिजनक चीजों को ढूंढकर उन्हें ऑटोमैटिक डिलीट कर देगा उसके बाद इसे अन्य लोगों को रिव्यू करने के देगा। फेसबुक का यह मशीन लर्निंग टूल आपत्तिजनक चीजों को ढूंढकर उन्हें ऑटोमैटिक डिलीट कर देगा उसके बाद इसे अन्य लोगों को रिव्यू करने के देगा। फेसबुक अश्लील कंटेंट के मामलों को लेकर कई बार यूजर्स के विरोध का शिकार हो चुका है जिसे देखते हुए कम्पनी ने इस टूल को बनाने का फैसला लिया। इस तकनीक का इस्तेमाल फेसबुक के साथ इंस्टाग्राम जैसे ऐप पर भी करेगी, जहां आपत्तिजनक कंटेंट के वायरल होने का खतरा बना रहता है।