सोशल मीडिया पर महिलाओं से अभद्रता संबंधित पोस्ट की पहचान और रिपार्ट करने के लिए आईआईटी रुड़की की एल्युमिनस ने विकसित किया एल्गोरिथम

रुड़की,  कोविड-19 लॉकडाउन में महिलाओं के खिलाफ ऑनलाइन उत्पीड़न और घरेलू हिंसा के मामलों में तेजी देखी गई, क्योंकि लोग इंटरनेट पर अधिक समय बिता रहे हैं। एक वेब फाउंडेशन सर्वेक्षण के अनुसार 52% युवा महिलाओं और लड़कियों ने स्वीकार किया है कि उन्हें ऑनलाइन दुर्व्यवहार का सामना करना पड़ा है, जिसमें धमकी भरे संदेश, यौन उत्पीड़न और बिना सहमति के निजी तस्वीरों को शेयर करने जैसी वारदातें शामिल हैं। महिलाओं के लिए ऑनलाइन प्लेटफार्म्स को सुरक्षित बनाने के प्रयास में मशीन लर्निंग एक्सपर्ट व भारतीय प्रौद्योगिकी संस्थान (आईआईटी) रुड़की की एल्युमिनस रिची नायक ने एक एल्गोरिथम  विकसित किया है जो सोशल मीडिया प्लेटफार्मों पर महिलाओं से अभद्रता संबंधित पोस्ट की पहचान और रिपार्ट करता है।सामाजिक समस्याओं को सुलझाने के लिए किए गए इस शोध में साइंस, टेक्नोलॉजी, इंजीनियरिंग और गणित (STEM) की ज्ञान का उपयोग किया गया है। महिलाओं के जीवन को उज्जवल बनाने की दिशा में यह उनका अभिनव प्रयास है।रिची मशीन लर्निंग के अपने अनुभव का इस्तेमाल किसी सामाजिक समस्याओं को सुलझाने के लिए करना चाहती थीं। उन्होंने महसूस किया कि सोशल प्लेटफॉर्म्स पर महिलाओं को लेकर की जा रही अभद्र टिप्पणी और अपमानजनक कंटेंट का पता लगाने से महिलाओं के लिए ऑनलाइन प्लेटफॉर्म को ज्यादा सुरक्षित बनाया जा सकता है। जिसके बाद उन्होंने अपने सहयोगी मो. अब्दुल बशर के साथ मिलकर एक एल्गोरिथ्म विकसित किया और उसे इस तरह ट्रेन किया है कि वह सोशल मीडिया पोस्ट के कंटेंट, कॉन्टेक्स्ट और इंटेंट को समझ सके।ऑस्ट्रेलिया के क्वींसलैंड यूनिवर्सिटी ऑफ टेक्नोलॉजी में कंप्यूटर साइंस की प्रोफेसर रिची नायक ने कहा, “छोटी उम्र से ही मेरी दिलचस्पी गणित में रही है। आईआईआई रुड़की में पोस्ट-ग्रेजुएशन के दौरान मशीन लर्निंग के क्षेत्र से परिचित कराने के लिए मैं अपने दिवंगत सुपरवाइजर प्रो. जेडी शर्मा को को धन्यवाद देती हूं। मुझे आईआईटी रुड़की के विशेषज्ञ शिक्षाविदों के सान्निध्य में मार्गदर्शन और परामर्श प्राप्त करने का सौभाग्य मिला, जिसमें स्वर्गीय प्रो. जीसी नायक, प्रो. सी. मोहन और प्रो. जेएल गैंधर शामिल थे। सामाजिक समस्याओं के समाधान के लिए अनुसंधान में अपना करियर बनाने के लिए मुझे प्रेरित करने में उनकी महत्वपूर्ण भूमिका थी।”उनका यह शोध विकिपीडिया जैसे डेटासेट के साथ मॉडलों के प्रशिक्षण पर केंद्रित है। जिसके बाद यूजर रिव्यू डेटा के माध्यम से इसे कुछ हद तक अपमानजनक भाषा से संबंधित ट्रेनिंग दी गई है। इसने ट्वीट के एक बड़े डेटासेट पर भी मॉडल को ट्रेनिंग दिया है। भाषा समझने की क्षमता से लैस करने के अलावा, शोधकर्ताओं ने इसे गलत और सही ट्वीट के बीच अंतर करना भी सिखाया है।उनक यह शोध सोशल मीडिया प्लेटफॉर्म्स पर  उत्पीड़न संबंधी कंटेंट का स्वचालित रूप से पता लगाने और उसे रिपोर्ट करने की दिशा में उठाया गया एक महत्वपूर्ण कदम है। अभी तक उत्पीड़न के संदिग्ध केस को यूजर द्वारा ही रिपोर्ट किया जाता था।आईआईटी रुड़की के निदेशक प्रो. अजीत के. चतुर्वेदी ने कहा, “मुझे खुशी है कि आईआईटीआर की एल्युमिनस द्वारा सह-विकसित प्रौद्योगिकी का उपयोग सोशल मीडिया पर महिलाओं के साथ हो रहे उत्पीड़न को स्वचालित रूप से चिह्नित करने के लिए किया जा सकता है। मुझे आशा है कि इस तरह के संदिग्ध पोस्ट का पता लगाने से सोशल मीडिया और ऐसे प्लेटफॉर्म्स पर महिलाओं के प्रति जिस तरह से व्यवहार किया जा रहा है उसमें सुधारात्मक बदलाव आएगा।” वर्ष 2017 के प्यू रिसर्च सेंटर (Pew Research Centre) के एक सर्वे के अनुसार 39% महिलाएं किसी न किसी रूप में ऑनलाइन उत्पीड़न का शिकार हुई हैं। भारत में, सिमेंटेक द्वारा कराए गए नॉर्टन सर्वे के अनुसार, 10 में से 8 भारतीय किसी न किसी रूप में उत्पीड़न का शिकार हुए हैं। वहीं, 41% महिलाओं ने माना कि उन्हें ऑनलाइन यौन उत्पीड़न का सामना करना पड़ा है।