भारतात अश्लील अन् हिंसक कंटेंटला लगाम; मेटाकडून Instagram च्या रिकमेंडेशन सिस्टीममध्ये बदल 'एआय'ने बनविलेली प्रातिनिधिक प्रतिमा
राष्ट्रीय

भारतात अश्लील अन् हिंसक कंटेंटला लगाम; मेटाकडून Instagram च्या रिकमेंडेशन सिस्टीममध्ये बदल

नको असलेला कंटेंट युजर्सपर्यंत पोहोचण्यापूर्वीच ओळखण्यासाठी अधिक प्रगत कृत्रिम बुद्धिमत्ता (AI) मॉडेल्सची मदत घेतली जाणार आहे.

किशोरी घायवट-उबाळे

नवी दिल्ली : इन्स्टाग्रामवर रील्स स्क्रोल करताना किंवा पोस्ट पाहताना अनेकदा नको असलेला अश्लील अथवा हिंसक कंटेंट समोर येतो. आता अशा कंटेंटपासून युजर्सची सुटका करण्यासाठी मेटाने महत्त्वाचे पाऊल उचलले आहे. भारतातील इन्स्टाग्राम युजर्सना लैंगिकदृष्ट्या सूचक आणि हिंसक स्वरूपाच्या पोस्ट कमी प्रमाणात दिसाव्यात, यासाठी कंपनीने आपल्या कंटेंट रिकमेंडेशन सिस्टीममध्ये बदल केले आहेत. विशेष म्हणजे, नको असलेला कंटेंट युजर्सपर्यंत पोहोचण्यापूर्वीच ओळखण्यासाठी अधिक प्रगत कृत्रिम बुद्धिमत्ता (AI) मॉडेल्सची मदत घेतली जाणार आहे.

रील्स, एक्सप्लोर आणि फीडमध्ये होणार बदल

मेटाने दिलेल्या माहितीनुसार, हे बदल भारतातील युजर्सने फॉलो न केलेल्या अकाउंट्सवरील शिफारस केलेल्या पोस्टसाठी लागू असतील. इन्स्टाग्रामच्या रील्स, एक्सप्लोर आणि फीड या तिन्ही विभागांमध्ये आता अशा कंटेंटच्या शिफारशी कमी केल्या जाणार आहेत. म्हणजेच, युजर्सने स्वतःहून फॉलो न केलेल्या अकाउंट्सवरील आक्षेपार्ह पोस्ट त्यांच्या फीडमध्ये दिसण्याचे प्रमाण कमी होईल.

एआय आधीच ओळखणार आक्षेपार्ह कंटेंट

या बदलांचा महत्त्वाचा भाग म्हणजे प्रगत एआय मॉडेल्सचा वापर. ही मॉडेल्स इन्स्टाग्रामच्या कंटेंट शिफारस मार्गदर्शक तत्त्वांनुसार पोस्टचे मूल्यांकन करतील. त्यामुळे युजर्सने एखादी पोस्ट रिपोर्ट करण्याची किंवा लपवण्याची वाट न पाहता संभाव्य आक्षेपार्ह कंटेंट आधीच ओळखता येईल. अशा पोस्टचा प्रसार मर्यादित करण्यावर कंपनीचा भर आहे.

मेटाच्या म्हणण्यानुसार, लैंगिकदृष्ट्या सूचक कंटेंट आणि हिंसाचाराच्या पोस्टसह अशा प्रकारच्या अधिकाधिक पोस्ट शिफारसींमधून वगळल्या जात आहेत. कंपनीने असेही सांगितले की, कंटेंट शिफारशींबाबत युजर्सकडून येणाऱ्या तक्रारींचे प्रमाण वर्षभरापूर्वीच्या तुलनेत निम्म्यावर आले आहे. मात्र, हा आकडा मोजण्याची पद्धत किंवा फिल्टर केलेल्या कंटेंटचे नेमके प्रमाण कंपनीने स्पष्ट केलेले नाही.

सरकारी सूचनांनंतर मेटाचा बदल?

दरम्यान, भारतात सोशल मीडिया प्लॅटफॉर्मच्या कंटेंट शिफारस प्रणालीवर नियामक संस्थांचे लक्ष वाढले आहे. इलेक्ट्रॉनिक्स आणि माहिती तंत्रज्ञान मंत्रालयाने १० ऑक्टोबर रोजी जारी केलेल्या सूचनांमध्ये मेटाला आपल्या कंटेंट क्रमवारी आणि शिफारस प्रणालीचा आढावा घेण्यास सांगितले होते. दिशाभूल करणारा, फेरफार केलेला किंवा मूळ संदर्भापासून वेगळा करून दाखवलेला कंटेंट मोठ्या प्रमाणावर प्रसारित होऊ नये, याची खबरदारी घेण्याचे निर्देश देण्यात आले होते. मात्र, इन्स्टाग्राममधील सध्याचे बदल या सरकारी सूचनांशी संबंधित आहेत की नाहीत, याबाबत मेटाने स्पष्ट भूमिका मांडलेली नाही.

कंटेंट हटवणार की फक्त सुचवलेल्या पोस्ट कमी करणार?

इन्स्टाग्रामच्या कंटेंट शिफारस प्रणालीचे नियम आणि कम्युनिटी स्टँडर्ड्स या दोन वेगवेगळ्या गोष्टी आहेत. कम्युनिटी स्टँडर्ड्सचे उल्लंघन करणाऱ्या पोस्ट प्लॅटफॉर्मवरून हटवल्या जातात. मात्र, काही पोस्ट संवेदनशील किंवा आक्षेपार्ह असल्या, तरी त्या नियमांचे उल्लंघन करत नसतील तर त्या इन्स्टाग्रामवर उपलब्ध राहू शकतात. अशा पोस्ट युजर्सना मोठ्या प्रमाणावर सुचवल्या जाणार नाहीत.

म्हणजेच, मेटाने अशा सर्व कंटेंटवर बंदी घातलेली नाही. तर युजर्सपर्यंत त्याचा प्रसार कमी करण्यासाठी रिकमेंडेशन सिस्टीममध्ये सुधारणा केली आहे.

युजर्सनाही मिळणार कंटेंटवर नियंत्रण ठेवण्याचे पर्याय

इन्स्टाग्रामवर केवळ कंपनीच्या स्तरावरच नव्हे, तर युजर्सनाही स्वतःच्या आवडीनुसार कंटेंट नियंत्रित करण्यासाठी काही सुविधा देण्यात आल्या आहेत.

  • सेन्सिटिव्ह कंटेंट कंट्रोल : या सुविधेमुळे युजर्सना संवेदनशील कंटेंट कमी प्रमाणात पाहण्याचा पर्याय निवडता येतो. याचा परिणाम सर्च, रील्स, एक्सप्लोर, सुचवलेली अकाउंट्स आणि फीडमधील शिफारसींवर होतो.

  • नॉट इंटरेस्टेड : एखादी पोस्ट आवडली नाही किंवा ती पुन्हा पाहायची नसेल, तर हा पर्याय निवडून इन्स्टाग्रामला त्याबाबत कळवता येते.

  • हिडन वर्ड्स : या सुविधेमुळे कमेंट्स आणि मेसेज रिक्वेस्टमधील निवडक शब्द, वाक्ये आणि इमोजी फिल्टर करता येतात.

  • ब्लॉक सुविधा : एखाद्या विशिष्ट अकाउंटला आपले प्रोफाइल शोधण्यापासून, पोस्ट पाहण्यापासून किंवा मेसेज पाठवण्यापासून रोखता येते. संबंधित व्यक्तीने नवीन अकाउंट तयार केले तरी त्यावरही निर्बंध लागू होऊ शकतात.

किशोरवयीन मुलांसाठीही विशेष सुरक्षा

कमी वयाच्या युजर्ससाठी इन्स्टाग्रामने 'टीन अकाउंट्स' ही सुविधा उपलब्ध करून दिली आहे. भारतात गेल्या वर्षी सुरू झालेल्या या सुविधेमध्ये किशोरवयीन मुलांसाठी वयानुसार अतिरिक्त सुरक्षा उपाय आहेत. यामध्ये १३ वर्षे आणि त्यावरील वयोगटाला अनुरूप कंटेंट सेटिंग आपोआप लागू होते. त्यामुळे तरुण युजर्सना संभाव्य हानिकारक कंटेंटपासून दूर ठेवण्याचा प्रयत्न केला जातो.

दरम्यान, युजर्सच्या प्रतिक्रिया आणि त्यांच्या आवडीनिवडी लक्षात घेऊन कंटेंट शिफारस प्रणालीत पुढेही सुधारणा केल्या जातील, असे मेटाने स्पष्ट केले आहे. त्यामुळे आगामी काळात इन्स्टाग्रामवर कोणत्या प्रकारच्या पोस्ट आणि रील्स दिसतात, यामध्ये बदल होण्याची शक्यता आहे.

(इंग्रजी बातमी वाचण्यासाठी येथे क्लिक करा.)

Mumbai : विरार-चर्चगेट लोकलमध्ये राडा; दोन प्रवाशांच्या भांडणात भिरकावलेला चाकू लागून भलताच प्रवासी जखमी, आरोपी अटकेत

उत्तराखंडमध्ये भीषण अपघात! पुलावरून बस थेट १०० मीटर खोल दरीत कोसळली; ८ जणांचा मृत्यू, २६ जखमी

कचऱ्यावर प्रक्रिया करा वा पैसे भरा! पात्र बल्क वेस्ट जनरेटर्ससाठी प्रतिमहिना २३५ रुपये प्रस्तावित; मुंबई महापालिकेची माहिती

Nashik : निफाड तालुक्यात थंडीचा कडाका वाढला; ओझरमध्ये १०.५ अंश तापमान

५० टक्के जागा वाढवल्यास मतदारसंघ फेररचनेला पाठिंबा; राष्ट्रवादी पवार गटाचा पुनरुच्चार