'मी आयुष्य संपवतीये', मुलीने अपलोड केला व्हिडीओ, Facebook चा थेट पोलिसांना फोन, कसं काम करतं हे Feature

How Meta Suicide Prevention Tool Works: फेसबूक आपल्या युजर्सवर लक्ष ठेवतो का? हा प्रश्न अनेकवेळा उपस्थित करण्यात आला आहे. आता पुन्हा एकदा हा मुद्दा उपस्थित झाला आहे. कारण ठरलंय फेसबूकवर (Facebook) एका मुलीने शेअर केलेल्या व्हिडिओचं. एका अल्पवयीन मुलीने इन्स्टाग्रामवर (Instagram) एक व्हिडिओ पोस्ट केला होता. 

आत्महत्या (Suicide) करण्याच्या उद्देशाने एका अल्वपयीन मुलीने इन्स्टाग्रामवर व्हिडिओ टाकला. व्हिडिओत ती मुलगी आत्महत्येची तयारी करत असल्याचं दिसत होतं. ही माहिती मेटाच्या टीमने तात्काळ पोलिसांना कळवली. मध्य प्रदेशमधल्या भोपाळमधली (MP Bhopal) ही घटना आहे. भोपाळ पोलिसांनी तात्काळ त्या मुलीच्या घरी धाव घेतली. सुदैवाने आत्महत्या करण्यापूर्वीच पोलिसांनी त्या मुलीचा जीव वाचवला. पण या घटनेनंतर अनेकांना प्रश्न पडलाय तो म्हणजे फेसबूक किंवा इन्स्टाग्रामला आत्महत्येची माहिती मिळते कशी?

मेटाच्या (META) कार्यालयात असणारी कर्मचाऱ्यांची युजर्सच्या (Users) सर्व पोस्टवर नजर असते की त्या मागे एखादं तंत्रज्ञान असतं? भोपाळचं प्रकरण हे पहिलं नाहीए, याआधीही मेटाकडून अशी माहिती पोलिसांनी देण्यात आलेली आहे. अशी अनेक उदाहरण आहेत, ज्यात आत्महत्या करण्यापूर्वी जीव वाचवण्यात आले आहेत. 

फेसबूकला कसं कळतं?
मुलीने जेव्हा आत्महत्येचा निर्णय घेतला, त्यावेळी सर्वात आधी तीने एक व्हिडिओ बनवला आणि तो इन्स्टाग्रामवर अपलोड केला. या व्हिडिओत तीने गळफास घेण्यासाठी तयारी करत असल्याचं दाखवलं. हा व्हिडिओ पाहून फेसबूक किंवा इन्स्टाग्रामवरुन तात्काळ पोलिसांनी माहिती देण्यात आली. यात दोन शक्यता आहेत. 

सर्वात पहिली म्हणजे फेसबूक किंवा इन्स्टाग्राम कार्यालयातील एखाद्या कर्मचाऱ्यांने हा व्हिडिओ पाहिला आणि रिपोर्ट केला असेल. सोशल मीडिया प्लॅटफॉर्मवर असे व्हिडिओ येताच Meta ची ऑपरेशनल टीम लोकेशन तपासून तिथल्या स्थानिक पोलीस किंवा NGO ला याची माहिती देतं.

AI तंत्रज्ञानाची मदत
दुसरी शक्यता आहे तंत्रज्ञानाची. Meta कडून फेसबूक किंवा इन्स्टाग्रामवर युजर्सने टाकलेले आक्षेपार्ह किंवा संशयास्पद शब्द आयडेंटिफाई केले जातात. उदारणार्थ Kill, goodbye, sadness, depressed किंवा die असे शब्द जर वापरण्यात आले असतील तर AI तंत्रज्ञानाच्या मदतीने अशा पोस्ट तात्काळ शोधून त्याची माहिती तंत्रज्ञान विभागाला दिली जाते. त्यानंतर त्या माहितीवर अॅक्शन घेतली जाते. विशेष म्हणजे केवळ इंग्रजी भाषेतच नाही तर कोणत्याही भाषेत आत्महत्या किंवा मृत्यूसंदर्भात पोस्ट केली की मेटाला त्याचवेळी कळतं.

त्यामुळे एखादी व्यक्ती आत्महत्या करत असल्याचा व्हिडिओ फेसबूक किंवा इन्स्टाग्रामवर शेअर करते, तेव्हा काही क्षणात याची माहिती मेटा टीमला जाते. मेटाकडून तात्काळ तिथल्या पोलिसांना याची माहिती देतं. यासाठी मेटाने प्रत्येक देशात तिथल्या NGO शी हातमिळवणी केली आहे.