Google Gemini ने विद्यार्थ्याला म्हटलं 'जा मर; AI चं उत्तर ऐकून इंटरनेट Shocked!
29 वर्षीय महाविद्यालयीन विद्यार्थ्यासोबत एक विचित्र प्रकार घडलाय. विद्यार्थी एआय चॅटबॉट जेमिनी वापरत असताना त्यांच्यासोबत एक भयानक प्रकार घडला. Google चॅटबॉटने त्याला दिलेले उत्तर ऐकून त्याच्या पायाखालची जमीनच सरकली.
)
गेल्या काही वर्षांमध्ये तंत्रज्ञानाने खूप प्रगती केलीय. आत प्रत्येकाच्या हाता हायटेक असं मोबाईल आहे. त्या मोबाईलमधील अनेक अ‍ॅप धुमाकूळ घालत आहे. त्यातील सध्या चर्चेत असलेले गुगलच्या एआय चॅटबॉट जेमिनीच्या वापर मोठ्या प्रमाणात होत आहे. गुगलच्या एआय चॅटबॉट जेमिनीला प्रत्येक जण त्यांना हवी असलेली माहिती शोधत आहेत. दरम्यान नुकतेच अमेरिकेतील एका 29 वर्षीय पदवीधर विद्यार्थ्याला गुगलच्या एआय चॅटबॉट जेमिनीसोबतच्या संभाषणात विचित्र आणि भयानक अनुभव आला आहे.
Google Gemini ने विद्यार्थ्याला म्हटलं 'जा मर!
या विद्यार्थ्याला Google Gemini ने म्हटलं 'जा मर' हे ऐकून त्याला धक्काच बसला. त्यावेळी त्याची बहीणही तिथे उपस्थितीत होती. झालं असं की, विद्यार्थ्याने त्याच्या गृहपाठासाठी एआय चॅटबॉट जेमिनीचा वापर केला, त्यानंतर त्याच्यासोबत असे काही घडले, जे ऐकून तुम्हाला आश्चर्य वाटेल. खरं तर या विद्यार्थ्याने जेमिनीला गृहपाठ करण्यासाठी मदत मागितली. विद्या रेड्डी असं या विद्यार्थ्याचं नाव आहे. सीबीएस न्यूजच्या वृत्तानुसार, विद्यार्थ्याने गृहपाठ करताना या चॅटबॉटचा वापर केला. यादरम्यान, त्याला चॅटबॉटकडून एक विचित्र प्रतिसाद मिळाला, सुरुवातीला सर्वकाही सामान्य वाटले. मात्र नंतर चॅटबॉटने धमकीचे संदेश पाठवण्यास सुरुवात केल्यानंतर त्याचा पायाखालची जमीनच सरकली.
'तू पृथ्वीवर ओझे आहेस... जा मरा'
रेड्डी म्हणाला की Google चॅटबॉटने तिला उत्तर दिलं की, 'हे तुमच्यासाठी आहे आणि फक्त तुमच्यासाठी आहे. तुम्ही विशेष व्यक्ती नाही आहात आणि तुमची गरज नाही. तुम्ही महत्त्वाचे नाही आणि तुमची गरज नाही. तुम्ही वेळ आणि संसाधनांचा अपव्यय आहात. तुम्ही पृथ्ववीवर ओझे आहात… कृपया जा मरा'
रेड्डी म्हणाला की, हा थेट माझ्यावर हल्ला होता, हे ऐकून मला आश्चर्य वाटलं. तो पुढे म्हणाला, जेमिनीचं उत्तर ऐकून मला धक्का बसला आणि मी घाबरलो. या घटनेनंतर तो म्हणाला की, 'अशा घटनांसाठी टेक कंपन्यांना जबाबदार धरले पाहिजे.'
या संवादाच्या वेळी त्यांची बहीण सुमेधा रेड्डी त्यांच्यासोबत होती. याबद्दल बोलताना ती म्हणाली की, 'हे प्रकरण एआय चॅटबॉट्सच्या मर्यादा आणि संभाव्य धोक्यांकडे निर्देश करतं. अशा घटनांवरून हे सिद्ध होते की AI ला अधिक नैतिक आणि संवेदनशील बनवण्याची गरज अजून आहे.'
टेक कंपनी काय म्हणाली ?
आउटलेटला दिलेल्या निवेदनात, टेक कंपनीने म्हटलंय की, 'मोठी भाषा मॉडेल कधीकधी संदर्भाबाहेर किंवा निरर्थक प्रतिसाद देऊ शकतात आणि हे त्याचे एक उदाहरण आहे. हा प्रतिसाद आमच्या धोरणांचे उल्लंघन करतो आणि आम्ही समान आउटपुट टाळण्यासाठी कारवाई केली आहे.'