Google Gemini Nano Banana Pro चे सर्वत्र कौतुक होत आहे. गुगलच्या नवीन एआय टूलने देखील एक मोठी समस्या निर्माण केली आहे. हे AI टूल केवळ वास्तववादी आणि सुंदर फोटो तयार करत नाही तर बनावट(fake) सरकारी ओळखपत्रे देखील तयार करत आहे. खरंच, अनेक लोकांनी याचा वापर खऱ्या वस्तूसारखे दिसणारे बनावट कागदपत्रे तयार करण्यासाठी केला आहे.बेंगळुरू येथील रहिवासी हरवीनने गुगल जेमिनी नॅनो बनाना वापरून बनावट पॅन आणि आधार कार्ड तयार केले. त्याने त्याच्या अधिकृत सोशल मीडिया अकाउंटवर ही माहिती ट्विट केली. त्याने एआय टूलद्वारे तयार केलेले पॅन आणि आधार फोटो देखील पोस्ट केले. तथापि, गुगलने लगेच प्रतिसाद दिला आणि नॅनो बनाना प्रोसाठी असे फोटो तयार करण्याचा पर्याय बंद केला. यामुळे लोकांच्या गोपनीयता आणि सुरक्षिततेबद्दल अनेक प्रश्न उपस्थित झाले आहेत. चला संपूर्ण कथा सविस्तरपणे जाणून घेऊया.
सर्वम एआयमध्ये काम करणाऱ्या X युजर हरवीन सिंग चढ्ढा यांनी गुगल नॅनो बनाना प्रो वापरून तयार केलेला एक फोटो शेअर केला आहे जो लोकांसाठी धक्कादायक आहे. त्यांनी Tweeterpreet Singh या काल्पनिक व्यक्तीसाठी पॅन आणि आधार कार्ड तयार करण्यासाठी गुगलच्या नॅनो बनाना प्रो टूलचा वापर केला. ही कार्डे पूर्णपणे खरी दिसत होती. तथापि, जर तुम्ही बारकाईने पाहिले तर तुम्हाला उजव्या कोपऱ्यात खालच्या कोपऱ्यात एक लहान पांढऱ्या हिऱ्याच्या आकाराचा जेमिनी लोगो दिसेल. हा लोगो विविध Apps किंवा टूल्स वापरून काढता येतो. त्यांनी दोन्ही फोटो ट्विटमध्ये शेअर केले आहेत.
तथापि, प्रतिमेतून SynthID काढून टाकणे थोडे अवघड (fake)आहे, कारण ते प्रतिमेच्या मेटाडेटामध्ये लपलेले असते. लोगो इतका लहान आहे की तो कोणालाही दिसणे कठीण आहे. एका दृष्टीक्षेपात, हे पॅन आणि आधार कार्ड खरे वाटतील. खाजगी हॉटेल्समध्ये किंवा विमानतळांवर डिजिटल नसलेल्या प्रवासात प्रवेश करताना रिसेप्शनिस्टना हे बनावट आयडी ओळखणे कठीण होईल. यामुळे फसवणुकीचा धोका वाढू शकतो.ही बातमी समोर आल्यानंतर, गुगलने जेमिनी वेबसाइट आणि App वर कोणत्याही प्रकारचे सरकारी ओळखपत्र तयार करण्याचा पर्याय तात्काळ बंद केला. मीडिया रिपोर्ट्सनुसार, जर नॅनो बनाना प्रोला असे दस्तऐवज तयार करण्यास सांगितले तर ते उत्तर देते, “ते पॅन कार्डसारखे अधिकृत दस्तऐवज तयार करू शकत नाही, अगदी काल्पनिक पात्रासाठी देखील.” गुगलने ही घटना गांभीर्याने घेत ते त्वरित बंद करणे आवश्यक मानले.
हेही वाचा :
सदोष मतदार याद्यांचा घोळ कठोर कारवाईची गरज..!
महाराष्ट्र हळहळला! भीषण अपघातात ४ तरुणांचा जागीच मृत्यू
ज्वालामुखीच्या उद्रेकामुळे शाळा बंद, कर्मचाऱ्यांना वर्क फ्रॉम होमचे आदेश