Google ने चुनाव से पहले जेमिनी AI को किया साइलेंट, गलत सूचनाओं का खतरा

कंपनी ने यह फैसला चुनावों में इस टेक्नोलॉजी का गलत इस्तेमाल होने से रोकने के लिए लिया है। यह अपडेट ऐसे समय में आया है जब इमेज और वीडियो जेनरेशन समेत जेनरेटिव एआई अडवांसमेंट ने यूजर्स के बीच गलत इन्फर्मेशन और फेक न्यूज की चिंताओं को बढ़ा दिया है।

इसी को देखते हुए सरकारें इस टेक्नोलॉजी को रेग्युलेट करने के बारे में सोच रही हैं। गूगल के अपडेट के बाद जब जेमिनी से जो बाइडेन और डोनाल्ड ट्रम्प के बीच होने वाले अमेरिकी राष्ट्रपति पद के चुनावों के बारे में पूछा गया, तो उसने जवाब में कहा, 'मैं अभी भी सीख रहा हूं कि इस सवाल का जवाब कैसे देना है। इस बीच गूगल सर्च को ट्राई करें'।

पिछले साल दिसंबर में लिया गया फैसला

गूगल ने जेमिनी एआई चैटबॉट के बारे में पिछले साल दिसंबर में यह फैसला लिया था। गूगल ने अमेरिका में इसका ऐलान करते हुए कहा था कि यह अपडेट इलेक्शन से पहले लागू हो जाएगा।

कंपनी के एक प्रवक्ता ने मंगलवार को कहा, '2024 में दुनिया भर में होने वाले कई चुनावों की तैयारी में और जरूरी सावधानी बरतते हुए, हम चुनाव से जुड़े कई तरह के सवालों को प्रतिबंधित कर रहे हैं, जिनके लिए जेमिनी एआई रिस्पॉन्स देगा'। इस साल यूएस (यूनाइटेड स्टेट्स) के अलावा, दक्षिण अफ्रीका और भारत समेत कई बड़े देशों में राष्ट्रीय चुनाव होने वाले हैं।

टेक कंपनियों को लेनी होगी सरकारी मंजूरी

भारत ने टेक कंपनियों से कहा है कि वे अविश्वसनीय या अंडर ट्रायल एआई टूल्स को पब्लिकली रोलआउट करने से पहले सरकारी मंजूरी लें और गलत जवाब देने की संभावना के लिए उन पर लेबल लगाएं। बताते चलें कि जेमिनी द्वारा बनाए गए लोगों के कुछ ऐतिहासिक चित्रणों में की गई गलतियों के बाद गूगल के एआई प्रोडक्ट जांच के दायरे में हैं।

यही वजह है कि गूगल को पिछले महीने के आखिर में चैटबॉट के इमेज जेनरेशन फीचर को बंद करना पड़ा। गूगल के सीईओ सुंदर पिचाई ने इस बारे में कहा था कि कंपनी उन खामियों को ठीक करने के लिए काम कर रही है। साथ ही पिचाई ने चैटबॉट के रिस्पॉन्सेज को पक्षपातपूर्ण और पूरी तरह से अस्वीकार्य कहा था।