सेफ्टी से बड़ी कमाई? Grok के Spicy Mode पर उठे सवाल, X की भूमिका संदिग्ध

नई दिल्ली/सिमरन मोरया/- एलन मस्क की कंपनी XAI ने अपने Grok AI के नए फीचर ‘Spicy Mode’ के साथ सोशल मीडिया पर आग लगा दी है। ये फीचर, जो Grok Imagine का हिस्सा है, सिर्फ 700रुपये की मंथली SuperGrok या X Premium+ सब्सक्रिप्शन के साथ iOS ऐप पर उपलब्ध है। बस एक टेक्स्ट प्रॉम्प्ट या फोटो डालो, और ये AI टूल 15 सेकंड के सेमी-न्यूड या एडल्ट थीम वाले वीडियो बना देता है। लेकिन यही बात अब चिंता का सबब बन रही है। एक्सपर्ट्स का कहना है कि ये फीचर सेक्सटॉर्शन जैसे क्राइम्स को बढ़ावा दे सकता है और डीपफेक की दुनिया में नया खतरा बन सकता है। पिछले साल रश्मिका मंदाना जैसे सेलिब्रिटीज के डीपफेक वीडियो ने खूब सुर्खियां बटोरी थीं, और अब ये फीचर प्राइवेट फोटोज के मिसयूज का रास्ता खोल सकता है।

डीपफेक का डर, प्राइवेसी की टेंशन
Spicy Mode से कोई भी फोटो अपलोड करके उसे अश्लील कंटेंट में बदला जा सकता है, जो किसी की प्राइवेसी का सीधा उल्लंघन है। XAI ने सेलिब्रिटीज के लिए कुछ सेफगार्ड्स लगाए हैं, जैसे उनके एक्सप्लिसिट कंटेंट को ब्लॉक करना, लेकिन प्राइवेट इंडिविजुअल्स की फोटोज के लिए खतरा बरकरार है। अगर कोई इसका गलत इस्तेमाल करता है, तो ये गैरकानूनी है और विक्टिम पुलिस में शिकायत दर्ज करा सकता है। XAI ने फेस रिकग्निशन और आईडेंटिटी वेरिफिकेशन टूल्स लगाए हैं, ताकि पब्लिक फिगर्स की फोटोज का मिसयूज न हो। साथ ही, यूजर्स कंटेंट को रिपोर्ट भी कर सकते हैं, जिसके लिए XAI ने एक डेडिकेटेड टीम बनाई है। लेकिन फिर भी, इस फीचर का गलत यूज होने का डर बना हुआ है।

ग्लोबल नियम, लोकल टेंशन
XAI का Spicy Mode भारत समेत कई देशों में उपलब्ध है, लेकिन हर देश के अपने कानून हैं, जिससे ग्लोबल पॉलिसी लागू करना मुश्किल हो जाता है। अगर कोई लोकल अथॉरिटी शिकायत करती है, तो XAI एक्शन लेता है, लेकिन प्राइवेट फोटोज के मिसयूज को रोकने के लिए अभी और सख्त कदमों की जरूरत है। एक्सपर्ट्स का कहना है कि बिना मजबूत मॉडरेशन और एज वेरिफिकेशन के, ये फीचर डीपफेक और प्राइवेसी वॉयलेशन का हथियार बन सकता है। यूजर्स को सावधान रहने की सलाह दी जा रही है, ताकि वो इस ‘Spicy’ ट्रैप में न फंसें और अपनी प्राइवेसी को सेफ रखें। XAI को भी अब इस बवाल को कंट्रोल करने के लिए तेजी से कदम उठाने होंगे।

About Post Author

Shiv Yadav

editor

See author's posts