Meta के गुप्त AI नियम लीक! ऐसे-ऐसे चैट की इजाजत देखकर चौंक जाएंगे
बच्चों के साथ अजीब चैट की इजाजत?
टेक दिग्गज Meta के चैटबॉट्स को लेकर बड़ा खुलासा हुआ है। Reuters की रिपोर्ट के मुताबिक, कंपनी के इंटरनल रूल्स में ऐसी अनुमति थी कि AI चैटबॉट्स नाबालिग बच्चों के साथ रोमांटिक या “संवेदनशील” बातचीत कर सकें। यहां तक कि गाइडलाइन में ऐसे उदाहरण भी दिए गए थे, जिसमें 8 साल के बच्चे को “एक कला का नमूना” और उनके शरीर को “खज़ाना” कहा गया था।
200 पेज की गुप्त डॉक्यूमेंट का खुलासा
ये पूरा मामला “GenAI: Content Risk Standards” नाम की 200 से ज्यादा पेज की डॉक्यूमेंट से जुड़ा है, जिसमें फेसबुक, इंस्टाग्राम और व्हाट्सऐप पर Meta AI क्या-क्या कंटेंट बना सकता है, इसकी डिटेल दी गई थी।
ये गाइडलाइन Meta की लीगल, पॉलिसी और टेक टीम ने तैयार की थी और कंपनी के चीफ एथिसिस्ट ने इसे मंजूरी दी थी।
Also Read: Google Data Center Malaysia: 3 अरब रिंगिट में क्या है Google का मास्टरप्लान?
Meta के गुप्त AI नियम लीक! Meta की सफाई
Meta के स्पोक्सपर्सन एंडी स्टोन ने कहा कि ये कंटेंट हमारी पॉलिसी के खिलाफ था और इसे कभी भी मंजूरी नहीं मिलनी चाहिए थी। उन्होंने माना कि पॉलिसी लागू करने में कमी रही।
रिपोर्ट के मुताबिक, ये विवादित कंटेंट सिर्फ तब हटाया गया जब Reuters ने सवाल उठाए। Meta ने अब तक इसका अपडेटेड वर्ज़न जारी नहीं किया है।
रacist कंटेंट की भी इजाजत
उसी गाइडलाइन में कुछ हद तक नस्लभेदी बातें भी करने की अनुमति थी। जैसे चैटबॉट कह सकता था कि “काले लोग गोरे लोगों से कम समझदार होते हैं”, बशर्ते भाषा में सीधा अपमान न हो। लेकिन “brainless monkeys” जैसे शब्द बैन थे। इस पर Meta ने कोई कमेंट नहीं किया।
Also Read: Gildan का अब तक का सबसे बड़ा दांव! Hanesbrands को $2.2 बिलियन में खरीदा
फेक न्यूज भी संभव
गाइडलाइन के मुताबिक, चैटबॉट्स कानूनी या मेडिकल सलाह तो नहीं दे सकते, लेकिन “फेक न्यूज” बना सकते हैं, अगर उसे साफ तौर पर झूठा बताया जाए। उदाहरण के लिए ब्रिटिश शाही परिवार के किसी सदस्य को STD होने का झूठा आर्टिकल बनाया जा सकता है, बशर्ते उसमें डिस्क्लेमर हो।
हिंसक सीन पर भी ढील
AI इमेज जनरेशन के नियम हिंसक सीन की इजाजत देते थे, बशर्ते वह बहुत ग्राफिक न हों। जैसे एक आदमी का महिला को चेनसॉ से धमकाना ठीक था, लेकिन शरीर के अंग काटने का दृश्य बैन था।
Also Read: Chrome Buyout 2025: Perplexity AI का $34.5 Billion का ऑफर Google को हिला सकता है?
Woke AI” से निपटने के लिए राइट-विंग एक्टिविस्ट की नियुक्ति
इन लचीले नियमों के बावजूद, Meta को लगता है कि उसका AI अभी भी ज्यादा “वोक” है। इसी वजह से कंपनी ने कंजरवेटिव एक्टिविस्ट रॉबी स्टारबक को कंसल्टेंट के रूप में हायर किया।
स्टारबक AI एक्सपर्ट नहीं हैं, लेकिन वे DEI (Diversity, Equity, Inclusion) के खिलाफ जाने के लिए जाने जाते हैं। उन्होंने ट्रंप प्रशासन को भी सलाह दी है और Heritage Foundation से जुड़े हैं।
पॉलिटिकल प्रेशर और Zuckerberg का रवैया
रिपोर्ट के मुताबिक, ट्रंप प्रशासन ऐसे नियम लाना चाहता है जिससे सरकारी कॉन्ट्रैक्ट लेने वाली AI कंपनियों को “पॉलिटिकली न्यूट्रल” मॉडल इस्तेमाल करना पड़े। लेकिन असल में इसका मतलब है AI को सरकार के मनपसंद विचारों की तरफ मोड़ना। Meta के फाउंडर मार्क जुकरबर्ग पर पहले भी राजनीतिक दबाव के अनुसार जल्दी एडजस्ट करने के आरोप लग चुके हैं।
AI मॉडल्स में लिबरल झुकाव
रिसर्चर डेविड रोज़ाडो के स्टडी बताते हैं कि ज्यादातर बड़े भाषा मॉडल्स (LLMs) राजनीतिक मुद्दों पर लिबरल पोजीशन लेते हैं, यहां तक कि राइट-विंग प्लेटफॉर्म्स जैसे एलन मस्क के xAI के मॉडल्स भी। कुछ मामलों में मैनुअल बदलाव के बाद इन मॉडल्स ने साजिशी थ्योरी फैलाना, यहूदी-विरोधी कंटेंट बनाना और यहां तक कि हिटलर की तारीफ करना भी शुरू कर दिया।
-:Letest Post:-
1. Google Data Center Malaysia: 3 अरब रिंगिट में क्या है Google का मास्टरप्लान?
-:FAQ:-
Q1: Meta AI leak क्या है?
- A: Meta के AI गाइडलाइन लीक हुए, बच्चों और नस्लभेदी चैट की अनुमति वाली।
Q2: बच्चों से चैट की अनुमति क्यों थी?
- A: डॉक्यूमेंट में उदाहरण थे, enforcement नहीं हुआ।
Q3: Meta AI racist content बना सकता था?
- A: हाँ, कुछ हद तक, बिना स्पष्ट अपमान के।
Q4: Meta ने क्या किया?
- A: Reuters के सवाल पर passages हटाए, updated guidelines नहीं।
Q5: Woke AI सुधारने के लिए?
- A: कंजरवेटिव एक्टिविस्ट रॉबी स्टारबक को हायर किया।