Apple का बड़ा एक्शन! अपने App Store से हटाए गंदी-गंदी तस्वीरे बनाने वाले Apps

Apple ने ऐप स्टोर से कुछ खतरनाक ऐप्स को हटाकर सख्त कदम उठाया है. ये ऐप्स आर्टिफिशियल इंटेलिजेंस (AI) इमेज जनरेशन टेक्नॉलजी का इस्तेमाल करके बिना अनुमति के लोगों की न्यूड तस्वीरें बनाने की इजाजत देती थीं. AI इमेज जनरेशन रचनात्मक कामों के लिए तो बहुत उपयोगी है, लेकिन इसका गलत इस्तेमाल भी किया जा सकता है. इस टेक्नॉलजी की वजह से फेक वीडियो और बदला लेने के लिए अश्लील तस्वीरें बनाने का चलन बढ़ रहा है. ऐसी ऐप्स को लेकर पहले Apple की आलोचना भी हो चुकी थी कि उसने कोई सख्त कदम नहीं उठाए.

चेतावनी के बाद हटाए ऐप्स

2022 की एक रिपोर्ट में बताया गया था कि कुछ ऐप्स App Store पर अपने असली मकसद को छुपाकर मौजूद थीं. 404 मीडिया की एक रिपोर्ट में Apple को बताया गया था कि App Store पर कई ऐसी AI इमेज जनरेशन ऐप्स मौजूद हैं जिनका असल इस्तेमाल लोगों की बिना अनुमति न्यूड तस्वीरें बनाना है. उन्होंने विज्ञापन में एडल्ट वेबसाइट्स पर डीपफेक पोर्न फीचर को बढ़ावा दिया. कई बार उनको चेतावनी दी गई. ऐप्पल और गूगल ने केवल ऐप्स ने उन साइट्स पर एड बंद करने की रिक्वेस्ट की,जिससे उन्हें अपने स्टोर पर बने रहने की अनुमति मिल गई. 

ऐप्पल ने हटाए 3 ऐप्स

Apple Insider के मुताबिक, कुछ ऐप्स ऐसी थीं जो बड़ों की तस्वीरों पर मजाकिया बदलाव कर देती थीं, जैसे किसी और का चेहरा लगा देना. कुछ ऐप्स को 'कपड़े उतारने वाला ऐप' बताकर बेचा जा रहा था. ये ऐप्स किसी भी साधारण सी तस्वीर में से लोगों के कपड़े गायब कर देते थे. इन ऐप्स और उनके विज्ञापनों के बारे में शिकायत मिलने के बाद, Apple ने तीन ऐसे ऐप्स को अपने ऐप स्टोर से हटा दिया. उसी तरह से, गूगल ने भी अपने प्ले स्टोर से ऐसे ऐप्स हटाए. ऐप्पल का ये फैसला AI के मामले में साफ छवि बनाए रखने की कोशिश का एक हिस्सा है.

शिकायत के बाद हटाए विज्ञापन

उस रिपोर्ट की जांच में ये भी पाया गया कि इंस्टाग्राम पर 'Meta's Ad Library' के जरिए इन ऐप्स का विज्ञापन किया जा रहा था. जब इन विज्ञापनों की शिकायत की गई, तो Meta ने उन्हें हटा दिया. ये कदम एप्पल की AI को सही तरीके से इस्तेमाल करने की कोशिशों का ही एक हिस्सा है. 

Apple अपनी AI को सिखाने के लिए ऐसी तरीके इस्तेमाल करता है जिनसे लोगों की निजी जानकारी सुरक्षित रहे, साथ ही वो ये भी सुनिश्चित करता है कि किसी और के बनाए चीजों को वो बिना इजाजत इस्तेमाल न करे. ये उन कंपनियों से अलग है, जिन पर बिना अनुमति कॉपीराइटेड चीजों का इस्तेमाल करने का मुकदमा चल रहा है, जैसे माइक्रोसॉफ्ट और ओपनएआई.