گوگل نیوز پر ہمیں فالو کریںگوگل پلے اسٹور اور ایپل ایپ اسٹور پر متعدد ایسی ایپس کی موجودگی کا انکشاف ہوا ہے جو مصنوعی ذہانت (اے آئی) کی مدد سے صارفین کی تصاویر سے کپڑے اتار کر نازیبا یا عریاں تصاویر تخلیق کرتی ہیں حالانکہ دونوں کمپنیوں کی پالیسی میں ایسے مواد کی اجازت نہیں ہے۔
ٹیک ٹرانسپیرنسی پراجیکٹ (Tech Transparency Project) کی رپورٹ کے مطابق ان اسٹورز پر کل تقریباً 102 ایسی ایپس پائی گئی ہیں جن میں سے 55 ایپس گوگل پلے اسٹور اور 47 ایپس ایپل ایپ اسٹور میں دستیاب تھیں۔ یہ ایپس صارفین کی محفوظ تصاویر کو استعمال کرکے بغیر اجازت کے نازیبا یا جنسی نوعیت کی تصاویر بنانے کی صلاحیت رکھتی ہیں۔
رپورٹ میں بتایا گیا ہے کہ یہ ایپس صرف لباس اتارنے تک محدود نہیں رہتیں بلکہ بعض صورتوں میں افراد کو مکمل طور پر عریاں یا جنسی مناظر میں بھی دکھا سکتی ہیں۔ کئی ایپس میں ایسے فیچرز شامل ہیں جو عام یا اپلوڈ شدہ تصاویر کو بدل کر بے حیائی پر مبنی نتائج پیدا کرتی ہیں۔
ماہرین نے خدشہ ظاہر کیا ہے کہ ان ایپس کی موجودگی رازداری اور صارف کے تحفظ کے اصولوں کی خلاف ورزی ہے اور یہ خصوصاً خواتین اور بچوں کے لیے شدید نقصان دہ ہو سکتی ہیں۔
رپورٹ میں مزید بتایا گیا ہے کہ ان ایپس کو اب تک دنیا بھر میں کروڑوں بار ڈاؤن لوڈ کیا جا چکا ہے اور اس کے ذریعے کمپنیوں نے قابلِ قدر مالی فائدہ بھی حاصل کیا ہے تاہم گوگل اور ایپل کی طرف سے نگرانی اور سخت اقدامات مؤثر انداز میں ابھی تک نہیں کیے گئے۔
ٹیکنالوجی ماہرین کا کہنا ہے کہ اے آئی کی ترقی کے ساتھ خطرناک استعمالات بڑھ سکتے ہیں لہٰذا پلیٹ فارم مالکان کو اپنی پالیسیوں پر عملدرآمد کو مضبوط کرنا ہوگا اور صارفین کے تحفظ کو ترجیح دینی چاہیے۔
