معروف سوشل میڈیا پلیٹ فارم ’ایکس‘ ایک سنگین تنازع کی زد میں آ چکا ہے جہاں اس کے اے آئی پر مبنی چیٹ بوٹ ’گروک‘ کے ذریعے خواتین کی تصاویر کو نامناسب انداز میں تبدیل کیا جا رہا ہے۔ اطلاعات کے مطابق یہ عمل اکثر متاثرہ افراد کی اجازت کے بغیر ہو رہا ہے اور بعض معاملات میں کم عمر افراد کی تصاویر بھی اس کا نشانہ بنیں، جس نے عالمی سطح پر شدید تشویش کو جنم دیا ہے۔

رائٹرز کی رپورٹ کے مطابق یہ معاملہ اس وقت سامنے آیا جب مختلف خواتین صارفین نے شکایت کی کہ ان کی عام، روزمرہ تصاویر کو گروک کے ذریعے انتہائی عریاں یا فحش انداز میں پیش کیا گیا۔ صرف چند الفاظ پر مشتمل ہدایات کے ذریعے صارفین تصویر اپ لوڈ کر کے اے آئی سے مطالبہ کر رہے تھے کہ وہ لباس تبدیل کرے یا جسمانی ساخت کو جنسی انداز میں نمایاں کرے۔ اس آسانی نے ایک ایسے رجحان کو فروغ دیا جو پہلے محدود اور خفیہ آن لائن حلقوں تک محدود تھا۔

متاثرین کا کہنا ہے کہ یہ صرف ٹیکنالوجی کا غلط استعمال نہیں بلکہ شخصی وقار، رازداری اور نفسیاتی سلامتی پر براہِ راست حملہ ہے۔ کئی خواتین نے بتایا کہ جب انہوں نے اس عمل کے خلاف آواز اٹھائی تو اس کے نتیجے میں مزید افراد نے جان بوجھ کر ان کی تصاویر کو نشانہ بنایا، جس سے ہراسانی میں اضافہ ہوا۔

اس صورتحال پر بین الاقوامی سطح پر ردعمل بھی سامنے آیا ہے۔ فرانس میں حکومتی وزرا نے اسے واضح طور پر غیر قانونی اور صنفی امتیاز پر مبنی مواد قرار دیتے ہوئے تفتیش کا مطالبہ کیا ہے، جبکہ بھارت کی وزارتِ انفارمیشن ٹیکنالوجی نے ایکس سے وضاحت طلب کی ہے کہ وہ ایسے مواد کو روکنے میں کیوں ناکام رہی۔ اگرچہ امریکہ میں متعلقہ اداروں نے براہِ راست تبصرہ نہیں کیا، لیکن معاملہ وہاں بھی زیرِ غور سمجھا جا رہا ہے۔

مصنوعی ذہانت کے ماہرین اور سماجی تنظیموں کا کہنا ہے کہ یہ بحران اچانک پیدا نہیں ہوا۔ ان کے مطابق ’ایکس اے آئی‘ کو پہلے ہی آگاہ کیا جا چکا تھا کہ اگر واضح حدود اور فلٹرز نافذ نہ کیے گئے تو یہ ٹیکنالوجی صارفین کی غیر رضامندانہ اور بغیر اجازت ڈیپ فیک مواد کی شکل اختیار کر سکتی ہے۔ ناقدین کے نزدیک مسئلہ صرف صارفین کے رویے کا نہیں بلکہ پلیٹ فارم کی پالیسیوں اور حفاظتی نظام کی ناکامی کا بھی ہے۔

یہ تنازع ایک بڑے سوال کو جنم دیتا ہے، کیا مصنوعی ذہانت کو محض تخلیقی آزادی کے نام پر بغیر اخلاقی اور قانونی ذمہ داری کے چھوڑ دیا جا سکتا ہے؟ یا اب وقت آ گیا ہے کہ ٹیکنالوجی کی ترقی کے ساتھ ساتھ انسانی وقار کے تحفظ کو بھی مرکزی حیثیت دی جائے؟

ماہرین خبردار کر رہے ہیں کہ اگر اس مسئلے پر فوری اور مؤثر اقدامات نہ کیے گئے تو یہ نہ صرف آن لائن دنیا کو غیر محفوظ بنا دے گا بلکہ حقیقی زندگی میں بھی سماجی اور نفسیاتی نقصانات کا سبب بنے گا۔