گروک اے آئی کے قواعد میں سختی، نامناسب تصاویر پر پابندی عائد

عظمیٰ ویب ڈیسک
نئی دہلی/سوشل میڈیا پلیٹ فارم ایکس نے اپنے (AI) چیٹ بوٹ گروک کے لیے نئے حفاظتی اقدامات متعارف کرائے ہیں، یہ قدم نامناسب مواد کے حوالے سے موصول ہونے والی شکایات کے بعد اٹھایا گیا ہے ان اپڈیٹس میں حقیقی افراد کی ایسی تصاویر ایڈٹ کرنے پر پابندی شامل ہے جن میں وہ نازیبا حالات میں ہوں یا کم کپڑوں میں نظر آئیں، تصویر بنانے کی سہولت کو صرف پیڈ صارفین تک محدود کرنا اور ان علاقوں میں ’جیو بلاکنگ‘کا نفاذ شامل ہے جہاں ایسا مواد غیر قانونی ہے۔ یہ اقدامات صارفین کی حفاظت اور قانونی تعمیل کے حوالے سے پلیٹ فارم کے عزم کو ظاہر کرتے ہیں۔
ایکس کے بیان میں کہا گیا ہے کہ ہم نے ایسی تکنیکی تدابیر اختیار کی ہیں جو گروک اکاؤنٹ پر اس کے صارفین خاص طور پرخواتین کی بکنی تصاویر ایڈٹ کرنے سے روکتی ہیں۔ یہ ضابطہ ہر صارف پر لاگو ہے، چاہے وہ مفت صارف ہو یا پیڈ سبسکرائبر۔ مزید برآں، گروک کے ذریعے تصویر بنانے اور ایڈٹ کرنے کی سہولت اب صرف پیڈ اکاؤنٹس تک محدود کر دی گئی ہے، اس اقدام سے ٹول کا غلط استعمال کرنے والوں کی شناخت اور جواب دہی ممکن ہو سکے گی۔
اس سے قبل عالمی سطح پر یہ شکایات بڑی حد تک کی جا رہیں تھیں کہ چند ایکس صارفین خواتین کی تصاویر ایڈیٹنگ کے بعد انہیں کم کپڑوں میں دکھاتے ہوئے جو کہ وہ ایکس کے اے آئی ٹول گروک کی مدد سے کر رہے تھے اور ایکس پر اپلوڈ کر رہے تھے۔
قبل ازیں، الیکٹرانکس اور انفارمیشن ٹیکنالوجی کی وزارت نے سوشل میڈیا پلیٹ فارمز پر اے آئی ٹولز کے مبینہ غلط استعمال پر وضاحت طلب کرنے کے لیے نوٹس جاری کیا تھا۔ حکومت کا یہ اقدام ’گروک‘کے ذریعے ایسی تصاویر بنانے یا ایڈٹ کرنے کے خلاف عوامی تشویش اور شکایات کے بعد سامنے آیا تھا جو رازداری، وقار اور موجودہ قوانین کی خلاف ورزی کر سکتی ہیں۔
راجیہ سبھا کی رکن پرینکا چترویدی نے بھی 2 جنوری کو ایک شکایت درج کرائی تھی جس میں گروک کے غلط استعمال، خاص طور پر اے آئی سے تیار کردہ تصاویر اور ان سے ہونے والے ممکنہ نقصان پر تشویش کا اظہار کیا گیا تھا۔ یہ پیش رفت ایک ایسے وقت میں ہوئی ہے جب حکومت اے آئی ٹیکنالوجیز کے ذمہ دارانہ استعمال اور پلیٹ فارمز کی جانب سے جدت اور صارف کی حفاظت کے درمیان توازن برقرار رکھنے کی ضرورت پر کڑی نظر رکھے ہوئے ہے۔