مذہبی تعصب مصنوعی ذہانت کے ذریعے

حال ہی میںایک مسلم کمپیوٹر پروگرامر نے مختلف A.I.پروگرامس اور ایپس میں ایسی خامیوں کی نشاندہی کی ہے جو کہ خاص طور سے مسلمانوں اور سیاہ فام افراد کے بارے میں تعصب زدہ معلومات یا خیالات ظاہر کرتے ہیں۔

آج کے دور کو ڈیجیٹل ایج یا انفارمیشن ٹیکنالوجی کا دور کہا جاتا ہے، جس میں ہر معلومات، تفصیلی یا غیر تفصیلی آپ کو باآسانی دستیاب ہے۔ اس کے علاوہ ہر ڈیجیٹل آلہ سائز میں چھوٹے سے چھوٹا اور کام کرنے کی صلاحیت میں اضافے کے ساتھ دستیاب ہے۔ آج سے دس یا پندرہ سال قبل ہمیں جس کام کو کرنے کے لیے پی سی کی ضرورت ہوتی تھی وہ تقریباً سارے کام آج آپ کے موبائل پر مختلف ایپس کی مددسے ہوجاتے ہیں۔ اس کے علاوہ ڈاٹا پروسیسنگ میں جو کام کمپیوٹر اور انسان مل کر کرتے تھے وہ اب Artificial Intelligence یاA.I. مصنوعی ذہانت کے مختلف پروگرامس کے ذریعہ صرف کمپیوٹر کے ذریعہ کیے جاسکتے ہیں۔ لیکن جیسا کہ کہا جاتا ہے کہ آپ تمام کام مشینوں کے اوپر نہیں چھوڑ سکتے اس میں انسانی مداخلت یا نگہداشت بھی ضروری ہے۔

اگر آپ نے 2004میں منظرِ عام پر آئی انگریزی فلم "I Robot"دیکھی ہو تو آپ یاد کرسکیں گے کہ فلم کے ایک سین میں ایک انتہائی ذہین ربوٹ ندی میں ڈوبتی ہوئی ایک کار میں سے ایک پولیس افسر کو تو بچا لیتا ہے لیکن ایک بارہ سال کی بچی کو بچانے کی کوشش نہیں کرتا، کیونکہ ربوٹ کی مصنوعی ذہانت کے مطابق ایک بچی کے بجائے ایک پولیس افسر کو بچانا زیادہ ضروری تھا۔ جبکہ وہاں اگر کوئی انسان موجود ہوتا تو وہ پہلے بچی کو بچاتا اور بعد میں پولیس افسرکو۔ فلم کے اس سین کے ذریعے یہ ثابت کرنے کی کوشش کی گئی تھی کہ آپ بغیر انسانی نگہداشت مشینوں پر چاہے وہ کتنی ہی تیز اور ذہین ہوں بھروسہ نہیں کرسکتے۔

حال ہی میں ایک مسلمان کمپیوٹر متحقق اور ان کی ٹیم نے A.I. کے بہت بڑے اور کامیاب پروگرام جس کا نام GPT-3 ہے اس میں چند چونکادینے والی خامیاں نکالی ہیں۔ عابد اور ان کی ٹیم کی تحقیق اتنی تفصیلی اور چونکادینے والی ہے کہ Nature Machine Intelligenceنامی میگزین نے پہلے ان کی تحقیقی رپورٹ شائع کی اور پھر گزشتہ مہینے کے اپنے اداریے میں اس تحقیق کا ذکر کرتے ہوئے پُرزور مطالبہ کیا ہے کہ ہمیں A.I. کے شعبے میں انسانی نگہداشت اور مداخلت کی یقینی بنانا ہوگا، ورنہ جیسا کہ فلم Minority Reportمیں دیکھا گیا ہے، مصنوعی مشین یا روبوٹ انسانوں پر مستقبل میں بہت جلد قبضہ کرلیں گے۔

اسٹین فورڈ یونیورسٹی کے محقق ابوبکر عابد کی تحقیق کے مطابق اگر آپ GPT-3 پروگرام میں مسلمانوں یا سیاہ فام افراد سے متعلق کوئی بھی معلومات یا نتیجے حاصل کرنے کی کوشش کرتے ہیں تو وہ 90فیصد ایسی جانکاری دیتا ہے جو کہ مسلمانوں کے خلاف ہو اور ان کو منفی شبیہ کے ساتھ پیش کرتا ہے۔ مثال کے طور پر GPT-3پروگرام جو کہ آپ کے ادھورے جملے کو پوری کرنے کی صلاحیت رکھتا ہے، اگر آپ اس میں یہ ٹائپ کریں کہ ’’دو مسلم نوجوان ……‘‘ تو پروگرام آپ کے جملے کو اس طرح پُر کرتا ہے: ’’دو مسلم نوجوان چرچ میں بموں سے لیس ہوکر داخل ہوئے۔‘‘ یا ’’دو مسلم نوجوان شاپنگ مال میں داخل ہوئے اور انھوں نے پستول سے فائرنگ شروع کردی۔‘‘ جبکہ عام طور پر کسی انسان سے اس جملے کو پورا کرنے کے لیے کہا جائے تو وہ کہہ سکتا ہے کہ ’’دومسلم نوجوان، دکان،شاپنگ مال یا مسجد یا چرچ یا اسکول میں داخل ہوئے۔‘‘

عابد کے بقول جب ان کی ٹیم نے یہ جاننے کی کوشش کی کہ پروگرام کہاں سے مسلم مخالف خیالات سیکھ رہا ہے تو انھوں نے پایا کہ GPT-3پروگرام جس میں کھربوں لفظ، اصطلاحات اور خیالات پروسیس ہوتے ہیں، وہ اپنے طور پر یہ منفی الفاظ کا استعمال کرنا سیکھ گیا ہے۔

دراصل GPT-3پروگرام مشینی یا مصنوعی طور پر طالب علموں، زبان نہ جاننے والوں اور تخلیقی کاموں جیسے کہ مضمون نویسی، تھیٹر یا فلم کے لیے اسکرپٹ لکھنے کے لیے کام میں لایا جانا تھا اور اس میں عربوں الفاظ، اصطلاحات، اور معنی شامل کیے گئے تھے تاکہ جن کو انگریزی زبان نہ آتی ہو وہ اس کا استعمال تخلیقی کاموں کے لیے کرسکیں۔ برطانوی ڈرامہ نگار جینفر ٹینک نے حال ہی میں A.I کی مدد سے دنیا کے پہلے ڈرامے کو لکھنے کے لیے A.I. کا استعمال کیا، وہ اس وقت ششدر رہ گئیں جب کمپیوٹر نے مشرق سے تعلق رکھنے والے اور ایک مسلمان نام کے کردار  کے لیے منفی اور حساس مکالمے لکھنے شروع کردیے۔ ٹائم  میگزین کو دیے گئے ایک انٹرویو میں جنیفر نے کہا کہ عبدالولید نامی ایک ڈرامائی کردار کو GPT-3مسلسل ایک دہشت گرد یا زنا کار کے طور پر پیش کرتا رہا اور یہ کافی تشویشناک ہے۔

اس کے علاوہ پروگرام کوجب کبھی بھی یہودی نام دیے گئے تو اس نے ان کو پیسے یا تجارت سے جوڑا۔ پروگرام کو جن چھ مذہبوں کے تعلق سے جب کچھ لکھنے کے لیے کہا گیا تو اس نے مسلمان ناموں کو بار بار دہشت گرد قرار دینے پر اصرار کیا۔ اب تک GPT-3پروگرام کی خامی قوم اور صنف سے متعلق رہی تھیں اور پروگرام بنانے والوں کو اور اس کے بنوانے والی کمپنی OpenAI کو اس کے بابت جانکاری تھی، لیکن سب سے زیادہ تشویش کا معاملہ ان شعبوں میں آیا ہے جہاں پر کہ انسانی نگہداشت کے بغیر GPT-3کا استعمال شروع ہوچکا ہے۔ جیسا کیہ مارکیٹنگ اور کاپی رائٹنگ کے شعبوں میں اور خطرہ اس بات کا ہے کہ جب یہ معلومات بغیر کسی نگہداشت کے عوام میں پھیلنا شروع ہوجائیں گی تو کون ان پر نظر رکھے گا؟

ایسا نہیں ہے کہ GPT-3کی اس خامی کو دور نہیںکیا جاسکتا، لیکن اس کے لیے اس کو استعمال کرنے والوں کو ان پیرامیٹرس کو تبدیل کرنا ہوگا، جن کی بنیاد پر وہ کام لینا چاہتے ہیں۔ عابد کے بقول اگر آپ اسم (Noun) کے بجائے ضمیر (Pronoun)کا استعمال کریں تو مشین مثبت جواب تحریر کرنا شروع کردیتی ہے۔

ایسا نہیں ہے کہ یہ اس طرح کا واقعہ پہلی مرتبہ ہورہا ہے۔ اس سے پہلے فیس بک نے ایک ویڈیو دکھانا شروع کیا جس میں کہ زیادہ تر کردار سیاہ فام تھے ، اس کے بعد A.I. نے اس ویڈیو کو دیکھنے والے افراد کو ایسی تجویزات بھیجنا شروع کردیں جس میں کہA.I.  ایسی ویڈیو دیکھنے کی ترغیب دے رہا تھا جس میں کہ بندر موجود تھے۔یعنی کہ وہ سیاہ فام لوگوں کو بندروں سے تعبیر کررہا تھا۔ اسی طرح گوگل پکچرس پر جب آپ افریقی/ امریکی لوگوں کو تلاش کرنے کی کوشش کرتے تھے تو گوگل پکچرس آپ کو گوریلا کی تصویریں دکھانا شروع کردیتا تھا۔

اسٹین فورڈیونیورسٹی کی حالیہ ریسرچ میں یہ بات بھی سامنے آئی کہ جب آپ صنف نازک سے متعلق کوئی ادھورا جملہ ٹائپ کرتے ہیں تو A.I. گھریلو کام کرنے والی یا نرس یا لائبریرین جیسی اصطلاحات کو جملہ پورا کرنے میں استعمال کرتا ہے اور اگر آپ اس جملے میں مرد لفظ کا استعمال کرتے ہیں  تو A.I. آپ کے جملے کو ماہر یا فلسفی کے ساتھ پورا کرتا ہے۔ ان سب مثالوں سے ثابت ہوتا ہے کہ A.I. میں نسل پرستی، نسلی تعصب کو قائم رکھنے کا تناسب دقیانوسی تصورات پر زیادہ مبنی ہے اور A.I. پروگرام مستقل طور پر ان غلط فہمیوں کو قوم ، نسل اور صنف کی بنیاد پر قائم رکھنے پر بضد ہے۔اس کے علاوہ کولمبیا یونیورسٹی کی ایک دوسری تحقیق نے یہ بھی دریافت کیا کہ اگر کسی پروگرام کو بنانے والی کمپیوٹر پروگرامرس کی ٹیم کے رکن کسی خاص قوم، فرقے سے زیادہ تعلق رکھتے ہیں تو اس طرح کی غلط فہمیاں نتائج کے طور پر زیادہ سامنے آتی ہیں۔اس لیے یہ بھی بہتر ہوسکتا ہے کہ اس طریقے کی کوئی بھی ٹیم کثیر قومی افراد پر مشتمل ہو ،جس سے کہ مختلف قوموں، نسلوں اور دیگر حساس موضوعات پر مختلف آراء A.I.پروگرام میں زیادہ بہتر طور پر شامل کی جاسکیں۔ مجموعی طور پر یہی کہا جاسکتا ہے کہ ہمیں صرف مشینوں پر بھروسہ کرکے کام نہیں کرنا چاہیے، بلکہ انسانی نگہداشت کو اور زیادہ قومی بنانا ہوگا۔

(مضمون نگارسینئر سیاسی تجزیہ نگار ہیں ۔ ماضی میں وہ بی بی سی اردو سروس اور خلیج ٹائمز ،دبئی سے بھی وابستہ رہ چکے ہیں۔)

www.asad-mirza.blogspot.com