بھارت کے پاکستان کے ساتھ چار روزہ تنازع کے دوران غلط معلومات کا سیلاب امڈ آیا، سوشل میڈیا صارفین نے تصدیق کے لیے ایک AI چیٹ بوٹ کا رخ کیا — لیکن انہیں مزید جھوٹ کا سامنا کرنا پڑا، جو حقیقت کی جانچ کے آلے کے طور پر اس کی ناقابل اعتمادی کو ظاہر کرتا ہے، اے ایف پی نے رپورٹ کیا۔ ٹیکنالوجی پلیٹ فارمز کے انسانی حقیقت کی جانچ کرنے والوں کو کم کرنے کے ساتھ، صارفین قابل اعتماد معلومات کی تلاش میں تیزی سے AI سے چلنے والے چیٹ بوٹس — بشمول xAI کے گروک، اوپن اے آئی کے چیٹ جی پی ٹی، اور گوگل کے جیمنی — پر انحصار کر رہے ہیں۔
“ارے @Grok، کیا یہ سچ ہے؟” ایلون مسک کے پلیٹ فارم X پر ایک عام سوال بن گیا ہے، جہاں AI اسسٹنٹ بنایا گیا ہے، جو سوشل میڈیا پر فوری غلط ثابت کرنے کی بڑھتی ہوئی رجحان کو ظاہر کرتا ہے۔ لیکن جوابات اکثر خود غلط معلومات سے بھرے ہوتے ہیں۔ گروک — جو اب “سفید فام نسل کشی” کو، جو ایک انتہائی دائیں بازو کی سازشی تھیوری ہے، غیر متعلقہ سوالات میں شامل کرنے پر دوبارہ جانچ پڑتال کے تحت ہے — نے سوڈان کے خرطوم ایئرپورٹ سے پرانی ویڈیو فوٹیج کو پاکستان کے نور خان ایئر بیس پر میزائل حملے کے طور پر غلط طور پر شناخت کیا جب ملک کا بھارت کے ساتھ حالیہ تنازع جاری تھا۔ نیپال میں ایک عمارت میں آگ لگنے کی غیر متعلقہ فوٹیج کو “ممکنہ طور پر” بھارتی حملوں کے خلاف پاکستان کے فوجی ردعمل کو دکھانے کے طور پر غلط طور پر شناخت کیا گیا۔
نیوز گارڈ کی ڈس انفارمیشن واچ ڈاگ کی محقق میکنزی سادگی نے اے ایف پی کو بتایا، “گروک پر حقیقت کی جانچ کرنے والے کے طور پر بڑھتا ہوا انحصار اس وقت آیا ہے جب X اور دیگر بڑی ٹیکنالوجی کمپنیاں انسانی حقیقت کی جانچ کرنے والوں میں سرمایہ کاری کم کر چکی ہیں۔” انہوں نے خبردار کیا، “ہماری تحقیق نے بار بار یہ پایا ہے کہ AI چیٹ بوٹس خبروں اور معلومات کے لیے قابل اعتماد ذرائع نہیں ہیں، خاص طور پر بریکنگ نیوز کے معاملے میں۔”
‘من گھڑت’
نیوز گارڈ کی تحقیق میں پایا گیا کہ 10 سرکردہ چیٹ بوٹس جھوٹ کو دہرانے کے لیے پرعزم تھے، جن میں روسی ڈس انفارمیشن کے بیانیے اور حالیہ آسٹریلوی انتخابات سے متعلق غلط یا گمراہ کن دعوے شامل تھے۔ کولمبیا یونیورسٹی کے ٹو سینٹر فار ڈیجیٹل جرنلزم کے آٹھ AI سرچ ٹولز کے حالیہ مطالعے میں پایا گیا کہ چیٹ بوٹس “عام طور پر ان سوالوں کا جواب دینے سے گریز کرنے میں خراب تھے جن کا وہ درست جواب نہیں دے سکتے تھے، اس کے بجائے غلط یا قیاس آرائی پر مبنی جوابات پیش کرتے تھے۔”
جب یوراگوئے میں اے ایف پی کے حقیقت کی جانچ کرنے والوں نے جیمنی سے ایک عورت کی AI سے تیار کردہ تصویر کے بارے میں پوچھا، تو اس نے نہ صرف اس کی اصلیت کی تصدیق کی بلکہ اس کی شناخت اور جہاں تصویر لی گئی تھی اس کے بارے میں من گھڑت تفصیلات بھی پیش کیں۔ گروک نے حال ہی میں ایمیزون ندی میں تیرنے والے ایک دیوہیکل اناکونڈا کی مبینہ ویڈیو کو “حقیقی” قرار دیا، یہاں تک کہ اس نے اپنے جھوٹے دعوے کی حمایت کے لیے قابل اعتماد سائنسی مہمات کا بھی حوالہ دیا۔ حقیقت میں، یہ ویڈیو AI سے تیار کی گئی تھی، لاطینی امریکہ میں اے ایف پی کے حقیقت کی جانچ کرنے والوں نے رپورٹ کیا، یہ نوٹ کرتے ہوئے کہ بہت سے صارفین نے گروک کے جائزے کو اس کلپ کے حقیقی ہونے کے ثبوت کے طور پر پیش کیا۔
اس طرح کے نتائج نے تشویش پیدا کی ہے کیونکہ سروے ظاہر کرتے ہیں کہ آن لائن صارفین معلومات جمع کرنے اور تصدیق کے لیے تیزی سے روایتی سرچ انجنوں سے AI چیٹ بوٹس کی طرف منتقل ہو رہے ہیں۔ یہ تبدیلی اس وقت بھی آئی جب میٹا نے اس سال کے اوائل میں اعلان کیا تھا کہ وہ امریکہ میں اپنا تھرڈ پارٹی حقیقت کی جانچ کا پروگرام ختم کر رہا ہے، جھوٹ کو غلط ثابت کرنے کا کام “کمیونٹی نوٹس” کے نام سے مشہور ماڈل کے تحت عام صارفین کو سونپ رہا ہے، جسے X نے مقبول بنایا۔ محققین نے “کمیونٹی نوٹس” کی جھوٹ کا مقابلہ کرنے میں تاثیر پر بار بار سوال اٹھایا ہے۔
‘متعصبانہ جوابات’
انسانی حقیقت کی جانچ ایک طویل عرصے سے ایک انتہائی پولرائزڈ سیاسی ماحول میں ایک فلیش پوائنٹ رہی ہے، خاص طور پر امریکہ میں، جہاں قدامت پسند وکلاء کا کہنا ہے کہ یہ آزاد تقریر کو دباتا ہے اور دائیں بازو کے مواد کو سنسر کرتا ہے — جس چیز کو پیشہ ورانہ حقیقت کی جانچ کرنے والے سختی سے مسترد کرتے ہیں۔ اے ایف پی فی الحال فیس بک کے حقیقت کی جانچ کے پروگرام کے ساتھ 26 زبانوں میں کام کرتا ہے، بشمول ایشیا، لاطینی امریکہ اور یورپی یونین۔
AI چیٹ بوٹس کی کوالٹی اور درستگی مختلف ہو سکتی ہے، اس بات پر منحصر ہے کہ انہیں کس طرح تربیت دی جاتی ہے اور پروگرام کیا جاتا ہے، جس سے یہ خدشات پیدا ہوتے ہیں کہ ان کی پیداوار سیاسی اثر و رسوخ یا کنٹرول کے تابع ہو سکتی ہے۔ مسک کے xAI نے حال ہی میں “ایک غیر مجاز ترمیم” کا الزام لگایا جس کی وجہ سے گروک نے جنوبی افریقہ میں “سفید فام نسل کشی” کا حوالہ دیتے ہوئے غیر مطلوبہ پوسٹس تیار کیں۔ جب AI ماہر ڈیوڈ کاسویل نے گروک سے پوچھا کہ اس کے سسٹم پرامپٹ کو کس نے تبدیل کیا ہو گا، تو چیٹ بوٹ نے مسک کو “سب سے زیادہ ممکنہ” مجرم قرار دیا۔ مسک، جنوبی افریقہ میں پیدا ہونے والے ارب پتی اور صدر ڈونلڈ ٹرمپ کے حامی، نے پہلے بے بنیاد دعویٰ کیا تھا کہ جنوبی افریقہ کے رہنما سفید فام لوگوں کی “نسل کشی کے لیے کھلے عام دباؤ ڈال رہے ہیں۔”
انٹرنیشنل فیکٹ چیکنگ نیٹ ورک کی ڈائریکٹر اینجی ہولان نے اے ایف پی کو بتایا، “ہم نے دیکھا ہے کہ AI اسسٹنٹس کس طرح نتائج کو من گھڑت بنا سکتے ہیں یا انسانی کوڈرز کے ہدایات کو خاص طور پر تبدیل کرنے کے بعد متعصبانہ جوابات دے سکتے ہیں۔” “میں خاص طور پر اس بات پر فکرمند ہوں کہ گروک نے بہت حساس معاملات سے متعلق درخواستوں کو کس طرح غلط طریقے سے سنبھالا ہے جب اسے پیشگی اجازت شدہ جوابات فراہم کرنے کی ہدایات ملی تھیں۔”
