چیٹ بوٹ کیسے کام کرتے ہیں: غلط ہو کر بھی پُراعتماد کیوں لگتے ہیں

ایک الگ سوال

ہماری رہنمائی مصنوعی ذہانت اصل میں کیا ہے بتاتی ہے کہ مصنوعی ذہانت کیا کر سکتی ہے اور کیا نہیں۔ یہ رہنمائی صرف ایک بات پر توجہ دیتی ہے: جب آپ سوال لکھتے ہیں اور جواب سامنے آتا ہے تو چیٹ بوٹ (Chatbot) کے اندر کیا ہوتا ہے۔

یہ سمجھ لینے سے جوابات پڑھنے کا انداز بدل جاتا ہے۔ چیٹ بوٹ کے بارے میں سمجھنے کی سب سے کارآمد بات یہی ہے۔

یہ جواب تھوڑا تھوڑا کر کے لکھتا ہے

چیٹ بوٹ ایک بڑے لسانی ماڈل (Large language model) پر بنا ہوتا ہے۔ تربیت (Training) کے دوران اس ماڈل نے بے شمار تحریریں پڑھیں: کتابیں، ویب سائٹس، مضامین اور گفتگو۔ اس سے اس نے نمونے سیکھے۔ اس نے سیکھا کہ کون سے الفاظ عام طور پر کن الفاظ کے بعد آتے ہیں، کس ترتیب سے اور کس طرح کی تحریر میں۔

جب آپ سوال پوچھتے ہیں تو ماڈل کسی کتاب میں حقیقت تلاش نہیں کرتا۔ وہ اپنا جواب چھوٹے چھوٹے ٹکڑوں میں لکھتا ہے۔ ہر قدم پر وہ گویا خود سے پوچھتا ہے: "اب تک جو لکھا گیا ہے، اس کے بعد سب سے زیادہ ممکنہ اگلا ٹکڑا کیا ہوگا؟" پھر وہ ٹکڑا جوڑتا ہے اور یہی عمل بہت تیزی سے دہراتا رہتا ہے، یہاں تک کہ جواب مکمل ہو جائے۔

ایک ایسے دوست کا تصور کریں جس نے ہزاروں خطوط پڑھے ہوں اور آپ کا شروع کیا ہوا ہر جملہ مکمل کر سکے۔ وہ درست لگنے میں بہت ماہر ہے۔ مگر درست لگنا اور درست ہونا ایک بات نہیں۔

یہ اتنا پُراعتماد کیوں لگتا ہے

ماڈل نے سیکھ لیا ہے کہ پُراعتماد اور مددگار جواب کس انداز میں لکھے جاتے ہیں۔ اس لیے وہ اسی انداز میں لکھتا ہے، چاہے بات درست ہو یا نہیں۔

• اس میں شک کا کوئی اندرونی احساس نہیں۔ ایک سچا جملہ اور ایک غلط جملہ، تحریر کے طور پر دونوں یکساں ممکن ہو سکتے ہیں۔ ماڈل دونوں کو ایک ہی پُرسکون لہجے میں لکھ دیتا ہے۔
• یہ خالی جگہیں بھر دیتا ہے۔ اگر اس کے پاس معلومات نہ ہوں تو یہ اکثر ایسی چیز بنا دیتا ہے جو درست قسم کا جواب لگے: کوئی معقول سا نام، تاریخ، عدد یا حوالہ۔ اسے من گھڑت جواب (Hallucination) کہتے ہیں۔
• یہ آپ سے اتفاق کرنے کی طرف مائل ہوتا ہے۔ چیٹ بوٹ کو مددگار اور شائستہ رہنے کے لیے تیار کیا جاتا ہے۔ اگر آپ کا سوال کسی غلط بات کو درست مان کر پوچھا گیا ہو تو چیٹ بوٹ بھی اسی کو مان سکتا ہے۔ اسے خوشامدی رویہ (Sycophancy) کہتے ہیں۔
• اس کا علم ایک تاریخ پر رک جاتا ہے۔ ہر ماڈل نے ایک خاص وقت تک کی تحریروں سے سیکھا ہے، جسے معلومات کی آخری تاریخ (Knowledge cutoff) کہتے ہیں۔ جب تک یہ انٹرنیٹ پر تلاش نہ کرے، ممکن ہے اسے حالیہ قیمتوں، قواعد یا واقعات کا علم نہ ہو۔

کچھ چیٹ بوٹ انٹرنیٹ پر تلاش کر سکتے ہیں یا آپ کی دی ہوئی فائل پڑھ سکتے ہیں۔ اس سے مدد ملتی ہے، مگر وہ پھر بھی ملنے والی معلومات کو غلط سمجھ سکتے ہیں یا آپس میں ملا سکتے ہیں۔

یہ کس کام میں اچھا ہے

چونکہ یہ زبان کے نمونوں سے کام کرتا ہے، اس لیے چیٹ بوٹ عموماً اُن کاموں میں اچھا ہے جہاں تحریر کی شکل سب سے زیادہ اہم ہو:

• کسی پیغام کو زیادہ شائستہ یا زیادہ آسان بنانا
• کسی عام خیال کو سادہ الفاظ میں سمجھانا
• خط یا منصوبے کا ڈھانچہ تجویز کرنا
• آپ کو سوچنے کے لیے سوالوں کی فہرست دینا

یہ وہاں سب سے کمزور ہے جہاں ایک بالکل درست حقیقت اہم ہو: فون نمبر، فیس، تاریخ، قانون، دوا کی مقدار یا کسی حقیقی شخص کا قول۔

آپ کے لیے اس کا مطلب

1. جواب کو پہلا مسودہ سمجھیں، آخری بات نہیں۔ اسے سوچ شروع کرنے کے لیے استعمال کریں، ختم کرنے کے لیے نہیں۔
2. ہر اہم حقیقت کی تصدیق کریں، کسی سرکاری ویب سائٹ، دستاویز یا مستند شخص سے۔
3. حوالہ مانگیں، پھر خود کھول کر دیکھیں۔ چیٹ بوٹ ایسا حوالہ بھی بنا سکتا ہے جو موجود ہی نہ ہو۔ صرف اُس لنک پر بھروسہ کریں جسے آپ نے خود کھول کر پڑھا ہو۔
4. لہجے سے متاثر نہ ہوں۔ ہموار اور پُراعتماد جواب کے سچا ہونے کا امکان کسی ہچکچاتے جواب سے زیادہ نہیں۔
5. سوال غیر جانبدار انداز میں پوچھیں۔ "یہ دوا بچوں کے لیے محفوظ کیوں ہے؟" کے بجائے پوچھیں "کیا یہ دوا بچوں کے لیے محفوظ ہے؟ مجھے کیا دیکھنا چاہیے؟"

جواب میں خطرے کی علامات

• بغیر حوالے کے بہت درست درست اعداد
• ایسے لوگوں، دفاتر یا رپورٹوں کے نام جو آپ کو کہیں اور نہ ملیں
• ایک ہی سوال دو بار پوچھنے پر مختلف جواب
• آپ کی ہر بات سے اتفاق، چاہے آپ اپنی رائے بدل لیں

ان میں سے کوئی بھی علامت یہ نہیں بتاتی کہ چیٹ بوٹ بیکار ہے۔ یہ صرف بتاتی ہیں کہ کسی انسان کو جانچ کرنی چاہیے۔

اس کے بعد پڑھیں: محفوظ استعمال: چیٹ بوٹ میں کیا کبھی نہ لکھیں۔