مصنوعی ذہانت کے فیصلوں میں خطرہ، نگرانی اور جوابدہی

یہ اردو خلاصہ ہے۔ مکمل ماڈیول انگریزی میں دستیاب ہے۔

پہلے خطرے کی درجہ بندی: خطرات کی درجہ بندی (Risk classification) کم، درمیانے اور زیادہ خطرے میں کریں۔ جو استعمال شہری کے حق، رقم، آزادی، تحفظ یا سرکاری ریکارڈ کو متاثر کرے وہ زیادہ خطرے والا ہے۔ شک ہو تو اونچا درجہ دیں اور درمیانے و زیادہ خطرے کے لیے اثرات کا جائزہ (Impact assessment) لازم کریں۔

حقیقی انسانی نگرانی (Human oversight): جائزہ لینے والے کے پاس مناسب وقت، فیصلے کی وجہ دیکھنے کی سہولت اور مشین کی تجویز رد کرنے کا اختیار ہو۔ اگر کوئی کبھی تجویز رد نہیں کرتا تو یہ کامیابی نہیں بلکہ خطرے کی علامت ہے۔

واضح جوابدہی (Accountability): ہر استعمال کے لیے سینئر ذمہ دار، روزمرہ ذمہ دار، فیصلے پر دستخط کرنے والا اور نظام معطل کرنے کا اختیار رکھنے والا نامزد کریں۔ جانچ کا ریکارڈ (Audit trail) رکھیں۔

دادرسی (Redress): شہری کو بتائیں کہ مصنوعی ذہانت شامل تھی، قابل فہم وجہ دیں، ایسے انسان سے نظر ثانی کا موقع دیں جو فیصلہ بدل سکے، اور غلطی ہو تو ریکارڈ اور وجہ دونوں درست کریں۔

کب روکنا ہے: معطلی کی شرائط پہلے سے طے کریں، جیسے شکایات میں اضافہ یا کسی ایک طبقے پر بار بار غلطیاں، اور یقینی بنائیں کہ نظام روکنے کے لیے کمپنی کی اجازت درکار نہ ہو۔