All terms Risks and failure modes
Prompt injection
پرامپٹ میں مداخلت
Roman Urdu: prompt mein mudakhilat
Proposed No settled term exists yet. GovAI.pk proposes this one and it is open to revision.
Definition
An attack where hidden instructions inside a document or webpage hijack an AI system's behaviour.
تعریف
ایسا حملہ جس میں کسی دستاویز یا ویب صفحے میں چھپی ہوئی ہدایات مصنوعی ذہانت کے نظام کا رخ بدل دیتی ہیں۔
Last reviewed: . Reviewer: Muhammad Asadullah.