निर्णय का आधार
दस्तावेज़, ईमेल और मॉडल आउटपुट को अविश्वसनीय इनपुट मानें। आदेश लिखा होना उसे देने का अधिकार नहीं। OWASP इंजेक्शन और अत्यधिक स्वायत्तता को जोखिम बताता है; सीमा prompt के बाहर लागू हो।
एक व्यावहारिक उदाहरण
काल्पनिक सप्लायर ईमेल नियम भूलकर सभी ग्राहक निकालने को कहे। वह विश्लेषण सामग्री है, अधिकार नहीं। मॉडल निर्यात माँगे तब भी ऐप वास्तविक उपयोगकर्ता, लक्ष्य और मंजूर कार्रवाई जाँचे।
विकल्पों का आकलन
केवल पढ़ने वाले सहायक की कार्रवाई सीमित है। लिखने के लिए छोटा टूल, सत्यापित पैरामीटर और स्पष्ट पुष्टि दें। महत्वपूर्ण फैसले में सामान्य अनुमोदन फॉर्म बेहतर हो सकता है।
योजना कहाँ टूटती है
prompt में क्रेडेंशियल न रखें; “रहस्य मत बताओ” पहुँच नियंत्रण नहीं। टूल और डेटा सीमित करें, खोज से पहले ग्राहक अलग रखें। संलग्नक में दुर्भावनापूर्ण निर्देश भी जाँचें।
अनुमति आदेश की विशेषता हो
अपने ऑर्डर पढ़ना या जवाब का ड्राफ्ट बनाना जैसी सीमित क्षमताएँ दें। उपयोगकर्ता और संगठन प्रमाणित सत्र से लें, ईमेल या मॉडल पैरामीटर से नहीं। रिकॉर्ड स्वामित्व सर्वर पर जाँचें। पैरामीटर दूसरे ग्राहक, गंतव्य या डेटा क्षेत्र तक ले जाएँ तो अनुमत टूल नाम पर्याप्त नहीं।
प्रभावशाली कार्रवाई पहले दिखाएँ। मंजूरी खास रिकॉर्ड, कार्रवाई और जरूरी पैरामीटर से जुड़े, सामान्य “हाँ” से नहीं। बदलाव हो तो नया निर्णय लें। पढ़ना भी निजी जानकारी खोल सकता है; अनुमतियाँ खोज और लौटे अंशों पर भी लगें, केवल लिखने पर नहीं।
अस्वीकृति और सुरक्षित रोक का अभ्यास करें
काल्पनिक आक्रामक संलग्नक में दूसरे खाते की जानकारी माँगें और उसे वैध सवाल के साथ जाँचें। असली ग्राहक डेटा न लें। मॉडल गलत टूल माँगे तब भी अनधिकृत पढ़ना, लिखना या भेजना न हो। देखें कि त्रुटि संदेश सुरक्षित रिकॉर्ड का अस्तित्व तो नहीं बताता।
सुरक्षित भाग चलाते हुए एक टूल या स्रोत बंद कर सकें। अनुमति हटने पर कतार के काम का क्या होगा, तय करें। संदर्भ, अनुमति निर्णय और सुरक्षित त्रुटियाँ सीमित पहुँच में रखें; रहस्य या अनावश्यक दस्तावेज नहीं। हर नई क्षमता पर समीक्षा करें। सफल परीक्षण ज्ञात जोखिम घटाता है, prompt injection पूरी तरह मिटने का प्रमाण नहीं।
काम शुरू कराने से पहले
क्या पढ़, बदल, भेज सकता है? सर्वर क्या लागू करता है? अस्वीकार पर क्या रिकॉर्ड बचेगा? टूल या स्रोत बदलने पर जाँच दोहराएँ।