सहायक काम के लिए फाइल या पृष्ठ पढ़ सकता है। यदि वही पाठ जानकारी के बजाय व्यवहार बदलना चाहे तो? सिर्फ दस्तावेज में होने से सामग्री को आदेश का अधिकार नहीं मिलना चाहिए।
प्रॉम्प्ट इंजेक्शन क्या समस्या बनाता है?
OWASP प्रॉम्प्ट इंजेक्शन को इनपुट और बाहरी सामग्री से मॉडल व्यवहार बदलने की कोशिश बताता है। इससे अनुचित आउटपुट या जुड़ी क्षमताओं का अनधिकृत उपयोग हो सकता है। 1
उदाहरण में सार बनाने के लिए दिया दस्तावेज असंबंधित जानकारी भेजने को कहता है। असल काम सार बनाना ही है; उसका पाठ स्वामी का नया वैध अनुरोध न बन जाए।
सिर्फ पाठ पहचानना काफी नहीं
तकनीकी सीमाएँ भी देखें: एजेंट के उपकरण, उनके काम और अनुरोध सत्यापन स्पष्ट हों। रोकने वाला एक वाक्य निष्पादन परत के पहुँच नियंत्रण का विकल्प नहीं।
रिपोर्ट पढ़ने के उपकरण को बिना जरूरत हटाने की शक्ति भी न दें। यह गलती का प्रभाव घटाने का सिद्धांत है, जोखिम पूर्ण समाप्त होने का दावा नहीं।
सारा पारिस्थितिकी में शील्ड की भूमिका
शील्ड सुरक्षा सीमाएँ देखता है। व्यवसाय एजेंट, निष्पादन परत और ट्रेडिंग सिस्टम के डेटा और अधिकार अलग हैं। सुरक्षा फर्क बनाए, असीमित पहुँच एक जगह न जुटाए।
उचित आकलन जाँचे कि अविश्वसनीय सामग्री दायरा बदलती या अनधिकृत डेटा तक पहुँचती है। परिणाम खास संस्करण और विन्यास के हों।
लक्ष्य अनधिकृत व्यवहार की संभावना और असर घटाना है। शील्ड को छल से पूर्ण प्रतिरक्षित नहीं बताते; मानदंड स्पष्ट सीमा, दोहराने योग्य परीक्षण और सीमाओं की रिपोर्ट हैं।
