रिसर्च
Prompt-Injection
-
Agentic Security
Line jumping: कैसे एक ज़हरीला MCP tool उस model को हाईजैक कर लेता है जिसे कभी बुलाया ही नहीं गया
एक MCP tool का description, model के context में tools/list के समय ही लोड हो जाता है — tool के कभी invoke होने से पहले। यह एक protocol विवरण एक description field को prompt-injection payload में बदल देता है, जो तब भी चल जाता है जब user उस tool को कभी छूता तक नहीं। यहाँ इसकी कार्यप्रणाली, हमलों की श्रेणियाँ, और वह audit है जो इन्हें पकड़ता है।
-
Agentic Security
Indirect prompt injection एजेंट युग का SSRF है
SSRF तब होता है जब कोई server किसी attacker के URL को fetch करता है और response पर भरोसा कर लेता है। Indirect prompt injection तब होती है जब कोई agent attacker की सामग्री को पढ़ता है और उसे instructions मानकर भरोसा कर लेता है। एक ही गुम सीमा — data और control के बीच — यहाँ ठीक-ठीक gadgets हैं, वे encodings जो filters को मात देती हैं, और यह भी कि 'ignore previous instructions' सालों पहले काम करना क्यों बंद कर चुका है।