AI in Cybersecurity
{{#include ../banners/hacktricks-training.md}}
मुख्य मशीन लर्निंग एल्गोरिदम
AI के बारे में जानने के लिए सबसे अच्छा प्रारंभिक बिंदु यह है कि मुख्य मशीन लर्निंग एल्गोरिदम कैसे काम करते हैं। यह आपको समझने में मदद करेगा कि AI कैसे काम करता है, इसका उपयोग कैसे करें और इसे कैसे अटैक करें:
{{#ref}} ./AI-Supervised-Learning-Algorithms.md {{#endref}}
{{#ref}} ./AI-Unsupervised-Learning-Algorithms.md {{#endref}}
{{#ref}} ./AI-Reinforcement-Learning-Algorithms.md {{#endref}}
{{#ref}} ./AI-Deep-Learning.md {{#endref}}
LLMs आर्किटेक्चर
अगली पृष्ठ में आप ट्रांसफार्मर्स का उपयोग करके एक बुनियादी LLM बनाने के लिए प्रत्येक घटक के मूल बातें पाएंगे:
{{#ref}} AI-llm-architecture/README.md {{#endref}}
AI सुरक्षा
AI जोखिम ढांचे
इस समय, AI सिस्टम के जोखिमों का आकलन करने के लिए मुख्य 2 ढांचे OWASP ML Top 10 और Google SAIF हैं:
{{#ref}} AI-Risk-Frameworks.md {{#endref}}
AI प्रॉम्प्ट्स सुरक्षा
LLMs ने पिछले वर्षों में AI के उपयोग को बढ़ा दिया है, लेकिन वे परिपूर्ण नहीं हैं और प्रतिकूल प्रॉम्प्ट्स द्वारा धोखा दिया जा सकता है। यह एक बहुत महत्वपूर्ण विषय है कि AI का सुरक्षित उपयोग कैसे करें और इसे कैसे अटैक करें:
{{#ref}} AI-Prompts.md {{#endref}}
AI मॉडल RCE
डेवलपर्स और कंपनियों के लिए इंटरनेट से डाउनलोड किए गए मॉडल चलाना बहुत सामान्य है, हालाँकि केवल एक मॉडल को लोड करना सिस्टम पर मनमाना कोड निष्पादित करने के लिए पर्याप्त हो सकता है। यह एक बहुत महत्वपूर्ण विषय है कि AI का सुरक्षित उपयोग कैसे करें और इसे कैसे अटैक करें:
{{#ref}} AI-Models-RCE.md {{#endref}}
AI मॉडल संदर्भ प्रोटोकॉल
MCP (Model Context Protocol) एक प्रोटोकॉल है जो AI एजेंट क्लाइंट को प्लग-एंड-प्ले तरीके से बाहरी उपकरणों और डेटा स्रोतों से कनेक्ट करने की अनुमति देता है। यह AI मॉडल और बाहरी सिस्टम के बीच जटिल कार्यप्रवाह और इंटरैक्शन को सक्षम बनाता है:
{{#ref}} AI-MCP-Servers.md {{#endref}}
AI-सहायता प्राप्त फज़िंग और स्वचालित भेद्यता खोज
{{#ref}} AI-Assisted-Fuzzing-and-Vulnerability-Discovery.md {{#endref}}
{{#include ../banners/hacktricks-training.md}}