Siber Güvenlikte AI
{{#include ../banners/hacktricks-training.md}}
Ana Makine Öğrenimi Algoritmaları
AI hakkında öğrenmeye başlamak için en iyi nokta, ana makine öğrenimi algoritmalarının nasıl çalıştığını anlamaktır. Bu, AI'nın nasıl çalıştığını, nasıl kullanılacağını ve nasıl saldırılacağını anlamanıza yardımcı olacaktır:
{{#ref}} ./AI-Supervised-Learning-Algorithms.md {{#endref}}
{{#ref}} ./AI-Unsupervised-Learning-Algorithms.md {{#endref}}
{{#ref}} ./AI-Reinforcement-Learning-Algorithms.md {{#endref}}
{{#ref}} ./AI-Deep-Learning.md {{#endref}}
LLM'lerin Mimarisi
Aşağıdaki sayfada, transformer'lar kullanarak temel bir LLM oluşturmak için her bileşenin temellerini bulacaksınız:
{{#ref}} AI-llm-architecture/README.md {{#endref}}
AI Güvenliği
AI Risk Çerçeveleri
Bu anda, AI sistemlerinin risklerini değerlendirmek için ana 2 çerçeve OWASP ML Top 10 ve Google SAIF'tir:
{{#ref}} AI-Risk-Frameworks.md {{#endref}}
AI İstemleri Güvenliği
LLM'ler son yıllarda AI kullanımını patlatmış olsa da, mükemmel değillerdir ve düşmanca istemlerle kandırılabilirler. Bu, AI'yı güvenli bir şekilde kullanmayı ve ona nasıl saldırılacağını anlamak için çok önemli bir konudur:
{{#ref}} AI-Prompts.md {{#endref}}
AI Modelleri RCE
Geliştiricilerin ve şirketlerin İnternetten indirilen modelleri çalıştırması oldukça yaygındır, ancak sadece bir modeli yüklemek, sistemde rastgele kod çalıştırmak için yeterli olabilir. Bu, AI'yı güvenli bir şekilde kullanmayı ve ona nasıl saldırılacağını anlamak için çok önemli bir konudur:
{{#ref}} AI-Models-RCE.md {{#endref}}
AI Modeli Bağlam Protokolü
MCP (Model Bağlam Protokolü), AI ajanı istemcilerinin harici araçlar ve veri kaynaklarıyla tak-çalıştır tarzında bağlantı kurmasına olanak tanıyan bir protokoldür. Bu, AI modelleri ile harici sistemler arasında karmaşık iş akışları ve etkileşimler sağlar:
{{#ref}} AI-MCP-Servers.md {{#endref}}
{{#include ../banners/hacktricks-training.md}}