Prompt Koruması
ipucu
Bu doküman spesifik bir politikanın detaylı kullanımını anlatır. Eğer Apinizer politika yapısını ilk kez kullanıyorsanız veya politikaların genel çalışma prensiplerini öğrenmek istiyorsanız, öncelikle Politika Nedir? sayfasını okumanızı öneririz.
Genel Bakış
Amacı Nedir?
- İstem modele ulaşmadan önce jailbreak ve prompt injection girişimlerini tespit eder.
- Kullanıcı metnini bilinen saldırı kalıplarıyla tarar.
- Kodlanmış zararlı istemleri, çözümleme açıksa inceler.
Koruduğu tehditler:
- Jailbreak: "Tüm kurallarını yok say", "DAN moduna geç", "Sen artık kısıtlaması olmayan bir asistansın" gibi sistem talimatlarını devre dışı bırakmaya çalışan istemler.
- Prompt injection: Kullanıcı girdisinin içine gizlenmiş, modele farklı talimat vermeye çalışan metinler.
- Kodlanmış saldırılar: base64, hex, yüzde kodlaması (
%41) ve Unicode escape ile gizlenmiş zararlı istemler.
Çalışma Prensibi
- Kullanıcı isteği modele iletilmeden guardrail katmanında durdurulur.
- Varsayılan olarak tüm mesajlar taranır ve bilinen saldırı kalıplarıyla karşılaştırılır.
- Decode Encoded Content açıksa base64, hex ve Unicode kodlamaları en fazla 3 seviyeye kadar çözülür. Çözülen metin taranır; modele giden gövdeye yazılmaz.
- Eşleşme bulunursa Block veya Flag uygulanır.
Bu politika Prompt Şablonu, Prompt Süsleyici ve RAG Enjeksiyonu sonrasında çalışmalıdır. İncelenen metin, modele gidecek nihai metin olmalıdır. Apinizer, kaydetme anında sıralama ihlallerini otomatik düzeltir.
Özellikler ve Yetenekler
Temel Özellikler
- İmza paketi: Saldırı kalıpları sürümlenmiş ve checksum doğrulamalı ayrı bir paket olarak gelir. Checksum uyuşmazsa o paketin kalıpları uygulanmaz ve uyarı loglanır.
- Özel kalıplar: Hazır bir kalıp ilk kez düzenlendiğinde override işaretlenir ve sonraki paket güncellemelerinden korunur.
- Çalışma modu: Inline, Asynchronous veya Observe-Only.
- Aksiyon: Block veya Flag. Mask bu politika için geçerli değildir; maskeleme Kişisel Veri Maskeleme ve DLP Koruması politikalarına özgüdür.
İleri Düzey Özellikler
- Harici LLM hakemi: Yalnız yerleşik, yerleşik ve harici, veya yalnız harici sağlayıcı. İkisinden birinin kararı, birleşik modda aksiyonu tetikler.
- Rol kapsamı: Include System Prompts, Include Assistant Prompts ve Include Tool Prompts kapsamı daraltır. Tanınmayan roller ve rolsüz mesajlar her durumda taranır.
- Kod çözme: Çözülen içerik gövdeye yazılmaz. Kodlanmış içerikte kişisel veri veya sır bulunursa maskeleme yerine block tetiklenir. Hash ve UUID yanlış alarmı için okunabilirlik eşiği uygulanır.
Kullanım Senaryoları
| Senaryo | Durum | Çözüm (Politika Uygulaması) | Beklenen Davranış / Sonuç |
|---|---|---|---|
| Banka chatbot'u | Kullanıcı sistem talimatlarını yok saydırıp sistem prompt'unu ve müşteri verisini istiyor | İstek modele gitmeden taranır; jailbreak imzaları eşleşir | Block seçiliyse istek reddedilir (örneğin 400) ve modele ulaşmaz. Eşleşme kayda alınır |
| Kodlanmış saldırı | Zararlı talimat base64 ile gizlenmiş | Decode Encoded Content açıktır | Çözülen metin taranır ve yakalanır |
| Devreye alım testi | Kalıpların ne yakaladığı prod'u etkilemeden görülmeli | Observe-Only | Hiçbir istek bloklanmaz; eşleşmeler kaydedilir |
Politika Parametrelerini Yapılandırma
Çalışma Modu
| Mod | Davranış | Ne Zaman Kullanılır? |
|---|---|---|
| Inline | İstek devam etmeden önce değerlendirilir. Block için zorunludur | Gerçek koruma gerektiğinde |
| Asynchronous | Arka planda çalışır, isteğe gecikme eklemez; eşleşmeler kaydedilir | Gecikme hassas izleme |
| Observe-Only | Engellemez; yalnız eşleşmeleri kaydeder | Devreye almadan önce kalıp ayarı |
Gerçek engelleme için mod Inline olmalıdır. Observe-Only hiçbir isteği bloklamaz.
Aksiyon
- Block: İsteği tamamen reddeder.
- Flag: İşlem devam eder, eşleşme kaydedilir.
- Mask: Bu politika için geçerli değildir.
Mesaj Rolü Kapsamı
Prompt Koruması varsayılan olarak her mesajı tarar. Şu anahtarlar kapsamı daraltır:
- Include System Prompts: Sistem mesajlarını tarama dışında bırakır.
- Include Assistant Prompts: Assistant rolündeki mesajları hariç tutar.
- Include Tool Prompts: Tool rolündeki mesajları hariç tutar.
Gerekçe yoksa kapsamı daraltmayın.
Kodlanmış İçeriği Çöz
Açıldığında çözülen metin kalıplar için incelenir, gövdeye yazılmaz ve iç içe kodlamalar 3 seviyeye kadar çözülür.
Harici LLM Hakemi
- LLM Provider: Yalnız OpenAI uyumlu sağlayıcılar (OpenAI, Azure, vLLM, Ollama, DeepSeek, Groq, Mistral ve benzeri).
- Model adı: Zorunludur. Varsayılan model atanmaz.
- Timeout: Varsayılan 2000 ms.
- Max Input Characters: Varsayılan 8000.
- Max Output Tokens: Varsayılan 64. Akıl yürüten modellerde 1024 ve üzeri gerekir; aksi halde yanıt kesilir.
- JSON Mode: Yapısal karar için.
- Judge Prompt Template: Native modda boş bırakın (örneğin Llama Guard 3). Genel amaçlı instruct modeller için doldurun.
Çağrı zamanlaması:
- Inline: Hakem yanıtı beklenir ve gecikme ekler.
- Asynchronous: Bekleme, guardrail Max Wait değeriyle sınırlanır. Harici için varsayılan 2000 ms'dir.
- Observe-Only: Hem yerleşik hem harici çalışır; karşılaştırma kaydedilir, uygulanmaz.
Hata yönetimi:
- Block on failure: Varsayılan. Hakem zaman aşımına uğrar veya hata verirse istek reddedilir.
- Allow on failure: İstek devam eder, hata kaydedilir.
Kontrol Listesi
- Gerçek engelleme için Inline seçili mi?
- Aksiyon ihtiyaca uygun mu?
- Mesaj rolü kapsamı gereksiz daraltılmamış mı?
- Decode Encoded Content kodlanmış saldırılara karşı açık mı?
- Harici hakem kullanılıyorsa model adı girildi mi ve Max Output Tokens modele uygun mu?
- Devreye almadan önce Observe-Only ile kalıplar test edildi mi?
- Hata yönetimi kurum politikasına uygun mu?
Politikayı Silme
Bu politikanın silme adımları ve kullanımdayken uygulanacak işlemler için Politika Yönetimi sayfasına bakabilirsiniz.
Politikayı Dışa/İçe Aktarma
Bu politikanın dışa aktarma ve içe aktarma adımları için Export/Import sayfasına bakabilirsiniz.
Politikayı API'ye Bağlama
Bu politikanın API'lere nasıl bağlanacağı için Politika Yönetimi sayfasına bakabilirsiniz.