AI Gateway

AI Gateway Kavramı

AI Gateway, Apinizer'ın Veri Düzlemi (Data Plane) katmanına yapay zeka trafiği için eklenen bileşendir. Klasik API Gateway'in üstlendiği görevi (istek karşılama, politika uygulama, yönlendirme) LLM istekleri için de üstlenir: istemcileriniz tek bir OpenAI-uyumlu uç noktaya bağlanır, AI Gateway isteği doğru LLM sağlayıcısına yönlendirir ve gateway'in zaten uyguladığı yönetişimi (güvenlik, kota, gözlemlenebilirlik) AI trafiğine de genişletir.

Tek Giriş Noktası

OpenAI-uyumlu tek bir uç nokta üzerinden birden fazla LLM sağlayıcısına bağlanırsınız

Ortak Yönetişim

API Gateway'in güvenlik, kota ve gözlemlenebilirlik altyapısı AI trafiğine de uygulanır

Çoklu Sağlayıcı

Bulut ve şirket içi LLM sağlayıcıları arasında tutarlı bir arayüzle çalışırsınız

Yanıt Normalizasyonu

Sağlayıcı ne olursa olsun yanıtlar OpenAI canonical formatına dönüştürülür

Temel Yetenekler

Çoklu Sağlayıcı Yönlendirme ve Failover

Birincil ve yedek LLM hedefleri tanımlayın; maliyete veya gecikmeye duyarlı stratejilerle yönlendirin

Korumalar ve Gizlilik

Kişisel veri maskeleme, istem denetimi, veri sızıntısı ve konu-dışı korumalarını uygulayın

Token Kotası ve Maliyet Yönetişimi

Kullanımı model/kapsam başına sınırlayın, harcamayı izleyin ve raporlayın

RAG ve Bilgi

Kendi dokümanlarınızdan bağlam çekerek yanıtları gerçek veriye dayandırın

Araç ve Ajan Entegrasyonu (MCP & A2A)

Modelin harici araçları çağırmasını (MCP) veya başka ajanlarla görev alışverişi yapmasını (A2A) sağlayın

İzleme ve Raporlar

İstek zincirini uçtan uca izleyin, kullanımı ve maliyeti kişi/ekip/model bazında raporlayın

Diğer Bileşenlerle İlişki

AI Gateway tek başına çalışmaz — Apinizer'ın diğer bileşenleriyle aynı temel altyapıyı paylaşır:

• API Manager (Kontrol Düzlemi) — LLM sağlayıcı bağlantıları, bilgi tabanları ve politikalar API Manager üzerinden yapılandırılır ve AI Gateway'e deploy edilir; bkz. API Manager.
• Kimlik Bilgisi Sistemi — LLM sağlayıcı ve vektör veritabanı kimlik bilgileri, platformun paylaşılan şifreli kimlik bilgisi altyapısında saklanır.
• Cache — Semantik önbellek, platformun dağıtık cache altyapısı üzerine kurulur.
• Analitik / Gözlemlenebilirlik — AI kullanım metrikleri, platformun genel izleme ve raporlama altyapısıyla aynı temel üzerinde toplanır.

Nasıl Konumlanır?

API Manager (Control Plane)
   │
   │ LLM sağlayıcı / vektör veritabanı / bilgi tabanı / politika konfigürasyonu
   │ Deployment
   ▼
AI Gateway (Data Plane — AI katmanı)
   │
   │ OpenAI-uyumlu istek karşılama
   │ Korumalar → RAG → Semantik Önbellek → Kota → Yönlendirme
   │ Metrik gönderme
   ▼
LLM Sağlayıcı / İstemci

AI Gateway, klasik API Gateway'in yanında ek bir katman olarak çalışır; aynı deploy modelini, aynı proje/ortam yapısını ve aynı yetkilendirme modelini kullanır.

Sonraki Adımlar

AI Gateway Genel Bakış

AI Gateway modülünün tüm özelliklerini keşfedin

Yapay Zeka Temel Kavramları

LLM, embedding, RAG gibi temel terimleri öğrenin

API Gateway

Klasik API trafiği için Data Plane bileşenini inceleyin

API Manager

Kontrol Düzlemi bileşenini inceleyin