Raporlar ve Analitik
Genel Bakış
AI Gateway → Analitik, LLM tabanlı uygulamalarınızın kullanımını, maliyetini ve güvenilirliğini izlemek için tek bir sayfada toplanmış, tab'lı bir analitik ekranı sunar. Sayfa yedi tab'dan oluşur: Genel Bakış, Performans, Maliyet ve Tüketiciler, Kullanım Raporları, Güvenlik ve Guardrail'ler, Sağlayıcı Sağlığı ve Trafik. Proje (admin modda), ortam ve tarih aralığı filtreleri ile Excel'e Aktar / Yenile aksiyonları Trafik dışındaki tüm tab'lar arasında ortaktır — Trafik tab'ı kendi ortam/tarih filtrelerini taşır.
Sayfa aşağıdaki yetenekleri sunar:
- Çok boyutlu kırılım — kişi, grup, OU, uygulama, model, proje, dağıtım türü ve ekip boyutlarında ayrıştırma, satıra tıklayarak alt kırılıma inme (drill-down)
- KPI panosu — toplam token, aktif kullanıcı sayısı, ortalama kişi/ay kullanımı, en çok tüketen kişi/uygulama
- Guardrail tetiklenme raporu — hangi korumanın ne sıklıkla ve hangi aksiyonla tetiklendiği
- Önbellek verimliliği raporu — semantik önbellek isabet oranı ve tahmini maliyet tasarrufu
- Sağlayıcı sağlığı — bağlantı durumu ve gecikme geçmişi
- Gecikme (latency) kırılımı — koruma süresi, çıkarım süresi, sistem ek yükü
- XLSX dışa aktarımı — tüm veriler Excel'de detaylı analiz için
Bir tab'a doğrudan bağlantı vermek için ?tab= sorgu parametresini kullanın (örn. .../ai-dashboard?tab=usage). Genel Bakış varsayılan tab olduğundan URL'de görünmez; başka bir tab'a geçildiğinde adres çubuğu otomatik güncellenir. Eski bağımsız sayfalara (Kullanım Raporları, Guardrail Tetiklenmeleri, Önbellek Verimliliği) giden eski bağlantılar, bu sayfaya ilgili tab seçili şekilde otomatik yönlendirilir.
Bir A2A proxy'si ajanı doğrudan yayınlıyorsa (ajan yayınlama modu), gelen istek Apinizer üzerinde bir dil modeli çağrısıyla yanıtlanır. Bu çağrının token kullanımı ve maliyeti bu sayfadaki raporlara, alarmlara ve token kotalarına dahil edilir.
Sayım yalnızca ajanı yayınlayan modda geçerlidir; isteği dış bir ajana ileten proxy'ler kendileri model çağırmadığı için sayıma girmez. MCP proxy'leri de yönlendirme sırasında model çağırmaz, dolayısıyla kapsam dışındadır.
Sayım bu sürümden itibaren başlar — geçmiş A2A trafiği geriye dönük olarak raporlara veya kota tüketimine eklenmez.
Genel Bakış tab'ı
Sayfa ilk açıldığında görüntülenen varsayılan tab'dır; seçili proje/ortam/tarih aralığı için özet bir durum sunar: günlük token kullanım grafiği, sağlayıcı/model dağılımı, önbellek isabet oranı / guardrail tetiklenme oranı / PII tespit oranı gibi özet oranlar, sağlayıcı sağlığı özeti (Sağlayıcı Sağlığı tab'ına bağlantı ile), son alarmlar ve ortalama guardrail/çıkarım/sistem-ek-yükü süresinin özeti (ayrıntılı kırılım için bkz. Performans tab'ı).
Saatlik (Intraday) Token Trendi
Günlük trend grafiğinin yanında, seçtiğiniz son N saat (6 / 12 / 24 / 48) için ayrı bir saatlik token tüketimi grafiği görüntülenebilir — kısa vadeli anlık artışları günlük özeti beklemeden fark etmenizi sağlar. Günlük trend grafiğine de bir önbellek (cached) token serisi eklenmiştir; böylece giriş ve çıkış token'larının yanında semantik önbellekten karşılanan token miktarını da aynı grafikte izleyebilirsiniz.
Saatlik grafiğin "son N saat" seçici, günlük trend grafiğinin tarih aralığı filtresinden bağımsızdır; ikisi farklı zaman pencerelerini gösterir.
KPI Panosu
Tab'ın üstünde, seçili dönem için özet göstergeler yer alır:
- Toplam Token — dönem içindeki toplam giriş+çıkış+önbelleğe alınmış token
- Aktif Kullanıcı — dönem içinde en az bir istek gönderen kullanıcı sayısı
- Ortalama Kişi/Ay — kullanıcı başına ortalama aylık token tüketimi
- En Çok Tüketen — dönemin en yüksek token/maliyet tüketen kişi ya da uygulaması
Kişi başına raporlama sistem yöneticilerine açıktır.
Performans tab'ı
TTFT (Time To First Token) ve TPOT (Time Per Output Token) özet kartlarının yanında istek sayısı, hata oranı, günlük istek/token grafiği, önbellek isabet oranı ve model başına performans tablosunu (paylaşım, token, maliyet) sunar. Toplam gecikmenin bileşenlere ayrıldığı ayrıntılı kırılım da bu tab'dadır:
Gecikme (Latency) Kırılımı
Ortalama Latency: 1.245 saniye
Latency Bileşenleri:
- Guardrail işlemesi ....... 45 ms (3.6%)
- Çıkarım (LLM çağrısı) ... 1.100 ms (88.4%)
- Sistem ek yükü ........... 100 ms (8.0%)
Model Başına Latency:
gpt-4o ........... 1.450 ms
claude-3-sonnet .. 1.200 ms
gpt-3.5-turbo .... 0.950 ms
Sağlayıcı Başına Latency:
OpenAI ........... 1.300 ms
Anthropic ........ 1.150 ms
Azure ............ 1.500 ms
Dağıtım Türüne Göre:
Bulut ............ 1.280 ms
Şirket içi ....... 0.980 ms
Toplam gecikmeye ek olarak TTFT (Time To First Token — ilk token'a kadar geçen süre) ve TPOT (Time Per Output Token — çıkış token'ı başına süre) metrikleri de akış (streaming) istekleri için ayrı ayrı raporlanır.
Maliyet ve Tüketiciler tab'ı
Bütçe durumunu (limit, tüketilen yüzde, kalan gün, bütçe-üstü projeksiyonu), maliyet burndown grafiğini (gerçekleşen vs. bütçe), model başına maliyet dağılımını ve en çok tüketen kişi/uygulama tablosunu bir arada sunar. Eski bağımsız Önbellek Verimliliği ekranı da bu tab'ın altına taşındı:
Önbellek Verimliliği Raporu
Semantik önbelleğin isabet oranını (hit rate) ve isabet başına ortalama maliyetten türetilen tahmini maliyet tasarrufunu gösterir.
Kullanım Raporları tab'ı
Bu tab, eski bağımsız Kullanım Raporları ekranının aynısıdır; AI Gateway → Analitik üzerinden ulaşılır. Kullanım ve maliyet verisini çok boyutlu kırılımlarla, drill-down ile ve XLSX dışa aktarımıyla inceleyebilirsiniz.
Kullanım ve Maliyet Kırılımı
Kullanım ve maliyet verisi şu boyutlarda ayrıştırılabilir:
| Boyut | Açıklama |
|---|---|
| Kişi | Kullanıcı bazında token/maliyet |
| Grup | Kimlik bilgisi grubu bazında toplu kullanım |
| OU | Organizasyon birimi (OU) bazında kullanım |
| Uygulama | API proxy / uygulama bazında kullanım |
| Model | Model bazında (gpt-4o, claude-3-sonnet vb.) kullanım |
| Proje | Proje bazında toplam kullanım ve maliyet |
| Dağıtım Türü | Bulut vs. şirket içi kullanım karşılaştırması |
| Ekip | Proje genelindeki API tüketici ekipler bazında kullanım |
Kişi başına raporlama sistem yöneticilerine açıktır.
Drill-Down
Bir grup/ekip/OU satırına tıkladığınızda, o gruba ait üyelerin ayrı ayrı kullanım kırılımını görebilirsiniz.
Zaman Aralığını Seçin
- Günlük — Son 30 gün
- Haftalık — Son 12 hafta
- Aylık — Son 12 ay
- Özel Aralık — Başlangıç ve bitiş tarihleri belirleyin
Rapor Türünü Seçin
Açılır menüden rapor türünü seçin: Kullanım, Maliyet, Performans, Guardrail Tetiklenme, Önbellek Verimliliği, Sağlayıcı Sağlığı veya Birleşik (tüm metrikleri bir görünümde).
Boyutlara Göre Filtreleme
Raporları belirli boyutlarla sınırlandırın (çoklu seçim): Kişi, Grup, OU, Uygulama, Model, Proje, Sağlayıcı, Dağıtım Türü.
Raporu Görüntülemek
Raporu Oluştur'a tıklayın. Veriler grafik ve tablo formatında görüntülenir.
XLSX Dışarı Aktarım
Tüm rapor verilerini Excel dosyasına aktarabilirsiniz:
- Raporu oluşturduktan sonra, tablo en üstündeki Excel'e Aktar düğmesine tıklayın
- Excel dosyası indirilir:
AI_Raporlari_2026_06_15.xlsx - Dosya şunları içerir: özet sayfası, kullanım detayları, maliyet dağılımı, performans metrikleri, zaman serisi
Excel dosyaları, pivot tablo ve grafik oluşturmak için yararlıdır. Tüm veriler şifreli değildir; dosyayı ekiplere gönderirken gizlilik anlaşmalarına uyun.
Bulut vs. Şirket İçi Karşılaştırması
Dağıtım Türüne Göre raporunda:
- Bulut (OpenAI, Anthropic, Azure, Vertex, Bedrock) vs. şirket içi (vLLM, Ollama) karşılaştırması
- Bulut kaynakların daha yüksek hız, şirket içi kaynakların daha düşük latency gösterebilir
Sistem Yöneticisi Raporları
Admin olarak, tüm projeler ve kullanıcılar arasında raporlar görebilirsiniz:
- Çapraz proje raporları — tüm projeler üzerinde toplam kullanım
- Kullanıcı tabanlı raporlar — her kullanıcı tarafından yapılan tüm istekler
- Sistem genelindeki kotalar — küresel token sınırlaması durumu
Sistem yöneticileri tüm kullanıcılara ait raporları görebilir. Bu bilgileri gizli tutun ve sadece yetkili kişilerle paylaşın.
Güvenlik ve Guardrail'ler tab'ı
Hangi korumanın (PII maskeleme, DLP, istem koruması, konu-dışı, döngü, aşırı boyut, bağlam bütünlüğü) ne sıklıkla ve hangi aksiyonla (Engelle/İşaretle/Maskele) tetiklendiğini gösterir. Bağlam penceresi taşmasında otomatik mesaj kesme de bu raporda ayrı bir kalem olarak görünür.
İstem Koruması veya Konu-Dışı Koruması'nda bir dış sağlayıcı guardrail'i kullanılıyorsa, dış çağrının sonucu (SAFE hariç: güvensiz, zaman aşımı, hata, atlandı) rapora yansır; bir engelleme dış hakemden geldiyse tetikleyen koruma dış sağlayıcı olarak görünür. Yalnız-Gözlem modundaki uyum (agreement) oranı bu raporun kapsamında değildir; yalnızca bir Prometheus metriği olarak izlenir.
Guardrail raporunda kimlik bilgisi/kullanıcı bilgisi anonimleştirilir — hangi korumanın kaç kez tetiklendiği görülür, kimin tetiklediği raporda ayrıca listelenmez.
Sağlayıcı Sağlığı tab'ı
Her LLM sağlayıcı bağlantısının canlılık durumunu ve son ölçülen gecikmesini gösterir — yönlendirme ve failover kararlarında kullanılan sağlık verisiyle aynı kaynaktan beslenir.
AWS Bedrock ve Google Vertex AI bağlantıları burada gerçek durumlarından bağımsız olarak her zaman sağlıksız görünür — periyodik kontrol bu iki sağlayıcının kendi imzalama şemasını henüz desteklemiyor. Bu durum, bu bağlantılar üzerinden yapılan gerçek sohbet veya embedding trafiğini etkilemez; detaylar için bkz. LLM Sağlayıcıları ve Bağlantılar.
Trafik tab'ı
AI-farkında (AI-aware) ham trafik günlüğünü gösterir — genel API trafiği tablosunun AI'a özgü kolonlarla (sağlayıcı, model, token, maliyet, önbellek/guardrail/PII bayrakları) zenginleştirilmiş hâlidir. Kendi ortam ve tarih filtrelerini taşır (üstteki paylaşılan filtre çubuğu bu tab'da gizlenir) ve bir Live Trace anahtarı ile kısa aralıklı otomatik yenilemeyi açıp kapatabilirsiniz. Tek bir isteğin uçtan uca izini incelemek için İzleme ve Tekrar Oynatma sayfasına bakın.
En İyi Uygulamalar
- Haftalık maliyet kontrolü — her hafta Maliyet raporunu kontrol edin
- Model kullanım analizi — hangi modellerin en çok kullanıldığını, en pahalı olduğunu izleyin
- Dağıtım türü optimizasyonu — şirket içi model fiyat/latency'de iyileşme sunuyorsa geçişi değerlendirin
- Guardrail tetiklenmelerini izleyin — ani bir artış, yanlış yapılandırılmış bir koruma ya da kötüye kullanım girişimine işaret edebilir
- Trend analizi — aylık raporlar arasında kullanım artışını gözlemleyin; anormal artışı araştırın
Sorun Giderme
Raporda Veri Yok
- Seçilen zaman aralığında hiç istek yapılmamış olabilir
- Filtrelerin çok kısıtlı olup olmadığını kontrol edin
- Başka rapor türünü deneyin
Maliyetler Beklenenden Farklı
- Model fiyatlandırması tablosunun güncel olup olmadığını kontrol edin
- Token sayısını (girdi vs. çıktı vs. önbelleğe alınmış) kontrol edin
Excel Dışarı Aktarımı Başarısız
- Rapor boyutu çok büyükse zaman aralığını daraltın
- Filtreleri kısıtlayın (örn. tek model veya proje)
- Tekrar deneyin