Raporlar ve Analitik

Genel Bakış

AI Gateway → Analitik, LLM tabanlı uygulamalarınızın kullanımını, maliyetini ve güvenilirliğini izlemek için tek bir sayfada toplanmış, tab'lı bir analitik ekranı sunar. Sayfa yedi tab'dan oluşur: Genel Bakış, Performans, Maliyet ve Tüketiciler, Kullanım Raporları, Güvenlik ve Guardrail'ler, Sağlayıcı Sağlığı ve Trafik. Proje (admin modda), ortam ve tarih aralığı filtreleri ile Excel'e Aktar / Yenile aksiyonları Trafik dışındaki tüm tab'lar arasında ortaktır — Trafik tab'ı kendi ortam/tarih filtrelerini taşır. Paylaşılan Tarih Aralığı filtresi son 1, 3, 5, 7, 14, 30 veya 90 gün seçeneklerini sunar; varsayılan değer son 1 gündür (bkz. Veri Tazeliği ve Kaynağı).

Sayfa aşağıdaki yetenekleri sunar:

• Çok boyutlu kırılım — kişi, grup, OU, uygulama, model, proje, dağıtım türü ve ekip boyutlarında ayrıştırma, satıra tıklayarak alt kırılıma inme (drill-down)
• KPI panosu — toplam token, aktif kullanıcı sayısı, ortalama kişi/ay kullanımı, en çok tüketen kişi/uygulama
• Guardrail tetiklenme raporu — hangi korumanın ne sıklıkla ve hangi aksiyonla tetiklendiği
• Önbellek verimliliği raporu — semantik önbellek isabet oranı ve tahmini maliyet tasarrufu
• Sağlayıcı sağlığı — bağlantı durumu ve gecikme geçmişi
• Gecikme (latency) kırılımı — koruma süresi, çıkarım süresi, sistem ek yükü
• XLSX dışa aktarımı — tüm veriler Excel'de detaylı analiz için

not

Bir tab'a doğrudan bağlantı vermek için ?tab= sorgu parametresini kullanın (örn. .../ai-dashboard?tab=usage). Genel Bakış varsayılan tab olduğundan URL'de görünmez; başka bir tab'a geçildiğinde adres çubuğu otomatik güncellenir. Eski bağımsız sayfalara (Kullanım Raporları, Guardrail Tetiklenmeleri, Önbellek Verimliliği) giden eski bağlantılar, bu sayfaya ilgili tab seçili şekilde otomatik yönlendirilir.

A2A ajan harcaması dahildir

Bir A2A proxy'si ajanı doğrudan yayınlıyorsa (ajan yayınlama modu), gelen istek Apinizer üzerinde bir dil modeli çağrısıyla yanıtlanır. Bu çağrının token kullanımı ve maliyeti bu sayfadaki raporlara, alarmlara ve token kotalarına dahil edilir.

Sayım yalnızca ajanı yayınlayan modda geçerlidir; isteği dış bir ajana ileten proxy'ler kendileri model çağırmadığı için sayıma girmez. MCP proxy'leri de yönlendirme sırasında model çağırmaz, dolayısıyla kapsam dışındadır.

Sayım bu sürümden itibaren başlar — geçmiş A2A trafiği geriye dönük olarak raporlara veya kota tüketimine eklenmez.

Veri Tazeliği ve Kaynağı

Genel Bakış, Performans, Maliyet ve Tüketiciler ve Kullanım Raporları tab'larının çoğu paneli, tarih filtresinin hemen altındaki sabit bir bilgi satırının da hatırlattığı gibi canlı trafikten değil, gecelik konsolidasyon (özetleme) işinden okur. Bu, günlük kullanım özetlerini tutan bir arka plan işidir; bugünün verisi, bu iş o gece çalışana kadar bu panellere yansımaz. Güvenlik ve Guardrail'ler, Sağlayıcı Sağlığı ve Trafik tab'ları ise bu kapsamın dışındadır — tamamen canlı okur ve tazelik bilgi satırı bu üç tab'da görünmez.

Bazı paneller bu genel kuralın istisnasıdır ve Canlı etiketiyle işaretlenir: bunlar gecelik özetten değil doğrudan Elasticsearch'teki gerçek zamanlı trafikten okur ve bugünün verisini de kapsar. Canlı işaretlenen paneller arasında Saatlik (Intraday) Token Trendi, TTFT ortalaması ve Önbellek İsabet Oranı KPI kartları, Önbellek ve Guardrail Oranları paneli ile Gecikme (latency) kırılımı özeti yer alır.

Genel Bakış tab'ı

Sayfa ilk açıldığında görüntülenen varsayılan tab'dır; seçili proje/ortam/tarih aralığı için özet bir durum sunar: günlük token kullanım grafiği, sağlayıcı/model dağılımı, önbellek isabet oranı / guardrail tetiklenme oranı / PII tespit oranı gibi özet oranlar, sağlayıcı sağlığı özeti (Sağlayıcı Sağlığı tab'ına bağlantı ile), son alarmlar ve ortalama guardrail/çıkarım/sistem-ek-yükü süresinin özeti (ayrıntılı kırılım için bkz. Performans tab'ı).

Saatlik (Intraday) Token Trendi

Günlük trend grafiğinin yanında, seçtiğiniz son N saat (6 / 12 / 24 / 48) için ayrı bir saatlik token tüketimi grafiği görüntülenebilir — kısa vadeli anlık artışları günlük özeti beklemeden fark etmenizi sağlar. Bu grafik Canlı etiketi taşır: günlük trend grafiğinden farklı olarak gecelik konsolidasyonu beklemez, doğrudan Elasticsearch'teki trafikten okur ve bugünün verisini de kapsar. Günlük trend grafiğine de bir önbellek (cached) token serisi eklenmiştir; böylece giriş ve çıkış token'larının yanında semantik önbellekten karşılanan token miktarını da aynı grafikte izleyebilirsiniz.

not

Saatlik grafiğin "son N saat" seçici, günlük trend grafiğinin tarih aralığı filtresinden bağımsızdır; ikisi farklı zaman pencerelerini gösterir.

KPI Panosu

Tab'ın üstünde, seçili dönem için özet göstergeler yer alır:

• Toplam Token — dönem içindeki toplam giriş+çıkış+önbelleğe alınmış token
• Aktif Kullanıcı — dönem içinde en az bir istek gönderen kullanıcı sayısı
• Ortalama Kişi/Ay — kullanıcı başına ortalama aylık token tüketimi
• En Çok Tüketen — dönemin en yüksek token/maliyet tüketen kişi ya da uygulaması

not

Kişi başına raporlama sistem yöneticilerine açıktır.

Performans tab'ı

TTFT (Time To First Token) ve TPOT (Time Per Output Token) özet kartlarının yanında istek sayısı, hata oranı, günlük istek/token grafiği, önbellek isabet oranı ve model başına performans tablosunu (paylaşım, token, maliyet) sunar. Toplam gecikmenin bileşenlere ayrıldığı ayrıntılı kırılım da bu tab'dadır:

Gecikme (Latency) Kırılımı

Ortalama Latency: 1.245 saniye

Latency Bileşenleri:
  - Guardrail işlemesi ....... 45 ms (3.6%)
  - Çıkarım (LLM çağrısı) ... 1.100 ms (88.4%)
  - Sistem ek yükü ........... 100 ms (8.0%)

Model Başına Latency:
  gpt-4o ........... 1.450 ms
  claude-3-sonnet .. 1.200 ms
  gpt-3.5-turbo .... 0.950 ms

Sağlayıcı Başına Latency:
  OpenAI ........... 1.300 ms
  Anthropic ........ 1.150 ms
  Azure ............ 1.500 ms

Dağıtım Türüne Göre:
  Bulut ............ 1.280 ms
  Şirket içi ....... 0.980 ms

Toplam gecikmeye ek olarak TTFT (Time To First Token — ilk token'a kadar geçen süre) ve TPOT (Time Per Output Token — çıkış token'ı başına süre) metrikleri de akış (streaming) istekleri için ayrı ayrı raporlanır.

Maliyet ve Tüketiciler tab'ı

Bütçe durumunu (limit, tüketilen yüzde, kalan gün, bütçe-üstü projeksiyonu), maliyet burndown grafiğini (gerçekleşen vs. bütçe), model başına maliyet dağılımını ve en çok tüketen kişi/uygulama tablosunu bir arada sunar. Eski bağımsız Önbellek Verimliliği ekranı da bu tab'ın altına taşındı:

Önbellek Verimliliği Raporu

Semantik önbelleğin isabet oranını (hit rate) ve isabet başına ortalama maliyetten türetilen tahmini maliyet tasarrufunu gösterir.

Kullanım Raporları tab'ı

Bu tab, eski bağımsız Kullanım Raporları ekranının aynısıdır; AI Gateway → Analitik üzerinden ulaşılır. Kullanım ve maliyet verisini çok boyutlu kırılımlarla, drill-down ile ve XLSX dışa aktarımıyla inceleyebilirsiniz.

Kullanım ve Maliyet Kırılımı

Kullanım ve maliyet verisi şu boyutlarda ayrıştırılabilir:

Boyut	Açıklama
Kişi	Kullanıcı bazında token/maliyet
Grup	Kimlik bilgisi grubu bazında toplu kullanım
OU	Organizasyon birimi (OU) bazında kullanım
Uygulama	API proxy / uygulama bazında kullanım
Model	Model bazında (gpt-4o, claude-3-sonnet vb.) kullanım
Hiyerarşi	Seçilen tarih aralığında üst organizasyon toplamı, alt organizasyon ve tüketici kırılımı
Proje	Proje bazında toplam kullanım ve maliyet
Dağıtım Türü	Bulut vs. şirket içi kullanım karşılaştırması
Ekip	Proje genelindeki API tüketici ekipler bazında kullanım

not

Kişi başına raporlama sistem yöneticilerine açıktır.

Anahtar Metrikler

Her boyut için raporlar şunları gösterir:

• Token Sayısı — tüketilen toplam giriş + çıkış token'ı
• İstek Sayısı — API çağrısı sayısı
• İstek Başına Ortalama Maliyet — toplam maliyet ÷ istek sayısı
• Toplam Maliyet — kümülatif maliyet (görüntüleme para biriminde: USD veya TRY)
• Ay Başından Bugüne Maliyet (Cost YTD) — ay başından bugüne kadarki maliyet

Boyut Kırılımları

Kişiye Göre

Bireysel kullanıcı kullanımını görüntüler. O kişinin model kırılımına inmek için satıra tıklayın.

Erişebilenler: Kullanıcılar (kendi verisi), yöneticiler (ekip verisi), sistem yöneticileri (tüm veri)

Gruba Göre

Organizasyon grubuna göre toplanmış kullanım. Departman düzeyinde maliyet dağılımı için kullanışlıdır.

Erişebilenler: Sistem yöneticileri, grup yöneticileri

OU'ya Göre

Organizasyon birimi (organizasyon ağacı düğümü) kullanımı. Şirket yapınızı yansıtır.

Erişebilenler: Sistem yöneticileri, OU sorumluları

Uygulamaya Göre

API Proxy (gateway kuralı) bazında kullanım. Hangi entegrasyonların en çok LLM token'ı tükettiğini belirleyin.

Erişebilenler: Kullanıcılar (kendi uygulamaları), proje sorumluları (proje uygulamaları), sistem yöneticileri (tümü)

Modele Göre

LLM modeline göre maliyet ve kullanım kırılımı. Hangi modellerin en pahalı veya en sık kullanıldığını belirlemeye yardımcı olur.

• GPT-4o — 5000 istek, $250
• Claude-3-Sonnet — 2000 istek, $80
• GPT-4-Turbo — 500 istek, $150

Erişebilenler: Herkes

Hiyerarşiye Göre

Diğer sekmelerin yanıtlayamadığı soruyu yanıtlar: bu organizasyon, altındaki her şey dahil, toplam ne harcadı?

Sekme, tüketici organizasyonlarınızı ağaç olarak gösterir. Her satır kendi alt ağacının toplamını taşır — kendi tüketicileri ve altındaki tüm organizasyonlar — böylece bir üst satırın rakamı her zaman altındaki seviyelerin toplamına eşittir. Satırı genişlettiğinizde alt organizasyonları, onların altında da tüketicileri tek tek token, maliyet ve kendilerini bağlayan bütçe ile görürsünüz.

Tarih aralığı. Paylaşılan son N gün seçicisi yerine başlangıç/bitiş tarihi seçicisi bulunan tek sekme budur; çünkü bu rapor genellikle bir fatura dönemi ("geçen ay", "üçüncü çeyrek") için çekilir. Aralık her iki uçta da dahildir ve en çok 366 gün olabilir; daha geniş bir seçim sessizce kırpılmaz, reddedilir.

Tüketici listesi. Tüketiciler organizasyon genişletildiğinde yüklenir, baştan değil; böylece binlerce tüketicili bir kurulumda sekme yine anında açılır. Her seferinde elli tanesi gösterilir, altında daha fazla tüketici göster satırı bulunur; filtre kutusu listeyi tüketici adına göre daraltır. Seçilen aralıkta hiç harcama yapmamış bir tüketici de listede kalır, sıfırlarla — sekme "bu grupta kim var ve ne harcadı" sorusunu yanıtladığı için sessiz bir üyenin sayımdan düşmesi doğru olmaz.

Bütçe sütunu. Her satır kendisini bağlayan aylık token bütçesini ve bu bütçenin nereden geldiğini gösterir: satırın kendi bütçesi ya da üstündeki en yakın organizasyon (Devralındığı yer olarak görünür). Bu, en yakın açıkça tanımlı bütçedir; çalışma anındaki tam tavan değildir — tek bir tüketicinin gerçek etkin limiti için o tüketicinin Limitler sekmesini açın.

Kullanım oranı. Yalnızca seçilen aralık tek bir takvim ayı içinde kaldığında gösterilir; çünkü bütçeler aylıktır: aylık bir bütçeyi 90 günlük bir pencereyle karşılaştırmak, hiçbir zaman limiti aşmamış bir tüketici için %300 gösterirdi. Tek ayın dışında ve zincirinde hiç bütçe bulunmayan satırlarda hücrede tire görünür.

Organizasyonlarınızın yanında iki satır daha çıkabilir:

• Organizasyonu yok — hiçbir organizasyona bağlı olmayan tüketiciler ve tüketici kaydı artık bulunmayan kullanım (örneğin silinmiş bir tüketici). Harcamaları gerçek olduğu için düşürülmez, gösterilir.
• Anonim trafik — tüketici kimliği olmayan AI trafiği. Toplamlara dahil edilir, ancak tüketici olarak sayılmaz.

Sınıflandırılamayan satırlar. Bir organizasyonun bağlı olduğu üst organizasyon çözülemediğinde, o satır ağacın en üst seviyesinde gösterilir ve yanında Sınıflandırılamayan etiketi çıkar; etiketin üzerine geldiğinizde nedeni yazar. Üç neden vardır: üst organizasyon bu projede görünmüyordur (başka bir projeye aittir ya da silinmiştir), üst organizasyon zinciri kendi üzerine dönüyordur, ya da zincir ürünün izin verdiğinden daha derindir.

Bu satırların rakamları doğrudur ve tam bir kez sayılır; belirsiz olan tek şey ağaçtaki yerleridir. Harcama düşürülmez, çünkü bir organizasyonun raporda sessizce kaybolması, yanlış girintide görünmesinden çok daha kötüdür. Böyle bir satır gördüğünüzde Tüketici Organizasyonları ekranından o organizasyonun üst organizasyon bağını düzeltin; bağ düzeldiğinde satır kendi yerine oturur ve etiket kaybolur.

Bir tüketici hangi organizasyonun altında sayılır

Bir tüketicinin harcaması — geçmiş harcaması dahil — bugün bağlı olduğu organizasyonun altında raporlanır. Bir tüketiciyi başka bir organizasyona taşırsanız geçmiş kullanımı da onunla birlikte taşınır; bu nedenle o tüketici için bu sekme ile Gruba Göre sekmesi ayrışabilir. Bu bilinçli bir tercihtir: bir üst satırın toplamının her zaman altındaki seviyelerin toplamına eşit olmasının tek yolu budur.

Ortam seçicisi bu sekmeyi etkilemez

Sayfanın üstündeki ortam filtresinin bu sekmeye etkisi yoktur. Diğer konsolide sekmeler gibi, ortam boyutu taşımayan günlük kullanım özetini okur.

Bugün henüz tamamlanmamıştır

Bu sekme diğer rapor sekmeleriyle aynı konsolide kullanım verisini okur; veri canlı değil, belirli aralıklarla tazelenir. Bu nedenle içinde bulunulan gün, bir sonraki özetleme çalışana kadar eksiktir — bkz. Veri Tazeliği ve Kaynağı.

Erişebilenler: Projede AI Analitik veya Analitik görüntüleme yetkisi olan kullanıcılar. Dışa aktarma ayrı bir yetki gerektirir (bkz. aşağıdaki Excel'e aktarma bölümü).

Projeye Göre

Projeler arası kullanım özeti (yalnızca sistem yöneticileri). Proje maliyetlerini ve kaynak dağılımını karşılaştırmak için kullanışlıdır.

Erişebilenler: Yalnızca sistem yöneticileri

Ekibe Göre

Kimlik bilgisi organizasyonuna (API kimlik bilgilerinin sahibi olan ekip) göre kullanım. Organizasyonel tüketim örüntülerini yansıtır.

Erişebilenler: Ekip yöneticileri, sistem yöneticileri

Dağıtım Türüne Göre

Bulut (yönetilen sağlayıcılar) ile Şirket İçi (kendi barındırdığınız modeller) arasında bölünmüş kullanım. Altyapı planlaması için kullanışlıdır.

• Bulut: OpenAI, Anthropic, Azure → 8000 istek, $400
• Şirket İçi: vLLM, Ollama → 2000 istek, $0 (kendi barındırma)

Erişebilenler: Yalnızca sistem yöneticileri

Drill-Down

Bir grup/ekip/OU satırına tıkladığınızda, o gruba ait üyelerin ayrı ayrı kullanım kırılımını görebilirsiniz. Örnekler: Kişiye Göre → Model Kırılımı (bu kişi hangi modelleri kullandı?), Ekibe Göre → Kişi Kırılımı (bu ekipte en çok kim kullandı?), Modele Göre → Kişiye Göre (GPT-4o'yu en çok kim kullandı?). Kırılımı geri tuşu veya breadcrumb ile kapatabilirsiniz.

Zaman Aralığını Seçin

Tarih Aralığı açılır listesinden son 1, 3, 5, 7, 14, 30 veya 90 gün seçilebilir; varsayılan değer son 1 gündür. Kısa pencereler (1/3/5 gün), gecelik konsolidasyonun bugünün verisini henüz içermediği durumu daha görünür kılmak için eklenmiştir — bkz. Veri Tazeliği ve Kaynağı.

Rapor Türünü Seçin

Açılır menüden rapor türünü seçin: Kullanım, Maliyet, Performans, Guardrail Tetiklenme, Önbellek Verimliliği, Sağlayıcı Sağlığı veya Birleşik (tüm metrikleri bir görünümde).

Boyutlara Göre Filtreleme

Raporları belirli boyutlarla sınırlandırın (çoklu seçim): Kişi, Grup, OU, Uygulama, Model, Proje, Sağlayıcı, Dağıtım Türü.

Raporu Görüntülemek

Raporu Oluştur'a tıklayın. Veriler grafik ve tablo formatında görüntülenir.

XLSX Dışarı Aktarım

Tüm rapor verilerini Excel dosyasına aktarabilirsiniz:

1. Raporu oluşturduktan sonra, tablo en üstündeki Excel'e Aktar düğmesine tıklayın
2. Excel dosyası indirilir: AI_Raporlari_2026_06_15.xlsx
3. Dosya şunları içerir: özet sayfası, kullanım detayları, maliyet dağılımı, performans metrikleri, zaman serisi

ipucu

Excel dosyaları, pivot tablo ve grafik oluşturmak için yararlıdır. Tüm veriler şifreli değildir; dosyayı ekiplere gönderirken gizlilik anlaşmalarına uyun.

Projeler arası dışa aktarım sistem yöneticisi yetkisi gerektirir.

Önbellekleme ve Yenileme

Bu tab, yukarıda Veri Tazeliği ve Kaynağı bölümünde anlatılan aynı gecelik-konsolide veriyi okur. Özetleme şu sıklıkla çalışır:

• Gecelik (UTC) — geçmiş veri için
• Talep üzerine — raporu açtığınızda (yapılandırılmışsa)

Geçerli dönemi zorla yeniden özetlemek için Yenile'ye tıklayın.

Çoklu Para Birimi Görünümü

AI Maliyet Ayarları'nda yapılandırılmışsa, maliyetler seçtiğiniz para biriminde görüntülenir:

• USD: $0.05
• TRY: 0.04 ₺ (kur tanımlıysa, örn. 38.5)

Tüm metrikler mutlak token sayısı olarak kalır (para birimine bağlı değildir).

Yetki Örnekleri

Rol	Kişiye Göre	Projeye Göre	Dağıtım Türüne Göre	Projeler Arası Dışa Aktarım
Standart Kullanıcı	Yalnızca kendi	Yalnızca kendi	❌	❌
Proje Yöneticisi	Yalnızca proje	Proje	❌	❌
Ekip Lideri	Yalnızca ekip	Ekip	❌	❌
Sistem Yöneticisi	Tümü	Tümü	✅	✅

Bulut vs. Şirket İçi Karşılaştırması

Dağıtım Türüne Göre raporunda:

• Bulut (OpenAI, Anthropic, Azure, Vertex, Bedrock) vs. şirket içi (vLLM, Ollama) karşılaştırması
• Bulut kaynakların daha yüksek hız, şirket içi kaynakların daha düşük latency gösterebilir

Sistem Yöneticisi Raporları

Admin olarak, tüm projeler ve kullanıcılar arasında raporlar görebilirsiniz:

• Çapraz proje raporları — tüm projeler üzerinde toplam kullanım
• Kullanıcı tabanlı raporlar — her kullanıcı tarafından yapılan tüm istekler
• Sistem genelindeki kotalar — küresel token sınırlaması durumu

uyarı

Sistem yöneticileri tüm kullanıcılara ait raporları görebilir. Bu bilgileri gizli tutun ve sadece yetkili kişilerle paylaşın.

Güvenlik ve Guardrail'ler tab'ı

Hangi korumanın (PII maskeleme, DLP, istem koruması, konu-dışı, döngü, aşırı boyut, bağlam bütünlüğü) ne sıklıkla ve hangi aksiyonla (Engelle/İşaretle/Maskele) tetiklendiğini gösterir. Bağlam penceresi taşmasında otomatik mesaj kesme de bu raporda ayrı bir kalem olarak görünür.

İstem Koruması veya Konu-Dışı Koruması'nda bir dış sağlayıcı guardrail'i kullanılıyorsa, dış çağrının sonucu (SAFE hariç: güvensiz, zaman aşımı, hata, atlandı) rapora yansır; bir engelleme dış hakemden geldiyse tetikleyen koruma dış sağlayıcı olarak görünür. Yalnız-Gözlem modundaki uyum (agreement) oranı bu raporun kapsamında değildir; yalnızca bir Prometheus metriği olarak izlenir.

İçerik Güvenliği Kategori Kırılımı

Guardrail Tetiklemeleri raporu ayrıca, İçerik Güvenliği Kategorileri (AILuminate) sayfasında anlatılan aynı 14 yerleşik tehlike kategorisine göre tetiklemeleri kıran bir İçerik Güvenliği Kategorileri (AILuminate) panosu içerir. Kategori ekseni bilinçli olarak bu 14 koda (artı geri kalan her şey için bir genel kova) sabitlenmiştir, açık uçlu bırakılmamıştır — böylece pano okunabilir kalır ve tek bir yanlış etiketlenmiş kural ekseni şişiremez. GDPR Madde 9 kapsamındaki özel bir kişisel veri kategorisine değen bir kategori burada görünür bir rozet taşır.

Pano, bu sekmenin geri kalanıyla aynı proje, ortam ve — raporu tek bir AI Gateway'e daralttığınızda — proxy filtrelerine uyar. Guardrail tetiklemeleri eşleşen bir içerik güvenliği kategori etiketi taşıdıkça dolmaya başlar; o zamana kadar seçili dönem için veri göstermez — bu ekrandaki diğer her bileşenle aynı boş durum, bir hata değildir.

Kategori etiketleri arayüzün diline göre gösterilir: arayüz Türkçeyse kategori kataloğunda tanımlı TR karşılığı, yoksa kanonik İngilizce ad, o da bulunamazsa ham AILuminate kodu görünür (aynı fail-soft zincir, kardeş İçerik Güvenliği Kategorileri katalog ekranıyla paylaşılır). Etiket okuması aktif projeyle sınırlıdır — aynı kategori kodunu farklı bir görünen adla tanımlayan başka bir proje varsa, o projenin etiketi bu raporda görünmez.

Prometheus'ta da izlenir

Aynı 14 kategori (artı genel kova), tetiklemeyi üreten aksiyon (engelle/işaretle) ve değerlendirme motoruyla (yerleşik, yerleşik + dış sağlayıcı veya yalnızca dış sağlayıcı) birlikte bir Prometheus sayacı olarak da izlenir — içerik güvenliği tetikleme hacmine bu ekranın dışında alarm kurmak veya onu grafiğe dökmek isterseniz kullanışlıdır.

not

Guardrail raporunda kimlik bilgisi/kullanıcı bilgisi anonimleştirilir — hangi korumanın kaç kez tetiklendiği görülür, kimin tetiklediği raporda ayrıca listelenmez.

bilgi

Bu ekranın sağladığı kullanım/maliyet görünürlüğüne ek olarak, kurulumunuzdaki AI varlıklarının allow-list ve katalog tanımlarına uyup uymadığını görmek için bkz. AI Varlık Envanteri (ayrı, bağımsız bir ekrandır).

Sağlayıcı Sağlığı tab'ı

Her LLM sağlayıcı bağlantısının canlılık durumunu ve son ölçülen gecikmesini gösterir — yönlendirme ve failover kararlarında kullanılan sağlık verisiyle aynı kaynaktan beslenir.

not

AWS Bedrock ve Google Vertex AI bağlantıları burada gerçek durumlarından bağımsız olarak her zaman sağlıksız görünür — periyodik kontrol bu iki sağlayıcının kendi imzalama şemasını henüz desteklemiyor. Bu durum, bu bağlantılar üzerinden yapılan gerçek sohbet veya embedding trafiğini etkilemez; detaylar için bkz. LLM Sağlayıcıları ve Bağlantılar.

Trafik tab'ı

AI-farkında (AI-aware) ham trafik günlüğünü gösterir. Kendi ortam ve tarih filtrelerini taşır (üstteki paylaşılan filtre çubuğu bu tab'da gizlenir) ve kısa aralıklı otomatik yenileme için bir yenileme aralığı seçicisi bulunur. Tek bir isteğin uçtan uca izini incelemek için İzleme ve Tekrar Oynatma sayfasına bakın.

Her satır, gateway üzerinden geçen bir isteği AI-öncelikli kolonlarla gösterir:

• Durum · Zaman — HTTP durum rozeti ve isteğin zaman damgası
• İstek — HTTP metodu, AI Proxy adı ve proxy'nin göreli yolu
• Model — isteği karşılayan sağlayıcı ve model; altında isteğin gönderildiği sağlayıcı adresi, sunucu adı + son yol parçası biçiminde kısaltılmış olarak görünür (tam adres için hücrenin üzerine gelin)
• Tüketici — tüketici adı ve IP adresi
• Token — giren ve çıkan token sayıları; sağlayıcı bağlamı yeniden kullandıysa altında önbellekli token sayısı
• Maliyet — AI Maliyet Ayarları'ndan hesaplanan istek maliyeti
• TTFT · TPOT — ilk token'a kadar geçen süre ve çıkan token başına süre; tam anlamsal önbellek isabetinde ölçüm yerine önbellek görünür
• Gecikme — toplam süre ve bunu guardrail, çıkarım (inference) ve ek yük (overhead) aşamalarına ayıran aşama çubuğu
• Bayraklar — tespit edilen PII, anlamsal önbellek isabeti, gateway'de engellenen istekler, guardrail isabetleri ve akış (stream) yanıtları için rozetler

Sorgu dizesi kaydedilmez

Adres kaydedilirken adresteki sorgu dizesi bilinçli olarak silinir — API anahtarı gibi değerlerin trafik kaydına düşmesini önlemek içindir. Bu nedenle, örneğin Azure OpenAI bağlantılarında istek adresine eklenen ?api-version= parametresi trafik kaydındaki adreste görünmez. Bu alanın sağlayıcı tipine göre nasıl kullanıldığı için bkz. API Versiyonu Alanı.

Kayıt Detay Paneli

Satır menüsünden Detaylı Görünüm'ü seçtiğinizde ekranın sağında bir detay paneli açılır. Panelin başlığında birleşik durum (örneğin 200 Success), metot ve rota görünür; altındaki özet kartında API Proxy, proje ve ortam, göreli yol, uç nokta, oluşturulma zamanı ve correlation id yer alır. İçerik sekmelere ayrılmıştır:

• Genel Bakış — istek, istemci bağlantısı ve sunucu bağlantısı detayları, yönlendirme bilgileri, yönlendirme tanıları (upstream seçimi ve ilk bayta kadar geçen süre için faz çubuğu dahil), canary durumu, veri aktarım boyutları ve istek pipeline'ı, backend yönlendirme ile yanıt pipeline'ı aşamalarını gösteren performans şelalesi. Log Ayarları'nda politika süresi ölçümü açıksa politika bazında süreler de burada görünür.
• İstemciden Gelen İstek / Target API'ye Giden İstek / Target API'den Dönen Yanıt / İstemciye Dönen Yanıt — isteğin her adımındaki başlıklar (header), parametreler ve gövde (body); gövde üzerinde Base64 çözme ve XML/JSON biçimlendirme aksiyonları.
• LLM İçgörüleri — AI'a özgü tüm veriler tek yerde: rota, sağlayıcı, model, token sayıları, maliyet, önbellek isabeti, TTFT ve TPOT, aşama gecikme kırılımı, istekte kişisel veri tespit edildiğinde PII uyarısı ve ham kullanım/meta tablosu.

Satır detayları yalnızca genel ayarlardaki API Trafiği Log Detaylarını Etkinleştir ayarı açıkken açılır.

Giden MCP Araç / A2A Yetenek Çağrıları

Detay panelinin LLM İçgörüleri sekmesinde, o istek sırasında proxy'nin dışarıya (outbound) hangi MCP araçlarını veya A2A yeteneklerini/ajanlarını çağırdığı da görünür — bu kayıt İzleme açık olsun olmasın tutulur (önceden yalnızca izleme açıkken görünebiliyordu).

• MCP Detayları bölümünde Çağrılan Dış Araçlar (ilk-görülme sırasına göre tekilleştirilmiş araç adları, virgülle ayrılmış, 256 karakterde kırpılır — ad asla ortasından kesilmez) ve Dış Araç Çağrısı Sayısı (ham toplam çağrı sayısı, tekrarlar dahil)
• A2A Detayları bölümünde karşılığı Çağrılan Dış Yetenek/Ajanlar ve Dış Ajan Çağrısı Sayısı — A2A hedefinde yetenek (skill) adı boşsa ajan anahtarı gösterilir

not

Sayaç, bir agentic döngüde aynı isteğin birden çok turunda yapılan tüm çağrıları biriktirir. Guard veya kota tarafından reddedilen çağrılar da bu kayda dahildir — denetim izinin amacı hangi araca gidilmeye çalışıldığını göstermektir.

En İyi Uygulamalar

ipucu

1. Haftalık maliyet kontrolü — her hafta Maliyet raporunu kontrol edin
2. Model kullanım analizi — hangi modellerin en çok kullanıldığını, en pahalı olduğunu izleyin
3. Dağıtım türü optimizasyonu — şirket içi model fiyat/latency'de iyileşme sunuyorsa geçişi değerlendirin
4. Guardrail tetiklenmelerini izleyin — ani bir artış, yanlış yapılandırılmış bir koruma ya da kötüye kullanım girişimine işaret edebilir
5. Trend analizi — aylık raporlar arasında kullanım artışını gözlemleyin; anormal artışı araştırın

Sorun Giderme

Raporda Veri Yok

• Seçilen zaman aralığında hiç istek yapılmamış olabilir
• Filtrelerin çok kısıtlı olup olmadığını kontrol edin
• Başka rapor türünü deneyin

Maliyetler Beklenenden Farklı

• Model fiyatlandırması tablosunun güncel olup olmadığını kontrol edin
• Token sayısını (girdi vs. çıktı vs. önbelleğe alınmış) kontrol edin

Excel Dışarı Aktarımı Başarısız

• Rapor boyutu çok büyükse zaman aralığını daraltın
• Filtreleri kısıtlayın (örn. tek model veya proje)
• Tekrar deneyin

Sonraki Adımlar

AI Maliyet Ayarları

Model fiyatlandırmasını kontrol edin

Token Kotaları ve Hız Sınırlaması

Kullanım kontrolü için kotalar ayarlayın

İzleme ve Tekrar Oynatma

Tek bir isteğin uçtan uca izini inceleyin

Semantik Önbellek

Önbellek verimliliğinin arkasındaki mekanizmayı öğrenin