Ana içeriğe atla

Analytics Engine Kavramı

Veri Toplama

API trafiğinden veri toplama

Analiz

Veri analizi ve metrik hesaplama

Görselleştirme

Dashboard ve raporlar

Gerçek Zamanlı

Gerçek zamanlı metrikler

Analytics Engine Özellikleri

Veri Toplama

API trafiği ve tüm loglamalar asenkron olarak yapılır. Bu sayede API Gateway’in performansı etkilenmez ve loglama işlemleri arka planda gerçekleştirilir.
  • İstek URL’i
  • HTTP method
  • Request headers
  • Request body (opsiyonel)
  • Timestamp
  • Response status code
  • Response headers
  • Response body (opsiyonel)
  • Response time
  • Hata tipi
  • Hata mesajı
  • Hata zamanı
Tüm loglama işlemleri asenkron olarak gerçekleştirilir. Bu sayede API Gateway’in yanıt süresi etkilenmez ve yüksek performans korunur.

Metrikler

Performans Metrikleri

  • Response time (ortalama, min, max)
  • Throughput (requests/second)
  • Latency
  • Error rate

Kullanım Metrikleri

  • API çağrı sayısı
  • Unique kullanıcı sayısı
  • Endpoint kullanımı
  • Method bazlı kullanım

Hata Metrikleri

  • Hata sayısı
  • Hata oranı
  • Hata tipi dağılımı
  • Hata trendi

Trafik Metrikleri

  • Toplam trafik
  • Trafik trendi
  • Peak saatler
  • Coğrafi dağılım

Görselleştirme

  • Gerçek zamanlı metrikler
  • Grafikler ve chart’lar
  • Özelleştirilebilir widget’lar
  • Filtreleme ve zaman aralığı seçimi
  • Hazır raporlar
  • Özel rapor oluşturma
  • Rapor zamanlama
  • Rapor export (PDF, CSV, Excel)
  • Metrik bazlı alarmlar
  • Threshold tanımlama
  • Bildirim kanalları (Email, SMS, Webhook)

Analytics Engine Bileşenleri

Log Collector

API Gateway’lerden log kayıtlarını toplayan bileşen
  • Log Aggregation: Log kayıtlarını toplama
  • Log Parsing: Log kayıtlarını parse etme
  • Log Storage: Log kayıtlarını saklama

Data Processor

Toplanan verileri işleyen ve metrikleri hesaplayan bileşen
  • Data Transformation: Veri dönüştürme
  • Metric Calculation: Metrik hesaplama
  • Data Aggregation: Veri toplama

Depolama Katmanı

Analitik verilerin saklandığı katman
  • Elasticsearch: Log ve metrik verileri
  • Zaman Serisi Veritabanı: Zaman serisi verileri
  • Veri Saklama: Veri saklama politikaları

Analytics Engine Kullanım Senaryoları

Performans İzleme

  1. API response time izleme
  2. Throughput analizi
  3. Latency trend analizi
  4. Bottleneck tespiti

Kullanım Analizi

  1. En çok kullanılan API’ler
  2. Kullanıcı bazlı kullanım
  3. Endpoint bazlı kullanım
  4. Zaman bazlı kullanım trendi

Hata Analizi

  1. Hata oranı izleme
  2. Hata tipi analizi
  3. Hata trend analizi
  4. Hata çözümü takibi

Analytics Engine ve Diğer Bileşenler İlişkisi

Analytics Engine, API Gateway’lerden log kayıtlarını asenkron olarak alır, işler ve analitik veriler üretir. İşleyiş akışı:
API Gateway

   │ Asenkron Log Kayıtları

Analytics Engine

   │ Analitik Veriler

Depolama Katmanı (Elasticsearch)

   │ Görselleştirme

Dashboard / Reports

1. Asenkron Veri Toplama

API Gateway’lerden log kayıtları asenkron olarak toplanırRequest, Response ve Error logları arka planda toplanır. API Gateway’in performansı etkilenmez.

2. Veri İşleme

Log kayıtları işlenir ve metrikler hesaplanırVeri dönüştürme ve metrik hesaplama yapılır.

3. Veri Saklama

Analitik veriler depolama katmanına kaydedilirElasticsearch’e log ve metrik verileri saklanır.

4. Görselleştirme

Dashboard ve raporlar oluşturulurKullanıcılar metrikleri görselleştirebilir.
Analytics Engine, API Gateway’lerden gelen log kayıtlarını asenkron olarak işleyerek API performansı ve kullanımı hakkında değerli bilgiler sağlar. Asenkron loglama sayesinde API Gateway’in yanıt süresi etkilenmez ve yüksek performans korunur.

Veri Saklama ve Retention

API Trafiği Logları ve ILM

API trafiği logları Elasticsearch’te saklanır ve Index Lifecycle Management (ILM) doğrudan desteklenir. ILM politikaları Apinizer üzerinden yönetilebilir. Ayrıca connector’lar vasıtasıyla loglar farklı hedeflere gönderilebilir:

Elasticsearch Saklama

API trafiği logları Elasticsearch’te saklanır
  • Gerçek zamanlı log saklama
  • Arama ve analiz yetenekleri
  • Ölçeklenebilir depolama
  • Apinizer ekranında direkt görüntüleme ve yönetim
  • Kibana ile görselleştirme desteği

ILM Desteği

Elasticsearch ILM politikaları Apinizer’dan yönetilir
  • Index lifecycle aşamaları (hot, warm, cold, delete)
  • Otomatik index rollover
  • Retention politikaları
Apinizer, Elasticsearch’te saklanan API trafiği logları için özel analytics ve raporlama özellikleri sunar:
  • Analytics Dashboard: Apinizer ekranında direkt görüntüleme
  • Raporlama: Özel raporlar oluşturma ve yönetme
  • Gerçek Zamanlı Metrikler: Canlı trafik ve performans metrikleri
  • Filtreleme ve Sorgulama: Gelişmiş filtreleme ve sorgulama yetenekleri
Apinizer ekranından API trafiği loglarını görüntüleyebilir, analiz edebilir ve raporlar oluşturabilirsiniz. Tüm analytics ve raporlama işlemleri Apinizer üzerinden yönetilebilir.
İstenirse Elasticsearch’teki loglar Kibana ile görselleştirilebilir:
  • Kibana Dashboard: Kibana üzerinden dashboard oluşturma
  • Görselleştirme: Kibana’nın görselleştirme araçları
  • Gelişmiş Analiz: Kibana’nın analiz yetenekleri
Kibana entegrasyonu sayesinde Elasticsearch’teki loglar Kibana’nın güçlü görselleştirme ve analiz araçları ile kullanılabilir.
API trafiği logları connector’lar vasıtasıyla farklı hedeflere gönderilebilir:
  • Kafka: Mesaj kuyruğuna log gönderimi
  • Syslog: Syslog sunucularına log gönderimi
  • SIEM Araçları: Güvenlik bilgi ve olay yönetimi araçlarına entegrasyon
  • Relational Database: İlişkisel veritabanlarına log kaydetme
Connector’lar sayesinde API trafiği logları birden fazla hedefe paralel olarak gönderilebilir. Bu sayede loglar hem Elasticsearch’te saklanır hem de diğer sistemlere aktarılır.

Apinizer Uygulama Logları

Apinizer platformunun çeşitli bileşenlerinin oluşturduğu loglar için otomatik temizleme görevleri yapılandırılabilir:
  • Manager Logs: Manager uygulamasının yazılımsal logları
  • Gateway Logs: Gateway uygulamasının yazılımsal logları
  • Cache Logs: Cache uygulamasının yazılımsal logları
  • Audit Records: Kullanıcı değişiklik kayıtları
  • ACL Audit Records: API Proxy ve grup erişim kayıtları
  • Token Requests: Token alma istekleri
  • API Manager User Token Blacklist: Çıkış yapıldığında tutulan token kayıtları
  • Alert Logs: Alarm kayıtları
  • Anomaly Detector Logs: Anomali tespit logları
  • Uptime Monitor Logs: Uptime monitoring logları
  • Task Flow Logs: Task Flow işlem logları
  • Report Logs: Rapor işlem logları
  • API Proxy Trace Logs: Trace özelliği etkin olduğunda tutulan loglar
  • User Notifications: Kullanıcı bildirimleri
  • Environment Metrics: Ortam (Namespace) metrikleri
Uygulama logu temizleme görevleri saatlik veya günlük olarak çalıştırılabilir. Belirtilen tarihten önceki kayıtlar otomatik olarak silinir. Detaylı bilgi için Uygulama Logu Temizleme Görevleri sayfasına bakabilirsiniz.

Gönderilmemiş API Trafik Logları

API trafik logları konnektöre gönderilemediğinde failover konnektör kullanılır. Failover konnektör olarak Apinizer konfigürasyon veritabanı seçilmişse, biriken veriler esas konnektörlere taşınabilir:
Gönderilmemiş API trafik logları manuel olarak taşınabilir. İşlem sırasında hata alınırsa veri kaybı olmayacak şekilde yarıda kesilir ve daha sonra tekrar başlatılabilir. Detaylı bilgi için Gönderilmemiş API Trafik Loglarını Taşı sayfasına bakabilirsiniz.

Prometheus ve Grafana Entegrasyonu

Analytics Engine metrikleri Prometheus ve Grafana ile entegre edilebilir:

Prometheus Entegrasyonu

Apinizer metrikleri Prometheus’a aktarılır
  • Gateway metrikleri
  • Cache metrikleri
  • Custom PromQL sorguları

Grafana Dashboard

Prometheus verileri Grafana’da görselleştirilir
  • Örnek dashboard’lar
  • Özelleştirilebilir grafikler
  • Gerçek zamanlı metrikler
Prometheus ve Grafana entegrasyonu hakkında detaylı bilgi için Apinizer Metriklerinin Prometheus ve Grafana’ya Entegre Edilmesi sayfasına bakabilirsiniz.

Sonraki Adımlar