Maliyet Ayarları

Genel Bakış

Apinizer AI Gateway, model başına fiyatlandırma ile LLM harcamalarını hesaplar ve raporlar:

• Birim fiyatlar — her model için giriş, çıkış ve önbelleğe alınmış giriş token'ları ayrı ayrı fiyatlandırılır (USD/1 milyon token)
• Maliyet hesaplaması — her istek için token sayısı × birim fiyat = USD maliyeti
• Yönetim — sağlayıcıyı düzenleyebilen kullanıcılar o sağlayıcının model fiyatlarını yönetir

Fiyatlar her modelin kendi sağlayıcısında tanımlanır: AI Gateway → Modeller ekranında sağlayıcıyı açın; Modeller kartının Yapılandır çekmecesinde modelin panelini açın. Fiyat girmek isteğe bağlıdır; fiyatı olmayan bir model maliyet raporlarında 0 sayılır.

bilgi

Tüm maliyetler USD cinsinden hesaplanır ve raporlanır.

Model Fiyatlandırması

Her LLM modeli, giriş, çıkış ve önbelleğe alınmış giriş için ayrı birim fiyat (USD/1 milyon token) içeren bir fiyat tanımına sahiptir:

Model: "gpt-4o"
- Giriş: $2.50 / 1M token
- Çıkış: $10.00 / 1M token

Model: "gpt-3.5-turbo"
- Giriş: $0.50 / 1M token
- Çıkış: $1.50 / 1M token

Model: "claude-3-sonnet"
- Giriş: $3.00 / 1M token
- Çıkış: $15.00 / 1M token

not

Önbelleğe alınmış (cached) giriş token'ları, sağlayıcının kendi prompt/bağlam önbellekleme mekanizmasından yararlanan tekrarlanan içerik parçalarıdır ve genellikle standart giriş fiyatından daha düşük bir birim fiyatla ücretlendirilir. Bu, Apinizer'ın kendi semantik önbellekleme özelliğinden farklı bir mekanizmadır — sağlayıcı tarafındaki token önbelleğidir.

Model Fiyatlarını Yönetme

Fiyatları Görüntülemek

AI Gateway → Modeller sayfasında sağlayıcıyı açın. Modeller kartı sağlayıcının modellerini listeler. Kartın Yapılandır düğmesi çekmeceyi, satırın "⋯" menüsündeki Düzenle modelin panelini açar; fiyatlar panelin Maliyet yönetimi bölümündedir. Aşağıdaki tablo örnek amaçlıdır:

Model	Giriş (USD/1M)	Çıkış (USD/1M)	Önbelleğe Alınmış Giriş (USD/1M)
gpt-4o	$2.50	$10.00	$1.25
gpt-4-turbo	$10.00	$30.00	—
gpt-3.5-turbo	$0.50	$1.50	—
claude-3-opus	$15.00	$75.00	—
claude-3-sonnet	$3.00	$15.00	—

Fiyat Güncelleme

Sağlayıcı yeni fiyat açıkladığında:

Modeli Açın

Sağlayıcının Modeller kartında Yapılandır'a tıklayın, ardından modelin satırındaki "⋯" menüsünden Düzenle'yi seçin.

Giriş Fiyatını Güncelleyin

Yeni giriş fiyatını (USD/1 milyon token) girin.

Çıkış Fiyatını Güncelleyin

Yeni çıkış fiyatını (USD/1 milyon token) girin.

Kaydet

Modeli Kaydet'e, ardından Yapılandır çekmecesinde Kaydet'e tıklayıp açılan pencereyi Onayla ile onaylayın. Yeni istekler yeni fiyatı kullanır.

uyarı

Fiyat değişiklikleri geriye dönük değildir. Önceki istekler eski fiyatla kaydedilmiş kalır; sadece gelecek istekler yeni fiyatı kullanır. Geçmiş raporlar otomatik olarak yeniden hesaplanmaz.

Model Ekleme

Fiyatını tanımlamak istediğiniz model sağlayıcıda yoksa ekleyin (örn. ince ayarlı bir model):

Ekle'ye Tıklayın

Sağlayıcının Modeller kartındaki Yapılandır çekmecesinde Ekle düğmesine tıklayın. Sağlayıcıdan keşfet sekmesi sağlayıcının model listesini getirir; Elle ekle sekmesi model kimliğini yazmanızı sağlar.

Model Kimliğini Girin

Model kimliğini girin (örn. my-fine-tuned-gpt4o).

Fiyatları Girin

Modelin panelinde giriş, çıkış ve (varsa) önbelleğe alınmış giriş için birim ücretleri belirleyin.

Kaydet

Modeli Kaydet'e, ardından Kaydet'e tıklayıp Onayla ile onaylayın. Model, yönlendirmede ve raporlarda kullanılabilir hale gelir.

ipucu

Ses (STT/TTS) ve görsel üretim modelleri dakika/karakter/görsel başına farklı birimlerle fiyatlandırılır — bkz. Çok-Modaliteli Uç Noktalar.

Maliyet Uzlaştırma

Bir isteğin nihai USD maliyeti, yanıt tamamlandığında şu şekilde hesaplanır:

Maliyet = (giriş token × giriş birim fiyatı)
        + (çıkış token × çıkış birim fiyatı)
        + (önbelleğe alınmış giriş token × önbelleğe alınmış giriş birim fiyatı)

Giriş, çıkış ve önbelleğe alınmış giriş token'ları ayrı ayrı sayılır ve ayrı birim fiyatla çarpılır; toplam bu üç bileşenin toplamıdır. Akış (streaming) yanıtlarda bu hesaplama, yanıtın tamamı alındığında yapılır.

Fiyatlar ve USD Limitleri

Aynı fiyatlar Limit Planlarındaki USD limitlerini de besler; bu yüzden bir USD limitinden düşülen tutar ile raporlarda görünen maliyet aynı rakamdır:

• Bir isteğin her turu, onu gerçekten yanıtlayan modelin fiyatıyla hesaplanır. İstek başka bir modele devredildiğinde ya da daha ucuz bir modele yönlendirildiğinde maliyet yanıtı veren modeli izler.
• Fiyatı olmayan bir modelin yanıtladığı istek her iki yerde de 0 maliyetlidir: model, siz fiyat girene kadar USD limitlerinin dışında kalır ve kullanımı raporlarda sıfır maliyetle görünür. Model panelindeki fiyat yok rozetini kontrol edin.
• Fiyatı 0'a çözülen bir istek (örneğin sıfır katsayılı bir servis katmanı) USD limitine de 0 olarak yansır.

Maliyet Raporlaması

Maliyet rakamları Raporlar ve Analitik sayfasında görünür:

• Analitik → Pano (AI görünümü) ekranında Toplam maliyet kartı
• Rapor → Metrikler (AI görünümü) ekranının Maliyet ve Tüketiciler tab'ında bu ayın maliyeti, kümülatif maliyet grafiği ve modele göre maliyet
• Aynı ekranın Kullanım Raporları tab'ında kişi, grup, OU, uygulama, model, proje, ekip ve dağıtım türü (bulut vs. şirket içi) boyutlarında maliyet dağılımı
• Analitik → Trafik (AI görünümü) ekranında Maliyet kolonu

Raporlar maliyeti USD cinsinden, dört ondalıkla gösterir.

İzinler

Fiyatlar LLM sağlayıcısıyla birlikte düzenlenir; bu yüzden değiştirmek için AI geliştirmeyi yönetme yetkisi gerekir. Yönetim kataloğundan paylaşılan bir sağlayıcı Yönetim menüsünden düzenlenir. Diğer roller raporlarda kullanım ve maliyet kırılımlarını görmeye devam eder, ancak fiyatı değiştiremez.

Maliyet Kontrolü En İyi Uygulamaları

ipucu

1. Fiyatlandırmayı güncel tutun: Sağlayıcılar fiyat değiştirdikçe modellerin fiyatlarını düzenli aralıklarla güncelleyin
2. Model başına limitlerle birleştirin: Pahalı modellere daha düşük limitler ayarlayın
3. Raporları düzenli kontrol edin: Beklenmedik maliyet artışını erken tespit etmek için maliyet raporlarını izleyin
4. Tahmin yapın: Projelendirilmiş token kullanımı × birim fiyat = beklenen dönemsel maliyet

Sorun Giderme

Raporlarda Maliyet Çok Düşük veya Sıfır Görünüyor

• Modelin sağlayıcıda fiyatının tanımlı olup olmadığını kontrol edin
• Fiyatı tanımlanmamış modeller 0 maliyetle sayılır; modelin panelinden fiyatı girin

Eski Maliyet Verileri Yanlış Görünüyor

• Fiyat değişiklikleri geriye dönük uygulanmaz; yalnızca yeni istekler yeni fiyata uyar
• Geçmiş maliyetler için ilgili dönemin raporuna bakın

Sonraki Adımlar

Token Rate Limit Politikası

Maliyet artışını önlemek için LLM Gateway limiti tanımlayın

Raporlar ve Analitik

Detaylı maliyet dağılımlarını inceleyin

LLM Sağlayıcılar ve Modeller

Sağlayıcıların modellerini ve birim fiyatlarını yönetin