Model Kataloğu ve Fiyatlandırma
Genel Bakış
Apinizer AI Gateway, kurulumla birlikte hazır bir model kataloğu ile gelir: onlarca LLM sağlayıcısına ait yüzü aşkın model, kimlik ve birim fiyatlarıyla önceden tanımlıdır. Yeni bir sağlayıcı bağlantısı eklediğinizde, o sağlayıcıya ait modeller kataloğdan otomatik olarak kullanılabilir hale gelir.
Katalog Kapsamı
Katalogda her model için şu bilgiler tutulur:
- Model kimliği — örn.
gpt-4o,claude-3-sonnet - Sağlayıcı — modelin ait olduğu LLM sağlayıcısı
- Birim fiyat — giriş (input) ve çıkış (output) token'ları için ayrı ayrı USD/1M token fiyatı
- Modalite — sohbet tamamlama, gömme (embedding), ses-metin, metin-ses, görsel üretim gibi desteklenen istek türü
| Sağlayıcı | Model | Giriş (USD/1M) | Çıkış (USD/1M) |
|---|---|---|---|
| OpenAI | gpt-4o | $2.50 | $10.00 |
| OpenAI | gpt-3.5-turbo | $0.50 | $1.50 |
| Anthropic | claude-3-opus | $15.00 | $75.00 |
| Anthropic | claude-3-sonnet | $3.00 | $15.00 |
Yukarıdaki tablo örnek amaçlıdır. Güncel katalog ve fiyatlar için AI Maliyet Ayarları sayfasına bakın.
Model Yaşam Döngüsü: Kullanımdan Kaldırma ve Sonlanma
Bir model kaydında iki ayrı yaşam-döngüsü alanı vardır:
- Kullanımdan Kaldırıldı (deprecated) — bir uyarı bayrağıdır. İşaretli bir model çalışmaya devam eder; yalnızca "artık önerilmiyor" anlamına gelir ve kullanan bir API Proxy'nin Yönlendirme sekmesinde uyarı olarak görünür.
- Sonlanma Tarihi (İngilizce arayüzde Sunset At) — kesin bir kesim tarihidir; Genel, Yaşam Döngüsü ve Kapasite & Fiyat sekmeleriyle birlikte modelin Yaşam Döngüsü sekmesinde görüntülenir.
Sonlanma Tarihi geçtikten sonra gateway o modeli sunmayı bırakır: modeli isteyen çağrı HTTP 400 ile reddedilir ve model GET /v1/models keşif yanıtında görünmez. Kullanımdan kaldırma bayrağının aksine bu uygulanan bir kuraldır, uyarı değildir — alanı yalnızca sağlayıcının modeli gerçekten hizmet dışı bıraktığı tarihe ayarlayın.
Tarih gateway'e fiyatla aynı yoldan ulaşır: modeli taşıyan her sağlayıcı bağlantısına kopyalanır (bkz. aşağıdaki bölüm), dolayısıyla katalogda girilen bir tarih önceden var olan bağlantılar için de geçerlidir. Sonlanma Tarihi olmayan bir model hiçbir zaman kesilmez.
Model Başına Ayar
Sistem tarafından tanımlanan modellerin yanı sıra, kendi özel modellerinizi (örn. ince ayarlı bir model) de katalogda benzersiz bir kimlikle ve kendi birim fiyatınızla tanımlayabilirsiniz.
Katalogdaki her kayıt düzenlenebilir — Apinizer ile birlikte gelenler dahil. Sağlayıcı fiyatını değiştirdiğinde ya da kurumsal bir indirim anlaşması yaptığınızda modelin fiyatını güncellersiniz; yeni istekler anında güncel değeri kullanır, geçmiş kayıtlar kendi maliyetiyle kalır. Fiyatları AI Maliyet Ayarları sayfasından da yönetebilirsiniz.
Yerleşik bir model AI Gateway → LLM Sağlayıcıları → Model Kataloğu ekranından düzenlenir ve düzenlemeniz sürüm yükseltmelerinde korunur — ürünle gelen katalog yalnızca var olmayan modelleri ekler, mevcut bir kaydın üzerine hiçbir zaman yazmaz.
Yerleşik bir kayıtta iki alan sabittir: sağlayıcısı ve model ID'si. Sürüm yükseltmesi kaydı bu ikisiyle tanır; değiştirilebilseydi bir sonraki katalog tazelemesi modeli bulamaz ve ikinci bir kopyasını eklerdi. Geri kalan her şey — görünen ad, fiyat, bağlam penceresi, azami çıktı token'ı, yetenekler, modalite ve kullanımdan kaldırma işareti — sizindir. Farklı bir model ID'si olan bir varyant gerekiyorsa Klonla ile kopya üretip onu düzenleyin.
Yerleşik bir kaydı düzenlemek kurulum geneli bir değişikliktir (kayıt tüm projelerce paylaşılır), bu yüzden Sistem Yöneticisi yetkisi ister. APIops REST API'si daha katıdır ve builtIn bir modelde oluşturma, güncelleme ve silmenin tamamını reddeder: o yüzey proje kapsamlıdır, yerleşik kayıt ise değildir. Aynı ayrım sağlayıcı tanımları için de geçerlidir.
Bir proje seçmeden Administration bağlamında bu ekrana giren bir Sistem Yöneticisi, yalnızca yerleşik kayıtları değil, kurulumdaki tüm projelerin özel (custom) kayıtlarını da görür ve düzenler — Administration bağlamı kasıtlı olarak kurulum geneli bir görünümdür.
Kataloğun Beslediği Alanlar
Model kataloğundaki birim fiyatlar yalnızca raporlama için değil, gateway'in çalışma zamanı kararları için de kullanılır:
- Maliyet takibi — her isteğin USD maliyeti, kullanılan token sayısı × katalogdaki birim fiyat ile hesaplanır (Raporlar ve Analitik)
- Bütçe ve kota uygulaması — aylık USD bütçesi ve model başına harcama sınırları katalog fiyatına göre hesaplanır (Token Kotaları ve Hız Sınırlaması)
- Maliyet-duyarlı yönlendirme — birden fazla eşit-öncelikli hedef tanımlıysa, en düşük maliyetli model katalog fiyatına bakılarak seçilebilir (Yönlendirme ve Failover)
Fiyat Değişikliğinin Yayılması
Bir LLM sağlayıcı bağlantısı, kullandığı modellerin bilgilerini kendi içinde gömülü bir kopya olarak taşır. Katalogdaki bir modelin fiyatını düzenleyip kaydettiğinizde, o modeli içeren bağlantılardaki bu kopyaların fiyatları otomatik olarak güncellenir. Daha önce bu kopya yalnızca bir kez oluşturuluyordu; katalog fiyatı sonradan değiştiğinde bağlantıdaki kopya eski fiyatta kalıyordu.
Bu, yalnızca raporlamayı ilgilendiren bir ayrıntı değildir: bağlantıdaki gömülü fiyat, USD tabanlı bütçelerin ve model başına harcama sınırlarının uygulanmasını da besler. Bayat bir fiyat hem maliyet raporunu yanlış gösterir hem de kotanın yanlış noktada kesmesine yol açar (Token Kotaları ve Hız Sınırlaması).
Hangi bağlantılar güncellenir
- Katalog satırı sistem tanımlı (hazır) ya da yönetici kapsamlı ise, kurulumdaki tüm eşleşen bağlantılar güncellenir.
- Katalog satırı bir projeye aitse, yalnızca o projenin bağlantıları güncellenir.
- Her iki durumda da bağlantının sağlayıcı tipi ile katalog satırının sağlayıcı tipi aynı olmalıdır.
Hangi alanlar güncellenir
Yalnızca fiyat alanları ve kullanımdan kaldırıldı (deprecated) işareti yayılır. Fiyat alanları şunlardır: 1 milyon token başına giriş, çıkış ve önbelleğe alınmış giriş fiyatı; görsel başına fiyat; ses dakikası başına fiyat; TTS karakteri başına fiyat.
Bağlam penceresi (context window), maksimum çıktı token sayısı, yetenekler (capabilities) ve modalite bilgisi ezilmez. Bu alanlar bağlantı başına geçersiz kılma (override) olarak kalır, çünkü yönetici onları o bağlantı için bilerek daraltmış olabilir. Fiyatın yanı sıra modelin yaşam döngüsü alanları — kullanımdan kaldırma bayrağı, duyuru tarihi ve Sonlanma Tarihi — de yayılır.
Sonlanma Tarihi fiyatla birlikte taşındığı için, katalogda bir sonlanma tarihi girmek o modeli halihazırda sunan tüm bağlantılarda da o tarihte hizmet dışı bırakır. Bir modeli yalnızca belirli bir bağlantıda, bu tarihten önce ya da katalogla hiç uğraşmadan kaldırmak isterseniz, o bağlantıdaki modeli devre dışı bırakın veya kaldırın.
Ne zaman deploy tetiklenir
- Hiçbir fiyat gerçekten değişmediyse kayıt da worker deploy'u da tetiklenmez; gereksiz yeniden yükleme olmaz. Yalnızca ölçeği farklı olan aynı değer (örneğin
2.50ile2.5) değişiklik sayılmaz. - Etkin bağlantılar otomatik olarak yeniden deploy edilir; böylece gateway yeni fiyatı hemen uygulamaya başlar.
- Devre dışı (disabled) bir bağlantının fiyatı veritabanında yine tazelenir, ancak worker'a deploy edilmez — bağlantı kapalı kalır. Bağlantıyı sonradan etkinleştirdiğinizde güncel fiyatla deploy edilir.
Model tanımlarının dışa/içe aktarma ile taşınması bu senkronu tetiklemez. İçe aktarma sonrasında fiyatın bağlı bağlantılara yansıması için katalog kaydının arayüzden bir kez kaydedilmesi gerekir.
Sağlayıcı Tipi Kataloğu
Model fiyat kataloğunun yanı sıra bir de sağlayıcı tipi kataloğu bulunur. Bu ikisi farklı kavramlardır — karıştırmayın:
- LLM sağlayıcı bağlantısı (bkz. LLM Sağlayıcıları ve Bağlantılar) — kimlik bilgileriyle yapılandırılmış, çalışan bir bağlantı örneği.
- LLM sağlayıcı tanımı — bir sağlayıcı tipinin şablonu: varsayılan uç nokta, varsayılan API sürümü, varsayılan kimlik doğrulama şeması gibi bilgileri taşır. Yeni bir bağlantı oluştururken form bu tanımdan varsayılan değerlerle doldurulur; tanımın kendisinde bir sır (secret) bulunmaz.
Katalog, kurulumla gelen hazır tanımlarla projeye özel özel tanımların birleşimidir. Katalog, AI Gateway → LLM Sağlayıcılar sayfasının Tanımlar tab'ında görüntülenir: ad, kod, varsayılan uç nokta bilgileri ve hazır/özel rozeti kolonlarıyla listelenir; özel bir tanım burada oluşturulabilir, düzenlenebilir, dışa aktarılabilir ya da silinebilir — bkz. Özel Sağlayıcı Tanımı Ekleme.
Kurulumla birlikte gelen tanımlar (OpenAI, Anthropic, Azure vb.) Tanımlar tab'ından düzenlenebilir ve silinebilir; kaydettiğiniz bir düzenleme sonraki sürümlerde geri ezilmez — kurulumla gelen katalog yalnızca henüz var olmayan tanımları tohumlar. APIops REST API bu konuda daha katıdır: builtIn bir tanım üzerinde oluşturma, güncelleme ve silme isteklerini reddeder. Özel bir tanımda iki yüzeyde de bu kısıtlardan hiçbiri yoktur — Tanımlar tab'ının kendi formundan doğrudan oluşturun, ya da Dışa/İçe Aktarma Sihirbazı üzerinden bir Provider Definition paketi içe aktararak ya da APIops REST API ile ekleyin.
Bir Bağlantının Varsayılanları Nasıl Çözümlenir
Bir sa ğlayıcının yolları ve yetenek bayrakları (chat completion yolu, embedding desteği vb.) şu sırayla aranır:
- Bu sağlayıcının kendi tanımı — tanımın kendisinde ayarlanmış bir değer her zaman kazanır.
- Apinizer'ın o sağlayıcı tipi için kendi hazır varsayılanı, tanım bir değeri boş bıraktıysa.
- Yukarıdakilerin ikisi de bir şey söylemiyorsa devreye giren bir son çare yedek.
Hazır kataloğu tazeleyen bir ürün yükseltmesi, kodu bir hazır sağlayıcı tipiyle aynı olsa bile özel bir tanıma asla dokunmaz — var olan bir hazır tanıma da dokunmaz: tazeleme yalnızca eksik olan tanımları ve modelleri ekler. Kendi tanımınızda ya da kurulumla gelen bir tanımda yapılandırdığınız her şey yükseltmeler boyunca güvendedir; katalogda düzenlediğiniz model fiyatı için de aynısı geçerlidir. Bu aynı zamanda özel bir sağlayıcı için oluşturma formunun (bkz. Özel Sağlayıcı Tanımı Ekleme) wire protocol ve chat completion yolunu baştan neden zorunlu kıldığını da açıklar: gerçekten özel bir sağlayıcı kodunun geri düşebileceği hazır bir varsayılan yoktur, bu yüzden bu alanları boş bırakmak istek anında hiçbir şeye çözümlenirdi.
Sağlayıcı tipi kataloğu APIops REST API ile de yönetilebilir; bkz. API Referansı: LLM Provider Definitions.