Tek Sağlayıcı, Tek Hata Noktası: Kurumsal AI'da Dayanıklılık

Kurumsal yapay zekânın en çok göz ardı edilen riski, modelin kalitesi değil; erişilemez olduğu anlar. Çoğu ekip tüm trafiğini tek bir sağlayıcıya yönlendiriyor ve o sağlayıcı düştüğünde geri dönüş için hiçbir otomatik yol yok.

Kesinti kaçınılmaz

• Sağlayıcı kesintileri ve 429 (rate-limit) hataları, üretimdeki AI uygulamalarında en yaygın kesinti nedenleri arasında.
• TU Delft araştırmasına göre ortanca onarım süresi (MTTR) OpenAI API'de 1,23 saat — Anthropic'in 0,77 saatinin yaklaşık 1,6 katı.
• OpenAI'ın Ara 2025–Mar 2026 için %99,76 çalışma süresi bile yılda kabaca 16 saat kesinti demek.
• 25 Temmuz 2026'daki OpenAI kesintisi ve Anthropic'in Haziran'daki tekrarlı aksaklıkları çok sayıda uygulamayı etkiledi.

Neden tek model yetmez?

Tek sağlayıcı, tek hata noktasıdır. Üstelik aynı sağlayıcıda başka bir modele düşmek işe yaramaz — sağlayıcının tamamı düştüyse o da erişilemez. İşe yarayan bir yedek zinciri, farklı sağlayıcıları kapsamalıdır.

Failover nasıl çalışır?

Failover, birincil model başarısız olduğunda, zaman aşımına uğradığında veya rate-limit yediğinde isteği otomatik olarak alternatif bir modele/sağlayıcıya yeniden yönlendiren bir dayanıklılık desenidir. İyi bir gateway bunu uygulama kodunu değiştirmeden, saniyeler içinde yapar.

remot açısından

remot her isteği sağlayıcılar arası bir yedek zinciriyle yönetir: bir sağlayıcı yanıt vermediğinde istek otomatik olarak alternatife akar. Uygulamanız tek bir API görür; arkadaki kesintiyi orkestrasyon katmanı emer. Dayanıklılık, kod değişikliği değil, doğru mimari meselesidir.