← Tüm yazılar
Model Mimarisi

MoE Devri: 397 Milyar Parametreli Ama 17 Milyar Kadar 'Çalışan' Modeller

·3 dk okuma
Ekranda kod ve model mimarisi görseli

2026'da açık ağırlıklı frontier modeller tescilli sistemlerle arayı beklenenden hızlı kapattı. Bu sıçramanın arkasında tek bir mimari fikir var: uzman karışımı (Mixture-of-Experts, MoE).

MoE ne yapar?

Klasik 'yoğun' (dense) modelde her token, tüm parametrelerden geçer. MoE'de ise model çok sayıda 'uzman' alt-ağa bölünür ve bir yönlendirici her token için yalnızca birkaç uzmanı etkinleştirir. Sonuç: modelin toplam kapasitesi dev kalırken, her adımda yapılan hesap çok daha küçük olur.

2026'nın açık MoE modelleri

  • Alibaba Qwen3.5-397B-A17B: 397 milyar toplam parametre, token başına ~17 milyar etkin; çok modlu akıl yürütme ve ultra-uzun bağlam.
  • Z.ai GLM-5.3-Flash: 320B/18B boyutunda, 1M bağlam, MIT lisanslı ağırlıklar; yerel olarak çok modlu.
  • Kimi K2.5: ~15 trilyon karışık görsel+metin token üzerinde sürekli ön-eğitimle kurulmuş çok modlu ajan modeli.

Neden önemli: maliyet ve dağıtım

MoE, 'frontier kalite'yi 'makul çıkarım maliyeti' ile buluşturur; devasa ama indirilip dağıtılabilen açık modeller, artık yeterli donanıma sahip her ekibin erişimine giriyor. Ama aktif/atıl parametre dengesi, yönlendirme kalitesi ve bellek ayak izi, üretimde dikkatli yönetim ister.

remot açısından

remot, yoğun ve MoE modelleri aynı orkestrasyon katmanında yan yana kullanmanızı sağlar: işi uygun modele (açık ya da tescilli) yönlendirir, gecikme ve maliyeti ölçer, kalite eşiğini korur. Böylece mimari çeşitliliği bir karmaşa değil, optimize edilebilir bir seçim havuzu olur.

Bu gelişmeleri işinize uygulayalım

Size özel bir demo ile remot'un kurumunuza nasıl değer katacağını gösterelim.

Demo Talep Et