Ollama, vLLM ve SGLang: Hangisini Üretimde Çalıştırmalı?
Ollama, vLLM ve SGLang aynı açık modeli çalıştırabilir. Ayrım modelde değil, isteğin nasıl sıraya girdiğinde ve önbelleğin nasıl tutulduğundadır. Üçü de "yerel…
Ürfet Demirtaş · Principal Software Engineer
16 yıldır .NET ile üretimde çalışan sistemler geliştiriyorum. Burada mimari kararları, entegrasyon deneyimlerini ve RAG/LLM çalışmalarından öğrendiklerimi yazıyorum.
.NET, mikroservis, CQRS ve dağıtık sistem tasarımı.
Kurumsal içerikten kaynak gösteren asistanlar.
Sanal POS, 3D Secure, B2B, ERP ve CRM bağlantıları.
Azure, Kubernetes, CI/CD ve uygulama güvenliği.
Ollama, vLLM ve SGLang aynı açık modeli çalıştırabilir. Ayrım modelde değil, isteğin nasıl sıraya girdiğinde ve önbelleğin nasıl tutulduğundadır. Üçü de "yerel…
Şirket dokümanına soru soran asistan, modeli değiştirince çalışmaz. Çalışan kısım aramadır: belge parçalanır, gömülür, soruya en yakın parça bulunur, model yaln…
Cursor ve Claude, boş bir controller'ı ve test iskeletini ciddi biçimde kısaltıyor. Ödeme callback'i, yetki kontrolü ve eski domain kuralında ise aynı hız, hata…
KVKK uyumu bir gizlilik politikası sayfasıyla bitmez. Geliştiricinin işi, kişisel verinin hangi tabloda durduğunu, loga düşüp düşmediğini ve silme isteğinde ger…
Local LLM Nedir? Bilgisayarımda Hangi Yapay Zekâ Modelini Çalıştırabilirim? ChatGPT, Claude veya Gemini gibi yapay zekâ servislerini kullandığınızda model sizin…
Haystack, deepset’in açık kaynak LLM orkestrasyon çatısıdır. Modeli veya vektör veritabanını değiştirmez; belgeyi parçalayıp arayan, sıralayan ve üreticiye sora…
vLLM, açık kaynak bir LLM inference ve serving motorudur. Aynı GPU üzerinde çok sayıda isteği, KV cache’i israf etmeden ve kartı boş bırakmadan cevaplamak için…
Kurumsal doküman işi çoğu zaman şöyle başlıyor: “PDF’i okuyup şu alanları JSON’a dökün.” İlk bakışta OCR + birkaç regex. Production’a gelince iş değişiyor. Tara…
David Heinemeier Hansson: Yapay Zekâ Yazılım Geliştirmenin Kurallarını Değiştiriyor Ruby on Rails’in yaratıcısı ve 37signals ortaklarından David Heinemeier Hans…
Birçok projede gördüğüm en büyük hatalardan biri, uygulamanın veritabanına sa kullanıcısı veya db_owner yetkisine sahip bir kullanıcı ile bağlanması. Bu yaklaşı…
Sektörde geçen 16 yılın ardından, işin mutfağında—veritabanı yapılarından tutun da kapsamlı API ve SSO (Single Sign-On) altyapılarına kadar—gördüğüm en net gerç…
Yazılım dünyasına adım attığım ilk günden bu yana tam 16 yıl geçmiş. Geriye dönüp baktığımda, onlarca farklı framework'ün popülerleşip unutulduğunu, "asla yıkıl…
Monolitik bir uygulamada bir sipariş sürecini yönetmek çocuk oyuncağıdır; klasik bir RDBMS üzerinde bir BEGIN TRANSACTION başlatır, stok düşer, fatura keser ve…
Yıllar içinde büyüyen, özellikle kapsamlı ERP entegrasyonları barındıran veya yoğun sipariş logları tutan sistemlerde geleneksel CRUD (Create, Read, Update, Del…
Mikroservis mimarilerinde ve asenkron haberleşen sistemlerde (Event-Driven Architecture) en sık karşılaştığımız tasarımsal zorluklardan biri dağıtık transaction…