LLM, MCP, ajanlar bugünün dünyasında her yerdeler. ⚡ Soru şu: bunların trafiği nereden geçiyor? Çoğu yerde cevap "doğrudan". Uygulama kendi API key'iyle buluta çıkıyor, ajan hangi araca ne zaman eriştiğini kimseye söylemiyor, ay sonunda faturaya bakılıp "bu neden bu kadar" deniyor. Oysa aynı kurumun uygulamalar arası ve dış dünya entegrasyon API'leri için yıllardır bir gateway var: kimlik doğrulama, yetki, rate limit, izleme, denetim izi ve bu ORIN ile sağlanıyor. AI trafiğini bu disiplinin dışında tutmanın bir sebebi yok. Biz de tutmadık. ORIN'e LLM Gateway ve MCP Gateway'i ekledik; iki dünyayı tek platformda birleştirdik. 🔹 Local ve bulut LLM çıkışları ORIN üzerinden: token ve maliyet; model, uygulama, kullanıcı bazında ölçülüyor. 🔹 LLM'ler arası fallbackler tanımlanabiliyor, takvimlendirilip yetki bazlı kullandırılabiliyor. 🔹 MCP sunucularına erişim ORIN üzerinden: her tool call tıpkı bir API çağrısı gibi izleniyor, loglanıyor. 🔹 Ajanlar yalnızca RBAC ile yetkilendirildikleri araca ve veriye ulaşıyor. 🔹 Prompt, yanıt, araç çağrısı: hepsi aynı denetim izinde, SIEM'e hazır. AI dönüşümünde zor olan modeli seçmek, ajanı oluşturmak değil; kimin, neye, ne maliyetle eriştiğini bilmek; veri güvenliğini sağlamak ve maliyeti kontrol altında tutma. API'ler için çözdüğümüz problemi AI için yeniden icat etmedik, aynı kapıdan geçirerek karar vericilere tek pencereden sunduk. https://lnkd.in/d7bHPuKz hashtag #NarSistemTeknoloji hashtag #ORINbyARiL hashtag #AIGateway hashtag #MCP
LinkedIn'de gör