Kurumsal yapay zekâ sistemlerinde chatbot merkezli kullanım modelinin yerini, hedefleri takip edebilen, karar verebilen ve belirlenen yetkiler doğrultusunda aksiyon alabilen yapay zekâ ajanları almaya başlıyor.
Yeni yaklaşımda, büyük dil modelleri tek başına sistemin merkezinde yer almıyor; kurumsal veri erişimi, uygulama entegrasyonları, bellek, yetkilendirme, denetim ve insan onayı, aynı mimarinin parçaları hâline geliyor.
Kurumsal yapay zekâ uygulamalarının önemli bir bölümü bugün chatbot ve büyük dil modeli, yani LLM tabanlı sistemlerden oluşuyor. Çalışanlar bu sistemlere sorular yöneltiyor, modeller ise verilen bilgi ve bağlama dayanarak yanıt üretiyor.
Kurumlar ayrıca Geri Alma Destekli Üretim (RAG) yöntemini kullanarak büyük dil modellerini şirket içindeki dokümanlara ve veri kaynaklarına bağlıyor. Böylece yapay zekâ uygulamaları yalnızca eğitim sırasında edindiği bilgilerle değil, kurumun kendi verileriyle de yanıt oluşturabiliyor.
GBA Bilişim Kurucu Ortağı A. Barkın Gündoğdu, kurumsal yapay zekâdaki sonraki aşamanın yalnızca daha büyük veya daha güçlü dil modellerinden oluşmadığını belirtiyor. Gündoğdu, yapay zekâ sistemlerinin yanıt üretmenin ötesine geçerek belirli hedefleri takip edebildiği, karar verebildiği ve yönetişim kuralları içerisinde aksiyon alabildiği bir mimariye geçildiğini ifade ediyor.
Bu yaklaşım, yapay zekâ alanında uzun süredir kullanılan “rasyonel ajan” kavramını yeniden öne çıkarıyor. Rasyonel ajanlar, kendilerine verilen hedefler, mevcut bilgiler ve tanımlanmış kurallar doğrultusunda hangi eylemin gerçekleştirileceğine karar veren sistemleri ifade ediyor.
Gündoğdu’ya göre güçlü bir LLM tek başına kurumsal yapay zekâ asistanı oluşturmak için yeterli değil. Yeni nesil sistemlerde modelin kurumsal bilgi kaynaklarına erişmesi, iş uygulamalarıyla etkileşim kurması, geçmiş bağlamı koruması, çok aşamalı işlemleri yönetmesi ve yalnızca izin verilen işlemleri gerçekleştirmesi gerekiyor.
Böyle bir mimaride büyük dil modeli, sistemin tamamı yerine bileşenlerinden biri hâline geliyor. İş hedefleri, muhakeme süreci, kurumsal bilgi kaynakları, kullanılabilecek araçlar, gerçekleştirilecek işlemler ve sonuçların değerlendirilmesi ayrı katmanlar üzerinden yönetilebiliyor.
Bu yapı, özellikle çok sayıda kurumsal yazılım kullanan şirketlerde önem kazanıyor. ERP, CRM, BT yönetim platformları ve sektöre özel uygulamalar kullanılmaya devam ederken yapay zekâ sistemlerinin de bu altyapılarla birlikte çalışması gerekiyor.
Bu noktada Model Context Protocol (MCP) gibi birlikte çalışabilirlik standartları da kurumsal yapay zekâ mimarilerinin parçalarından biri hâline geliyor. MCP, yapay zekâ uygulamalarının harici araçlara, veri kaynaklarına ve kurumsal sistemlere daha standart bir yöntemle erişebilmesine imkân tanıyor.
Araçlar ve bağlamsal bilgiler standart bağlantı mekanizmaları üzerinden erişilebilir hâle geldiğinde, her yapay zekâ uygulaması için kurumsal sistemlerle ayrı ayrı entegrasyon geliştirme ihtiyacı azaltılabiliyor. Ancak bir yapay zekâ sisteminin başka uygulamalara bağlanabilmesi, yapılan işlemlerin otomatik olarak güvenilir veya güvenli olduğu anlamına gelmiyor.
Kurumsal yapay zekâ ajanlarının ne kadar bağımsız çalışabileceği de yeni mimarinin temel konuları arasında bulunuyor. Bir sistemin teknik olarak belirli bir işlemi gerçekleştirebilmesi, bu işlemin insan müdahalesi olmadan yapılması gerektiği anlamına gelmiyor.
Gündoğdu, özellikle finansal işlemler, müşteri verileri ve kritik altyapılar üzerinde gerçekleştirilecek işlemlerde insan onayının sistemin bir parçası olması gerektiğini belirtiyor. Bu nedenle yeni nesil kurumsal yapay zekâ mimarilerinde kimlik doğrulama, yetkilendirme, kayıt tutma, denetlenebilirlik ve insan gözetimi ayrı güvenlik katmanları olarak ele alınıyor.
Örneğin, bir yapay zekâ ajanı mevcut verileri analiz ederek yapılması gereken işlemi belirleyebilir ancak yüksek riskli bir değişikliği doğrudan uygulamak yerine yetkili bir kullanıcıdan onay isteyebilir. Böylece otomasyon seviyesi gerçekleştirilen işlemin riskine ve kurumun belirlediği politikalara göre değişebiliyor.
Kurumsal yapay zekâ sistemlerinin performansının yalnızca verdikleri yanıtların doğruluğuyla ölçülmesi de yeterli görülmüyor. Ajan tabanlı yapılarda gerçekleştirilen işlemlerin iş sonuçlarına etkisi, alınan kararların doğruluğu ve sistemin yetki sınırları içinde kalıp kalmadığı da izlenebiliyor.
Bu dönüşümle birlikte şirketlerin yapay zekâ stratejisinde kullanılan model kadar, modele hangi verilere erişim verileceği, hangi araçların kullanılabileceği, hangi işlemlerin otomatik gerçekleştirilebileceği ve hangi aşamalarda insan onayı alınacağı da önem kazanıyor.
Gündoğdu, kurumların “Hangi yapay zekâ modelini kullanmalıyız?” sorusunun yanında yapay zekânın hangi karar ve süreçlere dahil edileceğini ve bunun hangi yönetişim modeli altında gerçekleşeceğini de belirlemesi gerektiğini ifade ediyor.
Kurumsal yapay zekâ tarafındaki yeni mimariler, böylece yalnızca insan benzeri yanıtlar veren chatbotlardan; veri kaynaklarına erişebilen, kurumsal uygulamaları kullanabilen, çok adımlı görevleri yürütebilen ve yaptığı işlemleri kayıt altına alan ajan tabanlı sistemlere doğru genişliyor.
Mert Can Aka, 1996 yılında Üsküdar’da doğdu. Sinema, bilim, teknoloji ve tarih alanlarına duyduğu ilgiyle şekillenen kariyerinde teknoloji editörlüğüne odaklandı. Öğrenmeyi ve bilgiyi aktarmayı merkeze alan Aka, farklı kurumlarda çeşitli görevler üstlendi. Bu süreçte MediaMarkt’ın MediaTrend Teknolojik Yaşam dergisini son sayısına kadar yöneterek dergicilik alanında deneyim kazandı. Bilgisayar Mühendisliği, Bilgisayar Programcılığı, Web Tasarım ve Kodlama ile birlikte Adalet ve İktisat alanlarında akademik geçmişe sahip olan Aka, bugün Technopat’ta Yazı İşleri Müdürü olarak görev yapıyor. Otomotivden yapay zekaya, donanımdan ev teknolojilerine uzanan geniş bir yelpazede ürettiği on bini aşkın içerik, yüz milyonlarca okura ulaştı.
Büyük Dil Modelleri Tek Başına Kurumsal Yapay Zekâ İçin Yeterli Değil
