Şirketinizin kendi verisinden, kaynak göstererek konuşan asistan

Genel model şirketinizi bilmiyor

Genel amaçlı bir dil modeli sizin fiyat politikanızı, ürünlerinizin tolerans değerlerini, hangi bayiye hangi iskontonun uygulandığını ve geçen ay hangi cihazın hangi arızayla servise geldiğini bilmez. Bu bilgiler internette yok; sizin veri tabanınızda ve klasörlerinizde duruyor. Bir modeli şirkete bağlamak, ona bu bilgiye ulaşacağı bir yol açmak demektir.

Bunun iki yolu var. Modeli kendi verinizle yeniden eğitmek kurumsal işlerde çoğu zaman gereksizdir: pahalıdır, veri her değiştiğinde tekrar gerekir ve modelin cevabı nereden ürettiğini göremezsiniz. İkinci yol, soruyu modele sormadan önce ilgili belgeleri bulup önüne koymaktır. Bu yönteme RAG deniyor — açılımı Retrieval-Augmented Generation, yani getirilen kaynakla desteklenmiş üretim. Kurumsal işlerde varsayılan yaklaşımımız budur, çünkü kaynak gösterilebilir ve belge güncellendiğinde asistan aynı gün yeni bilgiyle konuşur.

RAG adım adım nasıl çalışıyor

Mekanizmayı bilmek, sistemin neyi yapıp neyi yapamayacağını da anlatır. Dört adım var.

1. Belgeleri parçalara ayırma

   Bir teknik kılavuzun tamamını modele göndermek mümkün değildir; hem sığmaz hem de ilgisiz sayfalar cevabı bozar. Belgeler anlamlı parçalara bölünür: bir alt başlık, bir tablo, bir prosedür adımı. Parça boyutunu işe göre ayarlıyoruz. Çok küçük parça bağlamı kaybettirir, çok büyük parça alakasız metin taşır. Her parça, hangi belgenin hangi bölümünden geldiği bilgisiyle birlikte saklanır — kaynak gösterimi bu bilgiden çıkıyor.

2. Gömme (embedding) ve indeksleme

   Her parça, anlamını temsil eden bir sayı dizisine çevrilir. Buna gömme deniyor. Benzer anlamlı iki metnin sayı dizileri birbirine yakın çıkar. Diziler bir vektör indeksinde saklanır. Sonucu şudur: kullanıcı belgede geçen kelimeyi bilmese de sorabilir. Kılavuzda hidrolik sızıntı yazarken kullanıcı yağ kaçırıyor diye sorduğunda kelime eşleşmesi olmaz, anlam yakınlığı olur.

3. Geri getirme ve süzme

   Soru geldiğinde aynı çevrim soruya uygulanır ve indeksten en yakın birkaç parça çekilir. Kritik nokta burada: getirme aşamasında kullanıcının yetkisi uygulanır. Kullanıcının rolüne kapalı belgeler aramaya hiç girmez. Ayrıca yakınlık için bir eşik koyuyoruz; hiçbir parça eşiği geçemezse sistem soruyu modele göndermez, doğrudan bilmiyorum yanıtını verir.

4. Yanıt üretme ve kaynak gösterme

   Model, yalnız getirilen parçalara dayanarak yanıtı yazar ve hangi belgeye dayandığını belirtir. Kullanıcı kaynağa tıklayıp özgün metni görür. Doğrulanabilirlik burada doğuyor: yanıt yanlışsa hangi belgenin yanlış ya da eski olduğu da görünür.

Aynı konuyu daha giriş seviyesinde kurumsal AI chatbot rehberinde ve AI asistan nedir yazısında anlattık.

Şirket verisi üzerinde ne yapabilir, ne yapamaz

Beklentiyi baştan yerine oturtmak projenin en kritik adımı. İki sütun da gerçek.

Halüsinasyonu nasıl sınırlıyoruz

Dil modelleri bilmedikleri konuda da akıcı cümle kurabildiği için yanlış bilgi ikna edici görünür. Bunu sıfırlamayı vaat etmiyoruz; olasılığı düşürüyor ve yanlışın zarar vermesini engelliyoruz. Beş önlem kullanıyoruz:

• Kaynak zorunluluğu: model yalnız getirilen parçalara dayanır, dışarıdan bilgi eklemesi istenmez.
• Yakınlık eşiği: ilgili parça bulunamazsa soru modele hiç gitmez; kullanıcı bilmiyorum yanıtını alır ve insana yönlendirilir.
• Kaynak gösterimi: her yanıtın altında dayandığı belge durur. Kullanıcı doğrulayabildiği için yanlış cevap sessizce yayılmaz.
• Sayısal işleri modelden almak: bakiye, stok, tutar ve tarih hesaplarını veri tabanı sorgusu üretir; model bu sayıları yazmaz, okur.
• Onay kuyruğu: para, sözleşme veya sevkiyat doğuran her adım insan onayına düşer. Onaysız işlem kapanmaz.

Bir de ölçüm tarafı var. Canlıya almadan önce şirketin kendi sorularından bir kontrol listesi hazırlıyoruz ve doğru yanıtları sizin uzmanınız işaretliyor. Sistem her güncellemede bu listeye karşı çalıştırılır. Liste sizde kalır; asistanı ileride başka bir ekip devraldığında ölçüt elinizde olur.

Yetki sınırı: asistan kullanıcıdan fazlasını göremez

Kurumsal AI projelerinde en sık atlanan konu bu. Bir asistan tüm şirket belgelerine tek bir teknik hesapla bağlanırsa yetkilendirme yalnız ekranda kalır, veri katmanında olmaz. O durumda yeterince yaratıcı bir soru, kapalı olması gereken bilgiyi getirir.

Biz yetkilendirmeyi arama katmanına koyuyoruz. Her belge parçası, bağlı olduğu kaydın yetki bilgisini taşır. Soru geldiğinde önce kullanıcının rolü belirlenir, arama yalnız o rolün görebildiği parçalar arasında yapılır. Kapalı parça modele gönderilen metne hiç girmez. Model, kendisine hiç gitmemiş bir bilgiyi sızdıramaz.

Aynı ilke işlem tarafında da geçerli. Asistan bir kayıt oluşturacaksa bunu kullanıcının kimliğiyle yapar; iz kaydına hangi soruyla, hangi kaynağa dayanarak hangi işlemi ürettiği yazılır. Denetim gerektiğinde bakılacak yer bu iz kaydıdır. Verinin nerede durduğuna dair genel yaklaşımımızı kurumsal yazılım güvenliği yazısında ayrıntılandırdık.

Hangi iş ajana verilir, hangisi verilmez

Asistan soruya cevap verir; ajan işlem yapar. Aradaki fark sorumluluk taşıdığı için hangi işin ajana gideceğini ölçütle seçiyoruz.

Ajanın işlem yaptığı yerde de sınır koyuyoruz: ajan kaydı hazırlar, onayı insan verir. Bu ayrım güveni kurar; ekip birkaç hafta içinde ajanın açtığı kayıtların doğru olduğunu görüp onay adımını kısaltır. Ajanların şirket içinde tam olarak ne yaptığını ayrı bir yazıda örneklerle anlattık.

Verinin nerede işleneceği

Üç kurulum biçimi var ve seçimi gizlilik politikanız belirliyor.

Şirket içi model seçtiğinizde donanım maliyetini ve yanıt kalitesindeki farkı baştan yazılı veriyoruz. Bu tercihi bir başlık olarak değil, ölçülebilir bir denge olarak konuşuyoruz.

Yapay zekânın uygun olmadığı durumlar

• Veriniz sistemde değilse. Bilgi insanların aklında ve kâğıtta duruyorsa önce kayıt altına alınması gerekir. Asistan boş bir havuzdan cevap üretemez.
• Süreç yazılı değilse. Onayı kimin vereceği kişiye göre değişiyorsa ajan bu belirsizliği hızlandırmaktan başka bir şey yapmaz. Önce kural ve onay yapısını kurun.
• Soru sayısı düşükse. Haftada birkaç kez sorulan bir soru için asistan kurmak kendini çıkarmaz; iyi yazılmış bir sayfa yeterlidir.
• Kesinlik zorunluysa. Resmi beyan, mevzuat yorumu ve hukuki metin üretiminde asistan taslak hazırlar, kararı uzman verir.

Nasıl başlanır

1. Tek kullanım alanı seçimi

   Hangi soruların kime, kaç kez sorulduğunu çıkarıyoruz. En çok tekrarlanan ve kaynağı belli olan alan seçilir. Kapsamı bilerek dar tutuyoruz.

2. Belge havuzunun ayıklanması

   Güncel belgeleri işaretliyoruz, çelişkili ve eski sürümleri ayırıyoruz. Bu adım büyük ölçüde sizin ekibinizin işidir ve sonucun kalitesini en çok bu belirler.

3. Soru listesi ve ölçüt

   Şirketin kendi sorularından bir kontrol listesi hazırlanır, doğru yanıtları uzmanınız işaretler. Asistanın başarısını bu listeye göre ölçüyoruz.

4. 2-4 haftada çalışan asistan

   Seçilen alanda asistan devreye girer; bu aşama 80.000 - 150.000 ₺ bandındadır. Birden fazla kaynağa bağlanan, ajan adımları ve onay kuyruğu içeren kurulum 4-8 haftada, 200.000 - 400.000 ₺ bandındadır. Mevcut bir sisteme eklenen asistan 8.000 - 45.000 ₺ aralığında kalabilir; bantların kapsamı fiyat sayfasında yazılı.

Bu yapıyı kendi sistemlerimizde de kullanıyoruz. SmartHukuk kendi ürünümüz ve kaynak gösteren arama üzerine kurulu; Elevatora SAHA ile Elevatora İMALAT tarafında serbest metinden kayıt açma ve onay kuyruğu mekanizmaları çalışıyor. Hangi sistemin neyi kapsadığını vakalar sayfasında yazdık. Farklı mimarilerin token ve altyapı giderleri için kurumsal AI maliyeti ve RAG rehberimize, yatırım geri dönüşü hesabı için AI geri dönüş hesaplayıcımıza bakabilirsiniz. Tekrar eden ofis işlerinin tamamı için iş süreci otomasyonu sayfasına, verinin panolara dönmesi için firma zekâsı sayfasına bakın.

Sıkça sorulan sorular