Kural tabanlı chatbotlar yıllarca “SSS yanıtlayıcı” rolünü gördü. Bugünse müşteriler bağlamı anlayan, plan yapabilen, gerektiğinde sistemlere bağlanıp işi sonuçlandıran agentic deneyimler bekliyor. Bu yazı, elinizdeki kural tabanlı botları IBM watsonx.ai ve watsonx Orchestrate ile agent-based mimariye taşımanız için pratik bir göç planı sunar.
Neden şimdi?
- Niyet anlama yüzeyselliği: Diyaloglar dar kalıplara sıkışıyor, çok adımlı görevler çözülemiyor.
- Regülasyon & veri egemenliği: Bankacılık ve kamu gibi alanlarda bulut/PII gereklilikleri kısıtlıyor.
- Deneyim beklentisi: Hız, kişiselleştirme ve “işi gerçekten tamamlama” (task completion) artık standart.
Agentic AI ile bot; planlar, araç kullanır (API, RAG, arama, iş akışları), belirsizliği yönetir ve “cevap” yerine sonuç üretir.
IBM watsonx.ai & watsonx Orchestrate: Kısa bakış
- IBM watsonx.ai: Kurumsal AI stüdyosu. Granite, Llama, Mixtral gibi modelleri Model Gateway ile tek noktadan eriştirir; on-prem/hibrid dağıtımı destekler.
- Agentic çerçeveler: Çok adımlı akıl yürütme, planlama ve RAG.
- IBM watsonx Orchestrate: Düşük-kod ile LLM’leri iş uygulamalarınıza bağlar; görevleri, onay akışlarını, “human-in-the-loop” adımlarını orkestre eder.
- Kazanımlar: Daha hızlı üretime çıkış, otomasyon, gerçek zamanlı karar destek; saha örneklerinde işlem süresinde %30’a varan kısalma raporlanıyor.
Göç planı: 10 adımda kural tabanlı bottan agent-based mimariye
1) Envanter & hedef metrikler
- Mevcut bot akışlarını, niyetleri, kuralları, başarısız niyet oranlarını çıkarın.
- Başlangıç KPI setini sabitleyin: FCR, AHT, containment, CSAT, el kaldırma oranı, hata/abuse olayları.
2) Kullanım senaryosu seçimi ve önceliklendirme
- Değer x uygulanabilirlik matrisi ile 3 “ilk dalga” senaryo seçin: Örneğin; kredi kartı itirazı, self-servis limit yönetimi, KOBİ kredi ön onayı.
3) Hedef mimari tasarımı
- Agent katmanı (planlayıcı + araç yürütücü), RAG katmanı (güvenilir bilgi), Entegrasyon katmanı (core banking/CRM/İK/ITSM), Gözlemleme & güvenlik (PII maskeleme, denetim izleri).
- Dağıtım stratejisi: on-prem/hibrid (Red Hat + GPU) ya da VPC.
4) Veri yönetişimi & RAG hazırlığı
- Veri sözlüğü, erişim politikaları, saklama/maskeleme, telif/alıntı politikası.
- Kaynakların (KB, politikalar, ürün şartları) chunking, embedding ve tazelik stratejileri.
5) Orchestrate ile “agent yetenek” tasarımı
- Her senaryo için task blueprint: Hedef, önkoşullar, araçlar (API’ler), başarısızlık geri dönüşleri.
- Human-in-the-loop: Riskli adımlarda onay/geri alma.
6) Entegrasyonlar
- CRM/core banking/ödeme/kimlik/doğrulama API’leri; idempotent işlemler.
- Olay günlüğü ve denetim izi: Kim, neyi, ne zaman tetikledi?
7) Güvenlik, uyum ve risk kontrolleri (sürekli)
- PII maskeleme, gizlilik filtreleri, RLHF/guardrail politikaları.
- Prompt güvenliği, eylem sınırları, hız limitleri, kötüye kullanım tespiti.
8) MVP & gölge mod / canary
- Seçilen 1-2 senaryoyu MVP agent olarak canlı sistemlere paralel koşturun.
- Gölge mod ile sonuçları kıyaslayın; kullanıcıya risk yaratmadan öğrenin.
9) Ölçümleme ve iyileştirme
- KPI’ları haftalık takip: FCR ↑, AHT ↓, CSAT ↑, agent başarısızlık oranı ↓.
- Hata günlüklerinden prompt/araç iyileştirmeleri.
10) Yaygınlaştırma & değişim yönetimi
- Kademeli kullanıcı açılımı, eğitim kitleri, iç iletişim; operasyon el kitabı ve SLA’ler.
Hedef mimari
- Kanal: Web, mobil, çağrı merkezi, çalışan uygulamaları
- Niyet anlama: LLM + sınıflandırma/guardrails
- Planlayıcı (Agent): Çok adımlı görev planlama, geri izleme (backoff), hata kurtarma
- Araçlar: RAG sorgusu, kurumsal API’ler, arama, belge üretimi
- HITL: Yüksek riskli aksiyonlarda onay
- Gözlemleme: Prompt/yanıt günlükleri, kalite etiketleme, denetim izi
- Dağıtım: On-prem/hibrid (Red Hat + GPU), Model Gateway
Hantal chatbotları tarihe gömelim.
Kurumunuza özel Agentic Göç Atölyesi için aşağıdaki formu doldurun; ilk kullanım senaryosunu birlikte tasarlayalım, bir yol haritası çıkaralım.
HAREKETE GEÇİN!