Gerçek zamanlı yapay zeka çağrı merkezi: referans mimari

Bir çağrı merkezinde görüşmenin sonucunu belirleyen anlar, görüşme hâlâ devam ederken yaşanır: müşteri tereddüt eder, sinirlenir, ilgi gösterir. Konuşma analitiği ürünlerinin çoğu ise çağrıyı kaydedip sonradan analiz ediyor. O noktada yapılabilecek tek şey bir rapor yazmak oluyor.

Son yıllarda, çağrıları canlı olarak dinleyen, paralel olarak analiz eden ve müşteri hâlâ hattayken temsilciye somut öneriler gösteren bir gerçek zamanlı yapay zeka çağrı merkezi platformu geliştirdim. Başladığımızda böyle bir sistemin nasıl kurgulanacağına dair açık kaynaklarda şaşırtıcı derecede az şey vardı. Bulunanların çoğu üretici sayfaları, patentler ve forum başlıklarıydı.

Bu yazı, işe başlarken okumak isteyeceğim referans mimari: katmanlar, her katmandaki ödünleşimler ve model seçiminden daha önemli olan kararlar.

Hedef: müşteri hâlâ hattayken değer üretmek

Çağrı merkezlerinde yapay zekayı üç kuşakta düşünmek işe yarıyor:

1. Kayıt ve örnekleme. Çağrılar kaydedilir, kalite ekibi küçük bir örneklemi dinler. Çağrıların büyük kısmı hiç incelenmez.
2. Çağrı sonrası analitik. Her çağrı yazıya dökülür ve toplu olarak analiz edilir. Eğilimleri görmek için faydalıdır, ama içgörü çağrı bittikten sonra gelir.
3. Gerçek zamanlı destek. Çağrı konuşulurken yazıya dökülür ve analiz edilir, sonuçlar saniyeler içinde temsilciye ulaşır.

Aşağıda anlatılan her şey üçüncü kuşakla ilgili. Bu kuşağın belirleyici kısıtı gecikme (latency): üç saniye geç gelen doğru bir öneri işe yaramaz, çünkü müşteri çoktan başka bir konuya geçmiştir.

Mimariye genel bakış

 Müşteri sesi ───┐
                 ├─► Medya katmanı (WebRTC / SIP köprüsü)
 Temsilci sesi ──┘              │
                                ▼
                    Akışlı konuşmadan metne (ASR)
                    (ara + kesin segmentler)
                                │
                                ▼
                    Transkript segmentlerinin olay akışı
                                │   + ses özellikleri (ton, hız)
          ┌─────────────────────┼─────────────────────┐
          ▼                     ▼                     ▼
     Duygu analizi       Niyet / davranış      Satın alma eğilimi
          └─────────────────────┼─────────────────────┘
                                ▼
                    Öneri motoru ──► Temsilci ekranı (canlı)

 Çağrıdan sonra: kesin transkript ──► Özet + rapor ──► CRM

Her birinin kendi görevi olan beş katman:

1. Medya katmanı: Görüşmenin iki tarafını ayrı ses akışları olarak alır.
2. Akışlı konuşmadan metne (ASR): Sesi küçük parçalar hâlinde, kesintisiz olarak metne çevirir.
3. Paralel analiz: Duygu durumu, niyet ve satın alma eğilimi; hem metinden hem de sesin kendisinden, yan yana hesaplanır.
4. Öneri motoru: Analiz sonuçlarını temsilci için az sayıda, somut ve zamanında önerilere dönüştürür.
5. Çağrı sonrası işleme: Özeti ve raporu yazar, ekibin zaten kullandığı sistemlere aktarır.

1. Medya katmanı: iki temiz ses akışı almak

Sonraki her şey, sesin çağrıdan güvenilir ve mümkün olduğunca az gecikmeyle alınabilmesine bağlı.

• Tarayıcı tabanlı arama (WebRTC). Bizim platformumuzda çağrılar WebRTC tabanlı bir iletişim katmanı üzerinden yürüyor. Temsilci tarayıcıdan konuşuyor; medya sunucusu her katılımcının sesini doğrudan analiz hattına çatallayabiliyor (fork). Gerçek zamanlı sese ulaşmanın en basit yolu bu.
• Mevcut telefon altyapısı (SIP / santral). Pek çok çağrı merkezi zaten bir santral (PBX) üzerinde çalışıyor. Bu sistemlerden canlı ses almak çoğu zaman projenin en zor kısmı: genellikle SIP tabanlı bir kayıt arayüzüne ya da akışları ileten bir medya köprüsüne ihtiyaç duyuluyor. Bazı bulut telefon platformları gerçek zamanlı sese hiç erişim vermiyor. Bunu her şeyden önce öğrenin.
• Konuşmacıları ayrı tutun. Müşteriyi ve temsilciyi tek bir karışık kayıt yerine iki ayrı akış olarak alın. Böylece kimin ne söylediğini tahmin etme (speaker diarization) ihtiyacı ortadan kalkar; bu işlem gerçek zamanlıda yavaş ve hataya açıktır. Ayrıca müşterinin duygu durumunu, temsilcinin sesi karışmadan analiz edebilirsiniz.

2. Akışlı konuşmadan metne (ASR)

Ses tanıma temeldir: duygu analizi, niyet tespiti ve öneriler, altlarındaki transkript kadar iyidir.

• Toplu değil, akışlı çalışın. Sesi kısa parçalar hâlinde gönderin, sonuçları geldikçe işleyin. Bir cümlenin bitmesini beklemek, karşılayamayacağınız saniyeler ekler.
• Ara ve kesin sonuçlar. Akışlı motorlar önce hızlı ara tahminler (partial) döndürür; bunlar yeni ses geldikçe değişir. Ardından her segmentin kesin (final) hâli gelir. Anlık hissettirmesi gereken şeyler için (canlı transkript gibi) ara sonuçları, analizi ya da öneriyi tetikleyen her şey için kesin sonuçları kullanın. Aksi hâlde metin değiştikçe öneriler titreşir.
• Endpointing. Motorun bir ifadenin bittiğine nasıl karar verdiği gecikmeyi doğrudan etkiler. Kısa duraklamalarla dolu sohbet diline göre ayarlayın.
• Kendi çağrılarınızla test edin. Telefon kalitesinde ses, aksanlar, ürün adları ve karışık dilde terimler doğruluğu düşürür. Platformun ana dili Türkçe; sondan eklemeli bir dil olduğu için ağırlıklı olarak İngilizceyle eğitilmiş motorlar için özellikle zor. Üretici demoları size pek bir şey söylemez; kendi kayıtlı çağrılarınızdan birkaç yüz tanesi çok şey söyler.

3. Paralel analiz

Her kesin transkript segmenti bir olay (event) olarak yayınlanır. Birbirinden bağımsız worker'lar aynı akışı tüketir ve aynı anda farklı açılardan analiz eder:

• Duygu durumu. Görüşmenin havasının sıra sıra nasıl değiştiği. Metin sinyalin yalnızca yarısı; diğer yarısını ton, hız ve ses yüksekliği taşır. Bu yüzden ses özellikleri de kelimelerle birlikte analiz edilir.
• Niyet ve davranış. Müşteri bilgi mi istiyor, itiraz mı ediyor, teklifleri mi karşılaştırıyor, ayrılmak üzere mi?
• Satın alma eğilimi. Ne söylendiğine ve nasıl söylendiğine bakarak, müşterinin satın alma olasılığına dair bir tahmin.

Bunları tek bir olay akışının ayrı tüketicileri olarak çalıştırmanın iki avantajı var. Birbirlerini yavaşlatmıyorlar ve birini diğerlerine dokunmadan ekleyebilir, değiştirebilir ya da yeniden eğitebilirsiniz. Pratik bir desen: her worker'ın, her segmentte bütün çağrıyı baştan işlemek yerine, bağlam olarak görüşmenin kısa bir kayan penceresini (rolling window) tutması.

4. Öneri motoru

Ürün tarafındaki işin çoğu burada. Ham analiz skorları, konuşmanın ortasındaki bir temsilcinin işine yaramaz; kısa ve doğru zamanda gelen bir ipucu yarar.

• Az ve somut. O ana uyan tek bir öneri, beş genel öneriden iyidir. Sorulacak bir sonraki doğru soruyu, belirli bir itirazın cevabını ya da müşterinin az önce söylediğine uyan ürünü gösterin.
• Eşikler ve bekleme süreleri. Bir öneriyi yalnızca arkasındaki sinyal yeterince güçlüyse gösterin; aynı ipucunu birkaç saniyede bir tekrarlamaktan kaçının.
• Sayı yerine eğilim. Temsilci "duygu skoru 0,42" bilgisiyle bir şey yapamaz. Görüşmenin kötüye gittiğini gösteren bir ok çok daha kullanışlıdır.
• Kabul oranını ölçün. Temsilcilerin hangi önerileri gerçekten kullandığını takip edin. Elinizdeki en dürüst kalite metriği ve motoru geliştirmek için en iyi eğitim sinyali budur.

Sonuçlar temsilcinin ekranına WebSocket gibi kalıcı bir bağlantı üzerinden ulaşmalı; hiçbir şey sayfa yenilemesini beklememeli.

5. Çağrı sonrası: özet, rapor, aktarım

Çağrı bittiğinde sistemin elinde eksiksiz, kesin transkript ve tüm analiz sonuçları vardır. Daha ağır işlemler için doğru an budur:

• Çağrının yazılı özeti: arama nedeni, neyin kararlaştırıldığı, açık kalan noktalar.
• Analiz sonuçlarını içeren yapılandırılmış bir rapor.
• Ekibin zaten kullandığı sistemlere, örneğin CRM'e aktarım.

Bu adım canlı önerilerden daha az göze çarpar, ama temsilcilerin her çağrıdan sonra not tutmak için harcadığı zamanı (çağrı sonrası iş) ortadan kaldırır ve her çağrının aynı formatta belgelenmesini sağlar.

Yapay zeka neden müşteriyle hiç konuşmuyor?

Müşteriyle doğrudan konuşan sesli botlar, randevu almak ya da sipariş durumunu sorgulamak gibi kısa, kurala dayalı işler için faydalıdır. Satış ve ilişki odaklı görüşmeler için bilinçli olarak farklı bir tercih yaptık: platformumuzda yapay zeka müşteriyle hiç konuşmuyor.

Sistem müşterinin duygu durumunu ve satın alma eğilimini gerçek zamanlı olarak tahmin ediyor. Bu tahmin bir temsilci için değerli bir ipucu. Doğrudan müşteriye yansıtılsaydı, yanlış bir tahmin yanlış tonda cevap vermek anlamına gelirdi. Bu yüzden yapay zekanın sesi temsilcinin ekranında kalıyor; müşteriyle konuşan kişi her zaman bir insan. Bu, sistemin kuruma alınmasını da çok kolaylaştırıyor: temsilciler onu kendilerinin yerini alan bir şey olarak değil, kendilerine yardım eden bir araç olarak görüyor.

Gecikme bütçesi

Sistemi tasarlamanın faydalı bir yolu, müşterinin bir ifadeyi bitirmesinden önerinin temsilcinin ekranında belirmesine kadar olan tüm yol için bir bütçe belirleyip her katmana bundan bir pay vermek:

• Yakalama ve taşıma: Ses yolunu kısa tutun; medya sunucusu ile tanıma motoru arasında fazladan durak eklemeyin.
• Ses tanıma: Küçük parçalar hâlinde akış yapın ve endpointing'i ayarlayın.
• Analiz: Worker'ları paralel çalıştırın, bağlam pencerelerini kısa tutun ve canlı yol üzerindeki her şey için küçük, hızlı modelleri tercih edin.
• İletim: Sonuçları açık bir bağlantı üzerinden itin (push).

Tam özeti yazan büyük bir dil modeli gibi ağır işler canlı yola değil, çağrı sonrasına aittir.

Gizlilik ve KVKK

Çağrı sesleri ve transkriptler kişisel veridir, üstelik çoğu zaman büyük hacimlerde. 6698 sayılı Kişisel Verilerin Korunması Kanunu (KVKK), Avrupa'daki GDPR ve benzeri düzenlemeler açısından bazı kararların sonradan değil, mimari düzeyde verilmesi gerekiyor:

• Arayanı bilgilendirin. Çağrının başında görüşmenin kaydedildiğini ve analiz edildiğini bildirin; KVKK'daki aydınlatma yükümlülüğü bunu gerektirir.
• Hassas verileri maskeleyin. Kart numarası, T.C. kimlik numarası gibi bilgileri transkriptler saklanmadan ya da herhangi bir modele gönderilmeden önce ayıklayın.
• İşlemenin nerede yapıldığını bilin. Ses tanıma ya da dil modeli başka bir ülkedeki bir sağlayıcıda çalışıyorsa, ses ve transkriptler oraya aktarılıyor demektir. KVKK yurt dışına aktarımı ayrı şartlara bağlıyor; bu kararı sağlayıcıyı seçerken verin.
• Saklama sürelerini belirleyin. Ses kayıtları, transkriptler ve analiz sonuçları için ayrı ayrı.

Bu bir hukuki tavsiye değildir; veri koruma sorumlunuzu ya da hukuk ekibinizi erken dahil edin. Konuyu daha ayrıntılı ele aldığım KVKK ve üretken yapay zeka kontrol listesi de işinize yarayabilir.

Nereden başlamalı?

1. Önce ses erişimini çözün. Telefon altyapınızdan iki ayrı, gerçek zamanlı akış alabildiğinizi doğrulayın.
2. Ses tanımayı kendi çağrılarınızla ölçün. Ses tanıma motorunu demolara göre değil, kendi verinize göre seçin.
3. Çağrı sonrası özetlerle başlayın. Riski düşük, hemen faydalı ve size gerçek çağrılardan oluşan etiketli bir veri seti kazandırıyor.
4. Canlı önerileri küçük bir pilot ekiple ekleyin. Onların geri bildirimi zamanlamayı, eşikleri ve arayüzü herhangi bir tasarım dokümanından daha çok şekillendirecek.
5. İlk günden birkaç metriği takip edin: ortalama görüşme süresi, çağrı sonrası iş süresi, ilk temasta çözüm oranı, dönüşüm ve öneri kabul oranı.

Sonuç

Gerçek zamanlı bir yapay zeka çağrı merkezi, tek bir zeki modelden çok baştan sona hızlı kalan bir hatla ilgili: temiz ses, akışlı ses tanıma, paralel analiz ve ne zaman sessiz kalacağını bilen bir öneri motoru. Bu şekilde kurulduğunda temsilcilerin yerini almıyor; onları görüşme sırasında daha hazırlıklı kılıyor ve görüşmeden sonra evrak işinden kurtarıyor.

Platformun kendisini proje sayfasında görebilirsiniz. Benzer bir şey planlıyor ve mimariyi birlikte konuşmak istiyorsanız yapay zeka ve otomasyon sayfasına göz atın ya da benimle iletişime geçin.