ChatGPT entegrasyonu: işletmede nerede işe yarar, nerede yaramaz?

ChatGPT entegrasyonu; metin yazma, özetleme, sınıflandırma, çeviri ve şirket dokümanlarından cevap bulma gibi dille ilgili işlerde işletmelere ciddi zaman kazandırır. Kesin hesap, hukuki ya da tıbbi karar, güncel ve doğrulanmış bilgi gerektiren işlerde ise tek başına güvenilir değildir. Doğru entegrasyon, modelin güçlü olduğu işi ona vermek, zayıf olduğu yerde ise kontrolü insanda ya da klasik yazılımda tutmaktır.

Bu yazıda “ChatGPT entegrasyonu” denince aslında neyin kastedildiğini, hangi işlerde gerçekten işe yaradığını, hangilerinde yaramadığını ve bir projeye başlamadan önce sormanız gereken soruları anlatıyoruz.

”ChatGPT entegrasyonu” aslında ne demek?

Günlük dilde “ChatGPT entegrasyonu”, bir büyük dil modelinin şirketin kendi yazılımına, web sitesine ya da iş akışına bağlanması anlamında kullanılıyor. Burada iki farklı şey birbirine karışıyor:

ChatGPT uygulaması. Çalışanların tarayıcıdan ya da telefondan kullandığı sohbet ürünü. Bir entegrasyon değil, bir araçtır.
Dil modelinin API üzerinden kullanılması. Modelin, sizin yazılımınızın içinden, sizin belirlediğiniz kurallarla çağrılması. Entegrasyon budur.

İkinci yolda model; sizin verinize, sizin kurallarınıza ve sizin arayüzünüze bağlanır. Kullanıcı çoğu zaman arka planda bir dil modeli çalıştığını bile bilmez. Bir e-posta sınıflandırılır, bir taslak hazırlanır, bir soru cevaplanır.

Ayrıca bu işi yapan tek model ChatGPT’nin arkasındaki model değil. Farklı sağlayıcıların farklı güçlü yanları, fiyatlandırmaları ve veri politikaları var. Doğru model seçimi, işin kendisine göre yapılmalı.

Nerede işe yarar?

Dil modelleri, kuralları kesin olarak yazılamayan ama bir insanın kolayca yaptığı dil işlerinde güçlüdür.

Metin üretimi ve taslak

Teklif e-postaları, ürün açıklamaları, toplantı notlarından özet, müşteriye yanıt taslağı. Model ilk taslağı hazırlar, insan düzeltir ve gönderir. Kazanç, boş sayfadan başlamamaktır.

Sınıflandırma ve yönlendirme

Gelen e-postaları, destek taleplerini ya da form mesajlarını konuya, aciliyete veya ilgili ekibe göre ayırmak. “Bu mesaj fatura itirazı mı, teslimat sorusu mu?” sorusunu sabit kurallarla çözmek zordur; dil modeli bunu iyi yapar.

Bilgi çıkarma

Serbest metinden yapılandırılmış veri çıkarmak: bir sipariş e-postasından ürün ve adet, bir başvurudan ad ve iletişim bilgisi, bir sözleşmeden tarihler. Çıkan veri bir forma ya da sisteme aktarılır, insan gözden geçirir.

Şirket dokümanlarından cevap

Çalışanların “izin prosedürü neydi?”, “bu ürünün garanti koşulu ne?” gibi sorularını şirketin kendi dokümanlarına dayanarak cevaplayan bir asistan. Burada model kendi bilgisinden değil, sizin dokümanlarınızdan cevap üretir ve kaynağını gösterir. Bu yaklaşımın adı RAG; nasıl kurulduğunu RAG nedir yazımızda ayrıntılı anlattık.

Çeviri ve dil uyarlaması

Ürün metinlerini, destek cevaplarını ya da iç dokümanları başka dillere aktarmak. Özellikle ilk taslak için hızlıdır. Marka dili ve hukuki metinler için insan kontrolü yine gerekir.

Müşteri iletişiminde ilk karşılama

Sık sorulan sorulara cevap veren, ihtiyacı anlayan ve gerektiğinde konuşmayı bir insana devreden bir sohbet botu. Bunun ne zaman işe yarayıp ne zaman müşteri kaybettirdiğini müşteri hizmetleri sohbet botu yazımızda ele aldık.

Nerede işe yaramaz?

Dürüst olmak, iyi bir projenin ilk adımıdır. Dil modellerinin zayıf olduğu yerler şunlar:

Kesin hesap. Fatura toplamı, stok hesabı, vergi, faiz. Bunlar klasik yazılımın işidir. Model bir hesabı “makul görünen” bir sayıyla yanıtlayabilir; ama makul görünmek doğru olmak değildir.
Kesin bilgi gerektiren tek başına kararlar. Kredi onayı, tıbbi yönlendirme, hukuki görüş. Model destek olabilir; karar insanda kalmalıdır.
Doğrulanmamış güncel bilgi. Model, kendisine verilmeyen güncel fiyatları, stok durumunu ya da mevzuat değişikliklerini bilemez. Bilmediğinde de bazen bilir gibi cevap verebilir. Buna halüsinasyon denir.
Her seferinde birebir aynı çıktının gerektiği işler. Dil modelleri aynı soruya küçük farklarla cevap verebilir. Mutlak tutarlılık gerekiyorsa kural tabanlı bir sistem daha doğrudur.
Kurallar zaten net olan işler. “Sipariş onaylanınca müşteriye e-posta gönder” gibi bir işin dil modeline ihtiyacı yoktur. Basit bir otomasyon daha ucuz ve daha güvenilirdir.

Kısa bir kural: iş dille ilgiliyse ve küçük hatalar insan kontrolüyle yakalanabiliyorsa model iyi bir adaydır. İş hesapla ya da geri dönüşü olmayan bir kararla ilgiliyse, model en fazla yardımcı olmalıdır.

Karar tablosu

İş	Dil modeli uygun mu?	Not
Müşteri e-postasına taslak cevap	Evet	Gönderen insan olsun
Destek taleplerini ekiplere ayırma	Evet	Belirsiz olanlar insana düşsün
Doküman tabanlı iç asistan	Evet	Kaynak gösterimi şart
Sipariş e-postasından veri çıkarma	Evet	Sisteme yazmadan önce kontrol
Fatura ve stok hesabı	Hayır	Klasik yazılımın işi
Kredi, sağlık, hukuk kararı	Yalnız destek	Karar insanda
Kuralları net bir bildirim akışı	Gerek yok	Basit otomasyon yeter

Entegrasyonu kurarken dikkat ettiklerimiz

Veri nereye gidiyor?

Model bir dış sağlayıcıda çalışıyorsa, gönderilen her metin o sağlayıcıya gider. Müşteri verisi, kişisel veri ya da ticari sır içeren metinlerin hangi koşullarla gönderilebileceği en başta yazılı olarak kararlaştırılmalı. Sağlayıcının veriyi model eğitiminde kullanıp kullanmadığı, nerede sakladığı ve kişisel verilerin korunması mevzuatı açısından durum bu kararın parçasıdır.

İnsan nerede devrede?

Müşteriye giden bir metin, sisteme yazılan bir kayıt ya da paranın hareket ettiği bir adım varsa, insan onayı baştan tasarlanmalı. Bu kontrolleri nasıl kurduğumuzu yapay zekâ projelerinde halüsinasyon, veri gizliliği ve insan onayı yazımızda anlattık.

Maliyet nasıl tutulacak?

Dil modelleri genellikle işlenen metin miktarına, yani token sayısına göre ücretlendirilir. Uzun dokümanlar, gereksiz tekrarlar ve kontrolsüz kullanım maliyeti hızla büyütebilir. Harcama sınırları ve kullanım ölçümü baştan kurulmalı.

Nasıl ölçülecek?

“İşe yarıyor gibi” bir ölçüt değil. Kaç taslak düzeltilmeden gönderildi? Sınıflandırma ne kadar isabetli? Asistan kaç soruyu doğru kaynakla cevapladı? Ölçmeden başlayan bir proje, iyileştirilemez.

Somut bir örnek: teklif taslağı

Bir hizmet işletmesi düşünün. Müşteri talepleri e-postayla geliyor; her talep için satış ekibi, ihtiyacı okuyup bir teklif e-postası yazıyor. Entegrasyon burada şöyle kurulabilir: gelen e-posta okunur, ihtiyaç ve iletişim bilgileri çıkarılır, işletmenin kendi hizmet açıklamalarına dayanan bir teklif taslağı hazırlanır. Taslak, satış temsilcisinin ekranına düşer. Temsilci düzeltir ve gönderir.

Bu akışta fiyatı model belirlemez; fiyat, işletmenin kendi sisteminden ya da temsilcinin kararından gelir. Model yalnız dili hazırlar. Kazanç, her teklifte boş sayfadan başlamamak; risk ise insan onayıyla sınırlanmış olur.

Başlamadan önce sorulacak sorular

Hangi iş, kim tarafından, ne sıklıkta yapılıyor?
Bu iş dille mi ilgili, yoksa hesapla mı?
Model yanlış yaparsa ne olur? Hata kim tarafından, nasıl yakalanır?
Hangi veri modele gidecek? Bu veri dışarı çıkabilir mi?
Başarıyı hangi sayıyla ölçeceğiz?
Küçük, gerçek bir denemeyle nereden başlayabiliriz?

Sık sorulan sorular

Çalışanlarımızın ChatGPT kullanması entegrasyon sayılır mı?

Hayır. Bu, bir aracın bireysel kullanımıdır ve faydalı olabilir. Entegrasyon ise modelin sizin sisteminize, sizin kurallarınızla bağlanmasıdır. Bireysel kullanımda da hangi verilerin araca yapıştırılabileceğine dair bir şirket kuralı belirlemenizi öneriyoruz.

Model şirketimizin verisini öğrenir mi?

Entegrasyonda model, verinizi kalıcı olarak öğrenmez; ona her seferinde gereken bilgi verilir. Sağlayıcının veriyi saklama ve eğitimde kullanma koşulları ise sağlayıcıya ve sözleşmeye göre değişir. Bunu proje başında birlikte inceliyoruz.

Model yanlış cevap verirse ne olur?

Bu ihtimale göre tasarlıyoruz: cevabın kaynağa dayandırılması, belirsiz durumlarda insana devir, kritik adımlarda onay ve her çıktının kaydı. Hatanın sıfırlanması mümkün değil; yakalanabilir hâle getirilmesi mümkün.

Küçük bir işletme için anlamlı mı?

Çoğu zaman evet; ama küçük başlayarak. Tek bir tekrarlayan dil işini — örneğin gelen mesajları sınıflandırmayı ya da teklif taslağı hazırlamayı — seçip ölçmek, büyük bir projeden daha değerlidir.

İşletmenizde dil modelinin gerçekten işe yarayacağı yeri ve sınırlarını birlikte belirlemek isterseniz yapay zekâ sistem mimarisi sayfamıza bakabilir ya da bize yazabilirsiniz.