İçeriğe geç
Needmug

Gerçek veriye çarpınca dağılmayan yapay zeka.

Kendi materyallerinizden yola çıkarak yanıt veren bir sohbet robotu. Uygulamanızın içinde, sadece ilgili bilginin nerede olduğunu göstermekle kalmayıp işin bizzat kendisini halleden bir asistan. Soruyu anlayabilen bir arama özelliği. Ve tekrarlanan bir süreci baştan sona yürüten, böylece kimsenin sürecin ortasında durup müdahale etmesini gerektirmeyen otonom agent'lar.

Ne geliştiriyoruz.

Ön planda yapay zeka destekli ürünler, arka planda ise otomasyon yer alıyor; insanların etkileşime girdiği asistanlar ve sohbet botlarının yanı sıra, kimsenin elle yapmaya devam etmek istemediği tekrarlayan işleri üstlenen agent'lar bulunuyor.

  1. Sitenizde ya da ürününüzün içinde çalışan, kendi belgelerinizden yanıt veren ve gerektiğinde konuşmayı bir insana devreden sohbet botu.
  2. Uygulama içi bir asistan: mesaj taslağını hazırlar, kaydı bulur ve formu doldurur.
  3. Mobil uygulamada yapay zeka: kamerayla belge okuma, sesle not alma, kendi verinize soru sorup yanıt alma.
  4. Arama ve veri çıkarımı: ekstreler, faturalar, sözleşmeler ve formların, sistemlerinizin üzerinde işlem yapabileceği veri alanlarına dönüştürülmesi.
  5. Tekrar eden bir süreci baştan sona yürüten, bir insanın açacağı sistemleri kendisi çağıran agent'lar.

İşin kolay kısmı modeldir. Zaman alan şey, bununla ilgili veriler, kimin neyi görmesine izin verildiği ve cevabın yanlış olması durumunda ne olacağıdır, çünkü bazen cevap yanlış olacaktır. Asıl emek gerektiren süreçler bunlardır: yeniden denemeler, kayıt tutma (logging), hatalı bir çalıştırma işlemini tekrarlama yöntemi ve bir insanın devreye girdiği o kritik nokta.

Elinize ne geçiyor.

  1. Her yanıtın denetim kaydıHer prompt, modelin görmesine izin verilen belgeler ve çağırdığı araçlar yazılıp saklanıyor. Sistem neden öyle dedi diye sorulduğunda cevap kayıtta duruyor, sonradan kurgulanmıyor.
  2. Gerçekten uygulanan yetkilerModel, oturum açmış kişinin görmeye yetkili olduğu şeyleri görür; bunun ötesinde hiçbir şeye erişemez. Bu kısıtlama, bir istem (prompt) aracılığıyla talep edilmek yerine doğrudan sisteminizde zorunlu kılınır.
  3. Gerçek örneklerden bir setDoğru cevapları da eklenmiş kendi örnek olaylarınız; böylece istemde veya modelde yapılan bir değişiklik, hislere dayalı bir değerlendirme yerine bu örnekler üzerinden kontrol edilebilir.
  4. Kritik kararlarda insan onayıPara transferi yapan, bir müşteri kaydına veri işleyen veya mesaj gönderen her türlü işlem, siz yazılı olarak aksi yönde bir karar vermediğiniz sürece, bir insanın onayını bekler.
  5. Görünen işletme maliyetiKullanım özellik bazında raporlanır; böylece yapay zekayı çalıştırmanın aylık maliyeti, faturada sürpriz bir kalem olarak değil, önceden mutabık kaldığınız bir tutar olarak karşınıza çıkar.
  6. Kod ve promptlar sizin adınızaSistem, promptlar ve örnekler size aittir; kendi deponuzda bulunur ve başka bir modele ya da başka bir tedarikçiye taşınabilir.

Zor olan kısım demo değil.

Herkes, önceden gösterilmiş bir soruya iyi yanıt veren bir model sergileyebilir. Bir sistemin gerçekten değerli olup olmadığını belirleyen şey, on bininci denemedir; yani hatalı biçimlendirilmiş bir PDF, soruyu farklı bir şekilde ifade eden bir müşteri veya işlem sırasında yarıda zaman aşımına uğrayan bir araçtır. Başarısız bir isteğin birine gerçek paraya mal olduğu yazılımlar geliştirerek yıllar geçirdik; bu sistemleri de aynı anlayışla inşa ediyor ve kullanıma sunulduktan sonra da onlarla ilgili sorumluluğu üstlenmeye devam ediyoruz.

Sık sorulanlar, açık cevaplarla.

Neredeyse hiç. Sıfırdan model eğitmek, genellikle söz konusu sorunun değerinden çok daha yüksek bir maliyete yol açar. Biz, barındırılan bir model kullanıp bunu sizin verilerinizle destekleyerek yanıtların bizzat kendi kaynaklarınızdan gelmesini sağlıyoruz; ince ayar (fine-tuning) yoluna ise ancak tüm bunlara rağmen ölçülebilir bir eksiklik kaldığı takdirde başvuruyoruz.

Kararınız ne olursa olsun, süreç henüz hiçbir yapılandırma aşamasına geçilmeden önce kayıt altına alınır. Başlıca barındırılan modeller, girdiğiniz veriler saklanmadan veya model eğitiminde kullanılmadan çalıştırılabilir. Bu yöntemin yeterli olmadığı durumlarda ise işlemler, kendi bulut hesabınızdaki bir model üzerinde gerçekleştirilir. Eğer bir belgenin ağınızdan asla dışarı çıkmaması gerekiyorsa, sizden bu riski üstlenmenizi istemek yerine, sistemi bu gerekliliğe uygun şekilde tasarlarız.

Yanlış yapacak, o yüzden tasarım oradan başlıyor. Para transferi yapan veya müşteriye ulaşan her işlem, onay bekler. Diğer tüm işlemler ise aldıkları girdilerle birlikte kayda geçirilir; böylece bir işlem süreci yeniden çalıştırılabilir ve üzerinde tartışmak yerine sorunun asıl nedeni tespit edilebilir.

Bu işin büyük kısmı bundan ibaret. Hâlihazırda canlı olan ve durdurulması mümkün olmayan bir sisteme yeni özellikler eklemek, diğer tüm hizmetlerimizde de yaptığımız şeydir. Bir yapay zekâ özelliği, mevcut verilerden okuma yapar, mevcut arayüzler üzerinden geri yazma gerçekleştirir ve herkese sunulmadan önce (önce) belirli bir ekibin kullanımına sunulur.

Bazen değmiyor. Süreç her çalıştığında biçim değiştiriyorsa ya da haftada yirmi kez tekrarlanıyorsa, kısa bir script veya daha iyi bir form bir ajandan iyi sonuç verir ve bakımı ucuza gelir. Bunu bütçeyi ayırdıktan sonra değil, öncesinde söylüyoruz.

İnsanların gerçekten sorduğu soruları gönderin.

Destek gelen kutunuza her hafta düşen talepler ya da işe yeni başlayan birine devredeceğiniz bir görev ve bu görevi yerine getirmek için ihtiyaç duyacakları belgeler... Böylece yapay zekânın bu noktada işe yarayıp yaramayacağını, sürecin neleri gerektireceğini ve nelerin ters gidebileceğini net bir şekilde görebileceksiniz.