Ajan Gözlemlenebilirliği: Bir Yapay Zeka Ajanının Ne Yaptığını Gerçek Zamanlı Görmek

Bir yapay zeka ajanı özerklik kazandıkça, "tam olarak ne yaptı?" sorusu o kadar merkezi hale gelir. Sürekli çalışan, birden fazla kanaldan talep alan, araçlar çağıran ve bazen alt ajanlara devreden bir ajan, çıplak gözle takip edilmesi zor bir etkinlik üretir. Gözlemlenebilirlik, bu soruna teknik yanıttır: sistemin içinde gerçekte olup biteni görünür, izlenebilir ve anlaşılabilir kılmak.

Ayrıntılı Tanım

Gözlemlenebilirlik, yazılım mühendisliğinde geniş anlamıyla, bir sistemin dışarıya ürettiklerini inceleyerek iç durumunu anlama becerisidir; tipik olarak trace'ler, metrikler ve günlükler (log) üzerinden. Bu, yazılım enstrümantasyonu için referans açık standart olan ve birçok gözlemlenebilirlik aracı sağlayıcısı tarafından desteklenen OpenTelemetry'nin benimsediği tanımdır. Bu üç veri türü tamamlayıcı roller oynar: trace'ler bir isteği dağıtık bir sistem içindeki güzergâhı boyunca takip eder, günlükler kesin bir istekle ilişkili olsun ya da olmasın zaman damgalı olayları kaydeder, metrikler ise sayısal ölçümleri zaman içinde toplar.

Ajan gözlemlenebilirliği, aynı ilkeyi otonom bir yapay zeka ajanının özel durumuna uygular. OpenTelemetry gibi olgun bir standarttan yararlanan klasik yazılım gözlemlenebilirliğinin aksine, ajansal gözlemlenebilirliğin tam olarak neyi kapsaması gerektiğini kesin biçimde tanımlayan, geniş çapta yerleşmiş tek bir norm henüz yok. Uygulamada, ajanları çalıştıran platformlar yine de ortak ihtiyaçlara doğru yakınsıyor: bir ajanın hangi eylemi, hangi araç üzerinde, hangi anda, hangi sonuçla ve hangi tetikleyicinin girişimiyle (bir konuşma, bir e posta, planlanmış bir görev) yürüttüğünü bilmek.

Bu, büyük ekiplere ayrılmış teknik bir lüks değildir. Bir ajan her adımda sistematik bir onay olmadan işlem yapabildiği andan itibaren, gözlemlenebilirlik "neden böyle yaptı?" sorusuna sonradan somut biçimde yanıt vermenin ya da gerçek bir soruna dönüşmeden önce anormal bir davranışı fark etmenin yoludur.

Nasıl Çalışır

Somut olarak, bir ajanın gözlemlenebilirliği üç katman üzerine kuruludur. Birincisi olay yakalamadır: her karar, her araç çağrısı, muhakemenin her önemli adımı, gerçekleştiği anda bir zaman damgası, bir durum (devam ediyor, başarılı, hatalı) ve tetiklemenin kaynağıyla birlikte kaydedilir. İkincisi yapılandırmadır: bu ham olaylar kategorize edilir (bir dosya üzerindeki bir eylem, harici bir araca yapılan bir çağrıyla ya da modelin bir muhakeme adımıyla aynı biçimde günlüğe kaydedilmez), böylece etkili biçimde filtreleme ve arama yapılabilir. Üçüncüsü sunumdur: bir insanın bu etkinliği gözden geçirmesini sağlayan bir arayüz ya da dışa aktarım, ister belirli bir ajan için ister bir organizasyonun tamamı için.

İyi bir ajansal gözlemlenebilirlik sistemi, devredilen işi de ayırt eder: bir ajan bir alt görevi geçici bir alt ajana devrettiğinde, bu devir üst ajanın zaman çizelgesinde görünür kalmalıdır, aksi halde gerçek işin bir kısmı görünmez hale gelir.

Atako'dan Somut Bir Örnek

Atako'da ajan başına gözlemlenebilirlik, gerçek zamanlı bir etkinlik zaman çizelgesine dayanır: her olay kategorize edilir (web, dosyalar, hafıza, kod, entegrasyon, planlama, devir, modelin muhakemesi, diğer), bir durumla (devam ediyor, başarılı, hatalı), bir süreyle ve kesin bir kaynakla (sohbet, e posta, webhook, planlanmış görev, ajanlar arası mesaj, alt ajan ya da sistem) birlikte. Ayrılmış bir panel olan "Tool logs", ajanın gerçekleştirdiği her entegrasyon çağrısını, sonucuyla (başarı, ret, hata) birlikte ayrı ayrı listeler.

Ajan başına bu gözlemlenebilirlik, yalnızca yöneticilere ayrılmış şirket geneli bir görünümle tamamlanır: ekibe, ajana, sağlayıcıya ve tarihe göre filtrelenebilen, 50.000 satıra kadar CSV dışa aktarımına sahip bir "Integration logs" sayfası, ayrıca entegrasyon sağlayıcısına göre toplu bir kullanım görünümü. Günlüğe kaydedilen her çağrı, ilgili ajanı, kullanılan bağlantıyı, sağlayıcıyı, kesin eylemi, argümanlarını (bir e postanın gövdesi ya da bir arama sorgusu gibi hassas alanlar sistematik olarak maskelenmiş şekilde), durumu, sağlayıcının döndürdüğü HTTP kodunu, gecikmeyi ve zaman damgasını saklar. İzin korkulukları (grant'ler) ve gözlemlenebilirlik el ele çalışır: biri bir eylemin izinli olup olmadığına karar verir, diğeri gerçekte ne olduğunun izini tutar.

Sık Yapılan Hatalar

Sık yapılan bir hata, gözlemlenebilirliği basit bir hata günlüğüyle karıştırmaktır. Gözlemlenebilir bir sistem, yalnızca bir şey bozulduğunda bunu bildirmekle yetinmez, normal işleyiş üzerinde de görünürlük sağlar; bu da teknik olarak hiçbir şey başarısız olmasa bile beklenmedik bir davranışı anlamayı mümkün kılar.

İkinci hata: gözlemlenebilirliğin bir ajanın kötü davranmasını engellediğini düşünmek. Bu bir engelleme mekanizması değil, bir görünürlük mekanizmasıdır. İzinlerle ve hassas eylemler için bir insan onay noktasıyla birleşir, ama ikisinin de yerini almaz.

Üçüncü hata: gözlemlenebilirliği, ajanı günlük olarak gerçekten kullanan ekiplere erişilebilir kılmadan yalnızca yöneticilere ayırmak. Faydalı bir gözlemlenebilirlik, yalnızca izole bir teknik role değil, bir ajanı oluşturan ya da kullanan kişinin de davranışını anlamasına imkân tanımalıdır.

Son olarak, etkinlik zaman çizelgesinde alt ajanlara yapılan devirlerin önemini hafife almak klasik bir hatadır. Bir alt görevi devreden bir ajan, kullanıcının gözünde sonucun sorumlusu olmaya devam eder: bu devir zaman çizelgesinde net biçimde görünmüyorsa, gerçek işin bir kısmı sonradan görünmez ve anlaşılmaz hale gelir.