Human-in-the-Loop: Bir Yapay Zeka Ajanının Döngüsünde İnsanı Tutmak

Sürekli çalışan, kendi rotasını seçen ve her adımda kendisine başvurulmadan işlem yapan bir otonom yapay zeka ajanı, mantıksal bir soruyu gündeme getirir: bir insan kontrolü ne zaman yeniden ele alır? Human-in-the-loop, bu sorunun yanıtıdır. Bu, özerkliğe bir fren değil, eylemin bir onayı haklı çıkaracak kadar sonuca sahip olduğu yere yerleştirilen, bilinçli olarak seçilmiş bir geçiş noktasıdır.

Ayrıntılı Tanım

Human-in-the-loop (HITL), harfi harfine döngüde insan, bir kişinin, sürecin kesin bir noktasında, gerçek bir etki üretmeden önce, bir yapay zeka sistemi tarafından üretilen bir kararı ya da eylemi onaylama, düzeltme ya da engelleme yetkisini elinde tuttuğu bir tasarım ilkesini tanımlar. NIST'in yapay zeka risk yönetimi çerçevesi (AI Risk Management Framework, AI RMF 1.0), insan denetimini ve insan ile yapay zeka arasındaki sorumluluk paylaşımını açıkça belgelenmesi gereken yönetişim unsurları olarak ele alıyor; bu, bir organizasyonun yapay zeka yönetişimini değerlendiren düzenleyiciler ve denetçiler için ortak bir referans haline geldi.

Human-in-the-loop'u sürekli gözetimden ayırmak gerekir. HITL, bir insanın bir ajanın her adımını sürekli izlemesini gerektirmez; bu, özerkliğin tüm anlamını boşaltırdı. Asıl geçiş, bir ajan basit bir öneriden gerçek bir eyleme geçtiğinde yaşanır: bir mesaj göndermek, bir veritabanını değiştirmek, bir iş akışını tetiklemek. Bu, en hassas ya da en az geri döndürülebilir kabul edilen eylemlerden önce yerleştirilen, hedeflenmiş bir kontrol noktasıdır: bir yabancıya gönderilen bir mesaj, kamuya açık bir yayın, finansal bir işlem. Ajanın geri kalan işi tam özerklikle çalışmaya devam edebilir.

Bu, olası diğer korkuluklar arasında bir mekanizmadır, evrensel bir gereklilik değil. Bir eylemin risk düzeyine göre, bir organizasyon hiçbir insan onay noktası koymamayı, sistematik bir onay koymayı ya da seçimi kullanıcıya bırakmayı tercih edebilir.

Nasıl Çalışır

Pratikte, bir insan onay noktası otomatikleştirilmiş bir akışın kesin bir anına yerleşir. Yapay zeka (ya da ajan) bir eylem hazırlar, ama bu eylem hemen yürütülmek yerine bir bekleme kuyruğuna alınır. Bir kişi bir bildirim alır, önerilen içeriği inceler ve onu onaylamayı, değiştirmeyi ya da reddetmeyi seçer. Eylem, ancak bu onaydan sonra gerçek bir etki üretir; örneğin bir mesajın fiilen gönderilmesi gibi.

Üç unsur, iyi bir insan onay noktasını basit bir bürokratik frenden ayırır: zamanlama (onay, ne çok erken ne çok geç, faydalı olacak doğru anda gelir), onaylayan kişiye sağlanan bağlam (bilgisiz tıklanacak bir düğme değil, gerçekten karar verebileceği kadar bilgiye sahip olmalıdır) ve kapsam (yalnızca gerçekten hassas eylemler bu filtreden geçer, ajanın tüm işi değil; aksi halde kullanılamaz hale gelir).

Atako'dan Somut Bir Örnek

Atako'da en iyi belgelenen insan onay mekanizması, soğuk e posta göndermeyi ilgilendirir: ajanın henüz devam eden bir konuşması olmayan biriyle kurduğu bir iletişim, cold send olarak adlandırılır. Bu kanal için üç mod var: varsayılan olarak etkin olan approval modu, her gönderimi gerçekten gitmeden önce insan onayına kuyruğa alır; auto modu, arayüzde bu tercihi belirten bir uyarı göstererek gözden geçirmeden anında gönderir; disabled modu, ajanın soğuk bir e posta göndermesini engeller, yalnızca zaten devam eden konuşma dizilerinde yanıt verebilir. Mevcut bir konuşmadaki yanıtlar ise hiçbir zaman onaydan geçmez, yalnızca ilk temas kapsam dahilindedir.

Belgelenen ikinci bir örnek, birden fazla kanalda yeni özellik duyuruları yazan ve yayımlayan bir ajan olan release-communicator kullanım örneğini ilgilendiriyor. Büyük sürümler için, yayımlamadan önce içeriğin onaylanması, platform tarafından dayatılan bir zorunluluk değil, ekibe bırakılan isteğe bağlı bir tercih olarak tanımlanıyor.

Bu iki belgelenen mekanizma dışında, bir Atako ajanının her eylemine otomatik olarak uygulanan genel bir insan onay kapısı yok. İlke şu şekilde kalıyor: eylemin sonucu olan yerlere onay noktalarını hedeflemek, sistematik olarak engellemek yerine.

Sık Yapılan Hatalar

Klasik bir hata, human-in-the-loop'u sürekli gözetimle karıştırmaktır. HITL, bir insandan bir ajanın her adımını izlemesini istemez; bu, otomasyonun asıl anlamını iptal etmek anlamına gelirdi. Bu, sürekli bir kontrol değil, kesin bir geçiş noktasıdır.

İkinci hata: aynı anda çok fazla eyleme insan onay noktası koymak. Her mikro karar için onay isteyen bir sistem, sonunda görmezden gelinir ya da atlatılır; çünkü onaylaması gereken kişi gerçekten okumadan tıklar. Onayı, yüksek etkili ya da az geri döndürülebilir eylemlere ayırmak daha iyidir.

Üçüncü hata: bir belgede bir onay mekanizmasının açıkça belirtilmemiş olmasının hiçbir kontrolün var olmadığı anlamına geldiğine inanmak. Açık insan onayını (bir eylemin gitmesi için bir insanın tıklaması gerekir), izinler ya da kotalar gibi her seferinde doğrudan insan müdahalesi gerektirmeden yukarı akışta uygulanan diğer korkuluklardan ayırmak gerekir.

Son olarak, human-in-the-loop'un bir ajanın özerkliğiyle bağdaşmadığını düşünmek bir çerçeveleme hatasıdır. İyi tasarlanmış bir otonom ajan ikisini birleştirir: işinin büyük çoğunluğunda geniş bir özerklik, ve bunu hak eden kararlarda hedeflenmiş onay noktaları.