Özet: İK’da kullanılan bir AI sistemi yalnızca skor üretmemeli; yetkili değerlendiriciye bağlamı, sınırlamaları, kanıtı ve düzeltme yolunu gösterebilmelidir.
Açıklama ve şeffaflık aynı şey değildir
Şeffaflık; amaç, veri kaynağı, model sürümü, sahiplik ve sınırların belgelenmesidir. Açıklanabilirlik ise belirli bir çıktının neden üretildiğini değerlendiricinin anlayabilmesidir. İki kavram birlikte fakat farklı kontrol noktalarıdır.
İK karar kaydında bulunması gerekenler
- Kararın amacı ve kapsamı.
- Girdi kategorileri ve veri kaynağı.
- Model sürümü, tarih ve güven sınırları.
- İnsan değerlendirici, müdahale ve nihai gerekçe.
- Düzeltme, itiraz ve saklama bilgisi.
İtiraz edilebilirliği tasarlamak
Yüksek etkili kararlarda ilgili kişiye anlaşılır bilgilendirme, iletişim kanalı ve gerçek bir insan incelemesi sunulmalıdır. Otomatik çıktıyı yalnızca tekrar eden bir inceleme, anlamlı insan denetimi değildir.
Yayın sonrası izleme
Denetlenebilirlik; veri kayması, grup bazlı performans, yanlış pozitifler, yanlış negatifler, olay kayıtları ve iş akışı değişikliklerinin düzenli izlenmesini gerektirir. NIST AI RMF Playbook açıklanabilirlik, hesap verebilirlik, insan denetimi, adalet, ölçüm ve izlemeyi birlikte ele alır.
Sonuç
Açıklanabilir İK yapay zekâsı sosyo-teknik bir sistemdir: model, veri, arayüz, değerlendirici, politika ve itiraz yolu birlikte çalışmalıdır. Kurum yüksek etkili bir çıktıyı açıklayamıyor ve düzeltemiyorsa o kararı otomatikleştirmeye hazır değildir.
Kaynakça
Bu içerik genel bilgilendirme amaçlıdır; hukuki danışmanlık değildir.
İK süreçlerinizi daha güvenilir yönetin
CADRO ile veri, süreç ve çalışan deneyimini tek platformda birleştirin.
Hemen Başla →