Özet: NIST AI Risk Management Framework (AI RMF), İK yapay zekâ projelerinde güvenilirliği tasarım, geliştirme, kullanım ve değerlendirme boyunca yönetmek için pratik bir çerçeve sunar. Bu rehber dört işlevi İK proje adımlarına çevirir.
AI RMF neden İK için önemlidir?
İK sistemleri yalnızca teknik çıktı üretmez; adayların, çalışanların ve yöneticilerin fırsatlarını etkiler. Bu nedenle doğruluk tek başına yeterli değildir. Gizlilik, adalet, açıklanabilirlik, güvenlik, insan denetimi ve hesap verebilirlik birlikte ele alınmalıdır.
1. Govern: Sorumluluğu kur
- Ürün, İK, hukuk/KVKK, güvenlik ve veri ekiplerinden sorumluları belirle.
- Risk toleransını ve yüksek etkili kullanım alanlarını yazılı tanımla.
- Model, veri ve nihai karar sahipliğini birbirinden ayır.
- Tedarikçi, model sürümü, olay bildirimi ve sonlandırma koşullarını sözleşmeye bağla.
2. Map: Kullanım bağlamını haritala
Modelin kimi etkilediğini, hangi kararda kullanıldığını, hangi verilerin aktığını ve yanlış çıktının neye yol açacağını görünür kılın. Aday eleme, performans, terfi, ücret ve ayrılma tahmini gibi alanlar yüksek etki değerlendirmesi gerektirir.
3. Measure: Kanıt üret
- Geçerlilik ve güvenilirlik.
- Grup bazlı hata ve bias.
- Açıklanabilirlik ve kullanıcı anlayışı.
- Gizlilik, güvenlik ve erişim.
- Veri kayması ve kullanım sonrası performans.
NIST Playbook; adalet, açıklanabilirlik, insan denetimi, ölçüm, izleme ve itiraz edilebilirliği ayrı kontrol alanları olarak ele alır. Test sonuçları yayın öncesinde ve periyodik olarak kaydedilmelidir.
4. Manage: Riski azalt ve izle
Risk kabul edilebilir değilse model durdurulmalı, kullanım alanı daraltılmalı, veri düzeltilmeli veya insan incelemesi artırılmalıdır. Olay yönetimi; hatalı karar, veri sızıntısı, model sapması ve aday/çalışan itirazlarını kapsamalıdır.
90 günlük uygulama planı
- Gün 1–30: Envanter, etki haritası, sahipler ve risk toleransı.
- Gün 31–60: Düşük riskli pilot, test senaryoları, insan incelemesi ve kayıt.
- Gün 61–90: Bağımsız değerlendirme, olay tatbikatı, ölçekleme veya durdurma kararı.
Sonuç
AI RMF bir sertifika veya tek seferlik kontrol listesi değildir. İK ekipleri için en değerli kullanım biçimi, kararın bağlamını belgeleyen, kanıt üreten ve risk gerçekleştiğinde geri dönmeyi sağlayan sürekli yönetim döngüsüdür.
Kaynakça
Bu içerik genel bilgilendirme amaçlıdır; hukuki danışmanlık değildir.
İK süreçlerinizi daha güvenilir yönetin
CADRO ile veri, süreç ve çalışan deneyimini tek platformda birleştirin.
Hemen Başla →